Google schaltet Perspective API ab, Startspring bietet Alternativen für Content-Moderation
Google Jigsaw beendet am 31. Dezember den Betrieb der Perspective API, eines der am weitesten verbreiteten Tools zur Bewertung von Toxizität in Online-Kommentaren. Ab dem 1. Januar scheitern alle Moderations-Pipelines, die darauf zugreifen. Startspring will den Abhängigen bis zu eine Million Dollar an Unterstützung anbieten.
Ab dem 1. Januar schlägt jede Moderations-Pipeline fehl, die Perspective aufruft. Googleseinheit Jigsaw stellt den Dienst am 31. Dezember ein und beendet damit eines der am weitesten verbreiteten Tools zur Bewertung von Online-Kommentaren auf Toxizität. Für Plattformen, Verlage, Marktplätze und Communities, die darauf aufbauen, bringen die nächsten Monate eine unwillkommene Entscheidung mit sich: einen Ersatz finden, und das schnell.
Hindsight möchte genau dieser Ersatz sein. Doch statt einen üblichen Anbieterwechsel anzupreisen, bietet das Unternehmen etwas, das noch kein Anbieter für KI-Content-Moderation angeboten hat: eine professionelle Garantie gegen Schäden, die durch Inhalte entstehen, welche sein Modell übersieht.
„Coded Language ist die neue Form der Beschimpfung, aber sie ist absurd schwer zuverlässig zu erkennen“, sagte Dean Gebert, Gründer von Hindsight. „Und ein Modell- oder Tool-Tausch auf Augenhöhe verlagert die blinden Flecken von Perspective nur zu einem anderen Anbieter.“
Die meisten Unternehmen werden die Abschaltung von Perspective alsRoutine-Aufgabe für die Technikabteilung behandeln. Hindsight sieht darin eine Gelegenheit, eine härtere Frage zu stellen: Hat das alte Tool überhaupt zuverlässigen Schutz geboten?
Perspective bewertet, wie toxisch ein Kommentar an der Oberfläche klingt. Das funktioniert bei offensichtlichen Beleidigungen gut, bei Sprache, die absichtlich harmlos wirken soll, jedoch schlecht.
Böse Akteure wissen das, und deshalb sind sie zu Coded Language übergegangen: numerische Codes wie „1488“, extremistischer Slang wie „boogaloo“, ausgetauschte Zeichen (sogenanntes „l33tspe@k“) und absichtliche Falschschreibungen, die den phonetischen Klang einer Beschimpfung nachahmen wie „phag“. Die Kosten und Haftungsrisiken zeigen sich in Foren, Beiträgen, Kommentaren, Biografien, Direktnachrichten, gedrucktem Material und mehr.
Und es beschränkt sich nicht auf Englisch. Selbst eine nur in den USA aktive Plattform hat Beiträge auf Spanisch und in Dutzenden weiteren Sprachen, und Coded Language reist mit ihnen mit. Hindsight wurde auf 110 Sprachen vortrainiert, was bedeutet, dass es Coded Language über alle hinweg verfolgen kann, ohne ein separates Modell pro Sprache zu benötigen.
Die Einsätze sind real. Von 2016 bis Mitte 2022 fanden die Anti-Defamation League und ihre Untersuchungen heraus, dass Extremisten mindestens 6,2 Millionen Dollar über 324 Crowdfunding-Kampagnen einsammelten. Zudem gibt es mehr als 30 Bundesverfahren gegen eine große Gaming-Plattform, in denen behauptet wird, dass ihre Schutzmaßnahmen junge Nutzer im Stich ließen. Und schließlich tauchen Merchandising-Artikel mit white-nationalistischen Botschaften weiterhin auf großen Online-Marktplätzen auf.
Hinter jedem dieser Fälle stand ein Moderationssystem, das eigentlich funktionieren sollte. Die Abschaltung von Perspective eröffnet die Gelegenheit zum Umdenken.
Hindsight AIs Homepage, aufgenommen im Oktober 2026. Bildnachweis: Hindsight AI
Viele Moderationstools setzen auf starre binäre Logik: Sicher oder Unsicher. Das schafft für Führungskräfte von Plattformen ein Trade-off mit nur Verlierern. Stellt man das System streng ein, überschwemmt es menschliche Prüfer mit Fehlalarmen bei alltäglicher Umgangssprache. Stellt man es nachsichtig ein, entgeht ihm der Inhalt, der Haftungsrisiken birgt.
Hindsights drei Kategorien, Red Flag, Yellow Flag und Safe, schaffen eine Mittelspur für mehrdeutige, kontextabhängige Sprache. Die Automatisierung erledigt die einfachen Fälle, sodass menschliche Prüfer Zeit für die schwierigeren Grenzfälle aufwenden können (die wiederum in das Fine-Tuning der jeweiligen Kundeninstanz einfließen).
Gebert räumt ein, dass diese Gespräche unangenehm sein können, daher ist sein „sicherstes Beispiel“ das Wort bitch, das je nach Kontext herabsetzend oder bewundernd sein kann. Gegenüber einer Person im Ärger gerichtet (who the hell is this bitch?) ist es ein klares Red Flag. Zwischen Freunden (she’s the baddest bitch I know) ist es wahrscheinlich Safe. Ein binäres Modell kann diese Fälle dennoch nicht unterscheiden.
„Zusammenhängenden Text zuverlässig und korrekt in die Kategorie Yellow Flag einzuordnen war äußerst schmerzhaft“, lacht Gebert. „Es brauchte gleiche Teile Besessenheit, Sturheit und Latte Macchiato. Aber es wird Kunden ermöglichen, sich weniger auf menschliche Kontrolle zu verlassen und genauere Ergebnisse zu erhalten, also wird es sich auszahlen.“
Hindsight hat 9 KI-Modelle für Content-Moderation (Mistral, OpenAI, Meta, Azure, AWS und andere) anhand eines festen Satzes von 2.205 echten Online-Beiträgen benchmarkt. Ein Mensch jeden davon als Red Flag, Yellow Flag oder Safe. Hindsights Modellvarianten haben die Beiträge während der Entwicklung oder des Trainings nie gesehen.
Bei Coded Language erkannte Hindsight 97,9 % der Fälle. Andere Modelle erzielten 65 % und darunter. Die Missed-Flag-Rate lag bei 3,3 %, die False-Alarm-Rate bei 8,2 %. Das Unternehmen veröffentlicht die vollständige Benchmark-Methodik und die Ergebnisse auf seiner Website, mit der Möglichkeit für Unternehmen, Hindsight mit ihren eigenen Daten zu testen.
Das Ergebnis ist eine direkte Herausforderung der Annahme, dass größere Modelle immer besser abschneiden. Hindsight verwendet kein einzelnes großes, universelles Basismodell. Es baut auf 3 spezialisierten Basismodellen mit jeweils weniger als 600 Millionen Parametern auf, und das Unternehmen sagt, das Ergebnis übertreffe Modelle bis zum 14-Fachen seiner Größe. Gebert nennt es eher Scharfschütze als Schrotflinte.
Seine Trainingsdaten sind absichtlich schmal gehalten: 83 MB echte Online-Beiträge aus 18 Datensätzen (etwa 37 Harry-Potter-Büchern), darunter 292.000 von menschlichen Prüfern gelabelte Beiträge. Über 164 trainierte Varianten hinweg verfolgte das Unternehmen die Leistung jeder einzelnen und beförderte die beste Variante zum Champion.
KI-Content-Moderation im Unternehmensbereich wird typischerweise als Kostenfaktor verkauft. Sie reduziert Risiken, aber kaum ein Anbieter garantiert ein Ergebnis. Hindsight ändert das. Wenn sein Modell einen Beitrag als Safe einstuft und dieser Beitrag ein dokumentiertes Haftungsereignis verursacht, erhält der Kunde finanzielle Unterstützung von bis zu 1 Million Dollar statt einer Entschuldigung und eines Patches.
Für Teams, die vor der Frist stehen, ist das praktische Angebot einfach. Der Ersatz von Perspective erfordert nur einen einzigen API-Aufruf, und Hindsight erkennt die Coded Language, die ähnliche Tools nie zu sehen gebaut wurden.
Gebert schlägt vor, Hindsight und Perspective eine Woche lang parallel laufen zu lassen und dann die Abweichungen dort zu betrachten, wo sie nicht übereinstimmen. Diese Unstimmigkeiten zeigen, wo ein Toxizitätswert allein möglicherweise nicht ausgereicht hat.
Hindsight begrenzt seine Launch-Kohorte auf 4 kommerzielle Kunden, um eine individuelle Kalibrierung der Modellinstanzen auf die jeweils einzigartigen Community-Richtlinien und das Risikoprofil jeder Plattform zu ermöglichen. Für die erste Gruppe wird ein Founder-Preis angeboten.
Um sich auf die Launch-Liste setzen zu lassen und Hindsight mit Ihren Daten zu testen, besuchen Sie https://hindsightAI.com.
Ich bin Autor und habe in einer Vielzahl beruflicher Rollen gearbeitet. Von der Erstellung von Kritiken und Filmanalysen für Medien wie WhatCulture, (alle anzeigen) Ich bin Autor und habe in einer Vielzahl beruflicher Rollen gearbeitet. Von der Erstellung von Kritiken und Filmanalysen für Medien wie WhatCulture, Comic Book Resources und Ratings Game Music bis zum Schreiben preisgekrönter Drehbücher für verschiedene YouTube-Kanäle und den Audio-Streaming-Dienst Headfone mache ich ein bisschen von allem. Schreiben ist meine Leidenschaft, und ich verfolge ständig neue Herausforderungen, um mein Handwerk weiter zu verfeinern und zu verbessern.
Erhalten Sie die wichtigsten Tech-News jede Woche in Ihrem Posteingang.
Danke! Überprüfen Sie Ihren Posteingang, um Ihr Abonnement zu bestätigen.
Mit dem Abonnieren stimmen Sie unserer Datenschutzerklärung zu.
Beigetragener Artikel. Nicht von der TNW-Redaktion erstellt und gibt nicht die redaktionelle Haltung von TNW wieder.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Starting January 1, any moderation pipeline calling Perspective will fail. Google’s Jigsaw unit shuts the service down on December 31, ending one of the most widely used tools for scoring online comments for toxicity. For platforms, publishers, marketplaces, and communities built on it, the next few months bring an unwelcome decision. Find a replacement, and fast.
Hindsight wants to be that replacement. But rather than pitching a standard vendor swap, it is offering something no AI content moderation vendor has offered before, a professional guarantee against harm caused by content its model misses.
“Coded Language is the new slur, but it’s ridiculously hard to catch consistently,” said Dean Gebert, Hindsight’s Founder. “And a like-for-like model or tool swap just moves Perspective’s blind spots to a different vendor.”
Most companies will treat Perspective’s shutdown as a routine engineering ticket. Hindsight sees it as a chance to ask a harder question: was the old tool delivering accurate protection in the first place?
Perspective scores how toxic a comment “ sounds ” on the surface. That works well on obvious insults. It works poorly on language designed to look harmless.
Bad actors know this, which is why they’ve shifted to Coded Language: numeric codes like “ 1488, ” extremist slang like “ boogaloo,” swapped characters (called “l33tspe@k”), and misspellings that mimic a slur’s phonetic sound like “ phag “. The cost and liability show up in forums, posts, comments, bios, DMs, printed material, and more.
And it isn’t limited to English. Even a US-only platform has posts in Spanish and dozens of other languages, so Coded Language travels with them. Hindsight was pre-trained on 110 languages, meaning it can follow Coded Language across all of them without a separate model for each language.
The stakes are real. From 2016 to mid-2022, the Anti-Defamation League found that extremists raised at least $6.2 million across 324 crowdfunding campaigns. Also, more than 30 federal cases against a major gaming platform allege that its safeguards failed young users. And finally, merchandise with white nationalist messaging still appears on major online marketplaces.
Behind each of these was a moderation system that was supposed to be working. Perspective’s shutdown creates the opportunity for a rethink.
Hindsight AI’s homepage, pictured in October 2026. — Credit: Hindsight AI
Many moderation tools rely on rigid binary logic: Safe or Unsafe. That creates a lose-lose trade-off for platform executives. Tune the system to be strict, and it floods human reviewers with false alarms on everyday slang. Tune it to be lenient, and it misses the content that creates liability.
Hindsight’s 3 classes, Red Flag, Yellow Flag, and Safe, create a middle lane for ambiguous, context-dependent language. Automation clears the easy cases, allowing human reviewers to spend time on the harder edge cases (which go back into fine-tuning that client’s instance).
Gebert acknowledges these conversations can be uncomfortable, so his “ safest example ” is the word bitch, which can be derogatory or adoring depending on context. Aimed at a person in anger (who the hell is this bitch?), it’s a clear Red Flag. Between friends (she’s the baddest bitch I know), it’s likely Safe. But a binary model still can’t tell these apart.
“ Consistently sorting contextual text into an accurate Yellow Flag category was extremely painful, ” Gebert laughs. “It took equal doses of obsession, stubbornness, and lattes. But it’ll let clients rely less on human oversight and get more accurate results, so it’ll pay off.”
Hindsight benchmarked 9 AI content moderation models (Mistral, OpenAI, Meta, Azure, AWS, and others) against a fixed set of 2,205 real online posts. A human labeled each as Red Flag, Yellow Flag, or Safe, and Hindsight’s model variants never saw any of the posts during development or training.
On Coded Language, Hindsight detected 97.9% of cases. Other models scored 65% and below. Its Missed Flag rate was 3.3% and its False Alarm rate was 8.2%. The company publishes the full benchmark methodology and results on its website, with the ability for companies to test Hindsight with their data.
The result is a direct challenge to the assumption that larger models always perform better. Hindsight does not use 1 large, general-purpose base model. It builds on 3 specialized base models, each with fewer than 600 million parameters, and the company says the result outperforms models up to 14 times its size. Gebert calls it more sniper, less shotgun.
Its training data is intentionally narrow, with 83 MB of real online posts, drawn from 18 datasets (roughly 37 Harry Potter books), including 292,000 posts labeled by human reviewers. Across 164 trained variants, the company tracked how each performed and promoted the best variant to Champion.
Enterprise AI content moderation is typically sold as a cost center. It reduces risk, but few vendors guarantee an outcome. Hindsight changes that. If its model labels a post as Safe and that post causes a documented liability event, the client has up to $1 million in financial support, instead of an apology and a patch.
For teams facing the deadline, the practical pitch is simple. Replacing Perspective takes a single API call, and Hindsight catches the Coded Language that similar tools were never built to see.
Gebert’s suggested path is to run Hindsight and Perspective side by side for a week, then look at the delta where they disagreed. Those disagreements show where a toxicity score alone may have been falling short.
Hindsight is capping its launch cohort at 4 commercial clients to allow custom calibration of model instances against each platform’s unique community policies and risk profile. Founder pricing will be offered to that first group.
To join the launch list and test Hindsight with your data, visit https://hindsightAI.com.
I am a writer who has worked in a variety of professional roles. From crafting criticism and film analysis for outlets such as WhatCulture, (show all) I am a writer who has worked in a variety of professional roles. From crafting criticism and film analysis for outlets such as WhatCulture, Comic Book Resources, and Ratings Game Music, to writing acclaimed scripts for various YouTube channels and audio streaming service Headfone, I do a little bit of everything. Writing is my passion, and I am constantly pursuing new challenges to further hone and improve my craft.
Get the most important tech news in your inbox each week.
Thanks! Check your inbox to confirm your subscription.
By subscribing you agree to our Privacy Statement.
Contributed article. Not produced by the TNW newsroom and does not reflect the editorial stance of TNW.