Google stellt verbesserten SynthID-Detektor fuer KI-Inhalte weltweit bereit
Die neue SynthID-Website kann nun KI-generierte Inhalte von Google, OpenAI und anderen Anbietern erkennen.
Fälschungen erkennen: Google führt einen verbesserten SynthID-KI-Inhaltedetektor ein, der nun weltweit verfügbar ist. Die neue SynthID-Website kann nun KI-Inhalte von Google, OpenAI und weiteren Anbietern identifizieren.
0 Bildnachweis: Aurich Lawson Bildnachweis: Aurich Lawson Texteinstellungen Storytext Größe Klein Standard Groß Breite * Standard Breit Links Standard Orange * Nur für Abonnenten Mehr erfahren Navigation minimieren Jeder KI-Inhalt aus Googles Gemini-Modellen trägt ein verborgenes SynthID-Label, das es sehr erschwert, die Inhalte als echt auszugeben. SynthID hat inzwischen auch Zuspruch von anderen großen KI-Unternehmen erhalten, doch das tatsächliche Prüfen dieser unsichtbaren Wasserzeichen war bislang ein umständlicher Prozess. Künftig wird das allerdings etwas einfacher. Google hat angekündigt, dass sein SynthID-Detektor nun Wasserzeichen aller Partner unterstützt und auf einer neuen eigenen Website für jedermann nutzbar ist.
SynthID ist ein unsichtbares Signal, das in die Pixel KI-generierter Bilder und Videos sowie in die Wellenform von KI-Audio eingebettet ist. Google gibt an, dass allein Gemini SynthID in mehr als 180 Milliarden Bilder und Videos sowie in 240.000 Jahre Audio integriert hat. Bislang bestand für alle außerhalb des vertrauenswürdigen Testerprogramms von Google die einzige Möglichkeit, nach SynthID zu suchen, darin, Gemini zu fragen. Das ist eher umständlich, und die Ausgabe des Modells konnte manchmal verwirrend sein, wenn man einfach nur ein klares Ja oder Nein wollte.
Nun kann man Gemini aus dem Prozess herausnehmen. Ab heute kann man die neue Website SynthID.com besuchen, um einen Inhalt auf ein KI-Wasserzeichen zu prüfen. Eine wesentliche Einschränkung des bisherigen Detektors von Google bestand darin, dass er nur nach Googles Version von SynthID suchte. Obwohl beispielsweise ChatGPT-Bilder über SynthID verfügen, wurden sie in Googles Detektor nicht markiert. Das ist nun kein Problem mehr.
Google erklärt, dass die erweiterte Version des Detektors die jeweiligen Wasserzeichen aller SynthID-Partner unterstützen wird, darunter OpenAI, Nvidia, Kakao und in Kürze auch Apple. Man kann dort also eine Datei auf die Beteiligung all dieser KI-Systeme prüfen, anstatt deren Detektoren einzeln aufzusuchen. Die Website liefert nicht so viele Informationen wie das interne Tool, das Bildbereiche hervorhob, in denen SynthID-Pixel vorhanden waren. Stattdessen erhält man nur eine Meldung, ob SynthID zur Erzeugung oder Bearbeitung des Mediums verwendet wurde.
Man muss sich anmelden, um das Tool zu nutzen; dabei werden Google-, OpenAI- und Apple-Konten unterstützt. Obwohl der Detektor für alle verfügbar ist, schränkt die Anmeldepflicht die Nutzung ein. Google teilt mit, dass jeder Nutzer über ein tägliches Nutzungslimit von etwa 10 Bild-, Video- und Audioprüfungen verfügt.
Die bisherigen Erkennungstools hatten ein ähnliches Limit. Google-Ingenieure haben gegenüber Ars erklärt, dass eine Zugangsbeschränkung notwendig ist, um zu verhindern, dass Menschen die Prüfungen zur Entwicklung von SynthID-Entfernungswerkzeugen nutzen. Die Unbestimmtheit der genauen Zahl liegt vermutlich daran, dass das System Nutzer früher sperren kann, wenn mehrere sehr ähnliche Bilder geprüft werden. Dies könnte darauf hindeuten, dass jemand versucht, einen Umgehungs-Workflow zu optimieren.
Die Ausweitung des Zugangs zur SynthID-Erkennung ist eine gute Sache: Es gibt damit eine praktische zentrale Anlaufstelle, um Medien auf die Signatur populärer KI-Tools zu prüfen. Allerdings sind Googles Partner bei weitem nicht die einzigen Quellen für KI-Inhalte.
Einige Modellanbieter verwenden andere Wasserzeichen-Technologien (etwa Meta), während andere überhaupt keine Wasserzeichen einsetzen. Hinzu kommen Open-Weight-Modelle, die Nutzer auf eigener Hardware betreiben können, um immer realistischere KI-Inhalte zu erzeugen, die nicht einmal eine einfache Metadaten-Kennzeichnung enthalten.
Das bedeutet, dass es jede Menge KI-Inhalte geben wird, die vom SynthID-Tool nicht als KI erkannt werden. Die Website wird einen entsprechenden Hinweis dazu enthalten. Es ist auch denkbar, dass trotz Googles Bemühungen jemand einen Weg findet, SynthID zu entfernen und bestehende KI-Inhalte damit glaubwürdiger erscheinen zu lassen. Es ist kein perfektes System, doch das ist die Realität, wenn man auf proaktive Wasserzeichen für KI-Bilder setzt, die sich mit erstaunlicher Geschwindigkeit im Internet verbreiten.
Der bessere Ansatz könnte das Gegenteil sein: echte Bilder, Videos und Audio mit kryptografischen Technologien wie C2PA bereits bei ihrer Entstehung zu kennzeichnen. Googles Pixel-Smartphones gehören zu den wenigen Geräten, die genau das tun. Bis dahin ist SynthID die beste verbleibende Möglichkeit, KI-Fälschungen zu identifizieren.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Finding fakes Google rolls out improved SynthID AI content detector, now available globally The new SynthID website can now identify AI content from Google, OpenAI, and more.
0 Credit: Aurich Lawson Credit: Aurich Lawson Text settings Story text Size Small Standard Large Width * Standard Wide Links Standard Orange * Subscribers only Learn more Minimize to nav Every piece of AI content from Google’s Gemini models has a hidden SynthID label, which makes it very difficult to pass the content off as authentic. SynthID has also gotten buy-in from other major AI players, but actually checking for those invisible watermarks has been a convoluted process. It’s going to be a little easier going forward, though. Google has announced that its SynthID detector now supports watermarks from all its partners, and it’s available for anyone to use on a new dedicated website.
SynthID is an invisible signal encoded in the pixels of AI-generated images and videos, and in the waveform of AI audio. Google says Gemini alone has integrated SynthID with over 180 billion images and videos, plus 240,000 years of audio. Until now, the only way for those outside of Google’s trusted tester program to check for SynthID was to ask Gemini. This is rather clunky, and the model’s output could sometimes be confusing when you just wanted a simple “yes” or “no.”
Now you can cut Gemini out of the loop. Starting today, you can go to the new SynthID.com website to check a piece of content for an AI watermark. A major limitation of Google’s previous detector was that it only checked for Google’s version of SynthID. Even though ChatGPT images, for example, have SynthID, they wouldn’t be flagged in Google’s detector. That’s no longer a problem.
Google says that its expanded version of the detector will support the distinct watermarks from all its SynthID partners, including OpenAI, Nvidia, Kakao, and (soon) Apple. So you’ll be able to go there and check a file for the involvement of all those AI systems instead of accessing their detectors individually. The website won’t provide as much information as the internal tool, which highlighted regions of the image that showed SynthID pixels. Instead, you’ll just get a message telling you whether SynthID was used to produce or edit the media.
You have to log in to use the tool, but it supports Google, OpenAI, and Apple accounts. While the detector is available to anyone, the login requirement limits how much you can use it. Google says each user gets “a daily usage quota of approximately 10 image, video, and audio checks.”
The previous detection tools had a similar limit. Google engineers have told Ars that limiting access is necessary to prevent people from using the checks to develop SynthID removal tools. The fuzziness about the exact number is likely because the system may lock you out sooner if you’re checking multiple images that are very similar. This could signal someone is trying to tune a bypass workflow.
Expanding access to SynthID detection is a good thing—it’s a convenient single destination to check media for the signature of popular AI tools. However, Google’s partners are far from the only sources of AI content.
Some model providers use different watermarking tech (like Meta), while others use no watermarks at all. And then there are open-weight models that people can run on their own hardware to produce increasingly realistic AI content that doesn’t even include simple metadata labeling.
That means there is plenty of AI content that will not be identified as AI in the SynthID tool. The website will have a disclaimer saying as much. It’s also plausible that despite Google’s efforts, someone will find a way to remove SynthID, making existing AI content look more legit. It’s not a perfect system, but that’s the reality of relying on proactive watermarking for AI images, which are proliferating across the Internet at an astonishing rate.
The best approach might be the opposite—using cryptographic technologies like C2PA to label real images, video, and audio as they are created. Google’s Pixel phones are among the few devices doing just that. In the meantime, SynthID is the best bet you’ve got to identify AI fakes.