OpenAI sperrt russische und iranische Desinformationskampagnen mit KI-generierten Fake-News
OpenAI hat zwei Einflussoperationen aufgedeckt und die beteiligten Konten gesperrt. Die russische Kampagne "Dark Clark" verbreitete Desinformation in Lateinamerika und erhielt als erste die zweithöchste Schwerebewertung von 5 von 6.
OpenAI hat eine russische und eine iranische Einflussoperation aufgedeckt und die beteiligten ChatGPT-Konten gesperrt. Beide nutzten gefälschte Identitäten, um Inhalte in seriöse Medien einzuschleusen, anstatt Social-Media-Kampagnen zu fahren, wie aus dem Untersuchungsbericht des Unternehmens hervorgeht. Zuvor hatte OpenAI bereits eine andere russische Kampagne aufgedeckt, die auf sozialen Medien und einer Scheindenkfabrik basierte.
Die russische Operation mit dem Namen "Dark Clark" verbreitete Desinformation in ganz Lateinamerika, um die Ukraine zu diskreditieren und die lokale Politik zu destabilisieren. Die Akteure kontrollierten eine Denkfabrik über eine fiktive Persona und dürften lokale Mitarbeiter unwissentlich eingespannt haben. Gefälschte Audiodateien und Dokumente lösten Faktenchecks und offizielle Dementis in Ecuador und Peru aus. OpenAI stuft die Operation mit Stufe 5 von 6 auf der Breakout Scale ein, weil Politiker auf die Inhalte reagierten; es ist damit der erste Fall der Kategorie 5 seit zweieinhalb Jahren Berichterstattung.
Die iranische Operation namens "Bogus Bylines" setzte sieben fake Journalisten ein, um nahezu 100 Artikel über den Konflikt zwischen den USA und dem Iran in Online-Medien weltweit zu platzieren. Die Akteure erzeugten auch Kommentare in sozialen Medien, die allerdings kaum Resonanz fanden. Beide Operationen nutzten KI hauptsächlich für interne Berichte und um Propaganda an verschiedene Sprachen anzupassen. Ad Ad
Abonniere THE DECODER, um werbefrei zu lesen, einen wöchentlichen KI-Newsletter zu erhalten, sechs Mal im Jahr unseren exklusiven Frontier-Report "AI Radar" zu bekommen, Zugriff auf das vollständige Archiv zu haben und unseren Kommentarbereich nutzen zu können.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
OpenAI exposed a Russian and an Iranian influence operation and banned the ChatGPT accounts involved. Both used fake identities to plant content in legitimate media rather than running social media campaigns, according to the company's investigation report. OpenAI had previously uncovered a different Russian campaign built on social media and a fake think tank.
The Russian operation, "Dark Clark," spread disinformation across Latin America to discredit Ukraine and destabilize local politics. The actors controlled a think tank through a fictitious persona and likely roped in local staffers without their knowledge. Fabricated audio files and documents triggered fact-checks and official denials in Ecuador and Peru. OpenAI rates it category 5 out of 6 on the Breakout Scale because politicians reacted to the content, making it the first category 5 case in two and a half years of reporting.
The Iranian operation, "Bogus Bylines," used seven fake journalists to place nearly 100 articles about the US-Iran conflict in online outlets worldwide. The actors also generated social media comments, though those gained almost no traction. Both operations used AI mainly for internal reporting and to adapt propaganda to different languages. Ad Ad
Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section.