UK Politician Jess Asato Got Deepfaked. Now She’s Taking xAI to Court
Jess Asato’s public campaigning for victims of online abuse put her in the crosshairs of Grok’s deepfake scandal. Then the UK member of parliament became a victim of the abuse herself.
Foto-Illustration: WIRED STAFF; House of Commons/Laurie Noble Comment Loader Save Story Save this story Comment Loader Save Story Save this story Nur wenige Menschen verstehen die aktuelle Deepfake-Epidemie besser als Jess Asato. Die britische Labour-Abgeordnete hat jahrelang gegen den Einsatz von Technologie gekämpft, mit dem Frauen und Mädchen misshandelt werden. Dann, nachdem sie Elon Musk während des berüchtigten Grok-Deepfake-Skandals von 2025 öffentlich kritisiert hatte, fand sich Asato selbst mitten in genau der Krise wieder, die sie hatte verhindern wollen.
Für Asato ist das eine persönliche Angelegenheit, aber es ist keineswegs Neuland für sie. Bevor sie ins Parlament einzog, arbeitete sie jahrelang mit Wohltätigkeitsorganisationen, die Überlebende häuslicher Gewalt und schutzbedürftige Kinder unterstützen. Diese Erfahrung hat ihre politische Laufbahn geprägt und ihre Bemühungen um stärkere Schutzmaßnahmen für Frauen und Kinder im Netz beeinflusst. Jetzt stellt sie sich zunehmend beunruhigenden Fragen: Was geschieht, wenn die Technologie, die Missbrauch ermöglicht, allgegenwärtig wird, die Plattformen, die sie hosten, sich weigern einzugreifen, und die Betroffenen auf sich allein gestellt um Abhilfe kämpfen müssen?
Bevor Sie weiterlesen, weisen wir darauf hin, dass dieses Interview Bezugnahmen auf sexuelle Übergriffe und sexuellen Kindesmissbrauch enthält.
Dieses Interview wurde aus Gründen der Länge und Klarheit redaktionell überarbeitet.
ROSIE SWASH: Jess, ich möchte ein paar Einstiegsfragen stellen, bevor wir richtig loslegen. Erzählen Sie uns ein wenig über Ihren Hintergrund. Wie sind Sie Abgeordnete für Lowestoft geworden?
JESS ASATO: Gerne. Ich bin in East Anglia aufgewachsen, in Norfolk und Suffolk, in einer Familie, die nicht sehr politisch war. Den Politikvirus bekam ich 1997, als Tony Blair über Bildung, Bildung und Bildung sprach. Da ich es selbst erlebt hatte, fand ich, dass unser Bildungssystem deutlich besser sein könnte. Also trat ich der Labour Party bei und engagierte mich in meinen örtlichen Gruppen.
Vor meiner Zeit im Parlament arbeitete ich drei Jahre für die größte Kinderhilfsorganisation Großbritanniens im Bereich Politik und Öffentlichkeitsarbeit und versuchte, im Namen der schutzbedürftigsten Kinder des Landes Gesetze zu ändern. Sechs Jahre davor arbeitete ich für eine Organisation gegen häusliche Gewalt namens SafeLives, bei der wir sehr viel Arbeit leisteten, um die Lage für Überlebende häuslicher Gewalt zu verbessern, insbesondere durch den Domestic Abuse Act.
Diese beiden Themen, Frauen und Kinder, sind zu meinem Schwerpunkt im Parlament geworden, und ich habe unmissverständlich klar gemacht, dass mein Grund, hier zu sein, meine Mission gewissermaßen darin besteht, eine Stimme für Frauen und Kinder zu sein.
Das ist ein guter Aufhänger, um über dieses Jahr zu sprechen. Anfang 2026 gab es breite Berichterstattung darüber, dass Grok, der Chatbot von xAI, genutzt wurde, um sexualisierte Bilder von Kindern und Frauen zu erstellen und dass diese Bilder auf X verbreitet wurden. Wie bewusst war Ihnen zu diesem Zeitpunkt das Phänomen, dass Deepfakes auf diese Weise eingesetzt werden?
Sehr bewusst, ich hatte tatsächlich schon über mehrere Jahre hinweg mit Überlebenden gearbeitet, die Deepfakes erlebt hatten. Seit dem Aufkommen von KI passiert dies an Frauen, und es entwickelten sich zudem wachsende Risiken für Kinder, die sowohl in Material zum sexuellen Kindesmissbrauch eingefügt wurden, als auch Kinder, die Nudification-Tools an anderen Kindern verwendeten und sich damit selbst strafbar machten, weil diese Werkzeuge so leicht zugänglich und oft kostenlos sind.
Ich war mir also schon lange vor Grok der enormen Schäden bewusst, die durch KI-Deepfakes von Frauen und Kindern entstehen. Es war ein bekannter Schaden, weshalb viele Tools anderer Unternehmen bereits Schritte unternommen hatten, um zu verhindern, dass sie zur Erstellung solcher Inhalte genutzt werden können.
Es gibt eine Reihe von Tools, die sich weigern, etwas zu tun, wenn man „nudify“ oder „zieh dieser Person die Kleider aus“ eingibt. In genau diese Umgebung kam dann Grok.
Gab es vor Grok ein besonders krasses Beispiel oder einen Vorfall, durch den Sie auf Deepfakes aufmerksam wurden und der Ihnen besonders im Gedächtnis geblieben ist?
Es gibt eine hervorragende Aktivistin, die unter dem Namen Jodie auftritt. Ich glaube, es war wahrscheinlich das Zuhören von Jodies Erfahrungen, die selbst zum Opfer eines Deepfakes geworden war. Es war für sie ein so tiefgreifender Angriff, dass jemand so etwas tat, und dann stellte sie fest, dass es tatsächlich ein Freund war. Ein solcher Verrat an Vertrauen.
Diese Dinge zerstören nicht nur die betroffene Person selbst, sondern oft auch die Familien und alle Menschen im Umfeld.
Für Leserinnen und Leser, die es nicht wissen: Wer genau ist Jodie? Ist das eine Wählerin aus Ihrem Wahlkreis oder jemand, der sich speziell an Sie gewandt hat?
Nein, nein, nein. Sie ist eine sehr bekannte Aktivistin zu diesem Thema. Das ist nicht ihr echter Name.
Ich weiß, es klingt offensichtlich, aber was genau ist Nudification?
Dabei bittet man ein KI-Tool, ein Bild oder Video einer realen Person zu nehmen und mit generativer KI darzustellen, dass diese Person nackt, teilweise nackt oder an pornografischen Handlungen beteiligt ist. Aufgrund des fotorealistischen Charakters von KI-Bildern ist es inzwischen zunehmend schwierig zu erkennen, was ein gefälschtes Bild ist.
Es kann unglaublich, unglaublich echt aussehen.
Was war es also ganz konkret am Grok-Skandal zu Beginn dieses Jahres, das Sie dazu bewogen hat, das Thema im House of Commons anzusprechen?
Es war die Tatsache, dass wir bereits wussten, dass man das verhindern kann, indem man das KI-Tool so konzipiert, dass es die dazu nötige Fähigkeit ablehnt.
Das war völlig vermeidbar. Deshalb habe ich mich zu Wort gemeldet, aber auch, weil ich gerade anderthalb Jahre lang für ein Verbot von Nudification-Apps gekämpft hatte, und dann wurde ein Allzweck-KI-Tool zu einer Nudification-App.
Für mich hatte es einfach den Anschein, als würden wir in Großbritannien Fortschritte machen, und dann beschloss der reichste Mann der Welt mit seinem Produkt, die Uhr zurückzudrehen.
Was genau haben Sie also gesagt, als Sie aufstanden?
Ich sprach über die Notwendigkeit, dass die Regierung ihr Verbot von Nudification-Apps beschleunigt, was sie dann auch tat. Die damalige Ministerin für Wissenschaft, Innovation und Technologie, Liz Kendall, kündigte an, dieses Verbot durch den Crime and Policing Act in Gesetz zu gießen, was sie auch tat.
Ich sagte aber auch, dass es sehr wichtig sei, darüber hinauszugehen, denn Grok selbst ist natürlich kein reines Nudification-Werkzeug. Es hat einen allgemeinen Verwendungszweck, und deshalb mussten wir alle KI-Chatbots unter den Geltungsbereich des Online Safety Act bringen. Das ist auch letztlich im Crime and Policing Act geschehen, und wir warten nun darauf, dass diese Gesetzgebung in Kraft tritt. Meines Wissens muss es vorher noch eine Anhörung geben.
Streng genommen könnte also in diesem Zeitraum ein weiteres Grok passieren, aber künftig gäbe es deutlich stärkere Maßnahmen, die wir gegen Tools ergreifen könnten, die wie Grok Nudification-Inhalte erstellen.
Das ist ein wirklich positives Ergebnis Ihres Eingreifens im Parlament, aber was ist sonst noch passiert, nachdem Sie sich zu Wort gemeldet hatten?
Nun, eine der Folgen war, dass ich in den sozialen Medien postete, Elon Musk solle Grok daran hindern, so etwas zu tun.
Und dann wurde ich natürlich selbst Opfer desselben Trends. Grok versetzte diese Frau in einen Bikini. Und die meisten Bilder würde ich als pornifiziert bezeichnen. Es waren keine Nacktbilder, aber ich war darauf zu sehen, mit aufgeblähter Brust in einem Bikini.
Dann versuchten die Leute es offenbar lustig zu machen, indem sie mir ein Hakenkreuz oder Hammer und Sichel überlagerten. Oder indem sie mich schwanger mit Fünflingen darstellten und in eine Küche setzten. Denn natürlich sei das der einzige Zweck von Frauen: Kinder gebären und Essen kochen. Das wirklich verstörende war aber ein Video, in dem ich von einer Gruppe Männern umringt bin, mir Chloroform auf den Mund gehalten wird und ich dann rückwärts auf einen Stuhl falle. Danach werden mir die Röcke hochgehoben. Also keine Nacktheit, aber klar war, dass der nächste Frame eine sexuelle Nötigung darstellen sollte. Das war wirklich zermürbend und verstörend.
Genau in dem Moment sagte eine Freundin zu mir: „Du solltest dich probably an einen Anwalt wenden.“ Denn wir hatten jedes dieser Vorfälle bei X gemeldet, und keiner von ihnen verstieß laut deren Angabe gegen die Nutzungsbedingungen. Wir bekamen immer wieder nur dieselben automatisierten E-Mails zurück. „Wir haben das geprüft, hier gibt es nichts zu sehen.“ Also beauftragte ich tatsächlich einen Anwalt, der einen Brief an X schickte und die Entfernung forderte, und die Inhalte wurden entfernt.
Aber genau in diesem Moment sagte er: „Ich glaube, Sie haben tatsächlich einen Fall. Wir sind der Ansicht, dass xAI gegen das Gesetz verstoßen hat.“
Es ist beeindruckend, wie Sie damit umgegangen sind, aber es muss furchtbar gewesen sein.
War es; es war furchtbar. Das alles geschieht, um Menschen zu erniedrigen, zu entwürdigen und Frauen aus Online-Räumen zu verdrängen. Aus meiner Sicht nutze ich schlechte oder schwierige Ereignisse eher als Anlass, darüber nachzudenken, wie wir das für die Zukunft ändern können.
Meine frühere Chefin war eine wunderbare Frau namens Tessa Jowell. Sie pflegte zu mir zu sagen: „Wie verwandeln wir diese negative Energie in etwas Positives?“ „Wie schaffen wir es, aus dieser Situation herauszuarbeiten und an einem Punkt zu landen, an dem wir das Gefühl haben, daraus gelernt zu haben?“
Ich glaube, sie hat mir dieses Bewusstsein vermittelt: Wenn etwas Schlechtes passiert, hast du eine Wahl. Du kannst darin versinken, du kannst versuchen, es zu vergessen, oder du kannst es als Katalysator für Veränderung nutzen.
Ich war also ziemlich besorgt wegen der Idee, eine Klage einzureichen. Nicht zuletzt wegen der Person an der Spitze von xAI, jetzt SpaceXAI. (Anmerkung der Redaktion: Das Unternehmen hat sich kürzlich in SpaceXSI umbenannt.) Er ist der reichste Mann der Welt. Aber auch, weil ich nicht unbedingt selbst zur Geschichte werden wollte. Viele, viele Frauen hatten Bilder von sich, die mit Grok und anderen Nudifizierungs-Tools erstellt wurden und die viel, viel schlimmer waren.
Davon abgesehen wusste ich, dass es, wenn sich die Gelegenheit bot zu sagen, dass sie tatsächlich gegen das Gesetz verstoßen haben, um ein wichtiger Grundsatz im Namen all der Frauen und Kinder ging, deren Bilder von Grok manipuliert und missbraucht wurden und die niemals, niemals in der Lage sein würden, selbst rechtliche Schritte einzuleiten. Also entschied ich, dass ich das tun wollte, weil ich zeigen wollte, dass niemand über dem Gesetz steht.
Es spielt keine Rolle, wie reich man ist, wie mächtig man ist, wie groß die Reichweite der eigenen Social-Media-Präsenz ist oder wer die eigenen Freunde an der Spitze verschiedener Regierungen sein mögen. Wenn man in unserem Land gegen das Gesetz verstößt, muss man die Konsequenzen davon zu spüren bekommen. Als ehemalige Anwältin und heute als Gesetzgeberin ist es wichtig, dass wir unser Gesetz durchsetzen, wo es gebrochen wurde.
Meine Auffassung ist daher, dass wir von Unternehmen erwarten sollten, dass sie unser Gesetz respektieren, oder zumindest neue Gesetze erlassen, um sie stärker mit dem in Einklang zu bringen, was die Gesellschaft wirklich braucht.
Du hast gesagt, dass du dir dazu Gedanken gemacht hast. In dem Moment, in dem du zu entscheiden versuchst, wie du reagieren sollst: Wägst du ab? Mit wem sprichst du? Gehst du zu deinem Team oder deiner Familie, um zu klären, wie du reagieren solltest, obwohl du weißt, dass dies weitere Spekulationen und weitere Aufmerksamkeit hervorrufen kann?
Vor allem mit meiner Familie, insbesondere mit meinem Mann. Es ist eine Sache, als Politikerin für eine Gesetzesänderung im Namen von Frauen und Kindern zu argumentieren; etwas anderes ist es, selbst einen Rechtsstreit zu führen.
Deshalb machte ich mir Sorgen über die Auswirkungen, die dies auf meine Familie und meine Kinder haben könnte. Ich weiß auch, dass dies für Politiker Gefahren mit sich bringen kann. Daher machte ich mir Sorgen darüber, dass ich damit offensichtlich jemanden zum Beklagten mache, der eine sehr große Reichweite in den sozialen Medien hat. Trotzdem mag ich keine Tyrannen. Ich bin fest davon überzeugt, dass es wichtig ist, auf dem Feld zu kämpfen, das man hat, und dies war, wie ich fand, eine Gelegenheit, etwas zu bewirken.
Also wog ich das ab und dachte, dass es diese Art von Aufmerksamkeit und potenzieller Gefahr wert war, denn hier gibt es ein größeres Problem, das wir richtig lösen müssen.
Wenn du sagst, dass du keine Tyrannen magst: Sprichst du über die Männer, die Grok von Anfang an auf diese Weise genutzt haben, oder sprichst du über Elon Musk?
Ich spreche über die Männer, die dies als Mittel einsetzen, um Frauen aus dem Online-Raum zu verdrängen. Tatsächlich war es in etlichen Kommentaren ziemlich deutlich zu sehen, dass sie sagten: Wenn dir das nicht gefällt, dann steig von der Plattform.
Oder eben: Wenn dir die Küche zu heiß ist, geh raus aus der Küche. Was ich immer wieder amüsant finde, denn sie setzen mich damit in eine Küche. Ich finde es sehr aufschlussreich, wenn man sich die Demografie von X im Vereinigten Königreich ansieht: Sie ist stark männlich geprägt. Ich glaube, ein Teil davon liegt daran, dass dort einfach so viel Frauenfeindlichkeit und Missbrauch vorhanden ist. Ich nehme also an, und korrigiere mich, wenn ich falsch liege, dass die andere Seite der öffentlichen Reaktion darin besteht, dass sich andere Frauen an dich gewandt haben.
Absolut. Tatsächlich war eine der ermutigenden Dinge, dass Menschen zu mir kamen und sagten: Danke, denn das hat mir nun die Erlaubnis gegeben, tatsächlich zu akzeptieren, dass das, was mir angetan wurde, nicht meine Schuld war. Es ist nicht meine Scham. So hoffe ich in gewisser Weise, dass dies einigen Opfern geholfen hat, zu verarbeiten, was ihnen passiert ist, und zu verstehen, dass das nicht in Ordnung war.
Ich habe auch E-Mails von Eltern erhalten, in denen sie sagten, dass dies ihrer Tochter passiert ist. Es wurde von Jungen in der Schule gemacht. Ich habe von Lehrkräften gehört, dass Jungen pornografische KI-Bilder von ihnen angefertigt haben. Und wir haben das einfach geschehen lassen, über uns hinwegspülen lassen und akzeptiert, dass das nun offenbar ein Teil der Gesellschaft ist, in der wir leben.
Also ja, eine ganze Reihe von Menschen ist zu mir gekommen. Natürlich haben nicht alle ihre Erfahrungen über Grok stattgefunden, und ich glaube, eines der Probleme ist, dass man bei diesen Videos oder Bildern oft nicht weiß, auf welcher Plattform sie erstellt wurden. Ich wusste zum Beispiel nur deshalb, dass es Grok war, weil es in X integriert war und man die Befehle sehen konnte, die von den Nutzern gegeben worden waren.
Aber meistens wissen die meisten Opfer, wenn solche Inhalte erstellt werden, nicht von wem oder auf welcher Plattform. Und so gibt es wirklich nur sehr wenig, was sie dagegen tun können. Und ich glaube, dieses Gefühl der Hilflosigkeit, verletzt worden zu sein, das ist genau das Wort, das von Opfern dieses Problems so häufig genannt wird.
Es kann zu einer posttraumatischen Belastungsstörung und zu tiefgreifenden Traumata führen. Und ich habe eine Reihe von Menschen getroffen, die sagten, dass die Welt für sie unsicherer erscheint, weil ihnen das angetan wurde.
Ich glaube, du hast es bereits angesprochen, aber was ist der größte Mythos rund um Deepfakes, den du gerne entkräften würdest?
Ich denke, das Gehirn kann es nicht ganz verarbeiten, weil es weiß, dass es nicht wahr ist, aber es sieht sehr echt aus. Und ich glaube, psychologisch verstehen wir noch immer nicht wirklich, wie diese Inhalte die Art und Weise verändern werden, wie wir über unsere Welt denken, wie wir wissen, was wahr ist und was nicht.
Könnten wir ein umfassenderes Recht an unserem eigenen Abbild online schaffen, sodass es eine neue soziale Norm gibt, die besagt: Nein, du kannst dieses Bild nicht einfach in einen KI-Chatbot kopieren und damit machen, was du willst. Das gehört dir nicht. Es sind nicht deine Daten. Es sind ihre Daten, und du verstößt gegen das Gesetz, wenn du das tust.
Ich glaube, wenn wir das tun würden, hätten wir ein breites Anwendungsspektrum. Es würde nicht nur um dieses Feld der Sexualisierung von Frauen und Kindern gehen. Sondern auch um politische Desinformation. Wir sind dem Moment so nahe, in dem jemand ein hyperrealistisches Video eines Politikers produziert, der etwas sagt, das er nicht gesagt hat, und das dann zu realem Schaden führt. Und deshalb müssen wir eine neue soziale Norm finden, die besagt: Bei Personen des öffentlichen Lebens ist es nur dann zulässig, wenn es Parodie oder Satire ist, und das muss man absolut schützen. Aber in allen anderen Fällen sind dein Bild, deine Stimme und dein Bewegtbild deine persönlichen Daten, und niemand sonst darf sie verwenden.
Das ist interessant, denn du sprichst über neue soziale Normen und die Möglichkeit neuer Gesetze, um mit dieser Technologie Schritt zu halten. Aber deine Klage beruht konkret auf einem Datenschutzgesetz. Erzähl mir davon im Vergleich zu einem Gesetz über einvernehmliche Bilder oder speziell Deepfakes.
Vergessen wir nicht, dass dies tatsächlich ein Produkt ist, das von Softwareingenieuren und Entwicklern entworfen wurde, und dass Produkte nicht zu einer Verletzung der Privatsphäre führen sollten, noch zu dem Schaden, den ich dadurch erlitten habe, einschließlich distress und dem Gefühl, durch diese bestimmte Kreation dieses bestimmten Videos belästigt zu werden.
Also beruht es auf einer guten, soliden rechtlichen Grundlage, und wir warten auf die Verteidigung von SpaceX AI.
Ich weiß nicht, wie viel du rechtlich sagen kannst, aber in welchem Teil des Verfahrens steckt ihr? Was passiert als Nächstes? Was ist der Zeitrahmen für eine Lösung dieses Falls?
Wie bei vielen Rechtsfällen ist es sehr, sehr schwer, einen Zeitrahmen festzulegen. Aber mein Verständnis ist, dass wir die Antwort und die Verteidigung von SpaceXAI in naher Zukunft erhalten sollten. Aber wir haben keine Frist oder einen bestimmten Zeitpunkt, den ich nennen könnte.
Danach, so habe ich es verstanden, wird der Fall geprüft, und wenn es etwas zu erwidern gibt, wird es zu einer Gerichtsanhörung kommen. Aber auch hier habe ich keine Ahnung, wann das sein könnte. Und ich denke, es gibt viele rechtliche Dinge, die ich nicht verstehe und die in der Zwischenzeit zwischen meinen Anwälten und ihren Anwälten geklärt werden müssen.
Gab es auf X selbst jemals eine Anerkennung dieses Falls von Elon Musk oder jemandem bei xAI? Hat er jemals öffentlich darüber gesprochen?
Ich glaube nicht. Sie wollen diesen Fall offensichtlich anfechten, und der beste Ort dafür ist, wie ich denke, das Gericht, und man sollte abwarten, ob die Argumente des Falls durchkommen.
Du warst kürzlich in New York, um vor dem Stadtrat über deinen Fall zu sprechen. Du hattest keine Gelegenheit, direkt mit jemandem bei dem Unternehmen zu sprechen, richtig?
Nein. Sie sind trotz Vorladung nicht erschienen. Vier der anderen Frontier-AI-Unternehmen kamen der Vorladung nach. SpaceXAI tat das nicht, aber sie hatten letztendlich doch ihre Anhörung mit SpaceX im Stadtrat. Sie hatten also nun die Gelegenheit, Fragen zu stellen, und haben, wie ich verstehe, dabei tatsächlich auch meinen Fall angesprochen.
War es ein wenig empörend, an einer solchen Anhörung teilzunehmen, bei der ein Unternehmen, das man verklagt, sich nicht die Mühe macht zu erscheinen?
Ich finde es ziemlich respektlos gegenüber den gewählten Mitgliedern des New York City Council, wenn man als Unternehmen in New York tätig ist. Mir wurde tatsächlich gesagt, dass sie nur wenige U-Bahn-Stationen vom Rathaus entfernt saßen. Ich hingegen war eine ziemlich lange Reise aus England gefahren, um dort zu sein. Und sie konnten es sich nicht nehmen lassen zu erscheinen, was sich natürlich überheblich und wie eine kleine Demütigung anfühlte. Aber jetzt sind sie ja da, und das ist eine gute Sache.
Seit Sie die Entscheidung getroffen haben, den Fall vor die Gerichte zu bringen, gab es eine Reihe von Vorschlägen im Parlament, allen voran war zeitweise die Rede von einem Kill-Switch-Gesetz. Ich glaube, das ist inzwischen gestorben oder kommt nicht gut voran. Stimmt das?
Ja, es gab Vorschläge für einen Kill Switch. Nach meinem Verständnis hat die Regierung das jedoch abgelehnt. Es gibt weiterhin starke Forderungen nach einer Regulierung, insbesondere von superintelligenter KI. Wir haben verschiedene Theorien gehört, ob es nun ein Risiko von 2, 10 oder 20 Prozent für die Auslöschung der Menschheit durch dieses Wettrennen zur Superintelligenz, durch eine rekursive KI gibt, und solche Risikomargen würden wir in keinem anderen Bereich zulassen.
Das würden wir weder beim Brückenbau noch beim Flugzeugbau dulden. Selbst beim Test der Atombombe, beim Trinity-Test, hat man das nicht zugelassen. Für mich wirft es die Frage auf, dass so viele dieser Entscheidungen außerhalb demokratischer Strukturen getroffen werden. Es geschieht nicht mit der Öffentlichkeit, sondern von einigen unglaublich, außergewöhnlich reichen Unternehmen und Organisationen, die behaupten, das Wohl des Planeten im Blick zu haben.
Aber jedes Mal, wenn sie tatsächlich gefragt werden, ob das die Zukunft der Menschheit sei oder ob sie glauben, dass diese Risiken die Menschheit auslöschen könnten, gibt es eher ein Achselzucken und die Haltung: Wir machen einfach weiter, weil wir Geld verdienen wollen.
Es wurde in der britischen Presse berichtet, dass es Mitgliedern des Parlaments gibt, von denen einige in Ausschüssen zu Technologiethemen arbeiten und die immer noch nicht wirklich verstehen, was KI ist. Sie gehören klar nicht dazu, weil Sie sich der Gefahren dieses Themas bewusst sind. Aber haben Sie bei der arbeitsübergreifenden Zusammenarbeit das Gefühl, dass Sie immer noch Technik und ihre Gefahren und Möglichkeiten denjenigen erklären müssen, die Gesetze machen oder machen sollten, um die Öffentlichkeit vor KI zu schützen?
Nun, schauen Sie, ich glaube nicht, dass das nur bei KI so ist. Wir sind schließlich Menschen und müssen uns mit jedem einzelnen Thema befassen, das unter der Sonne existiert. Wir müssen Dinge verstehen lernen, von denen wir vorher noch nie gehört haben.
Das stimmt. Aber dann müssen Sie Gesetze und Entscheidungen treffen. Also, ich will meinen Kollegen nicht unrecht tun.
Sie können vielleicht Spezialist für Wohnungsbau sein und müssen sich dann mit KI vertraut machen. Aber ich würde sagen, dass dies das wichtigste Thema ist, das sich derzeit jedem im Parlament oder in der Politik stellt, und deshalb muss sich jeder mit KI auseinandersetzen.
Mein Hintergrund liegt in der Sozialpolitik für Frauen und Kinder. Aber weil wir uns bei meiner Arbeit für eine Kinderhilfsorganisation intensiv mit dem Online Safety Act beschäftigt haben, haben wir dafür gekämpft, die Altersverifizierungssperre für Kinder bei pornografischen Inhalten in den OSA aufzunehmen. Und dabei ist tatsächlich ein recht starkes Gesetz in dieser Hinsicht entstanden.
Wir mussten uns mit der Sicherheit im Online-Raum vertraut machen. Das Problem war natürlich, dass dieses Gesetz keine KI-Chatbots umfasste. Es gab eine Reihe von Änderungsanträgen, die versuchten, sie einzubeziehen, und wir stünden heute viel besser da, wenn uns das gelungen wäre.
Aber wissen Sie, auch jetzt bin ich keine Tech-Expertin, obwohl ich ziemlich lange Zeit hatte, um mich mit diesen Dingen zu beschäftigen. Meine Auffassung ist aber, dass dies definitiv die neue Frontlinie dort ist, wo Schäden entstehen. Das zeigt sich deutlich im Anstieg von KI-generiertem sexuellen Missbrauchsmaterial mit Kindern, das geradezu explodiert.
Am Ende kommt es auf die Menschen an, die diese Produkte erschaffen. Und deshalb sollten wir digitale Produktregulierung in derselben Weise sehen wie jede andere Produktregulierung.
Ich bin sehr, sehr zuversichtlich, dass sich die Regierung damit wirklich intensiv auseinandersetzen wird, denn es gibt immer Gestaltungsentscheidungen, die man treffen kann und die dazu beitragen, diese Schäden zu verhindern, diese völlig vorhersehbaren Schäden. Wir können diese Schäden voraussagen, und deshalb sollte es leicht sein, sie von Anfang an aus dem Design auszuschließen.
Unternehmen könnten mehr Schutzvorkehrungen einbauen. Warum tun sie es nicht?
Der Profit. Aber seien wir auch ehrlich, das sind globale Tools und Unternehmen. Ohne eine internationale Vereinbarung ist das ein bisschen wie das Spiel Wackel-Adam, nicht wahr?
Die Person, die dieses schreckliche Video von mir mit Chloroform erstellt hat, lebt in den USA, also wird die Polizei dem nicht nachgehen, weil die Person im Ausland ist.
Ich weiß nicht, wer diese Person ist, aber die Polizei hat herausgefunden, wer es war, denn was diese Person getan hat, ist eine Straftat. Sie konnte nur keine Anklage erheben.
Wir haben in den letzten 40 Minuten über das gesamte Spektrum menschlicher Abscheulichkeit gesprochen. Ich glaube, es gibt keinen Bereich davon, den wir nicht...
Ich bin sehr beeindruckt davon, wie heiter Sie trotz all dem wirken. Wie bleiben Sie so optimistisch und zuversichtlich, während Sie sich mit all dem befassen?
Weil man für die Zukunft immer Hoffnung haben muss. Ich bin fest davon überzeugt, dass man mit der richtigen Gruppe von Menschen, die auf ein Ziel hinarbeiten, dieses erreichen kann. Man muss nicht akzeptieren, dass die Dinge immer so bleiben, wie sie sind. Wenn sich Menschen zusammenschließen, wenn sich Gemeinschaften zusammenschließen, kann man den Wandel bewirken.
Wir stehen gerade davor, unser Verbot von Erdrosselungsszenen in Pornografie einzuführen, wofür ich mich ebenfalls eingesetzt habe und im letzten Jahr einen Änderungsantrag eingereicht habe, den die Regierung angenommen hat.
Es gibt immer Dinge, die wir ändern können. Man muss einfach weitermachen. Und ich würde außerdem sagen: Wer in diesen furchtbar dunklen Bereichen arbeitet, für den ist das zwar durchaus mit einer Art stellvertretender Traumatisierung verbunden. Aber die Menschen, die in diesen Bereichen arbeiten, gehören tatsächlich zu den hoffnungsvollsten Menschen, auch deshalb, weil der Verlust der Hoffnung wirklich schlimm wäre. Und das dürfen wir nicht zulassen, weil es um den Schutz gefährdeter Kinder geht und weil wir für Frauen und ihr Recht kämpfen, von diesen Schäden verschont zu bleiben.
Sie können den Podcast dieser Woche über den Audio-Player auf dieser Seite anhören. Wenn Sie sich kostenlos abonnieren möchten, um jede Folge zu erhalten, so geht es:
Wenn Sie ein iPhone oder iPad haben, öffnen Sie die App namens Podcasts oder tippen Sie einfach auf diesen Link. Sie können auch eine App wie Overcast oder Pocket Casts herunterladen und nach „Uncanny Valley“ suchen. Auch bei Spotify sind wir vertreten.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Photo-Illustration: WIRED STAFF; House of Commons/Laurie Noble Comment Loader Save Story Save this story Comment Loader Save Story Save this story Few people understand the current deepfake epidemic better than Jess Asato. The British Labour MP has spent years campaigning against the use of technology to abuse women and girls. Then, after calling out Elon Musk during the notorious Grok Deepfake Scandal of 2025, Asato found herself caught in the very crisis she had been trying to prevent.
For Asato, this is personal, but it is hardly new territory. Before entering Parliament, she spent years working with charities supporting survivors of domestic abuse and vulnerable children. That experience has shaped her political career, informing her push for stronger protections for women and children online. Now, she is confronting more troubling questions: What happens when the technology enabling abuse becomes ubiquitous, the platforms hosting it refuse to intervene, and the people targeted are left to fight back on their own?
Also, before you read on, be aware that this interview includes references to sexual assault and child sex abuse.
This interview has been edited for length and clarity.
ROSIE SWASH: Jess, I just want to have a couple of warm-up questions before we get into it. Tell us a bit about your background, how did you end up becoming MP for Lowestoft?
JESS ASATO: Sure. So, I grew up in East Anglia in Norfolk and Suffolk, and in a not very political family. I got the politics bug in 1997 when Tony Blair was talking about education, education, education. Having experienced it, I felt that we could be doing a lot better in our education system. So I joined the Labour Party and got involved with my local groups.
Before Parliament, I worked for the largest children's charity in the UK for three years on their policy and public affairs, trying to change legislation on behalf of the most vulnerable children in the country. Six years prior to that I worked for a domestic abuse charity called SafeLives where we did huge amounts of work to try and improve the situation for survivors of domestic abuse, particularly through the Domestic Abuse Act.
Those twin issues of women and children have become my focus in Parliament, and I’ve been very clear that my reason for being here, my mission really, is to be a voice for women and children.
Well, that’s a good entry point for us to start talking about this year. So in early 2026, there was widespread reporting on Grok, xAI’s chatbot, being used to create sexualized images of children and women, and those images being circulated on X. How aware were you at this point of the phenomenon of deepfakes being used in this way?
Very aware, and actually had been working with survivors who had experienced deepfakes for quite a number of years. Ever since the advent of AI this has been happening to women, and there’s also been developing risks of children both being put into child sexual abuse material and also children using nudification tools on other children, thereby criminalizing themselves because these tools are so easy to access and often free.
So I was already very alive to the huge harms being created by AI deepfakes of both women and children before Grok ever happened. It was a known harm, which is why many of the tools from other companies had already taken steps to stop them from being used to create this kind of content.
There are a number of tools where, if you type in “nudify,” or “take the clothes off this person,” the tool will refuse to do that. So into that environment came Grok.
Was there a particularly egregious example or incident prior to Grok when you became aware of deepfakes that really stuck with you?
There is a brilliant campaigner who goes by the name of Jodie. I think it was probably listening to the experiences of Jodie, who was deepfaked, and it was such an affront to her that somebody would do this, and then she found out it was actually a friend. Such a betrayal of trust.
These things destroy not just the individual involved, but often families and everyone around them too.
For people who don’t know, who exactly was Jodie? Is this a constituent of yours or someone who came forward to you specifically?
No, no, no. She's a very well-known campaigner on this issue. That’s not her real name.
I know it sounds obvious, but what exactly is nudification?
It is where you ask an AI tool to take the image or video of a real person and use generative AI to make that person either nude, partially nude, or engaging in pornographic acts. This is something that, because of the photorealistic nature of AI images, it has become increasingly hard to see what is a fake image.
It can often look incredibly, incredibly real.
So what was it particularly about the Grok scandal earlier this year that made you want to raise this in the House of Commons?
It was the fact that we already knew that you could stop this from happening by designing the AI tool to reject the ability to do this.
This was completely avoidable. That’s why I spoke out, but also because I’d just spent a year and a half campaigning to get a ban on nudification apps, and here was an all-purpose AI tool becoming a nudification app.
It just felt to me as though we were making strides in the UK, and then the world’s richest man and his product decided to turn the clock back.
So what exactly did you stand up and say?
What I did was I talked about the need for the government to accelerate its ban on nudification apps, which it did. So the then secretary of state for science, innovation and technology, Liz Kendall, said that she was going to bring that ban into law through the Crime and Policing Act, which she did.
But I also said that it was very important that we went further than that, because, of course, Grok itself is not a sole-purpose nudification tool. It has a general use, and therefore we needed to bring all AI chatbots under the auspices of the Online Safety Act. That is also what eventually happened in the Crime and Policing Act, and we’re now waiting until that legislation comes into effect. There’s got to be a consultation, I understand, before it does.
So technically another Grok could happen in this period, but in the future there would be much stronger measures that we could take against tools like Grok creating nudification content.
So that’s a really positive outcome of your interjection in Parliament, but what else happened as a result of you standing up?
Well, one of the things that happened was that I posted on social media saying that Elon Musk should stop Grok from being able to do this.
And then, of course, I became a victim of the same trend. So Grok put this woman in a bikini. And most of the images were sort of pornified, I would say. They weren’t nude images, but they were me with inflated boobs in a bikini.
Then people tried to make it funny, I guess, by putting a swastika on me or hammer and sickles. Or making me pregnant with quintuplets and putting me in a kitchen. Because of course that’s the only use for women—birthing and making dinner. But the really disturbing one was a video of me being surrounded by a group of men, chloroformed over my mouth, and then I fall backwards onto a chair. Then my skirts are lifted up. So no nudity, but clearly the next frame is meant to be a sexual assault. So it was really distressing and disturbing.
That was the point at which a friend said, “You probably need to reach out to a lawyer.” Because each of these things we reported to X, and none of them contravened their terms and conditions. We just kept getting those sort of repeat emails coming back. “We’ve looked into this, and there’s nothing to see here.” So I did engage a lawyer, who sent a letter to X to ask for these to be removed, and they were.
But it was at that point that he said, “I think you might actually have a case. We think that xAI have broken the law.”
It’s impressive how you handled it, but it must have been really awful.
It was; it was awful. This is done to demean, to degrade, and to push women out of online spaces. From my perspective, I tend to use bad or difficult things that happen as a way of thinking about how we change this for the future.
My old boss was an amazing woman called Tessa Jowell. She used to say to me, “How do we change this negative energy into something positive?” “How do we work our way out of this into a place where we actually feel that we’ve learnt from it?”
So I guess she instilled in me that sense that when something bad happens you’ve got a choice. You can wallow in it, you can try and forget about it, or you can use it as a catalyst for change.
So I was quite trepidatious about the idea of taking on a legal action. Not least because of the person who is at the top of xAI, now SpaceXAI. [ Eds. note: The company recently rebranded itself as SpaceXSI. ] He’s the world’s richest man. But also because I didn’t want myself to necessarily be the story. Many, many women had things that were created of them through both Grok and other nudification tools that are much, much worse.
Having said that, I knew that if there was the opportunity to say that actually they’d broken the law, there was an important point of principle on behalf of all of the women and the children whose images were manipulated and misused by Grok, who would never, ever be able to bring a legal case. So I decided that I wanted to do this, because I wanted to be able to show that no one is bigger than the law.
Doesn’t matter how rich you are or how powerful you are or how big a reach you have in terms of your social media presence or who your friends might be at the top of various governments. If you break the law in our country, you need to feel the force of that. As an ex-lawyer and now as a legislator, it is important that we uphold our law where it has been broken.
And so my view is that we should be expecting companies to respect our law or at least make new laws to bring them more into line with what society really needs.
You said that you gave it some thought. In that moment of trying to decide how to respond, what are you weighing up? Who are you talking to? Are you going back and talking to your team or your family to work out how you should respond, knowing that it may invite further speculation and further attention?
My family mostly, my husband in particular. It’s one thing being a politician and arguing your case to change the law on behalf of women and children; it’s another having your own legal case.
So I was worried about the impact that that might have on my family, my children. I also know that this can bring danger to politicians. So I worried about the fact that I am obviously engaging and making the defendant somebody who has got this very wide reach on social media. However, I don’t like bullies. I very strongly believe that it’s important to fight on the field that you’ve got, and this was an opportunity I felt to make a difference.
So I weighed that up and thought that it was worth having that kind of attention and potential danger, because there is a bigger issue here that we need to get right.
When you say you don’t like bullies, are you talking about, let’s face it, men who used Grok in this way in the first place, or are you talking about Elon Musk?
I’m talking about the men who use this as a form of trying to push women out of the online space. Actually it was quite clear in quite a lot of the comments that they were saying, “Well, if you don’t like this, then get off the platform.”
Either that or, “If this is too hot for you, get out the kitchen,” which I always find quite funny because they put me in a kitchen. I think it’s really interesting when you look at X in terms of its demographics in the UK, it’s highly weighted toward men. I think some of that’s down to the fact that there is just so much misogyny and abuse on it. So I’m assuming, and correct me if I’m wrong, that the other side of the response to going public is that other women have come forward to you.
Absolutely. Actually, one of the heartening things has been people coming forward and saying, “Thank you, because this has now given me the license to actually accept that what happened to me wasn’t my fault. It’s not my shame.” So, in a way, what I’m hoping is that this has helped some victims to process what has happened to them and understand that this was not right.
I’ve also had emails from parents where they’ve said that this has happened to their daughter. It’s been done by boys at school. I’ve had teachers saying that boys have made pornographic AI imagery of them. And it’s something where we’ve just sort of let it happen and wash over us and accept that somehow this is now a part of the society we live in.
So yes quite a number of people have come forward. Obviously not all of their experiences have been through Grok, and I think one of the things is that often, when you see these films or images, you don’t know what platform they’ve been created on. I mean, the only reason why I knew it was Grok was because it was integrated with X, and you could see the commands that had been given by the users.
But much of the time, when this content is created, most victims don’t know by whom or on what platform. And so there’s really very little they can do about it. And I think it’s that sort of sense of helplessness that you have been violated, and that is the word that comes up so frequently from victims of this particular issue.
It can leave people with PTSD and quite deep trauma. And there have been a number of people I’ve met who have said that the world seems less safe to them because this has happened to them.
I think you’ve already touched on it, but what is the biggest myth around deepfakes that you would wish to dispel?
I think your brain can’t quite process it because your brain knows it’s not true, but it looks very true. And I think psychologically we still don’t really understand how this content is going to change the way we think about our world, how we know what is true and what isn’t true.
Could we create a greater right over our likeness online so that there’s a new social norm, which is that no, you can’t copy and paste that picture into an AI chatbot and do whatever you want with it. That’s not yours. It’s not your data. It’s their data, and you’re breaching the law if you do that.
I think if we were to do that, we could have a wide range of applications. It wouldn’t just be in this space of the sexualization of women and children. But also with political disinformation. We are so close to a moment where somebody produces a hyperrealistic video of a politician saying something that they didn’t, and then that leads to real-world harm. And so we’ve got to find a new social norm that says unless for public figures it’s parody or satire—and absolutely you’ve got to protect that—but in all other instances your picture, your voice, and your moving image is your personal data, and it’s not for anyone else to use.
So that’s interesting because you’re touching on new social norms and the possibility of new laws to keep up with this technology. But your lawsuit is specifically under a data law. Talk to me about that versus a law around consensual imagery or deepfakes specifically.
Let’s remember, this is actually a product that has been designed by software engineers and developers, and that actually products should not lead to an invasion of privacy and the harm that I then experienced as a result of that, including distress and a sense that I was being harassed by this particular creation of this particular video.
So, it rests on good solid legal grounds, and we await the defense from SpaceX AI.
I don’t know how much you can say, legally, but what part of the process are you in? What happens next? What’s the timeline for a resolution to this case?
So like with a lot of legal cases, it’s very, very hard to pin down a timeline. But my understanding is that we should be receiving the response and the defense from SpaceXAI in the near future. But we don’t have a deadline or a particular time that I can put on it.
After that, my understanding is that the case will then be looked at, and if there is a case to answer, then it will go to a court hearing. But once again, no idea when that might be. And I think there’s lots of legal things that I don’t understand that need to be worked out in the meantime as well between my lawyers and their lawyers.
Have you ever had any acknowledgment on X itself from Elon Musk or anyone at xAI about this case? Has he ever spoken publicly about it?
I don’t think so. They clearly want to challenge this case, and so the best place to do that, I think, is in the courts and to leave it to see whether the merits of the case come through.
You were in New York recently to address the city council about your case. You didn’t get to speak to anyone directly at the company, is that right?
No. I mean, despite being subpoenaed, they didn’t turn up. Four of the other frontier AI companies did attend under subpoena. SpaceXAI didn’t, but they eventually did get their hearing with SpaceX in the city council. So, they have now had their opportunity to put questions and indeed did raise my case with them, I understand.
Was it a little enraging to attend a hearing like that where a company that you’re suing doesn't bother turning up?
I think it’s quite rude to the elected members of the New York City Council when you are a business that operates in New York. Indeed, I was told that they were just a few subway stops from City Hall. So I had traveled quite a long way from England to be there. And they couldn’t be bothered to turn up, which yeah, it felt arrogant and a bit of a snub, but they’ve now got there, so that’s a good thing.
Since you made the decision to take this to the courts, there have been a number of proposals in Parliament, notably there was a proposal for a kill switch bill at one point. Now I believe it’s dead or it’s not going very well. Is that right?
So, yes, there have been proposals put forward for a kill switch. And my understanding is the government rejected that. There continues to be strong calls for regulation of particularly superintelligent AI. We’ve heard various theories, whether it’s 2 percent, 10 percent, 20 percent risk of human extinction from this sort of race to superintelligence, a recursive AI, and we wouldn’t allow those margins of risk in any other sphere.
We would not allow it in bridge building or airplane making. They didn’t even allow it when they were testing the nuclear bomb and the Trinity test. It feels to me as though so much of this decision-taking is outside of democratic structures. It’s not with the public. It is being done by some incredibly, exceptionally wealthy companies and organizations who say they have the interests of the planet at heart.
But each time, actually, they’re asked about whether that is the future of humanity or whether they think that these risks could kill humanity, there’s a sort of shrugging of the shoulders and, “We’ll just keep going because we want to make money,” I guess.
It has been reported in the British press that there are members of Parliament, some of whom are working on committees to do with technology, who still don’t really understand what AI is. And clearly you’re not one of them because you’re aware of the dangers of this issue. But do you feel working across parties that you’re still having to explain technology and its dangers and possibilities to people who are making laws, or should be making laws, to protect the public from AI?
Well, look, I don’t think that’s only the case about AI. We are humans after all, and we have to deal with every single subject that exists under the sun. We have to get our heads around things that we’ve never heard of before.
That’s true. But you have to then make laws and decisions. So, I don’t want to be unfair to my colleagues.
You may be a specialist in housing policy and you then need to get your head around AI. But I would say that this is the most important issue in front of anybody in parliament or politics at the moment, and therefore, everyone needs to get their head around AI.
My background is in social policy for women and children. But because we did quite a lot of work on the Online Safety Act when I was working for a children’s charity, we campaigned to get the age verification ban for children in pornography into the OSA. And indeed, created quite a strong piece of legislation in respect of that.
We had to get our heads around online safety on the online space. The problem was, of course, that act didn’t include AI chatbots. There were a number of amendments that tried to get it in and we would’ve been in a much better place had we actually succeeded.
But you know, I’m still not a tech expert even though I had quite a while to try to understand these things. But my view is that this is definitely the new front line of where harms are occurring. We can see that hugely in the increase in AI-generated child sexual abuse material, which is absolutely exploding.
In the end it comes down to the people who create the products. And that’s why we should be seeing digital product regulation in the same way as we would any other product regulation.
I’m very, very hopeful that the government is going to look at it really, really closely because there are always design choices that you can make and that can help to prevent these harms, these harms that are completely knowable. We can predict these harms, and so it should be easy to design them out from the start.
Companies can put in more safeguards. Why don’t they?
Profit. But also, let’s be honest, these are global tools and companies. So unless you have international agreement it is a bit like playing whack-a-mole, isn’t it?
The person who made that horrible video of me being chloroformed lives in the US, so the police aren’t gonna follow it up because they’re out of the country.
I don’t know who they are, but the police did find who they were because it’s a criminal offense what they did. They just weren’t able to bring the charge.
We’ve spoken in the last 40 minutes about the full spectrum of human awfulness. I don’t think there’s any area of it that we haven’t …
I’m really struck by how cheerful you are despite this. How do you remain so upbeat and hopeful while dealing with all of this?
Because you’ve always got to have hope for the future. I do have a really strong conviction that with the right group of people pushing toward a goal, you can achieve that. You don’t have to accept that things will always be like this. When people come together, when communities come together, you can act for change.
We’re just about to introduce our ban on strangulation in pornography, which is another thing that I’ve been campaigning for and introduced an amendment last year, which the government accepted.
There are always things that we can do to change. You just need to keep going. And also I would say that when you work with these terribly dark areas, yes, it can be quite vicariously traumatizing. But actually the people who work within the sectors are some of the most hopeful people, partly because if you lose hope, then it’s really bad. And we can’t because we’re talking about protecting vulnerable children, and we are fighting for women and our rights to be free of this harm.
You can always listen to this week's podcast through the audio player on this page, but if you want to subscribe for free to get every episode, here's how:
If you're on an iPhone or iPad, open the app called Podcasts, or just tap this link. You can also download an app like Overcast or Pocket Casts and search for “Uncanny Valley.” We’re on Spotify too.