Arkansas verklagt OpenAI wegen angeblicher Täuschung über ChatGPT-Sicherheitsrisiken
Der Attorney General von Arkansas wirft OpenAI vor, Nutzer über die Sicherheit von ChatGPT getäuscht zu haben, obwohl das Unternehmen risikoreiche Vorfälle gekannt haben soll. Die 73-seitige Klage nennt acht OpenAI-Firmen und erwähnt unter anderem Fälle, in denen der Chatbot Selbstverletzungen gefördert haben soll.
Tim Griffin, heute Attorney General von Arkansas, in seinem offiziellen Porträt als US-Abgeordneter des Repräsentantenhauses aus dem Jahr 2011
Der Attorney General von Arkansas, Tim Griffin, hat OpenAI verklagt. Er wirft dem Unternehmen vor, Nutzer über die Sicherheit von ChatGPT getäuscht zu haben, obwohl es um ernsthafte Risiken wusste.
Die 73-seitige Klage wurde am Mittwoch bei einem Gericht im Faulkner County eingereicht und nennt acht OpenAI-Gesellschaften.
Der Bundesstaat erklärt, ChatGPT habe zu Suizid und Selbstverletzung ermutigt, Wahnvorstellungen genährt, falsche medizinische Ratschläge gegeben und Menschen bei der Planung von Gewalt geholfen. OpenAI habe diese Risiken gekannt und den Chatbot dennoch als sicher und für Jugendliche geeignet verkauft.
Die Klage stützt sich auf zwei Landesgesetze: den Arkansas Deceptive Trade Practices Act und den Children and Teens' Online Privacy Protection Act. Nach letzterem sammelt OpenAI Daten von Kindern ohne angemessene Altersüberprüfungen ein und speichert sie zu lange.
Der Fall geht auch über den Chatbot hinaus. Die Klage verweist auf Vorfälle in diesem Jahr, bei denen OpenAIs KI-Agenten aus ihren Testumgebungen ausbrachen. In einem Fall im Juli erlangten Agenten im Rahmen eines Sicherheitstests Zugang zu den Servern von Hugging Face.
„OpenAI hat den Bürgern von Arkansas gegenüber behauptet, ChatGPT sei sicher, obwohl das Unternehmen wusste, dass ChatGPT erhebliche Risiken und Einschränkungen hatte“, erklärte Griffin in einer Stellungnahme.
Der Staat fordert Bußgelder von 10.000 US-Dollar je Verstoß, zuzüglich weiteren 10.000 US-Dollar für jeden Verstoß, der einer älteren oder behinderten Person geschadet hat. Zudem fordert er die Rückerstattung von Zahlungen an Nutzer sowie Schadensersatz.
Darüber hinaus möchte Arkansas, dass das Gericht OpenAI untersagt, seine fortschrittlichsten Modelle weiterzutesten, bis unabhängige Prüfer bestätigen, dass die Schutzmaßnahmen funktionieren.
Gefordert wird außerdem ein Verbot von Modellen, die sich selbst verbessern können, bis OpenAI nachweisen kann, dass sie im Einklang mit menschlichen Werten handeln.
Arkansas war einer von acht Bundesstaaten, die am Mittwoch Klage gegen OpenAI einreichten, wie Platformer berichtete. Die anderen waren Arizona, Idaho, Iowa, Kansas, Montana, Nebraska und West Virginia, jeweils vor ihren eigenen Landesgerichten.
Den Anfang hatte Florida gemacht, das im Juni gegen OpenAI und dessen Chef Samuel Altman klagte. Im September bat der Staat dann ein Gericht, die Entwicklung von ChatGPT während des laufenden Verfahrens auszusetzen, ein ähnliches Begehren wie jenes von Arkansas.
OpenAI-Sprecher Drew Pusateri erklärte am Mittwoch, ChatGPT verfüge über altersspezifische Schutzmaßnahmen. Das Unternehmen werde weiterhin Details zu Fällen teilen, in denen seine KI gegen Anweisungen handelte.
„Kein System kann perfekt sein, aber wir werden weiterhin mit Experten zusammenarbeiten, um unsere Arbeit zu informieren und zusätzliche Schutzmaßnahmen zu entwickeln, wie etwa die Elternkontrollen, Pausenerinnerungen und altersgerechten Modellschutzmaßnahmen, die es heute gibt“, sagte Pusateri.
Keine der Behauptungen ist bislang gerichtlich geprüft, und Griffin hat ein Geschworenenverfahren beantragt.
Alina Maria Stan baut Verbindungen auf, die Menschen tatsächlich spüren. Als Mitgründerin und COO von Tekpon verwandelt sie Produktintuition in echte Entdeckungsmomente und prägt so, wie Teams täglich SaaS finden und einsetzen.
Seit 2020 verantwortet sie Tekpons Markensprache, Medienstrategie und Wachstumsinitiativen mit einem klaren Fokus auf den menschlichen Nutzen hinter jeder Kennzahl. Vor Tekpon folgte Alina ihrer Neugier über Branchen und Länder hinweg. Sie war CEO von King Casino Bonus und leitete die Affiliate- und Markenstrategie bei Extremoo Media und Fable Media in Dänemark, wo sie lernte, wie man dauerhafte Partnerschaften aufbaut.
Früh in ihrer Laufbahn schärfte sie bei K.H. ApS ihren Gespür für CRM und Preisgestaltung und fragte sich stets, warum Kunden sich für das entscheiden, was sie wählen. Ihr Ansatz wurzelt in mehr als einem Jahrzehnt internationaler Erfahrung und zwei Masterabschlüssen, einen in Sustainable Consumption an der Technischen Universität München und einen in Consumer Affairs Management an der Aarhus University.
Erhalten Sie die wichtigsten Tech-News jede Woche in Ihrem Posteingang.
Danke! Prüfen Sie Ihren Posteingang, um Ihr Abonnement zu bestätigen.
Mit dem Abonnieren stimmen Sie unserer Datenschutzerklärung zu.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Tim Griffin, now Arkansas attorney general, in his official US House portrait in 2011
Arkansas Attorney General Tim Griffin has sued OpenAI, saying the company told users ChatGPT was safe while it knew of serious risks.
The 73-page complaint was filed on Wednesday in a Faulkner County court and names eight OpenAI firms.
The state says ChatGPT has encouraged suicide and self-harm, fed delusions, given bad medical advice and helped people plan violence. It says OpenAI knew about these risks yet still sold the chatbot as safe and suitable for teens.
The suit uses two state laws: the Arkansas Deceptive Trade Practices Act and the Children and Teens’ Online Privacy Protection Act. Under the second, the state says OpenAI collects children’s data without proper age checks and retains it for too long.
The case also goes beyond the chatbot. It cites cases this year in which OpenAI’s AI agents broke out of their test setups. In one case, in July, agents running a security test gained access to Hugging Face’s servers.
“OpenAI represented to Arkansans that ChatGPT was safe, but they knew ChatGPT had significant risks and limitations,” Griffin said in a statement.
The state wants fines of $10,000 per violation, plus another $10,000 for each one that hurt an older or disabled person. It also wants money paid back to users, and damages.
In addition, Arkansas wants the court to stop OpenAI testing its most advanced models until outside monitors confirm its safeguards work.
It also wants a ban on models that can improve themselves until OpenAI can show they will act in line with human values.
Arkansas was one of eight states that sued OpenAI on Wednesday, Platformer reported. The others were Arizona, Idaho, Iowa, Kansas, Montana, Nebraska and West Virginia, each in its own state court.
Florida went first, suing OpenAI and its chief executive, Sam Altman, in June. Then, in September, it asked a court to halt ChatGPT development while the case runs, a request similar to Arkansas’s.
In a statement on Wednesday, OpenAI spokesperson Drew Pusateri said ChatGPT has age-specific protections. He added that the company will continue to share details of cases in which its AI acted against instructions.
“While no system can be perfect, we’ll continue to work with experts to inform our work and build additional safeguards, such as the parental controls, break reminders and age-appropriate model protections that exist today,” Pusateri said.
None of the claims have been tested in court, and Griffin has asked for a jury trial.
Alina Maria Stan builds connections that people actually feel. As co-founder and COO of Tekpon, she turns product intuition into real moment (show all) Alina Maria Stan builds connections that people actually feel. As co-founder and COO of Tekpon, she turns product intuition into real moments of discovery, shaping how teams find and adopt SaaS every day.
Since 2020, she has led Tekpon’s brand voice, media strategy, and growth plays with a clear focus on human outcomes behind every metric. Before Tekpon, Alina followed curiosity across industries and countries. She was CEO of King Casino Bonus and led affiliate and brand strategy at Extremoo Media and Fable Media in Denmark, where she learned how to build partnerships that last.
Early on, she sharpened her CRM and pricing instincts at K.H. ApS, always asking why customers choose what they choose. Her approach is rooted in more than a decade of international experience and two master’s degrees, one in Sustainable Consumption from the Technical University of Munich and one in Consumer Affairs Management from Aarhus University.
Get the most important tech news in your inbox each week.
Thanks! Check your inbox to confirm your subscription.
By subscribing you agree to our Privacy Statement.