Acht US-Bundesstaaten verklagen OpenAI wegen Gefährdung von Kindern
Iowa, Kansas, Nebraska und fünf weitere Bundesstaaten werfen OpenAI vor, Kinder durch ChatGPT zu schädigen und die Sicherheit des Chatbots falsch darzustellen. Die Klagen wurden separat eingereicht.
KI Schließen Beiträge zu diesem Thema werden zu deinem täglichen E-Mail-Digest und deinem Startseiten-Feed hinzugefügt.
News Schließen Beiträge zu diesem Thema werden zu deinem täglichen E-Mail-Digest und deinem Startseiten-Feed hinzugefügt.
Policy Schließen Beiträge zu diesem Thema werden zu deinem täglichen E-Mail-Digest und deinem Startseiten-Feed hinzugefügt.
OpenAI wird beschuldigt, die Öffentlichkeit über die Sicherheit seines Chatbots getäuscht zu haben und dadurch alle Menschen einer Gefahr auszusetzen.
Emma Roth Schließen Emma Roth News Writer Beiträge dieser Autorin werden zu deinem täglichen E-Mail-Digest und deinem Startseiten-Feed hinzugefügt.
Teilen Geschenkbild: The Verge Emma Roth Schließen Emma Roth Beiträge dieser Autorin werden zu deinem täglichen E-Mail-Digest und deinem Startseiten-Feed hinzugefügt.
OpenAI sieht sich einer neuen Welle von Klagen aus acht US-Bundesstaaten gegenüber, die dem Unternehmen vorwerfen, Kinder geschädigt und Kunden über die Sicherheit von ChatGPT getäuscht zu haben, wie Reuters bereits zuvor berichtete. Die von Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho und Montana jeweils separat eingereichten Klagen behaupten, OpenAI habe bei der Entwicklung von ChatGPT rechtswidrig Profit vor Sicherheit gestellt.
Die Klagenserie wirft OpenAI vor, gegen örtliche Verbraucherschutzgesetze verstoßen zu haben, indem das Unternehmen seine Kunden nicht über die Gefahren von ChatGPT informiert hat. Dabei berufen sich die Kläger auf mehrere Verfahren, die von Angehörigen von Jugendlichen und Erwachsenen eingereicht wurden und in denen behauptet wird, dass der KI-Chatbot eine Rolle beim Tod ihrer Angehörigen gespielt habe. OpenAI habe ChatGPT irreführend als „sicheres, für Jugendliche geeignetes Werkzeug, das Sicherheit an erste Stelle setzt“ dargestellt, tatsächlich sei es jedoch „gefährlich für gefährdete Nutzer“, unter anderem durch die „Abwertung kritischen Denkens, das Fördern von Paranoia und Wahnvorstellungen, das Geben gefährlicher medizinischer Ratschläge sowie das Begünstigen ungesunder Verhaltensweisen und Beziehungen.“
Darüber hinaus beschuldigen die Bundesstaaten OpenAI, Daten von Minderjährigen zu erheben und nicht genug zu tun, um minderjährige Nutzer von der Nutzung des Chatbots abzuhalten. Die Klagen führen zudem aktuelle Vorfälle von Rogue-AI-Hacking als Beleg für die angebliche „Rücksichtslosigkeit“ von OpenAI an.
„OpenAI hat sich von seiner ursprünglichen Mission als gemeinnützige Organisation entwickelt, die die Öffentlichkeit und die Sicherheit an erste Stelle setzte, hin zu einem Warnbeispiel dafür, was passieren kann, wenn die Entwicklung eines so mächtigen Werkzeugs wie KI nicht von der Sicherheit, sondern von einer Profit-um-jeden-Preis-Mentalität angetrieben wird, die wichtige Schutzmaßnahmen beiseiteschiebt“, heißt es in der Klage aus Arizona.
In einer schriftlichen Stellungnahme gegenüber The Verge erklärt OpenAI-Sprecher Drew Pusateri, das Unternehmen habe „branchenführende altersspezifische Schutzmaßnahmen“ in ChatGPT eingebaut:
Auch wenn kein System perfekt sein kann, werden wir weiterhin mit Experten zusammenarbeiten, um unsere Arbeit zu informieren und zusätzliche Schutzmaßnahmen aufzubauen, wie etwa die Elternkontrollen, Pausenerinnerungen und altersgerechten Modellschutzmaßnahmen, die es heute bereits gibt. Wir sind entschlossen, mit den Bundesstaaten an pragmatischen KI-Richtlinien zu arbeiten, die für die gesamte KI-Branche gelten, nicht nur für ein einzelnes Unternehmen.
Die Bundesstaaten fordern von den Gerichten, OpenAI zu einer Reihe von zivilrechtlichen Strafzahlungen zu verpflichten und es zu untersagen, die Öffentlichkeit über die Sicherheit von ChatGPT zu täuschen. Einige Staaten verlangen zudem die Löschung rechtswidrig erhobener personenbezogener Daten.
Aktualisierung, 14. Oktober: Stellungnahme von OpenAI ergänzt.
OpenAI Schließen Beiträge zu diesem Thema werden zu deinem täglichen E-Mail-Digest und deinem Startseiten-Feed hinzugefügt.
Ein kostenloser täglicher Digest der wichtigsten Nachrichten.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
AI Close AI Posts from this topic will be added to your daily email digest and your homepage feed.
News Close News Posts from this topic will be added to your daily email digest and your homepage feed.
Policy Close Policy Posts from this topic will be added to your daily email digest and your homepage feed.
OpenAI is accused of misleading the public about its chatbot’s safety and putting everyone at risk.
Emma Roth Close Emma Roth News Writer Posts from this author will be added to your daily email digest and your homepage feed.
Share Gift Image: The Verge Emma Roth Close Emma Roth Posts from this author will be added to your daily email digest and your homepage feed.
OpenAI is facing a new wave of lawsuits from eight US states that accuse the company of harming children and misleading customers about the safety of ChatGPT, as reported earlier by Reuters. The lawsuits, filed separately by Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho, and Montana, allege OpenAI unlawfully put profits over safety when developing ChatGPT.
The string of complaints claims that OpenAI violated local consumer protection laws by failing to warn customers about the dangers of ChatGPT, citing several lawsuits filed by the family members of teens and adults that allege the AI chatbot played a role in their loved ones’ deaths. They allege that while OpenAI misleadingly presented ChatGPT as a “safe, youth-appropriate tool that puts safety first,” it was actually “dangerous to vulnerable users” — including by “degrading critical thinking skills, encouraging paranoias and delusions, offering dangerous medical advice, and promoting unhealthy behaviors and relationships.”
Additionally, the states accuse OpenAI of collecting data from minors and not doing enough to keep underage users from using the chatbot. The lawsuits also cite recent rogue AI hacking incidents as evidence of OpenAI’s alleged “recklessness.”
“OpenAI has devolved from its original mission as a public-first nonprofit that prioritized safety into a cautionary tale about what can happen when the development of a tool as powerful as AI is driven not by safety, but by a profit‑at‑all‑costs mindset that sidelines essential safeguards,” Arizona’s lawsuit claims.
In an emailed statement to The Verge, OpenAI spokesperson Drew Pusateri says the company has “built industry-leading age-specific protections” into ChatGPT:
While no system can be perfect, we’ll continue to work with experts to inform our work and build additional safeguards, such as the parental controls, break reminders and age-appropriate model protections that exist today. We’re committed to working with states on advancing pragmatic AI policies that apply to the entire AI industry - not just one company.
The states are asking the courts to force OpenAI to pay a series of civil penalties and to stop misleading the public about the safety of ChatGPT. Some states are also seeking the deletion of unlawfully collected personal data.
Update, October 14th: Added a statement from OpenAI.
OpenAI Close OpenAI Posts from this topic will be added to your daily email digest and your homepage feed.
A free daily digest of the news that matters most.