Entlassene OpenAI-Forscher sprechen von Rache wegen Sicherheitsarbeit
Die drei Forscher sagen, sie seien entlassen worden, weil sie der Sicherheit Prioritaet eingeraeumt haetten. OpenAI weist die Vorwuerfe zurueck und behauptet, es sei um den unsachgemaessen Umgang mit sensiblen Informationen gegangen.
Von Laura Cress, Technologie-Reporterin, vor 5 Minuten veroeffentlicht. Drei ehemalige OpenAI-Forscher, denen vorgeworfen wurde, Informationen unsachgemaess behandelt zu haben und deshalb entlassen worden zu sein, erklaeren, sie seien stattdessen entlassen worden, weil sie Sicherheitsbedenken bei dem Technologieunternehmen geaussert hatten.
"Ich glaube, wir wurden entlassen, weil wir die Sicherheit ueber die kurzfristigen Interessen von OpenAI als Unternehmen stellten", schrieb Mikita Balesni auf X in Begleitung eines offenen Briefs an das Unternehmen hinter ChatGPT, den er gemeinsam mit weiteren ehemaligen Mitarbeitern verfasst hatte.
Am 2. Oktober teilte eine Sprecherin des KI-Unternehmens der BBC mit, die Untersuchung habe "bestaetigt, dass diese Personen vertrauliche Informationen ausserhalb der etablierten Unternehmensverfahren unsachgemaess behandelt haben".
OpenAI wiederholte diese Behauptungen am Freitagmorgen in einer Mitteilung der Forschungsleitung.
"Wir moechten uns deutlich veraussern, dass diese Entscheidungen nichts mit dem Aussprechen von Sicherheitsbedenken oder dem Oeffentlichen Machen von Beschwerden zu tun hatten", hiess es in der Mitteilung.
"Unsere interne Untersuchung deckte eine erhebliche Verletzung des Vertrauens auf, die ueber das hinausgeht, was in dem von ihnen veroeffentlichten Brief dargelegt ist, und wir stehen zu der Entscheidung, ihr Arbeitsverhaeltnis nicht fortzusetzen."
Die Entlassungen fallen in eine Zeit wachsender Debatten ueber KI-Sicherheit und die potenziellen Risiken, die fortschrittliche KI-Systeme fuer die Gesellschaft bergen koennten.
Der gemeinsame Brief an die OpenAI-Fuehrung wurde von Balesni, Tomek Korbak und Jasmine Wang verfasst, die angeben, bis vor Kurzem alle im Bereich Sicherheit oder Alignment bei dem Unternehmen gearbeitet zu haben.
Alignment bezeichnet die Praxis, menschliche ethische Vorstellungen und Prinzipien in die Technologie einzubauen. Ziel ist es also, sie auf Kurs zu halten mit dem, was Menschen als wertvoll erachten.
Die ehemaligen Mitarbeitenden aeusserten die Sorge, dass ihre Entlassungen Angestellte des Technologieunternehmens dazu veranlasst habe, "Angst zu haben zu sprechen und so zu arbeiten, wie es bis letzte Woche ein integraler Bestandteil der Arbeit bei OpenAI war".
Beim erneuten Teilen des Briefes schrieb Korbak: "Monatelang habe ich Sicherheitsbedenken geaussert, dass wir die Faehigkeit verlieren zu ueberwachen, was KI-Agenten denken, eines unserer besten Instrumente, um festzustellen, wenn sie sich falsch verhalten.".
OpenAI erklaerte, es finalisiere Vertraege mit unabhaengigen Sicherheitspruefern und werde in den kommenden Wochen Details bekannt geben.
"Wir waren nicht die ersten, die unter suspekten Umstaenden aus OpenAI gedraengt wurden", erklaerte Wang in einem Beitrag auf X.
"Wenn die Mitarbeitenden sich jetzt nicht gegen diese Art von Manoever zur Wehr setzen, fuerchte ich, werden wir nicht die letzten sein.".
Melden Sie sich fuer unseren Newsletter Tech Decoded an, um die wichtigsten Technologiegeschichten und Trends der Welt zu verfolgen. Ausserhalb Grossbritanniens? Hier anmelden.
OpenAI sagt, die Nutzung von ChatGPT durch Jugendliche sei begrenzt, doch eine Untersuchung stuft sie als "unvertretbares Risiko" ein.
Warum gibt es Bedenken, dass KI die Menschheit bedrohen koennte, und wie real sind sie?
KI-Mitarbeiter sind "echt besorgt" um die Zukunft der Menschheit, erklaerte eine ehemalige Anthropic-Forscherin der BBC.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
By Laura Cress Technology reporter Published 5 minutes ago Three former OpenAI researchers sacked for allegedly mishandling information claim they were instead let go because they raised safety concerns at the tech firm.
"I believe we were fired for prioritising safety over the near-term interests of OpenAI as a corporation," Mikita Balesni posted on X, external alongside an open letter to the ChatGPT-maker, written with fellow ex-employees.
On 2 October, a spokesperson for the AI firm told the BBC its investigation "confirmed that these individuals mishandled sensitive information outside established company procedures".
OpenAI repeated these claims, external on Friday morning in a note from research leaders.
"We want to be very clear that these decisions were not about raising safety concerns or speaking out," the note said.
"Our internal investigation uncovered a significant breach of trust beyond what's outlined in the letter they published and we stand by the decision to not continue their employment."
The dismissals come amid a growing debate over AI safety and the potential risks advanced AI systems could pose to society.
The joint letter to OpenAI leadership was written by Balesni, Tomek Korbak and Jasmine Wang, who say they were all, until recently, safety or alignment employees at the company.
Alignment is the practice of building human ethical ideas and principles into the technology. In other words, it aims to keep it on track with what humans value.
The former staff members raised concerns that their firings had made employees at the tech company "afraid to speak and operate in ways that, until last week, were an integral part of working at OpenAI".
Reposting the letter, Korbak wrote, external: "For months, I'd been raising safety concerns that we're losing the ability to monitor what AI agents think, one of our best tools for catching when they misbehave.
OpenAI said it was finalising contracts with third-party safety assessors and would announce details in the coming weeks.
"We were not the first to be pushed out of OpenAI under suspicious circumstances," Wang said in a post on X, external.
"Unless the employees take a stand now against this kind of manoeuvre, I am concerned we will not be the last."
Sign up for our Tech Decoded newsletter to follow the world's top tech stories and trends. Outside the UK? Sign up here.
OpenAI says teen ChatGPT use limited but research finds it an 'unacceptable risk'
Why are there concerns AI could threaten humanity, and how real are they?
AI staff 'genuinely frightened' for humanity's future, ex-Anthropic researcher tells BBC