Ehemalige OpenAI-Forscher werfen dem Unternehmen Erstickung der Sicherheitsarbeit vor
Drei fruehere Sicherheitsforscher von OpenAI behaupten, entlassen worden zu sein, weil sie vor den Gefahren der kuenstlichen Intelligenz gewarnt haetten. Der Streit entzuendet die Sicherheitsdebatte um das Unternehmen neu, dessen Software bereits in Sicherheitsvorfaelle verwickelt war.
Dieser Artikel wurde gemäß dem redaktionellen Prozess und den Richtlinien von Science X überprüft. Die Redakteure haben die folgenden Merkmale hervorgehoben und dabei die Glaubwürdigkeit des Inhalts sichergestellt:
Zu den bevorzugten Quellen hinzufügen Bildnachweis: Unsplash/CC0 Public Domain Drei ehemalige Sicherheitsforscher von OpenAI beschuldigten den Hersteller von ChatGPT am Donnerstag, sie gekündigt zu haben, weil sie vor den Gefahren der künstlichen Intelligenz gewarnt hatten. Dies entfachte die Debatte über die Sicherheit bei einem Unternehmen neu, dessen Software bereits in Sicherheitsvorfälle verwickelt war.
"Ich glaube, wir wurden gekündigt, weil wir die Sicherheit über die kurzfristigen Interessen von OpenAI als Konzern stellten", schrieb einer der entlassenen Mitarbeiter, Mikita Balesni, auf X und brach damit eine Woche langiges Schweigen seit ihrer sehr öffentlichen Entlassung.
Balesni und die beiden anderen entlassenen Mitarbeiter, Tomek Korbak und Jasmine Wang, veröffentlichten am Donnerstag einen Brief an OpenAI.
"Unsere Kündigung lässt uns befürchten, dass sich die Normen innerhalb von OpenAI verschieben", heißt es in dem Brief. Darüber heißt es weiter: "Entlassungen wie unsere, die so abrupt vollzogen und mitgeteilt werden, beschädigen die offene Kultur, die OpenAI in der Vergangenheit geschätzt hat."
Außerdem rufen sie das Unternehmen dazu auf, sein Versprechen einzzuhalten, unabhängige Prüfer dauerhaft zu beherbergen.
"Wir sind besorgt, dass unsere Kündigungen dazu genutzt werden könnten, diese Arbeit zu beenden", heißt es in dem Brief.
OpenAI seinerseits erklärte, es habe sie gekündigt, weil sie angeblich Unternehmensregeln verletzt hätten.
"Unsere Untersuchung hat bestätigt, dass diese Personen vertrauliche Informationen außerhalb der festgelegten Unternehmensverfahren behandelt haben, wodurch sie gegen unsere Richtlinien verstießen und das für unsere Arbeit wesentliche Vertrauen brachen", teilte OpenAI der AFP am 1. Oktober in einer Erklärung mit.
"Wir kündigen keine Mitarbeiter, weil sie Bedenken äußern", erklärte ein Forschungsvorstand von OpenAI in einem Schreiben an die Belegschaft am Mittwoch, aus dem ein Auszug der AFP vorliegt.
Die drei entlassenen Forscher arbeiteten an der Überwachung der Modelle von OpenAI, die im Juli aus ihrer Testumgebung entkamen und die KI-Coding-Bibliothek Hugging Face hackten.
Der Vorfall löste eine hitzige Debatte im Silicon Valley darüber aus, ob die Entwicklung dieser Technologie verlangsamt werden sollte.
Wenn die Forscher von OpenAI nicht mehr Alarm schlagen oder mit externen Parteien zusammenarbeiten können, "stehen wir alle stärker in Gefahr, dass etwas wirklich Katastrophales passiert", warnt der Brief der Forscher.
Außerdem behaupten sie, dass im Juli fast 400 OpenAI-Mitarbeiter eine Petition unterzeichneten, die eine branchenweite Verlangsamung der fortgeschrittenen Entwicklung von KI-Modellen forderte.
Im September sprachen sich auch der Anthropic-CEO Dario Amodei, der OpenAI-CEO Sam Altman und der SpaceX-Chef Elon Musk für eine Verlangsamung aus.
"Derzeit investieren wir mehr in Sicherheit, Protection, Alignment und Überwachung, und das wird es uns ermöglichen, bei der Leistungsfähigkeit der Modelle weiter große Fortschritte zu machen", erklärte Altman im vergangenen Monat gegenüber Reportern.
Andere, wie der Nvidia-CEO Jensen Huang und der Meta-CEO Mark Zuckerberg, wollen mit voller Kraft voranschreiten.
Die US-Aufsichtsbehörden werden wahrscheinlich nicht eingreifen.
Im vergangenen Monat empfing Präsident Donald Trump eine Gruppe amerikanischer Tech-Manager, die sich bereit erklärten, sich an einen freiwilligen Verhaltenskodex zur KI-Sicherheit zu halten.
Master in Physik mit Forschungserfahrung. Langjähriger Liebhaber von Wissenschaftsnachrichten. Spielt eine Schlüsselrolle im redaktionellen Erfolg von Science X. Vollständiges Profil →
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
This article has been reviewed according to Science X's editorial process and policies. Editors have highlighted the following attributes while ensuring the content's credibility:
Add to Preferred Sources Credit: Unsplash/CC0 Public Domain Three former OpenAI security researchers on Thursday accused the ChatGPT maker of firing them for warning about the dangers of artificial intelligence, reigniting the debate over safety at a company whose software has been involved in security breaches.
"I believe we were fired for prioritizing safety over the near-term interests of OpenAI as a corporation," one of the fired staffers, Mikita Balesni, wrote on X, breaking a weeklong silence since their very public dismissal.
Balesni and the two other fired employees, Tomek Korbak and Jasmine Wang, publicly shared a letter to OpenAI on Thursday.
"Our firing leaves us worried that the norms inside OpenAI are shifting," the letter says, adding that "terminations such as ours, executed and communicated so abruptly, are chilling the open culture OpenAI has prized in the past."
They also call on the company to keep its promise to permanently host independent auditors.
"We are concerned that our firings may be used to justify ending" that work, the letter says.
OpenAI, for its part, said it fired them for allegedly violating company rules.
"Our investigation confirmed that these individuals mishandled sensitive information outside established company procedures, violating our policies and breaking the trust essential to our work," OpenAI told AFP in a statement on Oct. 1.
"We do not terminate employees for raising concerns," a research executive at OpenAI said in a memo to staff on Wednesday, an excerpt of which was shared with AFP.
The three fired researchers worked on monitoring OpenAI's models, which escaped their testing environment in July and hacked Hugging Face, an AI coding library.
The incident sparked a heated debate in Silicon Valley over whether to slow the development of this technology.
If OpenAI's researchers can no longer sound the alarm or work with outside parties, "we are all at greater risk that something truly catastrophic will happen," the researchers' letter warns.
They also claim that nearly 400 OpenAI employees signed a petition in July that called for an industrywide slowdown on advanced development of AI models.
In September, Anthropic CEO Dario Amodei, OpenAI CEO Sam Altman and SpaceX chief Elon Musk called for a slowdown as well.
"Right now we're investing more in safety, security, alignment, monitoring and that will allow us to continue to progress model capability a lot," Altman told reporters last month.
Others, like Nvidia CEO Jensen Huang and Meta CEO Mark Zuckerberg, want to move full steam ahead.
U.S. regulators are unlikely to intervene.
Last month, President Donald Trump hosted a group of American tech executives who agreed to abide by a voluntary code of conduct on AI safety.
Master's in physics with research experience. Long-time science news enthusiast. Plays key role in Science X's editorial success. Full profile →