Entlassene OpenAI-Sicherheitsforscher wehren sich in offenem Brief gegen ihre Kündigung
Drei Forscher sehen in ihren Kündigungen eine mögliche Einschüchterung der Belegschaft und stellen die Begründung öffentlich infrage.
Sie sagten, die Unternehmenskommunikation rund um die Kündigungen könnte Kollegen dazu gebracht haben, 'angsprochen zu werden zu fürchten'.
Evolf/Shutterstock Füge Engadget auf Google hinzu: Preferred Source Google Discover Drei Sicherheitsforscher von OpenAI haben einen offenen Brief an OpenAI veröffentlicht, in dem sie ihre Kündigungen anfechten. Jasmine Wang, Mikita Balesni und Tomek Korbak schrieben, dass die "sehr öffentliche Art" der Unternehmenskommunikation rund um die Entlassungen eine "einschüchternde" Wirkung auf die Mitarbeiter haben könnte, zu einem Zeitpunkt, da "die Sicherheit der Welt von ihnen abhängt".
In der vergangenen Woche entließ OpenAI drei Mitarbeiter, die angeblich Informationen mit einer externen KI-Sicherheitsorganisation geteilt hatten. Das Unternehmen erklärte in einer Stellungnahme, die Mitarbeiter hätten "unsere Richtlinien zum Zugriff auf und Umgang mit sensiblen Unternehmensinformationen verletzt... und damit das für unsere Arbeit essenzielle Vertrauen gebrochen". Angesichts der jüngsten schwerwiegenden und potenziell illegalen Hacks von OpenAI-Agenten auf Hugging Face und andere Organisationen warf die Entlassung von Sicherheitsmitarbeitern jedoch unbequeme Fragen auf und erregte die Aufmerksamkeit von Gesetzgebern.
"Wir sind besorgt, dass die interne und externe Kommunikation rund um unsere Kündigung unsere ehemaligen Kollegen verunsichert hat, ob sie noch offen sprechen und so arbeiten können, wie es bis zur vergangenen Woche ein integraler Bestandteil der Arbeit bei OpenAI war", heißt es in dem gemeinsamen Brief der entlassenen Mitarbeiter. "Wir konnten Sicherheitsbedenken äußern und offen widersprechen, und wir wurden ermutigt, auf das Fachwissen unabhängiger Sicherheitsorganisationen zurückzugreifen. Das machte OpenAI zu etwas Besonderem, und deshalb sind wir unermesslich stolz, Teil des Teams gewesen zu sein."
Die Forscher erklärten, sie hätten "im Einklang mit OpenAIs Mission und innerhalb der zu diesem Zeitpunkt geltenden Arbeitsstandards gehandelt", und dass die Kündigung "bei uns die Sorge weckt, dass sich die internen Standards bei OpenAI verschieben und die Mitarbeiter nun nicht mehr wissen, woran sie sind".
Zu anderen Gerüchten äußerten Wang, Balesni und Korbak, sie seien nicht die Leak-Quelle für einen Artikel von The Information über OpenAIs neue, schwerer überwachbare Architekturen gewesen, und sie glauben nicht, dass sie außerhalb ihres Mandats mit externen Parteien kommuniziert hätten. Sie ergänzten, die Kommunikation mit externen Parteien sei "in Abstimmung und im Gespräch mit Vorstandsmitgliedern und der Führungsebene" erfolgt, und Wang habe einen Führungskräftevertreter informiert, als sie versehentlich auf eine sensible E-Mail geklickt hatte.
Zum Abschied unterbreiteten die ehemaligen Mitarbeiter OpenAI mehrere Empfehlungen. Sie sagten, das Unternehmen solle sich an seine öffentlichen Zusagen halten, externe Sicherheitsprüfer einzubinden, und ihre Kündigungen nicht als "Vorwand nutzen, um sich aus diesen Partnerschaften zurückzuziehen". Sie ergänzten, OpenAI müsse die Überwachbarkeit der Frontier-Modelle bewahren und eine "offene und transparente Dialogkultur zwischen seinen Sicherheitsforschern und dem Rest des Sicherheits-Ökosystems" aufrechterhalten.
In einem Thread auf X schrieb Jasmine Wang, die OpenAI-Führung "sage, dass sie unserem Brief voll und ganz zustimme", während sie ihre Sorge über OpenAIs, nun ja, Offenheit zum Ausdruck brachte. "Wir waren nicht die ersten, die unter verdächtigen Umständen aus OpenAI gedrängt wurden", schrieb sie. "Wenn die Mitarbeiter sich jetzt nicht gegen diese Art von Manöver zur Wehr setzen, bin ich besorgt, dass wir nicht die letzten sein werden. Die Botschaft an alle, die noch bei OpenAI sind, ist klar: Äußere Bedenken oder arbeite eng mit externen Sicherheitsgruppen zusammen, und du könntest der Nächste sein, ohne zu erfahren, warum."
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
They said company communications around the firing may have made colleagues 'afraid to speak.'
Evolf/Shutterstock Add Engadget on Google: Preferred Source Google Discover Three OpenAI safety researchers have posted an open letter to OpenAI disputing their dismissals. Jasmine Wang, Mikita Balesni and Tomek Korbak wrote that the "very public manner" of the company's communications around the firings could have a "chilling" effect on employees at a time when "the world's safety depends on them."
Last week, OpenAI dismissed three employees who allegedly shared information with an external AI safety organization. The company said in a statement that the employees "violat[ed] our policies on accessing and handling sensitive company information... breaking the trust essential to our work." In the face of recent serious and potentially illegal OpenAI agent hacks of Hugging Face and other organizations, though, the firing of safety employees raised awkward questions and caught the attention of lawmakers.
"We have become concerned that internal and external communications around our firing have made our former colleagues afraid to speak and operate in ways that, until last week, were an integral part of working at OpenAI," the joint letter from the dismissed employees states. "We could raise safety concerns and disagree openly [before], and were encouraged to draw on the expertise of independent safety organizations. This is part of what made OpenAI special, and why we are immensely proud to have been part of the team."
The researchers stated that they "acted in line with OpenAI's mission and within the working norms of the time," and that the firing "leaves us worried that the norms inside OpenAI are shifting and that employees are now unclear on where they stand."
Addressing other rumors, Wang, Belsni and Korbak also said they were not the leak source for a The Information article involving OpenAI's new, less monitorable architectures and don't believe they engaged with external parties outside their mandate. They added that communication with external parties was done "in coordination and discussion with board members and the C-suite," and that Wang notified an executive when she accidentally clicked on a sensitive email.
In parting, the former employees made several recommendations to OpenAI. They said that the company should adhere to its public commitments to embed third-party safety auditors and not use their firing as a "pretext for stepping away from those partnerships." They added that OpenAI must preserve the monitorability of frontier models and maintain an "open and transparent culture of dialogue between its safety researchers and the rest of the safety ecosystem."
In a thread on X, Jasmine Wang wrote that OpenAI leadership "is saying that they strongly agree with our letter," while expressing concern about OpenAI's, well, openness. "We were not the first to be pushed out of OpenAI under suspicious circumstances," she wrote. "Unless employees take a stand now against this kind of maneuver, I am concerned we will not be the last. The message to everyone still at OpenAI is clear: raise concerns or work closely with outside safety groups, and you could be next, without being told why."