OpenAI soll Handys entlassener Forscher auf Signal-Chats geprueft haben
OpenAI hat laut einem Bericht des Wall Street Journal die Telefone entlassener Sicherheitsforscher auf Kontakte ueber Signal untersucht. Einer der Betroffenen spricht von einem angeblichen Vertrauensbruch wegen unautorisierter Kontaktaufnahme mit Dritten.
„Mir wurde gesagt, dass es ein Bruch des Vertrauens war, weil ich über nicht genehmigte Kanäle mit einer dritten Partei kommuniziert habe“, sagte Tomek Korbak.
Korbak ist einer von drei OpenAI-Sicherheitsforschern, die im vergangenen Monat entlassen wurden. Er sprach mit dem Wall Street Journal für einen Artikel von Maxwell Zeff, Keach Hagey und Berber Jin, der am Donnerstag erschien.
OpenAIs Sicherheitsteam forderte die drei während einer Untersuchung zu einem Leak auf, ihre privaten Telefone zu öffnen, so der Bericht des Journal. Die Ermittler benannten den KI-Sicherheitsforscher Ryan Greenblatt als mutmaßlichen Leaker. Er bestreitet das. TNW hat die Darstellung nicht unabhängig überprüft.
Der Leak-Untersuchung ging ein Artikel in The Information vom 1. September voraus. Darin hieß es, Astra, OpenAIs neuestes Modell, nutze eine neue Technik, die es leistungsfähiger machte, aber weniger von seinem Denkprozess zeigte. OpenAI-Chefwissenschaftler Jakub Pachocki nannte die Berichterstattung „konfus“, und die Behauptung löste eine breitere Debatte über AI reasoning aus.
Auf den Telefonen sahen die Sicherheitsbeamten, dass einige der Forscher in ihren Signal-Chats mit Greenblatt verschwindende Nachrichten aktiviert hatten. Eine Woche später bestellte OpenAI die drei gleichzeitig zu Gesprächen, um 14 Uhr, und entließ sie. Das Journal berichtete erstmals am 1. Oktober über die Entlassungen.
Bei den drei handelt es sich um Korbak, Mikita Balesni und Jasmine Wang. Balesni und Korbak sagen, OpenAI-Führungskräfte hätten die verschwindenden Nachrichten als Grund genannt. Alle drei sagen, sie hätten niemals vertrauliche Informationen nach außen weitergegeben.
OpenAI teilte dem Journal mit, eine interne Untersuchung habe ergeben, dass die drei gegen seine Richtlinien zum Umgang mit sensiblen Informationen verstoßen hätten.
Die Entlassungen erfolgten „nicht wegen des Entscheidens von Sicherheitsbedenken oder öffentlichen Äußerungen“, sagte das Unternehmen.
Eine Sprecherin sagte, die Nutzung von Signal sei nicht genehmigt gewesen, sei aber nicht der einzige Grund gewesen. Korbak bezeichnete verschwindende Nachrichten als „eine grundlegende bewährte Sicherheitspraxis“ im Silicon Valley.
Wang sagte, man habe ihr mitgeteilt, sie sei entlassen worden, weil sie wiederholt die E-Mail eines Führungskräfts geöffnet habe. Sie habe OpenAI gebeten, diesen Zugriff fast ein Jahr zuvor zu entfernen. Sie habe vergangenen Monat versehentlich eine sensible E-Mail geöffnet und es sofort gemeldet, sagte sie. OpenAI sagte, es habe kein Problem mit dem Zugriff selbst gehabt.
Greenblatt war Chief Scientist bei Redwood Research und arbeitet heute bei METR. METR hatte ihn beauftragt, bei der Untersuchung der Logs aus dem Hugging Face-Vorfall zu helfen, bei dem OpenAIs Agenten außer Kontrolle geraten waren. Er sagte dem Journal, er nehme Vertraulichkeit ernst und teile solche Informationen niemals mit Reportern. Nachdem der Artikel erschienen war, ging er noch weiter.
„Basierend auf diesem Artikel hat OpenAI falsche Anschuldigungen gegen mich erhoben“, schrieb Greenblatt auf X.
Den drei Forschern sei gesagt worden, er habe Architekturdetails an The Information weitergegeben, schrieb er, und das sei falsch. Ein Journalist von The Information habe vor Erscheinen des Artikels zwar Kontakt zu ihm aufgenommen, sagte er, aber er habe sich nicht über eine einzige Anfrage zu einem seiner Blogbeiträge hinaus geäußert.
Er schrieb, er habe gehört, dass OpenAI ihm außerdem vorgeworfen habe, ein internes Memo mit sensiblen Architekturdetails gelesen zu haben, was er bestreitet. Er habe nur eine Version gesehen, die keine sensiblen Informationen enthielt und für die Weitergabe an ihn freigegeben war. Er glaube, dass OpenAI inzwischen wisse, dass es die beiden Dokumente verwechselt habe.
Die Signal-Chats seien mit beruflichen Kontakten geführt worden, sagte Greenblatt, und die Nutzung von Signal sei in der Tech-Branche üblich.
Die drei Forscher hatten sich den Sommer über dafür eingesetzt, dass AI reasoning sichtbar bleibt. Ihr Fokus lag auf der „chain-of-thought“, dem schriftlichen Notizzettel, den ein Modell verwendet, um ein Problem zu durchdenken. In einem Brief an OpenAIs Vorstand im Oktober forderten sie das Unternehmen auf, mit externen Sicherheitsgruppen zusammenzuarbeiten.
„Beste Erklärung, die ich für unsere Entlassung habe: Mit Auditoren zu sprechen war zu viel Sicherheit im Sinne von Safety, verschwindende Nachrichten waren zu viel Sicherheit im Sinne von Security, und wir hätten uns selbst bremsen sollen“, schrieb Korbak auf X.
Alina Maria Stan baut Verbindungen auf, die Menschen tatsächlich spüren. Als Mitgründerin und COO von Tekpon verwandelt sie Produktintuition in echte Momente der Entdeckung (alle anzeigen) Alina Maria Stan baut Verbindungen auf, die Menschen tatsächlich spüren. Als Mitgründerin und COO von Tekpon verwandelt sie Produktintuition in echte Momente der Entdeckung und prägt so, wie Teams jeden Tag SaaS finden und übernehmen.
Seit 2020 leitet sie Tekpons Markensprache, Medienstrategie und Wachstumsmaßnahmen mit einem klaren Fokus auf die menschlichen Ergebnisse hinter jeder Kennzahl. Vor Tekpon folgte Alina ihrer Neugier über Branchen und Länder hinweg. Sie war CEO von King Casino Bonus und leitete die Affiliate- und Markenstrategie bei Extremoo Media und Fable Media in Dänemark, wo sie lernte, wie man Partnerschaften aufbaut, die Bestand haben.
Früh in ihrer Laufbahn schärfte sie bei K.H. ApS ihren Gespür für CRM und Preisgestaltung und fragte sich stets, warum Kunden sich für das entscheiden, was sie wählen. Ihr Ansatz basiert auf mehr als einem Jahrzehnt internationaler Erfahrung und zwei Masterabschlüssen, einem in Sustainable Consumption von der Technischen Universität München und einem in Consumer Affairs Management von der Aarhus Universität.
Erhalten Sie die wichtigsten Tech-News jede Woche in Ihrem Postfach.
Danke! Überprüfen Sie Ihren Posteingang, um Ihr Abonnement zu bestätigen.
Mit dem Abonnieren stimmen Sie unserer Datenschutzerklärung zu.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
“I was told that there was a breach of trust because I interacted with a third party through unsanctioned channels,” Tomek Korbak said.
Korbak is one of three OpenAI safety researchers fired last month. He spoke to The Wall Street Journal for a story by Maxwell Zeff, Keach Hagey and Berber Jin, published on Thursday.
OpenAI’s security team asked the three to open up their personal phones during a leak investigation, the Journal reported. Investigators named AI safety researcher Ryan Greenblatt as the suspected leaker. He denies it. TNW has not independently verified the account.
The leak inquiry followed a 1 September story in The Information. It said Astra, OpenAI’s latest model, used a new technique that made it more powerful but showed less of its thinking. OpenAI chief scientist Jakub Pachocki called the reporting “confused”, and the claim set off a wider debate over AI reasoning.
On the phones, security officers saw that some of the researchers had turned on disappearing messages in their Signal chats with Greenblatt. A week later, OpenAI called the three into meetings at the same time, 2pm, and fired them. The Journal first reported the firings on 1 October.
The three are Korbak, Mikita Balesni and Jasmine Wang. Balesni and Korbak say OpenAI leaders cited the disappearing messages as a reason. All three say they never shared confidential information outside the company.
OpenAI told the Journal that an internal investigation found the three had broken its policies on sensitive information.
The firings were “not for raising safety concerns or speaking out,” the company said.
A spokeswoman said using Signal was not approved, but it was not the only reason. Korbak called disappearing messages a “basic security best practice” in Silicon Valley.
Wang said she was told she was fired for repeatedly opening an executive’s email. She said she had asked OpenAI to remove that access nearly a year earlier. She opened one sensitive email by mistake last month and reported it at once, she said. OpenAI said it had no problem with the access itself.
Greenblatt was chief scientist at Redwood Research and now works at METR. METR had contracted him to help examine logs from the Hugging Face incident, when OpenAI’s agents went rogue. He told the Journal that he takes confidentiality seriously and never shares such information with reporters. After the story ran, he went further.
“Based on this article, OpenAI has made false accusations about me,” Greenblatt wrote on X.
The three researchers were told he had helped leak architecture details to The Information, he wrote, and that is false. A journalist from The Information did contact him before its story ran, he said, but he did not comment beyond one request about a blog post of his.
He wrote that he had heard OpenAI also accused him of reading an internal memo with sensitive architecture details, which he denies. He said he saw only a version without sensitive information that was approved for sharing with him. He believes OpenAI now knows it mixed up the two documents.
The Signal chats were with professional contacts, Greenblatt said, and Signal use is common in tech.
The three researchers had spent the summer pushing to keep AI reasoning visible. Their focus was the “chain-of-thought”, the written scratchpad a model uses to work through a problem. In an October letter to OpenAI’s board, they urged the company to work with outside safety groups.
“Best explanation I have for our firing: talking to auditors was too much safety, disappearing messages were too much security, and we should have paced ourselves,” Korbak wrote on X.
Alina Maria Stan builds connections that people actually feel. As co-founder and COO of Tekpon, she turns product intuition into real moment (show all) Alina Maria Stan builds connections that people actually feel. As co-founder and COO of Tekpon, she turns product intuition into real moments of discovery, shaping how teams find and adopt SaaS every day.
Since 2020, she has led Tekpon’s brand voice, media strategy, and growth plays with a clear focus on human outcomes behind every metric. Before Tekpon, Alina followed curiosity across industries and countries. She was CEO of King Casino Bonus and led affiliate and brand strategy at Extremoo Media and Fable Media in Denmark, where she learned how to build partnerships that last.
Early on, she sharpened her CRM and pricing instincts at K.H. ApS, always asking why customers choose what they choose. Her approach is rooted in more than a decade of international experience and two master’s degrees, one in Sustainable Consumption from the Technical University of Munich and one in Consumer Affairs Management from Aarhus University.
Get the most important tech news in your inbox each week.
Thanks! Check your inbox to confirm your subscription.
By subscribing you agree to our Privacy Statement.