OpenAI haertert sich bei Entlassung von drei AI-Safety-Forschern
OpenAI bleibt bei der Entlassung der Sicherheitsforscher Jasmine Wang, Tomek Korbak und Mikita Balesni. Eine Untersuchung habe einen erheblichen Verstoß gegen interne Richtlinien zum Umgang mit vertraulichen Informationen ergeben, teilte das Unternehmen mit.
KI Schließen Beiträge zu diesem Thema werden zu deinem täglichen E-Mail-Digest und deinem Homepage-Feed hinzugefügt.
News Schließen Beiträge zu diesem Thema werden zu deinem täglichen E-Mail-Digest und deinem Homepage-Feed hinzugefügt.
OpenAI Schließen Beiträge zu diesem Thema werden zu deinem täglichen E-Mail-Digest und deinem Homepage-Feed hinzugefügt.
Das KI-Labor betonte, die Entscheidung sei wegen eines ‘Verstoßes gegen das Vertrauen’ erfolgt, nicht wegen geäußerter Sicherheitsbedenken.
Robert Hart Schließen Robert Hart KI-Reporter Beiträge dieses Autors werden zu deinem täglichen E-Mail-Digest und deinem Homepage-Feed hinzugefügt.
Teilen Geschenk Bild: The Verge Robert Hart Schließen Robert Hart Beiträge dieses Autors werden zu deinem täglichen E-Mail-Digest und deinem Homepage-Feed hinzugefügt.
OpenAI bleibt bei seiner Entscheidung standhaft, drei Sicherheitsforscher zu entlassen, nachdem eine Untersuchung ergeben hatte, dass diese einen ‘erheblichen Vertrauensbruch’ begangen hatten.
In einem Beitrag auf X am Freitag erklärte das Unternehmen, Jasmine Wang, Tomek Korbak und Mikita Balesni seien entlassen worden, weil sie gegen ‘klare Richtlinien zum Umgang mit sensiblen Informationen’ verstoßen hätten. Man betonte, die Entscheidung habe nicht damit zu tun, dass das Trio sich über das Unternehmen und seine Bedenken hinsichtlich der KI-Sicherheit geäußert habe.
Der Beitrag ist eine direkte Reaktion auf einen offenen Brief, den die Forscher am Donnerstag veröffentlicht hatten und in dem sie OpenAI zu mehr Transparenz über die Entscheidung aufforderten. Darin und in einer Reihe von Beiträgen in sozialen Medien erklärte die Gruppe, sie gehe davon aus, wegen ihrer geäußerten Sicherheitsbedenken entlassen worden zu sein, und habe ‘im Einklang mit OpenAIs Mission und innerhalb der damals geltenden Arbeitsnormen gehandelt’.
OpenAI teilte mit, eine interne Untersuchung habe Verstöße ‘über das hinaus, was in dem Brief dargelegt ist’ aufgedeckt, nannte jedoch keine Details.
Die Sicherheit von Frontier-Systemen ist für Mitarbeiter in KI-Unternehmen nach einer Reihe hochkarätiger Sicherheitsvorfälle in diesem Jahr, allen voran der Hack von OpenAI bei Hugging Face, zu einem zunehmenden Anliegen geworden. Viele Mitarbeiter fordern inzwischen, dass die Unternehmen langsamer vorgehen und mehr tun, um sich gegen die möglichen Folgen der Entwicklung sich selbst verbessernder Systeme abzusichern.
Ein kostenloser täglicher Digest der wichtigsten Nachrichten.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
AI Close AI Posts from this topic will be added to your daily email digest and your homepage feed.
News Close News Posts from this topic will be added to your daily email digest and your homepage feed.
OpenAI Close OpenAI Posts from this topic will be added to your daily email digest and your homepage feed.
The AI lab insisted the decision was about a ‘breach of trust,’ not raising safety issues.
Robert Hart Close Robert Hart AI Reporter Posts from this author will be added to your daily email digest and your homepage feed.
Share Gift Image: The Verge Robert Hart Close Robert Hart Posts from this author will be added to your daily email digest and your homepage feed.
OpenAI is standing firm on its decision to fire three safety researchers after an investigation found they committed “a significant breach of trust.”
In a post on X on Friday, the company said Jasmine Wang, Tomek Korbak and Mikita Balesni were dismissed for violating “clear policies on handling sensitive information.” It insisted the decision was not about the trio speaking out about the company and their concerns about AI safety.
The post is a direct response to an open letter the researchers published on Thursday urging OpenAI to be more transparent about the decision. In it and a series of social media posts, the group said they believed they were fired for raising safety concerns and had “acted in line with OpenAI’s mission and within the working norms of the time.”
OpenAI said an internal investigation uncovered breaches “beyond what’s outlined in the letter,” but did not provide details.
The safety of frontier systems has become an increasing concern for staff inside AI companies following a series of high profile breaches this year, most notably OpenAI’s hack of Hugging Face. Many staff are now calling for companies to slow down and do more to guard against the potential consequences of building self-improving systems.
A free daily digest of the news that matters most.