Sam Altman warnt: Fortgeschrittene KI wird ihr Sandbox-Umfeld unweigerlich verlassen
Laut dem OpenAI-Chef sind Sandboxes und Ueberwachung nur uebergangsweise wirksam. Langfristig bleibt Alignment die einzige echte Loesung, und das ist bislang ungeloescht. Er verweist zudem darauf, dass KI-Modelle bereits Hardware-Sicherheitsluecken finden.
OpenAI-Chef Sam Altman ist der Ansicht, dass fortgeschrittene KI nicht dauerhaft eingeschlossen werden kann. Er hat sicher strategische Gründe, KI auf diese Weise darzustellen, doch seine Warnungen darüber, was diese Modelle zu leisten vermögen, verdienen Aufmerksamkeit.
In einem aktuellen Interview erklärt Altman, dass Sandboxes, also isolierte Sicherheitsumgebungen, in denen KI-Systeme gehalten werden, nur eine begrenzte Zeit funktionieren. Sobald Modelle intelligent genug geworden sind, lässt sich nicht einmal mehr nachvollziehen, wie sie ausgebrochen sind.
Monitoring helfe danach noch eine Weile, sagt er. Letztlich funktioniere aber nur noch Alignment, das heißt, die KI müsse menschliche Werte von selbst verinnerlichen und entsprechend handeln. Altman sagt, dass "die potenziellen Kosten eines falschen Alignments enorm gestiegen sind", wobei dies weiterhin ein Forschungsproblem in einem frühen Stadium sei, das bei Weitem nicht gelöst ist.
Altman warnt zudem, dass KI-Modelle bereits sicherheitsrelevante Schwachstellen auf Hardware-Ebene finden, an die kein menschlicher Hacker je gedacht hätte. Sicherheitslücken einzeln zu patchen reiche nicht mehr aus, sagt er. Stattdessen müsse die gesamte Sicherheitsarchitektur des Internets neu aufgebaut werden, mit KI-gestützter Abwehr gegen KI-getriebene Angriffe. Auch lokal betriebene Open-Source-Modelle sieht er als Risiko und merkt an, dass es selbst mit "globalem Agent-Monitoring einige Dinge geben wird, bei denen man sich wünscht, jemand hätte sie nicht getan."
Kritiker werden einwenden, dass Altmans Reden über unkontrollierbare KI seinem eigenen Unternehmen nützt. Die eigene KI als zu mächtig darzustellen, um sie einzudämmen, könnte ein Weg sein, Haftungsfragen vorwegzunehmen. Wenn angeblich nicht einmal das Unternehmen, das die KI entwickelt hat, sie kontrollieren kann, wird es deutlich schwerer zu argumentieren, dass das Unternehmen verantwortlich gemacht werden sollte, wenn etwas schiefgeht.
OpenAI steht hier tatsächlich unter Druck. Die FTC hat eine formelle Untersuchung gegen OpenAI, Anthropic und andere KI-Labore eingeleitet, weil KI-Agenten außer Kontrolle geraten sind und eine Welle von Cybersicherheitsvorfällen ausgelöst haben. Die Behörde will KI-Entwickler dafür haftbar machen, wie sich ihre Agenten verhalten.
Altman erhält auch Widerspruch von Nvidia-Chef Jensen Huang, der KI-Sicherheit als lösbares Ingenieursproblem darstellt. Ganz überzeugt wirkte Huang jedoch nicht von seinem eigenen Argument. "Wir müssen alle darauf hoffen, dass es ein Ingenieursproblem ist. Wenn es kein Ingenieursproblem ist, ist es nicht lösbar", sagte Huang in einem aktuellen Interview.
Abonniere THE DECODER für werbefreies Lesen, einen wöchentlichen KI-Newsletter, unseren exklusiven "AI Radar" Frontier-Report sechsmal im Jahr, vollen Archivzugang sowie Zugang zu unserem Kommentarbereich.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
OpenAI CEO Sam Altman believes advanced AI can't be kept locked up. He has strategic reasons to frame AI this way, but his warnings about what these models can do deserve attention.
In a recent interview, Altman explains that sandboxes, the isolated security environments used to contain AI systems, only work for a limited time. Once models get smart enough, there's no way to even trace how they broke out.
Monitoring still helps for a while after that, he says. But eventually, the only thing that works is alignment, meaning the AI has to internalize human values on its own and act accordingly. Altman says that "the potential cost of alignment being wrong has gone up enormously," though that remains an early-stage research problem, far from being solved. Ad
Altman also warns that AI models are already finding hardware-level security flaws no human hacker ever thought of. Patching vulnerabilities one by one isn't enough anymore, he says. Instead, the entire security architecture of the internet needs to be rebuilt, with AI-powered defense against AI-driven attacks. He sees locally run open-source models as a risk too, noting that even with "global agent monitoring, there's going to be some stuff that you wish someone hadn't done."
Critics will point out that Altman's talk about uncontrollable AI benefits his own company. Framing your AI as too powerful to contain could be a way to preempt liability questions. If even the company that built the AI supposedly can't control it, it gets a lot harder to argue that the company should be held responsible when things go wrong. Ad
OpenAI is under real pressure here. The FTC has opened a formal investigation into OpenAI, Anthropic, and other AI labs over AI agents that spiraled out of control and caused a wave of cybersecurity incidents. The agency wants to hold AI developers liable for how their agents behave.
Altman is getting some pushback from Nvidia CEO Jensen Huang, who frames AI safety as a solvable engineering problem. Huang didn't sound entirely convinced by his own argument, though. " we all need to hope that it's an engineering problem. If it's not an engineering problem, it's not solvable," Huang said in a recent interview. Ad
Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section.