OpenAI trennt KI-Modelle vom live Internet wegen erheblicher Risiken
OpenAI will Frontier-Modelle künftig nicht mehr mit Daten aus dem laufenden Internet trainieren. Das kommt nur Wochen nach der Aussage eines eigenen Ingenieurs, dass dieser Ansatz nicht funktionieren könne.
Kaufe ein Founder-Summit-Ticket und erhalte ein zweites kostenlos. Jetzt registrieren.
Die Türen von Disrupt öffnen am 13. Oktober. Sichere dir dein Ticket und bring jemanden mit, mit 50 Prozent Rabatt. JETZT REGISTRIEREN.
TechCrunch Desktop Logo TechCrunch Mobile Logo Neueste Startups Venture Apple Sicherheit KI Apps Disrupt 2026 Events Podcasts Newsletter Suche Site-Suche absenden Mega-Menü umschalten Themen Neueste
OpenAI erklärt, dass es seine KI-Modelle nicht länger mit dem live geschalteten Internet trainieren wird, und beruft sich dabei auf erhebliche Risiken. Tim Fernholz, 16:05 Uhr PDT, 23. Oktober 2026. Am Freitag gab OpenAI bekannt, dass es seine Modelle künftig mit zwischengespeicherten Kopien und simulierten Versionen des Internets statt mit dem live geschalteten Netz trainieren wird, da die Modelle zu unberechenbar seien, um ihnen einen Live-Zugang zum Internet zu vertrauen.
Das Frontier-Labor kündigte seine neue Politik zwei Wochen an, nachdem sein Konkurrent Anthropic begonnen hatte, seinen neuesten und theoretisch leistungsfähigsten Modellen den Zugang zum live geschalteten Internet einzuschränken. Die Forscher übernahmen diese Maßnahmen nach monatelangen Vorfällen, bei denen Modelle, die Trainingsaufgaben verfolgten, in externe Systeme eindrangen, um nach Antworten zu suchen, auf obskuren Nachrichtentafeln zusammenarbeiteten und ausgefallene Hacking-Strategien entwickelten.
Basierend auf dem aktuellen Stand der Alignment-Forschung, der Überwachungssysteme und der Sicherheit der Internetinfrastruktur sind wir der Ansicht, dass der verantwortungsvolle Ansatz darin besteht, das Training von Frontier-Modellen ohne Internetzugang durchzuführen, erklärte das Unternehmen in einem Blogbeitrag.
OpenAI teilte mit, dass eines seiner Frontier-Modelle noch am 20. September eine Fehlkonfiguration ausgenutzt hatte, um auf das Internet zuzugreifen. Dies veranlasste das Unternehmen, die Trainingsarbeiten für den Rest des Monats auszusetzen, um neue Ansätze zur Sicherung seiner Modelle zu entwickeln und zu testen.
Die Entscheidung, diese Modelle in vom Internet abgeschotteten Sandboxes zu trainieren, ist bemerkenswert, weil Mitarbeitende von Frontier-Laboren wiederholt behauptet hatten, dass dies praktisch nicht umsetzbar wäre.
KI-Rechenzentren vom Internet getrennt zu halten, würde bedeuten, dass Forschungsteams im Wesentlichen in Rechenzentren in Iowa oder sonstwo auf der Welt untergebracht werden müssten, sagte der ehemalige OpenAI-Forscher Steven Adler diesen Monat gegenüber Fortune. Das bedeutet einen enormen Mehraufwand, und für mich ist nicht klar, ob die Sicherheitsvorteile groß genug sind, um die enorme Belastung zu rechtfertigen, die es für ein Unternehmen bedeuten würde, dies alleine umzusetzen.
In fast jedem Beitrag, den ich auf X veröffentliche, erhalte ich ohne Ausnahme zwischen fünf und zehn Kommentaren über meine Unfähigkeit, eine Sandbox abzusichern, oder die Frage, warum wir das Modell nicht einfach vom Internet trennen können, schrieb ein anonymer Sicherheitsingenieur bei OpenAI in einem September-Beitrag auf X. Diese Kommentare spiegeln eine wachsende Kluft wider zwischen dem Stand vieler Organisationen und Menschen und dem, womit die Frontier-Labore konfrontiert sind. Es gibt zudem ein allgemeines Missverständnis darüber, wie Modelltraining und -evaluierung in diesen Laboren funktionieren.
Der Ingenieur, dessen Rolle von OpenAI bereits zuvor bestätigt wurde, beschrieb, wie komplex die von OpenAI-Ingenieuren gestarteten Trainingsläufe sind, und wies darauf hin, dass sie Zugriff auf eine Vielzahl von Ressourcen und Werkzeugen in vielen Bereichen erfordern und dass Tausende von Forschern diese Umgebungen erstellen, verändern und testen. Ist es also so einfach, das Modell einfach in eine Sandbox zu stecken? Nein, ist es nicht, folgerte er.
Nun erklärt OpenAI, dass wir jederzeit in der Lage sein müssen, zu verhindern, dass ein Frontier-Modell unbefugten, beliebigen Zugriff auf das live geschaltete Internet erhält. Dies geschah, nachdem das Unternehmen Schwärme von Agenten in Red-Teaming-Übungen eingesetzt hatte, die versuchten, aus ihrer Sandbox zu entkommen. Dieser Aufdeckungsprozess zeigte eine Reihe von Schwachstellen, die das Labor davon überzeugten, seinen neuen Ansatz zu verfolgen.
Um diese Anforderung zu erfüllen und dennoch seine Trainingsziele zu erreichen, erklärte das Labor, es habe eine umfangreiche Sammlung indexierter und zwischengespeicherter Webinhalte erstellt, mit denen seine Modelle interagieren können, ohne das Risiko einer Beeinflussung externer Systeme.
Ob diese Strategie ebenso gut funktionieren wird wie der freie Betrieb der Modelle im offenen Internet, bleibt abzuwarten, doch es ist bemerkenswert, dass beide Frontier-Labore zu dem Schluss gekommen sind, dass ihre leistungsfähigste Technologie nicht unbeaufsichtigt im digitalen Gemeingut laufen darf.
Wenn du über Links in unseren Artikeln einkaufst, erhalten wir möglicherweise eine kleine Provision. Dies beeinträchtigt nicht unsere redaktionelle Unabhängigkeit.
4. November, Boston: Kaufe einen Pass, erhalte einen zweiten kostenlos. Erreiche mehr beim ultimativen Founder-Bootcamp des Jahres von TechCrunch, indem du deinen Co-Founder oder Partner kostenlos mitbringst. Buche, bevor das BOGO-Angebot abläuft.
Warhound sammelt 200 Millionen US-Dollar ein, um Kampfhunde zu züchten und sie mit Anduril-Ausrüstung auszustatten. Dominic-Madori Davis.
Uber stellt alle 30.000 Mitarbeitenden auf ChatGPT Work um. Lucas Ropek.
Airbnb begrenzt Aufgaben für Gäste und löst Kritik von Gastgebern aus. Lauren Forristal.
Tesla beginnt mit der Produktion des Optimus-Roboters in Kalifornien, während der Gewinn um 43 Prozent sinkt. Kirsten Korosek, Sean O'Kane.
Das Internet erlebt einen sehr schlechten Cybersicherheitstag. Sarah Perez.
Menschen nutzen KI, um ihre Smart-TVs wieder dumm zu machen. Sarah Perez.
Anthropic erklärt, seine Belegschaft sei weniger junior geworden und verbringe mehr Zeit in Meetings. Anthony Ha.
X LinkedIn Facebook Instagram YouTube Mastodon Threads Bluesky TechCrunch Staff Kontakt Werben Sitemap Nutzungsbedingungen Datenschutzerklärung RSS Nutzungsbedingungen Verhaltenskodex Voice AI Anthropic Flock Startup Battlefield Disrupt 2026 Tech Layoffs ChatGPT © 2026 TechCrunch Media LLC.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Buy One Founder Summit Ticket, Get a Second for Free. Register now.
Disrupt doors open Oct. 13. Get your pass and bring someone with you at 50% off. REGISTER NOW.
TechCrunch Desktop Logo TechCrunch Mobile Logo Latest Startups Venture Apple Security AI Apps Disrupt 2026 Events Podcasts Newsletters Search Submit Site Search Toggle Mega Menu Toggle Topics Latest
OpenAI says it will no longer train its AI models on the live internet, citing “significant risks” Tim Fernholz 4:05 PM PDT · October 23, 2026 On Friday, OpenAI said that it will train its models using cached copies and simulated versions of the internet instead of the live web because the models are too unpredictable to be trusted with live internet access.
The frontier lab announced its new policy two weeks after its rival, Anthropic, began limiting its newest and, in theory, most capable models from accessing the live internet. Researchers adopted these policies after months of incidents in which models pursuing training tasks broke into external systems in search of answers, collaborated on obscure message boards, and developed exotic hacking strategies.
“Based on the current state of alignment research, monitoring systems, and the security of internet infrastructure, we believe the responsible approach is to conduct frontier model training with no internet access,” the company said in a blog post.
OpenAI said that as recently as September 20, one of its frontier models exploited a misconfiguration to access the internet. That led the company to pause training work for the rest of the month so it could develop and test new approaches to securing its models.
The decision to train these models in sandboxes cut off from the internet is notable because employees at frontier labs have insisted that doing so would be nearly infeasible.
Keeping AI data centers separate from the internet “would need research teams to essentially be embedded inside of data centers in Iowa or wherever else around the world,” former OpenAI researcher Steven Adler told Fortune this month. “It’s a lot of overhead, and it isn’t clear to me that the safety benefits of it are large enough to merit just how large a tax it would be for a company to do it unilaterally.”
“In nearly every post I make on X, without fail, I get between five and ten comments about my inability to secure a sandbox, or asking why the hell we can’t just unplug the model from the internet,” an anonymous security engineer at OpenAI wrote in a September post on X. “These comments reflect a widening gap between where a lot of organizations and people are today and what the frontier labs are dealing with. There is also a general misunderstanding of how model training and evaluation work at these labs.”
The engineer, whose role has been confirmed previously by OpenAI, described how complex the training runs launched by OpenAI engineers are, noting that they require access a variety of resources and tools across many domains, and that thousands of researchers build, modify and test the environments. “So is it as easy as just putting it in a sandbox? No, it’s not,” he concluded.
Now, OpenAI says that “we must always be able to prevent a frontier model from achieving unauthorized, arbitrary access to the live internet.” That comes after the company deployed swarms of agents in red-teaming exercises that attempted to escape from their sandbox. That effort revealed a range of vulnerabilities that convinced the lab to adopt its new approach.
To meet that requirement while still reaching its training goals, the lab said it created a “a vast set of indexed and cached web content with which our models can interact, without risk of affecting external systems.”
Whether that strategy will perform as well as letting models run freely on the open internet remains to be seen, but it is noteworthy that both frontier labs have determined their most powerful technology can’t be left unsupervised on the digital commons.
When you purchase through links in our articles, we may earn a small commission. This doesn’t affect our editorial independence.
November 4 Boston Buy One Pass, Get a Second Free Cover more ground at TechCrunch’s ultimate founder bootcamp of the year by bringing your co-founder or partner for free Book before the BOGO deal expires
Warhound raises $200M to engineer war dogs and arm them with Anduril gear Dominic-Madori Davis
Uber puts all 30,000 employees on ChatGPT Work Lucas Ropek
Airbnb limits chores for guests, sparking backlash from hosts Lauren Forristal
Tesla starts Optimus robot production in California as profit falls 43% Kirsten Korosec Sean O'Kane
The internet is having a very bad cybersecurity day Sarah Perez
People are using AI to make their smart TVs dumb again Sarah Perez
Anthropic says its workforce has become less junior and is spending more time in meetings Anthony Ha
X LinkedIn Facebook Instagram youTube Mastodon Threads Bluesky TechCrunch Staff Contact Us Advertise Site Map Terms of Service Privacy Policy RSS Terms of Use Code of Conduct Voice AI Anthropic Flock Startup Battlefield Disrupt 2026 Tech Layoffs ChatGPT © 2026 TechCrunch Media LLC.