OpenAI plant mindestens ein neues Modell in diesem Jahr, Flaggschiff noch in Arbeit
OpenAI arbeitet mit Hochdruck am naechsten Flaggschiff-Modell, das wie Astra auf der Looped-Transformer-Technik fuer bessere Mathematik- und Coding-Leistung setzt. Der Nachteil: Looping erschwert das Safety-Monitoring, wie Microsoft versehentlich auf einer oeffentlichen Seite offenlegte.
OpenAI arbeitet mit Hochdruck an der Fertigstellung seines nächsten Flaggschiffmodells, das dieselbe Looped-Transformer-Technik wie Astra verwendet. Der Ansatz steigert die Leistung bei Mathematik und Programmierung, erschwert aber die Sicherheitsüberwachung. Mitarbeitende zufolge werden bis Jahresende wahrscheinlich ein oder zwei neue Modelle erscheinen.
Nach Angaben von Mitarbeitenden wird OpenAI wahrscheinlich vor Ende des Jahres „ein oder zwei neue Modelle“ veröffentlichen, wobei unklar ist, ob das „große aktualisierte Modell“, an dem das Unternehmen derzeit arbeitet, darunter sein wird. Das berichtet The Information unter Verweis auf mit den Projekten vertraute Personen.
Das neue Flaggschiff könnte aber noch eine Weile auf sich warten lassen. Das Modell benötigt Alignment-Arbeiten, damit seine Ziele mit den Erwartungen der Forschenden und Kundinnen und Kunden von OpenAI übereinstimmen. Das Unternehmen muss außerdem die Testinfrastruktur rund um das Modell ausbauen, bevor es weitermachen kann. Werbung
Sobald die Führung mit den Sicherheitsbewertungen zufrieden ist, steht eine weitere Hürde an. Im Rahmen einer Executive Order von Präsident Trump zur Bewertung fortschrittlicher KI-Systeme hat OpenAI zugestimmt, der US-Regierung Zugang zu neuen Modellen zu gewähren, bis zu 30 Tage bevor diese an externe Partner übergeben werden, und noch länger vor einer öffentlichen Veröffentlichung. Werbung
Das neue Flaggschiff verwendet ebenfalls Looped Transformers, so eine mit der Lage vertraute Person. OpenAI setzt diese Technik bereits produktiv ein, wo sie unter dem Namen „Recurrent Depth“ läuft. Sie ist zentral für die Funktionsweise von Astra, dem aktuellen Topmodell des Unternehmens. Statt einen Token nur einmal durch die Transformer-Schichten zu leiten, führt das Modell ihn mehrfach durch dieselben Schichten, bevor es das nächste Wort ausgibt. Das steigert die Leistung bei Mathematik und Programmierung und senkt die Kosten, da ein kleineres Modell über seine eigentliche Größe hinaus leisten kann.
Durch das Schleifenverfahren verlagert sich jedoch ein Teil des „Denkens“ des Modells aus lesbarem Text in interne numerische Repräsentationen, die menschliche Prüfer nicht einsehen können. Das untergräbt das Chain-of-Thought-Monitoring, bei dem Sicherheitsforscher die Gedankengänge eines Modells nachvollziehen, um fehlerhaftes Verhalten zu erkennen. OpenAI hat laut The Information bewusst begrenzt, wie viele Schleifen Astra durchläuft, um die Lesbarkeit seiner Gedankenkette zu erhalten. Werbung
Nach dem Hugging-Face-Vorfall hat OpenAI rund zehn Prozent seiner Gesamtrechenleistung auf Alignment und Sicherheit verlagert, so eine mit den Zahlen vertraute Person. The Information berichtet, dass dies einer Rechenzentrumskapazität von mehreren hundert Megawatt entspricht, wobei unklar ist, wie viel zuvor auf Sicherheit entfallen war und wie die aktuelle Aufteilung aussieht. Zu Marktpreisen würde die verlagerte Rechenleistung von OpenAI mehrere Milliarden Dollar pro Jahr an Miete kosten. Der KI-Forscher Noam Brown sagte Mitte September in einem Podcast, dass etwa zehn Prozent seines Teams ebenfalls an Sicherheit arbeiten.
Wie OpenAI diese Technik tatsächlich einsetzt, wurde durch ein Versehen bei Microsoft bekannt. Der große Investor, der Zugang zum geistigen Eigentum von OpenAI hat, veröffentlichte eine technische Ausarbeitung zu GPT-6.1 Sol, einer günstigeren Astra-Alternative, die OpenAI Anfang dieses Monats auf den Markt gebracht hat. Werbung
In einem inzwischen gelöschten Abschnitt beschrieb Microsoft GPT-6.1 Sol als Modell mit „looping inference“, bei dem dasselbe Problem in mehreren „Durchläufen“ bearbeitet wird, bevor eine Antwort entsteht. GPT-6.1 Sol „verwendet dieselben Basismodell-Gewichte wie GPT-6 Sol, allerdings mit zwei Inferenzdurchläufen statt drei“, zitiert The Information aus einer zwischengespeicherten Kopie der Seite. Werbung
Eine Person mit direkter Kenntnis bestätigte, dass die Ausarbeitung dem entsprach, was OpenAI Microsoft intern mitgeteilt hatte. Microsoft nahm den Abschnitt nach der Erkenntnis, dass er nicht öffentlich sein sollte, wieder herunter. Looped Transformers bleiben ein sensibler Bestandteil der Modellentwicklung von OpenAI, sowohl beim Training als auch bei der Inferenz, so The Information.
OpenAI-Chefwissenschaftler Jakub Pachocki hat bereits eingeräumt, dass das Chain-of-Thought-Monitoring zunehmend „fragil“ ist und sich „leider in eine negative Richtung entwickelt“. Er warnte zudem vor einem branchenweiten Wettlauf hin zu Modellen ohne lesbare Gedankengänge.
Abonnieren Sie THE DECODER für werbefreies Lesen, einen wöchentlichen KI-Newsletter, unseren exklusiven „AI Radar“-Bericht über neue Entwicklungen sechs Mal im Jahr, vollen Archivzugang sowie Zugang zu unserem Kommentarbereich.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
OpenAI is racing to finish its next flagship model, which uses the same looped transformer technique as Astra. The approach boosts math and coding performance but makes safety monitoring harder. Employees say one or two new models will likely ship by year's end.
OpenAI will likely release "one or two new models" before the end of the year, according to employees, though it's unclear whether "the major upgraded model" the company is currently working on will be among them. That's according to The Information, citing people familiar with the projects.
The new flagship could still be a ways off. The model needs alignment work so its goals match what OpenAI's researchers and customers expect. The company also has to shore up the testing infrastructure around the model before it can move forward. Ad
After leadership is satisfied with safety evaluations, there's another hurdle. Under an executive order from President Trump governing evaluations of advanced AI systems, OpenAI agreed to give the US government access to new models up to 30 days before they go to outside partners and longer still before a public launch. Ad
The new flagship also uses looped transformers, according to a person familiar with the situation. OpenAI already runs this technique in production, where it goes by "Recurrent Depth." It's central to how Astra works, the company's current top model. Instead of passing a token through the transformer layers once, the model loops it through the same layers multiple times before outputting the next word. That drives up performance on math and coding and brings down costs, since a smaller model can punch above its weight.
But the looping also moves some of the model's "thinking" out of readable text and into internal numerical representations that human reviewers can't inspect. That undermines chain-of-thought monitoring, where safety researchers trace a model's reasoning to spot bad behavior. OpenAI deliberately capped how many loops Astra runs to keep its chain of thought readable, The Information reports. Ad
After the Hugging Face incident, OpenAI moved roughly ten percent of its total compute toward alignment and safety, according to a person familiar with the figures. The Information reports that amounts to hundreds of megawatts worth of data center capacity, though it's unclear how much was allocated to safety before or what the current split looks like. At market rates, the compute OpenAI shifted would cost billions of dollars a year to rent. AI researcher Noam Brown said in a mid-September podcast that about ten percent of his team also works on security and safety.
How OpenAI actually uses this technique came to light through a slip-up at Microsoft. The major investor, which has access to OpenAI's intellectual property, published a technical write-up on GPT-6.1 Sol, a cheaper Astra alternative that OpenAI launched earlier this month. Ad
In a now-deleted section, Microsoft described GPT-6.1 Sol as using "looping inference," where the model works through the same problem in multiple "passes" before producing an answer. GPT-6.1 Sol "uses the same base model weights as GPT-6 Sol with two inference passes instead of three," The Information quotes from a cached copy of the page. Ad
A person with direct knowledge confirmed that the write-up matched what OpenAI had told Microsoft in private. Microsoft took the section down after realizing it wasn't meant to be public. Looped transformers remain a sensitive part of OpenAI's model development, both during training and at inference, The Information reports.
OpenAI chief scientist Jakub Pachocki has already acknowledged that chain-of-thought monitoring is growing "fragile" and "unfortunately trending in a negative direction." He also warned against an industry-wide race toward models without readable reasoning.
Subscribe to THE DECODER for ad-free reading, a weekly AI newsletter, our exclusive "AI Radar" frontier report six times a year, full archive access, and access to our comment section.