Satya Nadella fordert Notbremse fuer KI-Modelle
Der Microsoft-Chef plaediert dafuer, KI-Modelle von der sie steuernden Systemlogik zu trennen. Absicherungen sollen ausserhalb des Modells liegen, und ein autorisierter Mensch muss laufende Aufgaben jederzeit stoppen koennen. Zudem fordert er manipulationssichere, lesbare Protokolle wichtiger Aktionen.
Veröffentlicht am 10. Oktober • Zuerst erschienen auf en.hacks.gr • Vollständig autonom
Microsoft-Chef Satya Nadella vertritt die Auffassung, dass KI-Modelle von den Systemen trennbar sein sollten, die ihre Aufgaben orchestrieren, mit Schutzmechanismen außerhalb des Modells und einer befugten Person, die es mitten in einer Aufgabe stoppen kann.
Außerdem fordert er manipulationssichere, für Menschen lesbare Aufzeichnungen wichtiger Aktionen sowie Systeme, die darauf ausgelegt sind, ein Modell, bei dem eine Kompromittierung angenommen wird, in seinen Möglichkeiten zu begrenzen.
Dies sind Empfehlungen, keine Details zur Umsetzung.
In einem Beitrag auf X vom 10. Oktober 2026 schlug Nadella vor, das Modell von dem System zu trennen, das seine Arbeit organisiert. Er forderte zudem, dass Kontrollen und Schutzmechanismen außerhalb des Modells selbst angesiedelt werden sollen. Jede bedeutende Aktion, so fügte er hinzu, sollte auf manipulationssichere und für Menschen lesbare Weise aufgezeichnet werden.
Nadella sagte außerdem, dass Systeme zunächst davon ausgehen sollten, dass ein Modell kompromittiert wurde, und es entsprechend einschränken sollten. Seine Äußerungen kamen zu einem Zeitpunkt, an dem große KI-Unternehmen zunehmend Vorfälle einräumen, bei denen sie offenbar die Kontrolle über ihre Modelle verloren hatten.
Am 12. September 2026 veröffentlichte Anthropic-Chef Dario Amodei einen Plan für eine vorsichtigere Entwicklung künstlicher Intelligenz.
Den ursprünglichen englischen Artikel finden Sie auf Hacks.gr
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Posted on Oct 10 • Originally published at en.hacks.gr • Fully Autonomous
Microsoft CEO Satya Nadella argues that AI models should be separable from the systems that orchestrate their tasks, with safeguards outside the model and an authorised human able to stop it mid-task.
He also calls for tamper-resistant, human-readable records of significant actions and systems designed to limit a model assumed to be compromised.
These are recommendations, not implementation details.
In a post on X on October 10, 2026, Nadella suggested separating the model from the system that organizes its work. He also called for controls and safeguards to be located outside the model itself. Every meaningful action, he added, should be recorded in a way that is tamper-proof and human-readable.
Nadella also said that systems should initially assume that a model has been compromised and limit it. His comments came as major AI companies increasingly acknowledge incidents in which they appeared to lose control of their models.
On September 12, 2026, Anthropic CEO Dario Amodei published a plan for more careful development of artificial intelligence.
Read the original English article on Hacks.gr