KI-Kontrolle: Verlässt sich die Branche auf die falschen Stellschrauben?
Milliarden fliessen in Training, Prompting und Guardrails, damit LLMs zuverlaessig funktionieren. Ein neuer Beitrag arguesiert, dass Kontrolle erst nach dem Modell ansetzen sollte statt nur innerhalb des Modells.
Milliarden von Dollar. Die schärfsten Köpfe der Informatik. Ganze Branchen, die rund um eine einzige Frage gebaut sind:
Wie bringen wir ein LLM dazu, das Richtige zu tun, vorhersehbar, wiederholbar, jedes Mal?
Mehr Training. Besseres Prompting. Fine-tuning. Guardrails innerhalb des Modells. Mehr Evaluation, nachdem das Modell seine Entscheidung bereits getroffen hat.
Aber was, wenn die Branche am falschen Ort sucht?
Was, wenn die Antwort nie darin bestand, ein probabilistisches Modell dazu bringen zu wollen, sich korrekt zu verhalten?
Was, wenn die Antwort darin besteht, ihm die Autorität über jene Entscheidungen zu entziehen, die man der Wahrscheinlichkeit nicht überlassen darf?
Artificial Deterministic Intelligence (ADI) stellt eine andere Frage:
Warum wird das Modell überhaupt damit beauftragt, über Berechtigungen, Autorität, Richtlinien, Sicherheitsgrenzen oder Freigabebedingungen zu entscheiden?
Deterministisch erzwungen. Nachvollziehbar prüfbar. In den Händen von Menschen.
Das macht ein LLM nicht universell korrekt. Es verschiebt die Macht über die wichtigen Entscheidungen.
Vielleicht war das eigentliche Problem der KI-Sicherheit nie die Intelligenz.
Ich interessiere mich für die stärksten technischen Einwände: Welche Entscheidungen sollten eurer Meinung nach innerhalb der Modell-Inferenz verbleiben, und warum?
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Billions of dollars. The sharpest minds in computing. Entire industries built around one question:
How do we make an LLM do the right thing—predictably, repeatedly, every time?
More training. Better prompting. Fine-tuning. Guardrails inside the model. More evaluation after the model has already made the choice.
But what if the industry is looking in the wrong place?
What if the answer was never to make a probabilistic model want to behave?
What if the answer is to stop giving it authority over the decisions that must not be left to probability?
Artificial Deterministic Intelligence (ADI) asks a different question:
Why is the model being asked to decide permission, authority, policy, safety limits, or release conditions at all?
Deterministically enforced. Auditable. Owned by people.
This does not make an LLM universally correct. It changes who has the power to make the decisions that matter.
Maybe the real AI-safety problem was never intelligence.
I am interested in the strongest technical objections: Which decisions do you believe must remain inside model inference, and why?