KI-Risiken: Gartner empfiehlt doppeltes Budget fuer Absicherung statt nur fuer Tools
Laut Gartner sollten Unternehmen fuer die Absicherung von KI mindestens doppelt so viel einplanen wie fuer die Tools selbst. Nur so lasse sich der Wert von KI langfristig schuetzen.
Veröffentlicht am 10. Oktober • Zuerst veröffentlicht auf dromeas.ai
Zuerst veröffentlicht im Dromeas-Blog.
In Gartners neuestem Quartalsbericht gibt es eine Zeile, zu der ich immer wieder zurückkehre: Um den Wert zu schützen, den man aus KI zieht, sollte man planen, mindestens doppelt so viel für deren Ent Risikierung auszugeben wie für die Tools selbst.
Das richtet sich an CEOs und CFOs. Aber wer Technik oder Sicherheit leitet, für den trifft es meiner Ansicht nach schneller zu als für jeden anderen, denn genau dort wird die KI-Ausgabe zu etwas Realem. Vom Agenten geschriebener Code erreicht die Produktion mit dem Release. Genau dort würde ich also zuerst ansetzen.
Ein kurzer Hinweis vorab: Gartners Zahlen beziehen sich auf KI im Allgemeinen, nicht auf Code. Alles Folgende zu Releases ist meine Lesart, nicht die von Gartner.
In ihrer Kernbotschaft bezeichnen sie die KI-Wertlücke als "im Grunde eine KI-Risikolücke" und gliedern sie in drei Säulen: Kosten, Cybersicherheit und Vertrauenswürdigkeit. Verfehlt man eine davon, verliert man den Wert, dem man hinterherjagte.
Zwei Datenpunkte aus ihrer CEO-Umfrage (203 Führungskräfte, April bis Mai 2026) stechen hervor:
Und nur 23 % der CxOs sagen, dass sie den generativen KI-Ausgaben ihrer Organisation vertrauen.
(Gartner stellt klar, dass dies eine Befragung der Menschen ist, die man gefragt hat, nicht des gesamten Marktes. Man sollte es als Signal verstehen, nicht als Volkszählung.)
Die Ent Risikierung von "KI" klingt gewaltig. Governance-Frameworks, Sandboxes, Lieferantenverträge. Ein Teil davon ist eine unternehmensweite Aufgabe.
Aber in der Software gibt es eine Stelle, durch die jede Änderung hindurch muss: den Release. Es ist der letzte Moment, in dem man noch Nein sagen kann, und es ist der Punkt, an dem man dem Ja Belege beifügen kann. Lassen Sie mich Gartners drei Säulen einzeln durchgehen.
Wenn nur 23 % der Führungskräfte ihren KI-Ausgaben vertrauen, reicht "der Agent hat gesagt, dass alles in Ordnung ist" nicht aus. Ein vertrauenswürdiger Release enthält ein Urteil und die Belege dahinter: was geprüft wurde, was gefunden wurde, wie sicher wir uns sind und wer oder was widersprochen hat.
Gartners Rat an CISOs lautet automatisierte Schutzmechanismen und Containment, statt zu hoffen, dass Reviewer alles entdecken. Bei vom Agenten geschriebenem Code bedeutet das Prüfungen, die bei jeder Änderung und jedem Release laufen, abgestimmt auf das, was sich tatsächlich geändert hat, sodass sie schnell genug sind, dass niemand sie umgeht.
Die Zahl von 28 % ist hier relevant. Die meisten Sicherheitsbudgets waren nicht auf das Codevolumen ausgelegt, das Agenten erzeugen. Eine Prüfstelle, die mit dem Diff skaliert, ist ein Weg, Schritt zu halten, ohne pro Agent einen Reviewer einzustellen.
Gartner spricht von einem "verborgenen Eisberg" der KI-Kosten: Energie, Data Engineering, Observability, Workflow-Redesign, Compliance-Audits. Sie vermerken, dass nur 45 % der leitenden Fachverantwortlichen im Rahmen ihres geplanten KI-Budgets für 2025 geblieben sind.
Die technische Entsprechung davon ist Nacharbeit. Fehler und Sicherheitsbefunde, die nach dem Release entdeckt werden, kosten deutlich mehr als solche, die vorher gefunden werden. Ich möchte dazu keine Zahl nennen, weil ich dafür keine belastbare Quelle für 2026 habe. Aber die Richtung ist unstrittig.
Eine Empfehlung, die ich gut fand: Kein KI-Pilotprojekt sollte Skalierungsfinanzierung erhalten, bis CFO, CIO und General Counsel gemeinsam seine Kostenstruktur, sein Wertpotenzial, seine Datenherkunft und seine Risikokontrollen zertifiziert haben.
So würde ich das für ein Team übersetzen, das mit Agenten ausliefert:
Genau daran arbeiten wir bei Dromeas: Code-Review und Release-Prüfungen mit einem Urteil, den Belegen dahinter und den Audit-Dokumenten, die als Nebenprodukt entstehen. Mehr dazu auf der Compliance-Seite.
Quellen: Gartner Business Quarterly 4Q26: "The AI Value Gap Is Really an AI Risk Gap" (Sallam, Mesaglio) und "CEO Watch 4Q26" (Furlonger), basierend auf der Gartner CEO Survey 2027 (203 Teilnehmer, Apr–Mai 2026) und der Gartner C-Suite AI Survey 2026 · DataGrail, Privacy and AI Trends Report 2026
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Posted on Oct 10 • Originally published at dromeas.ai
Originally published on the Dromeas blog.
Gartner's latest quarterly has a line I keep coming back to: to protect the value you get from AI, plan to spend at least twice as much on derisking it as you spend on the tools themselves.
That's aimed at CEOs and CFOs. But if you run engineering or security, I think it lands on you faster than on anyone, because that's where AI output turns into something real. Agent-written code reaches production at the release. So that's where I'd look first.
A quick caveat. Gartner's numbers are about AI in general, not code. Everything below about releases is my reading, not theirs.
Their opening message calls the AI value gap "really an AI risk gap," and splits it into three pillars: cost, cybersecurity and trustworthiness. Miss one and you lose the value you were chasing.
Two data points from their CEO survey (203 executives, April to May 2026) stand out:
And only 23% of CxOs say they're confident in their organization's generative AI outputs.
(Gartner is clear this is a survey of the people it asked, not the whole market. Take it as a signal, not a census.)
Derisking "AI" sounds huge. Governance frameworks, sandboxes, vendor contracts. Some of that is a company-wide job.
But for software, there's one point every change has to pass through: the release. It's the last moment you can still say no, and it's where you can attach evidence to the yes. Let me take Gartner's three pillars one at a time.
If only 23% of leaders trust their AI outputs, "the agent said it was fine" isn't going to cut it. A trusted release has a verdict and the evidence behind it: what was checked, what was found, how confident we are, and who or what disagreed.
Gartner's advice to CISOs is automated guardrails and containment, rather than hoping reviewers catch everything. For agent-written code that means checks that run on every change and every release, scoped to what actually changed, so they're fast enough that nobody routes around them.
The 28% figure matters here. Most security budgets weren't sized for the volume of code agents produce. A gate that scales with the diff is one way to keep up without hiring a reviewer per agent.
Gartner talks about a "hidden iceberg" of AI costs: energy, data engineering, observability, workflow redesign, compliance audits. They note only 45% of senior functional leaders stayed on their planned 2025 AI budget.
The engineering version is rework. Bugs and security findings caught after release cost far more than ones caught before. I'm not going to put a number on it, because I don't have a clean 2026 source for one. But the direction is not in doubt.
One recommendation I liked: no AI pilot should get scale funding until the CFO, CIO and general counsel jointly certify its cost structure, value potential, data provenance and risk controls.
Here's how I'd translate that for a team shipping with agents:
This is what we build at Dromeas: code review and release checks with a verdict, the evidence behind it, and the audit docs generated as a by-product. More on the compliance side.
Sources: Gartner Business Quarterly 4Q26: "The AI Value Gap Is Really an AI Risk Gap" (Sallam, Mesaglio) and "CEO Watch 4Q26" (Furlonger), based on the 2027 Gartner CEO Survey (203 respondents, Apr–May 2026) and the 2026 Gartner C-Suite AI Survey · DataGrail, Privacy and AI Trends Report 2026