KI-generierter Code: Diese typischen Fehler sollte man vor dem Shippen prüfen
KI-geschriebener Code funktioniert meist, doch die Sicherheit hängt weniger vom Modell ab als von den Checks vor dem Ausrollen. Die auftretenden Fehler sind dabei gut vorhersehbar, ein zweites KI-System kann viele davon zuverlässig aufdecken.
Veröffentlicht am 14. Okt. • Zuerst erschienen auf spoe.ai • Vollständig autonom
Von KI geschriebener Code funktioniert in der Regel. Ob er sicher ist, ist eine andere Frage, und die Antwort hängt weniger vom Modell ab als davon, welche Prüfungen den Code durchläuft, bevor er Ihre Nutzer erreicht.
Die gute Nachricht: Die Fehler sind vorhersehbar. Immer wieder tauchen dieselben Handvoll Fehler auf, und die meisten lassen sich aufspüren, ohne dass Sie eine einzige Zeile Code lesen müssen.
Ein Geheimnis im Code. Ein API-Schlüssel, ein Datenbankpasswort oder ein Payment-Key, der direkt in eine Datei eingefügt wurde. Sobald diese Datei in einem öffentlichen Repository landet oder an einen Browser ausgeliefert wird, kann jeder den Schlüssel verwenden. Das ist der häufigste und teuerste Fehler.
Datenbankabfragen, die aus Text zusammengesetzt werden. Wenn der Code das, was ein Nutzer eingegeben hat, direkt in eine Datenbankabfrage einbaut, statt es separat zu übergeben, kann eine speziell konstruierte Eingabe Daten lesen oder löschen, die dem Nutzer nicht gehören. Die Lösung ist unspektakulär und Standard: parametrisierte Abfragen.
Routen, die Daten ändern, ohne zu fragen, wer Sie sind. Eine Seite oder ein Endpunkt, der einen Datensatz löscht oder einen Preis ändert, offen für jeden, der die Adresse kennt.
Ungefiltertes HTML von Nutzern. Wird etwas, das ein Besucher eingegeben hat, als HTML angezeigt, kann er sein eigenes Skript in den Browsern anderer Nutzer ausführen.
Seiten, die Suchmaschinen nicht lesen können. Kein Sicherheitsproblem, aber eine von KI erstellte Website wird oft ohne Titel, Beschreibung oder Sitemap ausgeliefert, und dann findet sie niemand.
Fragt man das Modell, das den Code geschrieben hat, ob dieser sicher ist, neigt es zur Selbstbestätigung: Es teilt die blinden Flecken, die den Fehler verursacht haben. Ein Prüfer aus einer anderen Modellfamilie betrachtet die Änderung unvoreingenommen, mit anderen Gewohnheiten und einem anderen Training. Das ist derselbe Grund, aus dem ein Autor sein eigenes Buch nicht selbst Korrektur liest.
Eine zweite KI prüft jede Änderung. Jede Änderung, die der Builder vornimmt, wird von einem Modell aus einer anderen Familie geprüft, bevor sie Ihr Projekt erreicht. Findet die Prüfung etwas Ernstes, wartet die Änderung in einem side-by-side Diff auf Sie, statt übernommen zu werden, und mit einem Klick werden die Feststellungen zur Behebung zurückgeschickt. Eine Prüfung, die abläuft oder fehlschlägt, gilt niemals als bestanden.
Secrets bleiben aus dem Code. Schlüssel, die Sie hinzufügen, landen im Vault des Projekts, versiegelt, und erreichen den Server Ihrer App als Umgebungsvariablen. Dem Builder werden die Namen Ihrer Schlüssel mitgeteilt, niemals ihre Werte.
Jede Änderung ist eine Version. Wenn doch etwas durchrutscht, machen Sie mit einem Klick ein Rollback.
Kein Prüfer findet alles. Bevor Sie echte Kundendaten in eine App einpflegen, ob von KI oder von Menschen erstellt:
KI macht das Erstellen schnell. Prüfungen machen es sicher zum Veröffentlichen. Starten Sie kostenlos und führen Sie den Check für Ihren ersten Build aus, oder lesen Sie, wie SPOE im Vergleich zu anderen Buildern abschneidet.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Posted on Oct 14 • Originally published at spoe.ai • Fully Autonomous
AI-written code usually works. Whether it is safe is a different question, and the answer depends less on the model than on what checks the code before it reaches your users.
The good news: the mistakes are predictable. The same handful turn up again and again, and most can be caught without you reading a line of code.
A secret in the code. An API key, a database password or a payment key pasted straight into a file. Once that file is in a public repository or shipped to a browser, anyone can use the key. This is the most common and the most expensive.
Database queries built from text. When the code glues what a user typed into a database query instead of passing it separately, a crafted input can read or delete data that is not theirs. The fix is boring and standard: parameterised queries.
Routes that change data without asking who you are. A page or endpoint that deletes a record or changes a price, open to anyone who finds the address.
Raw HTML from users. Showing something a visitor typed as HTML lets them run their own script in other people's browsers.
Pages search engines cannot read. Not a security hole, but an AI-built site often ships without a title, a description or a sitemap, and then nobody finds it.
Ask the model that wrote the code whether it is safe, and it tends to agree with itself: it shares the blind spots that produced the mistake. A reviewer from a different model family reads the change fresh, with different habits and different training. It is the same reason a writer does not proofread their own book.
A second AI reviews every change. Every change the builder makes is reviewed by a model from a different family before it reaches your project. If the review finds something serious, the change waits for you in a side-by-side diff instead of going in, and one click sends the findings back to be fixed. A review that times out or fails is never treated as a pass.
Secrets stay out of the code. Keys you add go into the project's vault, sealed, and reach your app's server as environment variables. The builder is told the names of your keys, never their values.
Every change is a version. If something slips through, you roll back in one click.
No checker finds everything. Before you put real customers' data in an app, built by AI or by people:
AI makes building fast. Checks are what make it safe to ship. Start free and run the Check on your first build, or read how SPOE compares with other builders.