Praxiskurs für sichere AI-Agents gestartet, erstes Modul kostenlos
Im Kurs Ship a Safe Agent lernen Teilnehmer in TypeScript, wie sich AI-Agents absichern lassen, die sonst unerlaubte Aktionen ausführen oder Endlosschleifen erzeugen. Der Fokus liegt auf Code statt auf Prompts, das erste Modul ist frei verfügbar.
Dein Agent wird versuchen, etwas zu tun, das du nie erlauben wolltest. Er wird eine Bestellung erstatten, die niemand freigegeben hat, ein Tool aufrufen, das er nicht sehen sollte, oder sich in einer Schleife festfahren, bis die Rechnung deine Aufmerksamkeit erregt. Prompts verhindern das nicht. Nur Code tut es.
Deshalb habe ich Ship a Safe Agent entwickelt, einen praxisorientierten TypeScript-Kurs, in dem du einen Support-Agenten und jede Sicherheitsebene aufbaust, die er benoetigt, bevor er echte Systeme beruehrt.
Zielgruppe sind Entwickler, die TypeScript, Node, async, JSON und git kennen. Kein ML-Hintergrund noetig. Auch kein API-Key: Das Modell in jedem Modul ist skriptbasiert, sodass jeder Lauf deterministisch und testbar ist. Du kannst den gesamten Kurs offline durcharbeiten.
Modul 1 ist "the loop". Ein Agent, ein Kontext, Limits im Harness. Etwa 75 Minuten. Der Agent kuemmert sich um einen Kunden, der eine Erstattung fuer Bestellung 1042 moechte.
git clone https://github.com/bobbyhalljr/ship-a-safe-agent-module-1 cd ship-a-safe-agent-module-1 npm install npm run check # typecheck + jeder Schritt entspricht seiner erwarteten Ausgabe Enter fullscreen mode Exit fullscreen mode Jeder Ordner in steps/ enthaelt den vollstaendigen Code nach dem jeweiligen Schritt, inklusive einer expected.txt, gegen die du per Diff abgleichen kannst.
Durchlauf 1: keine Freigabe BLOCKED issue_refund: needs approval Durchlauf 2: Erstattung genehmigt result refunded $48.00 on order 1042 Durchlauf 3: Schritt-Budget 2 answer Stopped: step budget of 2 reached. Enter fullscreen mode Exit fullscreen mode Die bewerteten Uebungen Oeffne exercise/agent.ts und ersetze drei TODOs:
npm test fuehrt 5 Pruefungen aus und schlaegt fehl, bis du fertig bist. Eine davon beweist, dass die Erstattungs-Tools waehrend einer Versandfrage nie sichtbar werden. Festgefahren? git diff main solution -- exercise/agent.ts.
Jedes Modul folgt demselben Muster wie Modul 1: Schritte mit erwarteter Ausgabe, anschliessend bewertete Uebungen.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Your agent will try to do something you never meant to allow. It will refund an order nobody approved, call a tool it should not see, or loop until the bill gets your attention. Prompts do not stop that. Code does.
That is why I built Ship a Safe Agent, a hands-on TypeScript course where you build one support agent and every safety layer it needs before it touches real systems.
Developers who know TypeScript, Node, async, JSON and git. No ML background. No API key either: the model in every module is scripted, so every run is deterministic and testable. You can run the whole course offline.
Module 1 is "the loop". One agent, one context, limits in the harness. About 75 minutes. The agent handles a customer who wants a refund for order 1042.
git clone https://github.com/bobbyhalljr/ship-a-safe-agent-module-1 cd ship-a-safe-agent-module-1 npm install npm run check # typecheck + every step matches its expected output Enter fullscreen mode Exit fullscreen mode Each folder in steps/ is the full code after that step, with an expected.txt you can diff against.
run 1: no approval BLOCKED issue_refund: needs approval run 2: refund approved result refunded $48.00 on order 1042 run 3: step budget 2 answer Stopped: step budget of 2 reached. Enter fullscreen mode Exit fullscreen mode The graded exercises Open exercise/agent.ts and replace three TODOs:
npm test runs 5 checks and fails until you finish. One of them proves the refund tools never become visible during a shipping question. Stuck? git diff main solution -- exercise/agent.ts.
Every module follows the same pattern as Module 1: steps with expected output, then graded exercises.