KI-Agent mit NestJS und Mistral steuern: Tutorial mit rund 30 Zeilen TypeScript

Einen KI-Agenten zu steuern bedeutet, zwei Dinge zu beherrschen: das Modell, das er verwendet, und was er in Ihrer Anwendung tut. Dieses Tutorial behandelt beides in rund dreißig Zeilen TypeScript, von nest new bis zu einem POST /ask Endpoint: ein europäisches Open-Source-Modell von Mistral und ein Agent, der als NestJS-Modul mit nestjs-langchain deklariert wird.

Das Modell ist zwar nicht deterministisch, aber alles, was es umgibt, kann es sein: Der Agent wird an einer einzigen Stelle konfiguriert, beim Start überprüft, und jede Ausführung verrät, was er getan hat.

Getestet mit NestJS 12, LangChain 1.x, nestjs-langchain 2.0, @langchain/mistralai 1.2 und Node 22.

Erstellen Sie die Anwendung und installieren Sie dann die Bibliothek sowie die Mistral-Integration von LangChain:

npx @nestjs/cli new my-app --package-manager npm cd my-app npm install nestjs-langchain @langchain/mistralai Enter fullscreen mode Exit fullscreen mode npm installiert dabei auch langchain, @langchain/core und zod, die Peer-Dependencies der Bibliothek. @langchain/mistralai ist der Provider: @langchain/openai, @langchain/anthropic oder jede andere Chat-Integration von LangChain lässt sich auf diesel Weise verwenden.

Der Provider liest seinen Schlüssel aus der Umgebungsvariable. Erstellen Sie ihn in der Konsole von Mistral AI und setzen Sie ihn dann:

export MISTRAL_API_KEY =... Enter fullscreen mode Exit fullscreen mode Wie deklariert man den Agenten mit einem Mistral-Modell? Importieren Sie LangChainModule in app.module.ts:

import { Module } from ' @nestjs/common '; import { LangChainModule } from ' nestjs-langchain '; import { AppController } from './app.controller.js '; import { AppService } from './app.service.js '; import { AskController } from './ask.controller.js '; @ Module ({ imports: [ LangChainModule. register ({ // `provider:model`; der Provider liest MISTRAL_API_KEY. model: { model: ' mistralai:mistral-small-latest ' }, systemPrompt: ' Du bist ein hilfreicher Assistent. Antworte in einem Absatz. ', }), ], controllers: [ AppController, AskController ], providers: [ AppService ], }) export class AppModule {} Enter fullscreen mode Exit fullscreen mode model benennt den Provider und das Modell. mistral-small-latest reicht für den Einstieg aus und kann Tools aufrufen, was später noch nützlich sein wird; mistralai:mistral-large-latest liefert das größte Modell von Mistral. Der Wechsel zu OpenAI besteht aus openai:gpt-5-mini mit installiertem @langchain/openai.

Weil Sie dadurch wählen, wo er läuft und unter welcher Lizenz:

Mit Ollama ändert sich nur die model-Zeile: kein API-Schlüssel mehr, und Ihre Daten bleiben auf Ihrer eigenen Infrastruktur.

npm install @langchain/ollama ollama pull mistral-small3.2 Enter fullscreen mode Exit fullscreen mode model: { model: ' ollama:mistral-small3.2 ' }, Enter fullscreen mode Exit fullscreen mode Auch der Rest der Kette ist Open Source: NestJS, LangChain und nestjs-langchain stehen unter der MIT-Lizenz.

Injizieren Sie Agent wie jeden anderen Provider, in einer neuen ask.controller.ts:

import { Body, Controller, Post } from ' @nestjs/common '; import { Agent } from ' nestjs-langchain '; @ Controller ( ' ask ' ) export class AskController { constructor ( private readonly agent: Agent ) {} @ Post () async ask (@ Body ( ' question ' ) question: string ): Promise < string > { const { output } = await this. agent. run ( question ); return output; } } Enter fullscreen mode Exit fullscreen mode Neben output, also der Antwort, gibt run() auch die vom Modell aufgerufenen Tools, die verbrauchten Tokens und die Dauer der Ausführung zurück.

Starten Sie die Anwendung und stellen Sie eine Frage:

npm run start:dev curl -X POST http://localhost:3000/ask \ -H 'Content-Type: application/json' \ -d '{"question": "À quoi sert un module NestJS?"}' Enter fullscreen mode Exit fullscreen mode Die Antwort stammt von Mistral, als reiner Text.

Indem man es wie den Rest des Backends behandelt: nestjs-langchain ordnet es in ein Nest-Modul ein, mit denselben Regeln.

Für einen einfachen Modellaufruf genügt LangChain allein. Das Modell wird nützlich, sobald der Agent Ihre Anwendung berührt und Sie wissen müssen, was er tut.

Ein Agent wird dann nützlich, wenn er in Ihrer Anwendung agiert. Mit @Tool() wird eine Service-Methode zu einem Tool, das Mistral aufrufen kann:

@ Injectable () export class MathService { @ Tool ({ description: ' Additionne deux nombres. ' }) add ( @ ToolParam ({ name: ' a ' }) a: number, @ ToolParam ({ name: ' b ' }) b: number, ): number { return a + b; } } Enter fullscreen mode Exit fullscreen mode Anschließend macht tools: [MathModule] in register() den Service dem Agenten verfügbar. Die Details finden Sie in der vollständigen Serie: AI agents with NestJS.