Anthropic beschleunigt langlaufende KI-Agenten mit neuen "Message Threads"
Anthropic führt Message Threads für die Messages-API ein. Statt bei jedem Turn die gesamte Konversation erneut zu senden, übermitteln Agenten nur noch neue Nachrichten. Bei Anfragen mit 500.000 bis einer Million Token sinkt die Wartezeit bis zum ersten Token um rund 35 Prozent. Der Artikel Anthropi

Diese Meldung zeigen wir als Kurzfassung und verlinken direkt zum Original.
Weiter zum Original bei The DecoderQuelle: The Decoder (the-decoder.de). Original öffnen