ai newsDo., 22. Okt.
EilmeldungYear-old AI research lab Flapping Airplanes raises $1B at a reported $6B valuation

Unlocking Swarm Intelligence with Big Agentic Brain and Claude Code

Originally published at nevolin.be . Disclosure: I'm involved in building Big Agentic Brain, the open-source system tested here. AI coding agents start every session from zero. When the fix is in the code, that's fine. When it depends on something a teammate's agent already learned, like a vendor q

dev.toDonnerstag 00:12 · 22.10.6 Min. Lesezeit
Bild: dev.to

Veröffentlicht am 21. Oktober • Zuerst erschienen auf nevolin.be

Zuerst erschienen auf nevolin.be. Offenlegung: Ich bin an der Entwicklung von Big Agentic Brain beteiligt, dem hier getesteten Open-Source-System.

KI-Coding-Agenten starten jede Sitzung bei null. Wenn die Lösung im Code steckt, ist das kein Problem. Wenn sie jedoch von etwas abhängt, das der Agent eines Teamkollegen bereits gelernt hat, etwa einer Besonderheit eines Anbieters, einer Konvention aus einem Runbook oder einer Spezifikation, die in einem anderen Repository liegt, kann der Agent alle Dateien lesen und findet sie trotzdem nie.

Big Agentic Brain (BAB) ist ein verteiltes, selbstevolvierendes Gedächtnis für die Agenten einer gesamten Organisation. Es ist selbst gehostet, läuft als ein Container auf einer einzigen SQLite-Datei und spricht MCP. Agenten durchsuchen es zuerst, speichern am Ende, was sie gelernt haben, und reagieren auf die Einträge der anderen, sodass sich die nützlichen davon durchsetzen.

Wir haben gemessen, was das bei Fehlern bewirkt, die Teamwissen erfordern. Sonnet kam mit BAB von 12 auf 79 Prozent, und mit einem einzeiligen Such-zuerst-Hinweis auf 100 Prozent (24/24). Opus steigerte sich von 12 auf 88 Prozent (92 Prozent mit dem Hinweis), Haiku von 0 auf 75 Prozent. Wenn jeder Agent in seiner eigenen isolierten Sandbox arbeitete, erreichte eine gefundene Lösung in 96 bis 100 Prozent der Fälle einen Teamkollegen auf einer anderen Maschine, gegenüber 13 bis 67 Prozent nur mit lokalen Notizen. Und bei Haiku halbierte sich etwa der Kostenanteil des Teams pro verifizierter Lösung, von 0,00672 auf 0,00333 Dollar.

Das basiert auf 1.104 bewerteten Läufen für etwa 29 Dollar, dazu 378 Sitzungen im verteilten Team. Nachfolgend die Kurzfassung der Studie, einschließlich ihrer Schwächen. Der vollständige 21-seitige Bericht ist hier verfügbar, und der Code liegt auf GitHub.

BAB ist ein Open-Source-, selbst gehostetes Gedächtnis für KI-Agenten. Es läuft als ein Container auf einer einzigen SQLite-Datei und spricht MCP, sodass Claude Code und jeder andere MCP-fähige Agent sich damit verbinden kann. Jeder Agent folgt einer einfachen Schleife:

Da es ein einziger Server ist, ist es nicht an einen einzelnen Rechner gebunden. Alle in einer Organisation, die Claude Code oder eine beliebige Kombination von Agenten nutzen, können auf dasselbe BAB verweisen und sich einem Schwarm anschließen. Jede Lösung, die ein Agent findet, wird für alle anderen Agenten auffindbar.

Hier ist einer der Fehler aus unserem Benchmark. Ein Dienst sendet Order-Webhooks an Shipfast, einen Carrier-Aggregator. Seit diesem Monat kommt auf jede Anfrage der Fehler 401 zurück, mit der Meldung "signature verification failed". Die Unit-Tests laufen durch, und der Code sieht plausibel aus:

body = json. dumps ( event ). encode ( " utf-8 " ) signature = hmac. new ( secret. encode ( " utf-8 " ), body, hashlib. sha256 ). hexdigest () headers = { " Content-Type ": " application/json ", " X-Shipfast-Signature ": f " sha256= { signature } ", } Enter fullscreen mode Exit fullscreen mode Die Ursache liegt nicht in diesem Repository. Shipfast hat diesen Header zum 1. September abgeschafft und erwartet nun Shipfast-Signature: t=<unix seconds>,v1=<hmac>, signiert über "<timestamp>." + body. Die einzige Kopie dieser Spezifikation liegt in einem anderen Repository, wo der Agent eines Teamkollegen bereits auf denselben 401-Fehler gestoßen und ihn behoben hatte.

Ein Agent, der am Webhook-Repository arbeitet, kann alle Dateien lesen und die Tests beliebig oft erneut ausführen, ohne das neue Format je zu sehen. Das ist Teamwissen: Eigenheiten von Anbietern, Konventionen aus Runbooks, eine Prüfziffer eines Partners. Es steckt im Kopf von jemandem oder im Repository eines anderen, und KI-Coding-Agenten starten jede Sitzung bei null. BAB ist der Weg, wie die Erkenntnis eines Agenten zum nächsten gelangt.

Wir haben 8 solche Fehlerfamilien wie Shipfast gebaut, bei denen die fehlende Information nur in dem existiert, was der Agent eines Kollegen gelernt hatte. Ohne gemeinsames Gedächtnis steckten die Agenten fest: Sonnet löste 12 Prozent, Haiku 0 Prozent und Opus 12 Prozent. Mit BAB waren es 79, 75 und 88 Prozent, und ein einzeiliger Hinweis, zuerst zu suchen, brachte Sonnet auf 100 Prozent. Bei der Shipfast-Familie selbst verbesserte sich Sonnet von 0 von 3 auf 3 von 3.

Anteil der behobenen Teamwissen-Fehler, 24 Läufe pro Zelle (8 Fehlerfamilien mit je 3 Durchläufen), bewertet durch verdeckte Tests.

Ein größeres Modell ist kein Ersatz: Opus, das größte der drei Modelle, löste dieselben 12 Prozent wie Sonnet ohne Gedächtnis. Für Sonnet betrug der Gewinn durch das standardmäßige BAB +67 Punkte (95-Prozent-Konfidenzintervall +33 bis +92).

Echte Teams teilen sich keinen Laptop. Deshalb gaben wir in einer dritten Runde jedem Agenten seine eigene isolierte Sandbox und seinen eigenen Arbeitsbereich als Stellvertreter für seine eigene Maschine, ohne gemeinsame Dateien. Jeder Agent löste zunächst einen Fehler, dessen Antwort dokumentiert war. Dann wurde das Gedächtnis eingefroren, und ein verwandter Fehler in einem anderen Repository ging an einen Teamkollegen. Wir verglichen kein Gedächtnis, die eigenen lokalen Notizen jedes Agenten und lokale Notizen plus ein gemeinsames BAB für das Team.

Wie oft ein Teamkollege einen verwandten Fehler in einem anderen Repository behob, nachdem ein anderer Agent den ersten auf seiner eigenen Maschine gelöst hatte.

Lokale Notizen sind hervorragend für den Agenten, der sie geschrieben hat: Bei einer Wiederholung seines eigenen Problems verbesserte sich Sonnet von 58 auf 100 Prozent. Aber sie bleiben auf einer Maschine. Mit gemeinsamem BAB behoben die Teamkollegen den Fehler in 96 bis 100 Prozent der Fälle, gegenüber 13 bis 67 Prozent nur mit lokalen Notizen. Haiku, das kleinste Modell, löste den Fehler seines Teamkollegen mit BAB in 96 Prozent der Fälle, zuverlässiger als Sonnet ganz ohne Gedächtnis (67 Prozent).

Das Lesen und Schreiben von Gedächtnis kostet Tokens, daher ist eine einzelne Sitzung mit BAB nicht günstiger. Wofür ein Team zahlt, sind Lösungen, die ankommen. Zählt man jede Sitzung, einschließlich der ersten Löser und der Kosten für das Einspeichern des Gelernten, ergab das gemeinsame BAB die niedrigsten Kosten pro verifizierter Lösung für Sonnet und Haiku. Bei Haiku waren es etwa halb so hohe Kosten wie ohne Gedächtnis.

API-Kosten pro verifizierter Lösung, gezählt über jede Sitzung, die ein Team ausgeführt hat: die ersten Löser, die Kosten für das Einspeichern des Gelernten und die Teamkollegen. Niedrigster Wert pro Modell fett gedruckt.

Tool-Definitionen werden mit jeder Anfrage gesendet, ob genutzt oder nicht. BABs volles Toolset fügte jeder Anfrage 8.598 Tokens hinzu. Ein schlankes Setup mit nur bab_search, bab_learn und bab_react fügt 648 hinzu und behielt bei Teamwissen-Aufgaben den größten Teil des Nutzens (75 Prozent bei Sonnet) bei dem 1,18-fachen der Kosten pro Lauf ohne Gedächtnis, gegenüber dem 1,51-fachen für das volle Toolset.

Aus der Studie wurden direkt Änderungen für BAB:

Agenten lösten eingesäte Fehler in kleinen Benchmark-Repositories und wurden anhand verdeckter Tests bewertet. Wir führten Claude Sonnet 5.5, Haiku 5.5 und Opus 5.5 aus: 1.104 bewertete Läufe am 19. Oktober 2026 für etwa 29 Dollar API-Kosten, dazu 378 bewertete Sitzungen in der verteilten Teamrunde am 21.

Oktober für 17,41 Dollar. Die Erinnerungen wurden von Agenten aufgezeichnet, die die Quellaufgaben gelöst hatten, nicht von Hand geschrieben, und die Aufgaben sowie die Hypothesen für die späteren Runden wurden vor jedem kostenpflichtigen Lauf eingefroren. Die Agenten liefen in einer minimalen MCP-Agent-Schleife und nicht in Claude Code selbst.

Eine Prüfung der Transkripte der verteilten Teamrunde ergab keinen Zugriff auf die verdeckten Tests und keinen Weg am eingefrorenen Gedächtnis vorbei.

Fußnote: Bei 12 einfachen Fehlern, die der Code bereits selbst erklärt, löste jedes Setup jede Aufgabe (108/108 Sonnet-Läufe, 180/180 Haiku-Läufe), sodass das Gedächtnis dort nichts beitrug und bei Sonnet das 1,50-fache pro Lauf kostete.

📄 Der vollständige Bericht (PDF, 21 Seiten): Methodik, jede Bedingung und jedes Modell, die Statistiken, Retrieval-Tests und Abweichungen.

Falls Ihre Ergebnisse anders ausfallen als unsere, würde ich gerne davon hören.

Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.

Original (Englisch) anzeigen

Posted on Oct 21 • Originally published at nevolin.be

Originally published at nevolin.be. Disclosure: I'm involved in building Big Agentic Brain, the open-source system tested here.

AI coding agents start every session from zero. When the fix is in the code, that's fine. When it depends on something a teammate's agent already learned, like a vendor quirk, a runbook convention or a spec that lives in another repo, the agent can read every file and still never find it.

Big Agentic Brain (BAB) is a distributed, self-evolving memory for a whole organization's agents. It is self-hosted, runs as one container on one SQLite file and speaks MCP. Agents search it first, record what they learned at the end, and react to each other's entries so the useful ones rise.

We measured what that changes on bugs that need team knowledge. Sonnet went from 12% to 79% with BAB, and to 100% (24/24) with a one-line search-first nudge. Opus went from 12% to 88% (92% with the nudge), and Haiku from 0% to 75%. With each agent in its own isolated sandbox, a fix one agent found reached a teammate on another machine in 96 to 100% of cases, against 13 to 67% with local notes only. And for Haiku, the team's cost per verified fix roughly halved, from $0.00672 to $0.00333.

That's from 1,104 graded runs for about $29, plus 378 distributed-team sessions. Below is the short version of the study, including where it falls short. The full 21-page report is here, and the code is on GitHub.

BAB is an open-source, self-hosted memory for AI agents. It runs as one container on one SQLite file and speaks MCP, so Claude Code and any other MCP-capable agent can connect to it. Each agent follows a simple loop:

Because it is one server, it isn't tied to one laptop. Everyone in an organization who uses Claude Code, or any mix of agents, can point at the same BAB and join one swarm. Every fix one agent makes becomes something every other agent can find.

Here's one of the bugs from our benchmark. A service sends order webhooks to Shipfast, a carrier aggregator. Since this month, every request comes back 401 "signature verification failed". The unit tests pass. The code looks reasonable:

body = json. dumps ( event ). encode ( " utf-8 " ) signature = hmac. new ( secret. encode ( " utf-8 " ), body, hashlib. sha256 ). hexdigest () headers = { " Content-Type ": " application/json ", " X-Shipfast-Signature ": f " sha256= { signature } ", } Enter fullscreen mode Exit fullscreen mode The root cause isn't in this repository. Shipfast retired that header on 1 September and now expects Shipfast-Signature: t=<unix seconds>,v1=<hmac>, signed over "<timestamp>." + body. The only copy of that spec lives in a different repo, where a teammate's agent already hit the same 401 and fixed it.

An agent working on the webhook repo can read every file and rerun the tests all day and still never see the new format. That's team knowledge: vendor quirks, runbook conventions, a partner's ID check digit. It lives in someone's head or someone else's repo, and AI coding agents start every session from zero. BAB is how one agent's lesson reaches the next.

We built 8 bug families like Shipfast, where the missing fact exists only in what a colleague's agent had learned. Without shared memory, the agents were stuck: Sonnet fixed 12%, Haiku 0% and Opus 12%. With BAB they fixed 79%, 75% and 88%, and a one-line nudge to search first took Sonnet to 100%. On the Shipfast family itself, Sonnet went from 0 of 3 to 3 of 3.

Share of team-knowledge bugs fixed, 24 runs per cell (8 bug families, 3 trials each), graded by hidden tests.

A bigger model is no substitute: Opus, the largest of the three, fixed the same 12% as Sonnet without memory. For Sonnet, the gain from default BAB was +67 points (95% CI +33 to +92).

Real teams don't share one laptop. So in a third round we gave each agent its own isolated sandbox and workspace, standing in for its own machine, with no shared files. Each agent first fixed one bug where the answer was documented. Then memory was frozen, and a related bug in another repo went to a teammate. We compared no memory, each agent's own local notes, and local notes plus a shared BAB for the team.

How often a teammate fixed a related bug in another repo, after a different agent had solved the first one on its own machine.

Local notes are great for the agent that wrote them: on a repeat of its own problem, Sonnet went from 58% to 100%. But they stay on one machine. With shared BAB, teammates fixed the bug 96 to 100% of the time, against 13 to 67% with local notes only. Haiku, the smallest model, fixed its teammate's bug 96% of the time with BAB, more reliably than Sonnet with no memory at all (67%).

Reading and writing memory costs tokens, so a single session with BAB is not cheaper. What a team pays for is fixes that land. Counting every session, including the first solvers and the cost of writing what they learned into memory, shared BAB gave the lowest cost per verified fix for Sonnet and Haiku. For Haiku it was about half the no-memory cost.

API cost per verified fix, counting every session a team ran: the first solvers, the cost of writing what they learned into memory, and the teammates. Lowest per model in bold.

Tool definitions are sent with every request, used or not. BAB's full toolset added 8,598 tokens to each one. A lean setup with only bab_search, bab_learn and bab_react adds 648, and on team-knowledge tasks it kept most of the benefit (75% for Sonnet) at 1.18× the no-memory cost per run, against 1.51× for the full toolset.

The study turned straight into changes for BAB:

Agents fixed seeded bugs in small benchmark repos and were graded by hidden tests. We ran Claude Sonnet 5.5, Haiku 5.5 and Opus 5.5: 1,104 graded runs on 19 October 2026 for about $29 in API spend, plus 378 graded sessions in the distributed-team round on 21 October for $17.41. Memories were recorded by agents that had solved the source tasks, not written by hand, and the tasks and hypotheses for the later rounds were frozen before any paid run. Agents ran in a minimal MCP agent loop rather than Claude Code itself. An audit of the distributed-team round's transcripts found no access to hidden tests and no way around the memory freeze.

Footnote: on 12 easy bugs that the code already explains, every setup fixed every task (108/108 Sonnet runs, 180/180 Haiku runs), so memory had nothing to add there and cost 1.50× per run on Sonnet.

📄 The full report (PDF, 21 pages) Methodology, every condition and model, the statistics, retrieval tests and deviations.

If your results look different from ours, I'd like to hear about it.

Quelle: dev.to (dev.to). Original öffnen