ai newsDo., 15. Okt.
EilmeldungMeta and Apple team up to make Muse AI models run better on Macs

a16z investiert 870 Millionen Dollar in TypeSafe AI: Maschinen- statt Chat-Ausgabe

Andreessen Horowitz fuehrt eine Series A ueber 870 Millionen Dollar bei TypeSafe AI an, das mit rund 7,5 Milliarden Dollar bewertet wird. Die These des Produkts Jev: KI-Modelle sollen kuenftig typisierte, strukturierte maschinenlesbare Ausgaben liefern statt nur Chat-Antworten.

dev.toSamstag 03:05 · 10.10.DE4 Min. Lesezeit
Bild: dev.to

Veröffentlicht am 10. Oktober • Zuerst veröffentlicht auf vidraft-ai-media.static.hf.space

Andreessen Horowitz hat gerade eine Series A in Hoehe von 870 Millionen Dollar in TypeSafe AI mit einer Bewertung von 7,5 Milliarden Dollar angefuehrt, rund um ein Produkt, das das Unternehmen Jev nennt. Das Angebot ist einfach und, wie wir finden, richtig: Die naechste Welle der KI ist kein Chat, sondern maschinen_native Ausgabe. Modelle sollten typisierte, strukturierte Entscheidungen liefern, die Software direkt verarbeiten kann, und keine Absaetze, die ein Mensch erst lesen und neu interpretieren muss.

Wir teilen diese These. Wir haben sie auch umgesetzt, offen und nachgemessen. Unser Judge fuer typisierte Entscheidungen belegt den ersten Platz von 102 Modellen auf dem System One Mosaic Benchmark (S1MB), liefert eine Entscheidung in einem einzigen Forward Pass ohne ein einziges generiertes Token, und sowohl der Code als auch die Gewichte sind oeffentlich zugaenglich.

Ein gewoehnliches Chatmodell antwortet in freiem Text. Ein Programm muss diesen Text dann parsen, die Struktur erraten und hoffen, dass das Modell nicht abgedriftet ist. Ein typisiertes Modell laesst die Prosa weg. Gegeben eine Bedingung und eine Menge von Optionen, liefert es die Entscheidung selbst: ein Label, eine Klasse, einen Score. Die Ausgabe hat einen Typ, sodass die aufrufende Software damit arbeiten kann, ohne eine fragile Parsingschicht.

Das ist wichtig, weil die meisten realen Systeme keinen Aufsatz wollen. Ein Router moechte eines von acht Backends auswaehlen. Eine Moderationspipeline moechte ein Urteil. Ein Trading- oder Pricing-Dienst moechte eine bewertete Auswahl. In all diesen Faellen ist Generierung ein Overhead, und jedes generierte Token ist eine Gelegenheit fuer Halluzinationen.

Wenn die Ausgabe eine Entscheidung ist, benoetigt man ueberhaupt keine Decoding-Schleife. Unser Ansatz, ZTC (Zero-Token Confidence) genannt, liest das Problem in einem einzigen Forward Pass, nimmt den Hidden State der letzten Schicht und wendet eine kalibrierte Probe an, um die Entscheidung zu erzeugen. Es werden keine Tokens generiert. Das macht das Ergebnis deterministisch, guenstig genug, um bei jeder Anfrage zu laufen, und frei von der Second-Model-Halluzination, die entsteht, wenn man ein LLM ein anderes LLM beurteilen laesst.

# ein Forward Pass, null generierte Tokens h = model ( text ). last_hidden_state [ last_non_pad_token ] score = (( h - mu ) / sd ) @ w # kalibrierte Probe -> typisierte Entscheidung Enter fullscreen mode Exit fullscreen mode Wie gut funktioniert das nun wirklich? Auf dem S1MB, dem System One Mosaic Benchmark, ist unser Modell Darwin-27B-ZTC-v2 unter 102 Modellen insgesamt auf Platz eins, mit einer Genauigkeit fuer typisierte Entscheidungen von 0,743 zero-shot. Der S1MB misst die Qualitaet schneller, intuitiver Entscheidungen ueber ein Mosaik typisierter Aufgaben hinweg, und genau diese Faehigkeit braucht ein maschinen_natives Modell, um nuetzlich zu sein.

Das Leaderboard ist oeffentlich, man kann es also selbst ueberpruefen.

Die Finanzierungsnachricht validiert die Kategorie. Hier ist der Teil, den man heute nutzen kann, unter Apache-2.0:

Ein grosses, gut finanziertes Unternehmen sagt dem Markt jetzt, dass typisierte, maschinen_native KI die Richtung ist. Wir halten das fuer richtig. Der Unterschied ist, dass man nicht auf ein geschlossenes Produkt warten muss, um es auszuprobieren.

Was ist typisierte Decision AI? Es ist ein KI-Modell, das strukturierte, typisierte Ausgaben wie ein Label, eine Klasse oder einen Score liefert, die Software direkt verarbeiten kann, statt freiem Text, den ein Programm erst parsen muss.

Was ist ZTC (Zero-Token Confidence)? ZTC ist eine Methode, die eine Entscheidung in einem einzigen Forward Pass erzeugt und null Tokens generiert, indem sie eine kalibrierte Probe auf den finalen Hidden State des Modells anwendet. Sie ist deterministisch und kostet einen Forward Pass pro Entscheidung.

Welches Modell ist auf dem S1MB auf Platz eins? Darwin-27B-ZTC-v2 ist auf dem System One Mosaic Benchmark unter 102 Modellen insgesamt auf Platz eins, mit 0,743 Genauigkeit fuer typisierte Entscheidungen zero-shot.

Gibt es eine offene Alternative zu geschlossenen typisierten KI-Produkten? Ja. Die ZTC-Familie, das S1MB-Spitzenmodell, die ONGRID-Engine und die POCKET-On-Device-Modelle sind alle Open Source unter Apache-2.0.

Warum null Tokens statt eines LLM Judge? Ein LLM Judge generiert eine Kritik Token fuer Token, was langsam, nicht deterministisch ist und eigene Halluzinationen hinzufuegen kann. Eine Zero-Token-Entscheidung ist deterministisch und guenstig genug, um bei jeder Anfrage zu laufen.

Mit Templates lassen sich haeufige Fragen schnell beantworten oder Snippets zur Wiederverwendung speichern.

Sind Sie sicher, dass Sie diesen Kommentar verbergen moechten? Er wird in Ihrem Beitrag ausgeblendet, bleibt aber ueber den Permalink des Kommentars weiterhin sichtbar.

Fuer weitere Massnahmen koennen Sie diese Person blockieren und/oder eine Meldung wegen Missbrauchs einreichen.

Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.

Original (Englisch) anzeigen

Posted on Oct 10 • Originally published at vidraft-ai-media.static.hf.space

Andreessen Horowitz just led an 870 million dollar Series A into TypeSafe AI at a 7.5 billion dollar valuation, around a product the company calls Jev. The pitch is simple and, we think, correct: the next wave of AI is not chat, it is machine-native output. Models should return typed, structured decisions that software can consume directly, not paragraphs a human has to read and re-parse.

We agree with the thesis. We also shipped it, in the open, and measured it. Our typed-decision judge is ranked number one of 102 models on the System One Mosaic Benchmark (S1MB), it returns a decision in a single forward pass with zero generated tokens, and both the code and the weights are public.

A normal chat model answers in free text. A program then has to parse that text, guess the structure, and hope the model did not drift. A typed model skips the prose. Given a condition and a set of choices, it returns the decision itself: a label, a class, a score. The output has a type, so the calling software can act on it without a fragile parsing layer.

This matters because most real systems do not want an essay. A router wants to pick one of eight backends. A moderation pipeline wants a verdict. A trading or pricing service wants a scored choice. In all of these, generation is overhead, and every generated token is a chance to hallucinate.

If the output is a decision, you do not need a decoding loop at all. Our approach, called ZTC (Zero-Token Confidence), reads the problem in one forward pass, takes the final-layer hidden state, and applies a calibrated probe to produce the decision. No tokens are generated. That makes the result deterministic, cheap enough to run on every request, and free of the second-model hallucination you get when you use an LLM to judge another LLM.

# one forward pass, zero generated tokens h = model ( text ). last_hidden_state [ last_non_pad_token ] score = (( h - mu ) / sd ) @ w # calibrated probe -> typed decision Enter fullscreen mode Exit fullscreen mode How well does it actually work? On S1MB, the System One Mosaic Benchmark, our model Darwin-27B-ZTC-v2 is number one overall among 102 models, with a typed-decision accuracy of 0.743 zero-shot. S1MB measures fast, intuitive decision quality across a mosaic of typed tasks, which is exactly the capability a machine-native model needs to be useful.

The leaderboard is public, so you can check it yourself.

The funding news validates the category. Here is the part you can use today, under Apache-2.0:

A large, well-funded company is now telling the market that typed, machine-native AI is the direction. We think that is right. The difference is that you do not have to wait for a closed product to try it.

What is typed decision AI? It is an AI model that returns structured, typed output such as a label, class, or score that software can consume directly, instead of free-form text a program must parse.

What is ZTC (Zero-Token Confidence)? ZTC is a method that produces a decision in a single forward pass and generates zero tokens, by applying a calibrated probe to the model's final hidden state. It is deterministic and costs one forward pass per decision.

Which model is number one on S1MB? Darwin-27B-ZTC-v2 is number one overall on the System One Mosaic Benchmark among 102 models, with 0.743 typed-decision accuracy zero-shot.

Is there an open alternative to closed typed-AI products? Yes. The ZTC family, the S1MB number one model, the ONGRID engine, and the POCKET on-device models are all open source under Apache-2.0.

Why zero tokens instead of an LLM judge? An LLM judge generates a critique token by token, which is slow, non-deterministic, and can add its own hallucinations. A zero-token decision is deterministic and cheap enough to run on every request.

Originaltitel: a16z Bet $870M on Typed, Machine-Native AI. Here Is the Open, Benchmark-Proven VersionQuelle: dev.to (dev.to). Original öffnen