ai newsDo., 15. Okt.
EilmeldungAlibaba Qwen N1 AI glasses go on sale in China

Mistral Large 4 vorgestellt: Anthropic macht Haiku guenstiger, Mistral kehrt zurueck zur Spitze

This digest covers model releases and updates from roughly 2026-10-03 through 2026-10-10, across the usual suspects: Anthropic, OpenAI, Google, Meta, Mistral, Hugging Face, and Simon Willison's blog. 🔥 Highlights Introducing Mistral Large 4 — Mistral's biggest capability jump in a year, closing on

dev.toSamstag 14:06 · 10.10.DE5 Min. Lesezeit
Bild: dev.to

Diese Zusammenfassung behandelt Modellveröffentlichungen und Updates im Zeitraum von etwa 2026-10-03 bis 2026-10-10, bei den üblichen Verdächtigen: Anthropic, OpenAI, Google, Meta, Mistral, Hugging Face und Simon Willisons Blog.

Vorstellung von Claude Haiku 5.5, 2026-10-07. Anthropics neues kleines Modell erhält eine einstellbare Effort-Einstellung, die bisher größeren Modellen vorbehalten war, und der Listenpreis sinkt im Vergleich zu Haiku 4.5 um rund 75 Prozent. Der Cache-Read-Preis von Sonnet 5.5 wurde zudem halbiert (etwa 20 Prozent günstiger für agentische Workloads), und Abonnenten von Max und Team erhalten ein neues monatliches API-Guthaben. Für Teams, die Klassifizierung, Zusammenfassung oder Subagent-Aufgaben in großem Volumen betreiben, senkt das die Kostenuntergrenze deutlich. Man sollte bei der Schätzung realer Einsparungen nur den neuen Tokenizer berücksichtigen (siehe Simon Willisons Anmerkung unten).

OpenAIs Consumer-News-Blog (openai.com/news) zeigte während der Recherche eine Bot-Challenge-Seite und konnte nicht direkt überprüft werden, daher stützt sich dieser Abschnitt stattdessen auf OpenAIs Entwickler-API-Changelog, was für Entwickler ohnehin vermutlich relevanter ist.

Ultrafast-Modus für GPT-6.1 Sol, 2026-10-08. Eine neue Ultrafast-Service-Stufe für gpt-6.1-sol in der Responses API reduziert die Latenz zwischen Tokens und steht allen API-Nutzern vorbehaltlich der Rate Limits zur Verfügung, mit globaler Verarbeitung sowie Optionen für Datenresidenz in den USA und der EU. Nützlich für latenzkritische Produktionspfade wie Sprach- oder Live-Agenten, ohne das Modell vollständig wechseln zu müssen.

Decisions, 2026-10-06. Ein neuer Beta-Endpunkt v1/decisions, der auf gpt-6-luna basiert, wandelt Text- oder Bildeingaben in typisierte Antworten um und soll laut Anbieter etwa zehnmal schneller laufen als die Responses API. Es ist ein dedizierter Pfad für Produktions-Workloads im Stil von Klassifizierung und Extraktion, die strukturierte Ausgaben statt einer vollständigen Chat-Antwort benötigen, und lohnt sich als Benchmark gegen die eigene bestehende Struktur für strukturierte Ausgaben.

Neues aus diesem Zeitraum gibt es nicht. Der jüngste Beitrag ist eine September-Rückblick (veröffentlicht 2026-10-02, also knapp außerhalb der Sieben-Tage-Grenze), der bereits in früheren Zusammenfassungen behandelte Ankündigungen bündelt und selbst keine neue Veröffentlichung darstellt.

Auf diesem Blog wurde seit Ende Juli 2026 nichts veröffentlicht, daher gibt es diese Woche keine Modell-Neuigkeiten zu berichten.

Vorstellung von Mistral Large 4, 2026-10-06. Mistral hat eine öffentliche Vorschau von Large 4 veröffentlicht, ein nativ multimodales Mixture-of-Experts-Modell mit einer Billion Parametern (52B aktive Parameter), trainiert auf einem eigenen Grace-Blackwell-Cluster mit 3.800 GPUs. Es erzielt starke Ergebnisse bei Coding, agentischen Workflows, Cybersicherheit und Visual Grounding und unterstützt über 160 Sprachen. Das Modell ist jetzt über die API von Mistral Studio für Produktionsexperimente verfügbar; offene Gewichte werden bis Ende des Monats versprochen, was relevant ist, wenn man EU-souveräne Inferenz wünscht oder nicht an eine geschlossene API gebunden sein will.

Open-Sourcing von AstaBrief, dem schnellen Berichtsgenerierungs-Modell in Asta, 2026-10-03. Das Allen Institute for AI hat die Gewichte von AstaBrief 8B veröffentlicht (auf Qwen3-8B aufbauend), das aus einer Anfrage und herangezogener Literatur wissenschaftliche Berichte mit Zitaten in einem einzigen Durchlauf erzeugt statt Abschnitt für Abschnitt. Es ist im Benchmark rund 3,5-mal schneller als eine Claude-basierte Alternative (etwa 51 Sekunden gegenüber 178 Sekunden pro Bericht im Fast Mode), mit Trainingsdaten und Beispielen für den lokalen Einsatz. Eine solide Option, wenn man wissenschaftliche Berichtsgenerierung on-premises ohne Abhängigkeit von einer Drittanbieter-API benötigt.

Neu in llama.cpp: Decision Models, 2026-10-05. llama.cpp hat native UnterstĂĽtzung fĂĽr sogenannte Decision Models ĂĽber einen neuen Endpunkt /v1/systemone hinzugefĂĽgt: Statt Text Token fĂĽr Token zu generieren, bewerten diese Modelle die angegebenen Optionen und liefern eine wahrscheinlichkeitsgewichtete Antwort. Modelle von 144M bis 27B Parametern antworten auf der GPU in 3 bis 43 Millisekunden, womit Klassifizierer-Tempo bei der Latenz fĂĽr Request-Routing, Inhaltsmoderation oder die Validierung von Agentenaktionen verfĂĽgbar wird, alles lokal laufend.

LightOnOCR-3: Hochleistungs-OCR und Layoutextraktion in einem Modell, 2026-10-09. LightOn hat drei Varianten von LightOnOCR-3 veröffentlicht (0.8B, 1B, 4B; die beiden größeren auf einem Qwen3.5-VL-Backbone) unter Apache 2.0, die OCR und Verständnis von Dokumentlayouts in einem Modell vereinen, mit einem Grounding-Modus zur Extraktion von Bounding Boxes und numerischen Daten aus Diagrammen. Die 4B-Variante liegt nahe am Stand der Technik (86.3 auf olmOCR-Bench) und läuft etwa 19 Prozent schneller pro Seite als Chandra-OCR-2, ein starker Kandidat für den Ersatz mehrstufiger Pipelines zur Dokumentverarbeitung, mit erlaubter kommerzieller Nutzung.

Claude Haiku 5.5, 2026-10-07. Simon weist darauf hin, dass Haiku 5.5 nun an OpenAIs GPT-6-Luna-Preisen orientiert ist (0,10 bzw. 0,50 Dollar pro Million Tokens bis 100k Tokens, darüber das Fünffache), allerdings verwendet Haiku 5.5s neuer Tokenizer für denselben Prompt grob 1,25-mal mehr Tokens als Haiku 4.5, was eine versteckte Preiserhöhung über dem Listenpreis darstellt. Er merkt zudem an, dass Reasoning nun standardmäßig mit Effort-Stufe medium aktiviert ist und sich nicht abschalten lässt. Praktisches Fazit: Haiku bleibt unter 100k Tokens Kontext günstiger als Luna, darüber kehrt sich die Rechnung um.

Vorstellung von Mistral Large 4: Le chonk, 2026-10-06. Simons Einschätzung von Large 4 liefert nützlichen Kontext: Auf Artificial Analysis springt der Wert von 9 (Large 3) auf 38, womit das Modell nahe an DeepSeek 4.1 Flash heranrückt und zeigt, dass Mistral auf etwa sechs Monate Rückstand zur Spitze aufgeholt hat, statt deutlich abzuhängen. Die Veröffentlichung der offenen Gewichte steht weiterhin für Ende des Monats an, bis dahin ist das Modell nur über die API verfügbar.

EmbeddingGemma 2, 2026-10-06. Anlässlich von Googles Veröffentlichung von EmbeddingGemma 2 betont Simon, warum die Apache-2.0-Lizenz gerade bei Embedding-Modellen wichtig ist: Stellt ein gehosteter Anbieter ein proprietäres Embedding-Modell einmal ein, bleibt man mit Millionen vorberechneter Vektoren sitzen und hat keine günstige Möglichkeit, diese neu zu erzeugen. Offene Gewichte bedeuten, dass man den Hosting-Anbieter wechseln oder selbst hosten kann, ohne diese Investition zu verlieren.

Zwei Themen verbinden diese Woche. Erstens werden die Preise immer schwieriger zu durchschauen: Sowohl die Tokenizer-Änderung bei Haiku 5.5 als auch OpenAIs gestaffelte Sol/Luna-Preise bedeuten, dass Listenpreise nicht mehr die ganze Kostengeschichte erzählen. Man sollte also mit den eigenen echten Prompts benchmarken, bevor man einer Schlagzeilenzahl vertraut. Zweitens tauchten sogenannte Decision Models, also kompakte Modelle, die eine bewertete Antwort statt freiem Text zurückgeben, in derselben Woche unabhängig voneinander in llama.cpp und OpenAIs neuer Decisions API auf, was darauf hindeutet, dass strukturierte Ausgaben in Klassifizierer-Geschwindigkeit dabei sind, eine eigene Produktkategorie zu werden, statt ein Workaround zu bleiben.

Was fällt Ihnen diese Woche auf: Mistrals Comeback, das Decision-Model-Muster oder etwas anderes? Hinterlassen Sie unten einen Kommentar.

Automatisch ĂĽbersetzt. Das Original auf Englisch ist unten aufklappbar.

Original (Englisch) anzeigen

This digest covers model releases and updates from roughly 2026-10-03 through 2026-10-10, across the usual suspects: Anthropic, OpenAI, Google, Meta, Mistral, Hugging Face, and Simon Willison's blog.

Introducing Claude Haiku 5.5 — 2026-10-07. Anthropic's new small model adds an adjustable "effort" setting previously reserved for larger models, and list pricing drops roughly 75% versus Haiku 4.5. Sonnet 5.5's cache-read price was also halved (about 20% cheaper for agentic workloads), and Max/Team subscribers get a new monthly API credit. For teams running high-volume classification, summarization, or subagent work, this lowers the cost floor meaningfully — just account for the new tokenizer (see Simon Willison's note below) when estimating real-world savings.

OpenAI's consumer news blog (openai.com/news) returned a bot-challenge page during research and couldn't be verified directly, so this section draws from OpenAI's developer API changelog instead — arguably more relevant to engineers anyway.

Ultrafast mode for GPT-6.1 Sol — 2026-10-08. A new ultrafast service tier for gpt-6.1-sol in the Responses API cuts inter-token latency, available to all API users subject to rate limits, with global processing plus US/EU data residency options. Useful for latency-sensitive production paths like voice or live agents, without switching models entirely.

Decisions — 2026-10-06. A new beta v1/decisions endpoint, built on gpt-6-luna, turns text or image input into typed answers, claimed to run about 10x faster than the Responses API. It's a dedicated path for classification- and extraction-style production workloads that need structured output rather than a full chat completion — worth benchmarking against your current structured-output setup.

Nothing new in the window. The most recent post is a September recap (published 2026-10-02, just outside the 7-day cutoff) rounding up announcements already covered in prior digests, not a new release itself.

Nothing published on this blog since late July 2026 — no model news to report this week.

Introducing Mistral Large 4 — 2026-10-06. Mistral shipped a public preview of Large 4, a natively multimodal, 1-trillion-parameter mixture-of-experts model (52B active parameters) trained on its own 3,800-GPU Grace Blackwell cluster. It posts strong results on coding, agentic workflows, cybersecurity, and visual grounding, and supports 160+ languages. The model is live now via Mistral Studio's API for production experimentation; open weights are promised by the end of the month, which matters if you want EU-sovereign inference or to avoid being locked into a closed API.

Open-sourcing AstaBrief, the fast report-generation model in Asta — 2026-10-03. The Allen Institute for AI released weights for AstaBrief 8B (built on Qwen3-8B), which generates cited scientific reports from a query and retrieved literature in a single pass instead of section-by-section. It benchmarks roughly 3.5x faster than a Claude-based alternative (about 51s vs. 178s per report in fast mode), with training data and local-deploy examples included — a solid option if you need on-prem scientific report generation without a third-party API dependency.

New in llama.cpp: Decision Models — 2026-10-05. llama.cpp added native support for "decision models" via a new /v1/systemone endpoint: instead of generating text token by token, these models score the provided options and return a probability-weighted answer. Models from 144M to 27B parameters respond in 3-43ms on GPU, making classifier-speed latency available for request routing, content moderation, or agent-action validation — all running locally.

LightOnOCR-3: High-Performance OCR and Layout Extraction in One Model — 2026-10-09. LightOn released three LightOnOCR-3 variants (0.8B, 1B, 4B; the two larger ones on a Qwen3.5-VL backbone) under Apache 2.0, unifying OCR and document layout understanding in one model, with a "grounding" mode for extracting bounding boxes and numeric data from charts. The 4B variant scores near state of the art (86.3 on olmOCR-Bench) and runs about 19% faster per page than Chandra-OCR-2 — a strong candidate for replacing multi-stage document-parsing pipelines, with commercial use permitted.

Claude Haiku 5.5 — 2026-10-07. Simon flags that Haiku 5.5 now matches OpenAI's GPT-6 Luna pricing ($0.10/$0.50 per million tokens up to 100k tokens, 5x higher beyond that) — but Haiku 5.5's new tokenizer uses roughly 1.25x more tokens than Haiku 4.5 for the same prompt, a hidden price increase on top of the sticker price. He also notes reasoning now ships on by default at "medium" effort, with no way to turn it off. Practical takeaway: Haiku stays cheaper than Luna below 100k tokens of context, but the math flips above that.

Introducing Mistral Large 4: Le chonk — 2026-10-06. Simon's take on Large 4 adds useful context: on Artificial Analysis, it jumps from a score of 9 (Large 3) to 38, putting it close to DeepSeek 4.1 Flash and signaling Mistral has clawed back to roughly six months behind the frontier rather than badly trailing it. The open-weight release is still "end of month" — for now it's API-only.

EmbeddingGemma 2 — 2026-10-06. Commenting on Google's EmbeddingGemma 2 release, Simon highlights why the Apache 2.0 license matters specifically for embedding models: if a hosted provider ever discontinues a proprietary embedding model, you're stuck with millions of precomputed vectors and no cheap way to recreate them. Open weights mean you can switch hosting providers or self-host without losing that investment.

Two threads tie this week together. First, pricing is getting more adversarial to parse: Haiku 5.5's tokenizer change and OpenAI's tiered Sol/Luna pricing both mean sticker prices no longer tell the whole cost story — benchmark on your own real prompts before trusting a headline number. Second, "decision models" — compact models that return a scored answer instead of free text — showed up independently in llama.cpp and OpenAI's new Decisions API in the same week, suggesting classifier-speed structured output is becoming its own product category rather than a workaround.

What's catching your eye this week — Mistral's comeback, the decision-model pattern, or something else? Drop a comment below.

Originaltitel: Haiku gets cheaper (but hungrier) as Mistral swings back toward the frontierQuelle: dev.to (dev.to). Original öffnen