ai newsDo., 15. Okt.
EilmeldungMeta and Apple team up to make Muse AI models run better on Macs

Gemini 4 Argon besteht LangChainJS-Testsuite im Testlauf

Googles neues Modell Gemini 4 Argon hat im Praxistest die komplette LangChainJS-Testsuite problemlos durchlaufen. Details zur Integration mit LangChainJS stehen noch aus.

dev.toMittwoch 04:14 · 14.10.DE3 Min. Lesezeit
Bild: dev.to

Google hat die neueste Version der Gemini-Familie veroeffentlicht, Gemini 4 Argon, und ich hatte das Glueck, sie vorab testen zu duerfen.

Das erste, was ich getan habe, war, sie gegen die LangChainJS-Testsuite laufen zu lassen, und sie hat mit Bravour bestanden.

Wenn Sie LangChainJS jedoch heute mit Gemini 4 Argon verwenden moechten, gibt es einige Dinge, die Sie beachten muessen. Und wenn Sie grosse Plaene fuer die Zukunft mit Argon haben, arbeiten wir an einigen Dingen, damit beides besser zusammenfunktioniert. Dies ist eine kurze Notiz, um Ihnen zu zeigen, wo wir stehen und woran wir arbeiten.

Sie koennen LangChainJS mit Gemini 4 Argon entweder ueber die Plattform Google AI (gai) oder Google Enterprise / Vertex (gcp) nutzen. Es sind keine Aenderungen oder neuen Bibliotheken noetig. Verwenden Sie einfach den Modellnamen "gemini-4-argon" und schon kann es losgehen!

Es gibt jedoch zwei Dinge zu beachten:

Wenn Sie entweder "maxReasoningTokens" oder "thinkingBudget" verwenden, werden wir diese Parameter aus Gruenden der Abwaertskompatibilitaet weiterhin unterstuetzen und sie auf die "thinkingLevel"-Werte von Google abbilden.

Erstens: Falls Sie die Bibliothek "@langchain/google" noch nicht verwenden, koennte jetzt ein guter Zeitpunkt dafuer sein. Hier konzentrieren wir saemtliche neue Arbeit.

Wie oben erwaehnt, werden einige Aenderungen zur Korrektur des Thinking Levels in Kuerze verfuegbar sein. Folgen Sie Issue 11940, um mehr zu erfahren.

Long Decode ermoeglicht Ausgaben von bis zu 1 Million Tokens, mehr als jedes andere Frontier-Modell. Dies erforderte jedoch einige interne Aenderungen an der API von Google. Es gibt zwei Wege, damit umzugehen, und wir werden beide unterstuetzen:

Wir werden Unterstuetzung fuer "continuationToken" hinzufuegen, mit dem Sie die Long-Decode-Antworten Stueck fuer Stueck einlesen koennen. Dies ist jedoch nur als Uebergangsloesung gedacht, waehrend wir an einem besseren Ansatz arbeiten.

Die Interactions API unterstuetzt Long Decode direkt im "background"-Modus. Wir werden die Unterstuetzung fuer die Interactions API so schnell wie moeglich implementieren, und der "background"-Modus wird eines der ersten unterstuetzten Features sein. Wir hoffen sogar, ihn in einigen Faellen transparent zu machen, sodass Sie lediglich "maxOutputTokens" auf mehr als 64k setzen muessen und alles sollte einfach funktionieren.

Beides erfordert zunaechst den Abschluss von Issue 11879, und unser Fokus liegt darauf, dieses so schnell wie moeglich zu veroeffentlichen, damit wir mit der Arbeit an den anderen Komponenten beginnen koennen. Wir werden zudem eine Reihe neuer Tests hinzufuegen, um sicherzustellen, dass die Features wie erwartet funktionieren und alles so reibungslos laeuft wie bisher.

Ich habe stets versucht, LangChainJS fuer Entwickler so einfach wie moeglich zu nutzen und weiterhin zu nutzen. Sie sollten nicht sicherstellen muessen, dass Ihre Parameter den komplexen Regeln entsprechen, die Google vorgibt; die LangChainJS-Bibliothek sollte das fuer Sie uebernehmen.

Die Aenderungen, an denen wir fuer die Argon-Unterstuetzung arbeiten, sind da keine Ausnahme.

Ihre Hilfe und Unterstuetzung fuer dieses Projekt sind wie immer willkommen.

Mein Dank gilt erneut den Teams bei Google, die mir fruehen Zugang zum Testen und zur Arbeit mit Argon gewaehrt haben. Und ich danke meiner Familie und meinen Freunden, die immer fuer mich da waren. Die Arbeit an diesem Projekt ist eine Moeglichkeit, wie ich mich fuer die Community engagiere, und ich hoffe, dass Sie sich fuer die Communities einbringen, die Ihnen wichtig sind.

Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.

Original (Englisch) anzeigen

Google has released the latest version in the Gemini family, Gemini 4 Argon, and I was fortunate enough to be able to preview and test it.

The first thing I did was try it against the LangChainJS test suite - and it passed with flying colors.

However, if you're looking to use LangChainJS with Gemini 4 Argon today, there are a few things you need to keep in mind. And if you have some big future plans with Argon - there are a few things we're working on to make them working together better. This is a quick note to help let you know where we are and what we're working on.

You can use LangChainJS with Gemini 4 Argon using either the Google AI (gai) or Google Enterprise / Vertex (gcp) platforms. No changes or new libraries necessary. Just use the model name "gemini-4-argon" and you're all set to go!

There are two things to keep in mind, however:

If you're using either "maxReasoningTokens" or "thinkingBudget", we'll continue to support these parameters for backwards compatibility, mapping them to Google's "thinkingLevel" values.

First, if you're not already using the "@langchain/google" library, this might be a great time for you to do so. This is where we're focusing all new work.

As mentioned above, some changes to fix the thinking level will be available soon. Follow issue 11940 to learn more.

Long Decode allows for output up to 1M tokens, the most of any of the frontier models. But this required some internal changes in Google's API. There are two ways to address this, and we'll be adding support for both:

We'll be adding support for the "continuationToken", which will allow you to read the Long Decode responses one chunk at a time. This is, however, only meant as a stop-gap solution while we work on a better approach.

The Interactions API supports Long Decode directly when in "background" mode. We'll be implementing support for the Interactions API as quickly as we can, and "background" mode will be one of the initial features supported. We even hope to make it transparent in some cases, so the only thing you'll need to do is set "maxOutputTokens" to more than 64k and things should "just work".

Both of these require issue 11879 to be completed first - and our focus is on getting that released ASAP so we can begin work on the other components. We'll also be adding a chunk of new tests to make sure the features work as expected and that everything works as smoothly as it always has.

I've always tried to make LangChainJS as easy for developers to use, and continue using, as possible. You shouldn't have to make sure your parameters match the complex rules that Google enforces - the LangChainJS library should handle that for you.

The changes we are working on for Argon support are no different.

Your help and support for this project are, as always, appreciated.

My thanks, again, to the teams at Google who gave me early access to begin testing and work with Argon. And my thanks to family and friends who have always been there. Working on this project is one way I choose to help the community - and I hope you are contributing to the communities that are important to you.

Originaltitel: LangChainJS and Gemini 4 Argon: What's here and what's coming?Quelle: dev.to (dev.to). Original öffnen