NVIDIA-Chef Huang setzt KI-Erfolg mit Strom und Tokens gleich
Jensen Huang beschreibt die Zukunft künstlicher Intelligenz mit einer vermeintlich einfachen Rechnung aus Stromverbrauch, Rechenleistung und Tokens. Kritiker sehen darin eine fragwürdige Erfolgsformel.
Veröffentlicht am 24. Oktober • Zuerst erschienen auf Medium
Wie NVIDIA-Chef Jensen Huang Stromverbrauch, Rechenleistung und Tokens zu einer fragwürdigen Erfolgsformel verbindet.
KI: Strom rein, Intelligenz raus? Jen-Hsun Huang, CEO des Chipgiganten NVIDIA, beschreibt die Zukunft der künstlichen Intelligenz mit einer verblüffend einfachen Rechnung.
Rechenzentren werden zu sogenannten AI Factories. Sie verbrauchen elektrische Leistung, erzeugen damit Rechenleistung und produzieren schließlich Tokens. Aus diesen Tokens entsteht künstliche Intelligenz. Und daraus wiederum Umsatz.
Bei der GTC 2026 erklärte Huang, dass die elektrische Leistung eines Rechenzentrums begrenzt sei. Entscheidend sei deshalb, möglichst viele Tokens pro Watt zu produzieren.
Noch deutlicher wurde er bei der GTC Taipei im Juni 2026:
Das klingt nach einer überzeugenden industriellen Erfolgsformel.
Es hat nur einen Haken: Huang verbindet Größen, zwischen denen keine festen, allgemeingültigen Umrechnungsfaktoren existieren.
Schauen wir uns seine Rechnung genauer an.
Gigawatt (GW) ist eine physikalisch eindeutig definierte Einheit für Leistung. Ein Gigawatt entspricht einer Milliarde Watt.
Damit lässt sich beispielsweise beschreiben, wie viel elektrische Leistung ein Rechenzentrum benötigt oder maximal aufnehmen kann.
Doch elektrische Leistung ist keine Rechenleistung.
Zwei Rechenzentren mit identischer elektrischer Leistungsaufnahme können vollkommen unterschiedliche Rechenleistungen erzielen.
Entscheidend sind unter anderem die eingesetzten Prozessoren, ihre Architektur, die Speichertechnologie und die Auslastung.
Aus einem Gigawatt lässt sich deshalb nicht ableiten, wie viele Berechnungen ein Computer tatsächlich durchführen kann.
Hier beginnt die zweite Stufe der Argumentation.
Compute ist allerdings selbst keine physikalische Maßeinheit, sondern ein Sammelbegriff für Rechenkapazität beziehungsweise Rechenarbeit.
Eine gebräuchliche technische Leistungskennzahl sind FLOPS, Floating Point Operations per Second.
Sie beschreiben die Anzahl bestimmter mathematischer Operationen, die ein Computer pro Sekunde ausführen kann.
Anders als Gigawatt beziehen sie sich damit unmittelbar auf die Rechenleistung.
Aber auch hier gilt: Es gibt keinen festen Umrechnungsfaktor zwischen Watt und FLOPS. Unterschiedliche Prozessoren können bei identischer elektrischer Leistungsaufnahme unterschiedlich viele Operationen ausführen.
Früher wurde künstliche Intelligenz gerne so erklärt: Ein Sprachmodell sagt das nächste Wort voraus.
Dann musste man präzisieren, dass es nicht unbedingt um ganze Wörter geht, sondern um Tokens. Ein Token kann ein Wort, einen Wortbestandteil oder eine andere Zeichenfolge repräsentieren.
Nur rechnet ein Computer weder mit Wörtern noch mit sprachlichen Bausteinen.
Tokens werden zunächst in numerische Kennungen übersetzt und anschließend durch mathematische Vektoren repräsentiert. Die Prozessoren führen damit zahlreiche numerische Operationen aus.
Ein Token ist aber keine festgelegte Menge an Rechenarbeit.
Wie viele Operationen zu seiner Verarbeitung notwendig sind, hängt unter anderem vom verwendeten KI-Modell, der Länge des bisherigen Textes und dem Berechnungsverfahren ab.
Eine Million Tokens auf einem System können deshalb einen völlig anderen Rechenaufwand verursachen als eine Million Tokens auf einem anderen.
Es gibt keinen universellen Faktor, mit dem sich Tokens in Rechenoperationen umrechnen lassen.
Und folglich auch keinen universellen Faktor, mit dem sich aus einer Tokenzahl der elektrische Energiebedarf berechnen ließe.
Führen wir Huangs Argumentation wieder zusammen:
Die drei Größen beschreiben grundverschiedene Dinge:
Aus Gigawatt folgt keine bestimmte Rechenleistung. Aus einer bestimmten Rechenleistung folgt keine bestimmte Anzahl von Tokens.
Trotzdem entsteht durch die Darstellung der KI-Rechenzentren als Fabriken der Eindruck einer nahezu mechanischen Produktionskette: Strom hinein, Tokens heraus.
Damit wären wir bei Huangs bevorzugter Kennzahl: Tokens pro Watt.
Tokens pro Watt sollen ausdrücken, wie viele Tokens ein System bei einer bestimmten elektrischen Leistungsaufnahme erzeugt. Für einen tatsächlichen Effizienzvergleich betrachtet man dabei den Token-Durchsatz pro Watt.
Aber diese Zahl ist nur dann sinnvoll vergleichbar, wenn die Bedingungen feststehen: Welches KI-Modell? Welche Aufgabe? Welche Kontextlänge? Welche Ergebnisqualität?
Ohne diese Angaben lässt sich die Zahl zwar berechnen, aber nicht sinnvoll als allgemeiner Leistungsvergleich verwenden.
Eine Division schafft noch keine Vergleichbarkeit. Selbst wenn sie von Jen-Hsun Huang stammt.
Ein KI-Modell kann zehntausend Tokens erzeugen, ohne eine Aufgabe zu lösen. Ein anderes benötigt nur hundert Tokens und liefert die richtige Antwort.
Die Anzahl der Tokens beantwortet diese Frage nicht.
Tokens messen weder Intelligenz noch die Qualität eines Ergebnisses.
Im Gegenteil: Ein besseres KI-Modell könnte weniger Tokens benötigen, um dieselbe Aufgabe erfolgreicher zu lösen.
Huang verbindet die Token-Produktion schließlich mit wirtschaftlichem Erfolg.
Dabei ergibt sich eine bemerkenswerte Konsequenz: Rechnet ein KI-Anbieter pro Token ab, kann ein schlechterer Tokenizer sogar mehr Umsatz erzeugen. Für denselben Text fallen schlicht mehr Tokens an.
Was für den Kunden ineffizienter und teurer ist, erscheint in Huangs Rechnung als höhere Produktion.
Mehr Tokens bedeuten aber weder mehr Intelligenz noch mehr Nutzen. Und mehr Umsatz bedeutet nicht automatisch mehr Gewinn.
Ein Unternehmen verdient schließlich nicht deshalb wirtschaftlich erfolgreich Geld, weil seine Computer möglichst viel Text erzeugen, sondern weil sie Aufgaben lösen, für die Kunden bezahlen.
NVIDIA verkauft die Hardware, auf der künstliche Intelligenz berechnet wird. Dass Huang deren Leistungsfähigkeit möglichst eindrucksvoll darstellen möchte, ist nachvollziehbar.
Seine Geschichte von der AI Factory ist eingängig: Strom hinein, Tokens heraus, Umsatz erzielen.
Doch die technische Realität ist komplizierter.
Zwischen Stromverbrauch, Rechenleistung, Tokens, Intelligenz und Umsatz existiert keine durchgehende, allgemeingültige Umrechnung.
Jeder Übergang erfordert zusätzliche Annahmen und Bedingungen.
Die KI-Industrie mag künftig riesige Mengen an Tokens produzieren. Daraus allein lässt sich weder ihre technische Leistungsfähigkeit noch ihr wirtschaftlicher Erfolg ableiten.
Denn mehr Tokens bedeuten zunächst einmal nur eines: mehr Tokens.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Posted on Oct 24 • Originally published at Medium
Wie NVIDIA-Chef Jensen Huang Stromverbrauch, Rechenleistung und Tokens zu einer fragwürdigen Erfolgsformel verbindet.
KI: Strom rein, Intelligenz raus?Jen-Hsun Huang, CEO des Chipgiganten NVIDIA, beschreibt die Zukunft der künstlichen Intelligenz mit einer verblüffend einfachen Rechnung.
Rechenzentren werden zu sogenannten AI Factories. Sie verbrauchen elektrische Leistung, erzeugen damit Rechenleistung und produzieren schließlich Tokens. Aus diesen Tokens entsteht künstliche Intelligenz. Und daraus wiederum Umsatz.
Bei der GTC 2026 erklärte Huang, dass die elektrische Leistung eines Rechenzentrums begrenzt sei. Entscheidend sei deshalb, möglichst viele Tokens pro Watt zu produzieren.
Noch deutlicher wurde er bei der GTC Taipei im Juni 2026:
Das klingt nach einer überzeugenden industriellen Erfolgsformel.
Es hat nur einen Haken: Huang verbindet Größen, zwischen denen keine festen, allgemeingültigen Umrechnungsfaktoren existieren.
Schauen wir uns seine Rechnung genauer an.
Gigawatt (GW) ist eine physikalisch eindeutig definierte Einheit für Leistung. Ein Gigawatt entspricht einer Milliarde Watt.
Damit lässt sich beispielsweise beschreiben, wie viel elektrische Leistung ein Rechenzentrum benötigt oder maximal aufnehmen kann.
Doch elektrische Leistung ist keine Rechenleistung.
Zwei Rechenzentren mit identischer elektrischer Leistungsaufnahme können vollkommen unterschiedliche Rechenleistungen erzielen.
Entscheidend sind unter anderem die eingesetzten Prozessoren, ihre Architektur, die Speichertechnologie und die Auslastung.
Aus einem Gigawatt lässt sich deshalb nicht ableiten, wie viele Berechnungen ein Computer tatsächlich durchführen kann.
Hier beginnt die zweite Stufe der Argumentation.
Compute ist allerdings selbst keine physikalische Maßeinheit, sondern ein Sammelbegriff für Rechenkapazität beziehungsweise Rechenarbeit.
Eine gebräuchliche technische Leistungskennzahl sind FLOPS — Floating Point Operations per Second.
Sie beschreiben die Anzahl bestimmter mathematischer Operationen, die ein Computer pro Sekunde ausführen kann.
Anders als Gigawatt beziehen sie sich damit unmittelbar auf die Rechenleistung.
Aber auch hier gilt: Es gibt keinen festen Umrechnungsfaktor zwischen Watt und FLOPS. Unterschiedliche Prozessoren können bei identischer elektrischer Leistungsaufnahme unterschiedlich viele Operationen ausführen.
Früher wurde künstliche Intelligenz gerne so erklärt: Ein Sprachmodell sagt das nächste Wort voraus.
Dann musste man präzisieren, dass es nicht unbedingt um ganze Wörter geht, sondern um Tokens. Ein Token kann ein Wort, einen Wortbestandteil oder eine andere Zeichenfolge repräsentieren.
Nur rechnet ein Computer weder mit Wörtern noch mit sprachlichen Bausteinen.
Tokens werden zunächst in numerische Kennungen übersetzt und anschließend durch mathematische Vektoren repräsentiert. Die Prozessoren führen damit zahlreiche numerische Operationen aus.
Ein Token ist aber keine festgelegte Menge an Rechenarbeit.
Wie viele Operationen zu seiner Verarbeitung notwendig sind, hängt unter anderem vom verwendeten KI-Modell, der Länge des bisherigen Textes und dem Berechnungsverfahren ab.
Eine Million Tokens auf einem System können deshalb einen völlig anderen Rechenaufwand verursachen als eine Million Tokens auf einem anderen.
Es gibt keinen universellen Faktor, mit dem sich Tokens in Rechenoperationen umrechnen lassen.
Und folglich auch keinen universellen Faktor, mit dem sich aus einer Tokenzahl der elektrische Energiebedarf berechnen ließe.
Führen wir Huangs Argumentation wieder zusammen:
Die drei Größen beschreiben grundverschiedene Dinge:
Aus Gigawatt folgt keine bestimmte Rechenleistung. Aus einer bestimmten Rechenleistung folgt keine bestimmte Anzahl von Tokens.
Trotzdem entsteht durch die Darstellung der KI-Rechenzentren als Fabriken der Eindruck einer nahezu mechanischen Produktionskette: Strom hinein, Tokens heraus.
Damit wären wir bei Huangs bevorzugter Kennzahl: Tokens pro Watt.
Tokens pro Watt sollen ausdrücken, wie viele Tokens ein System bei einer bestimmten elektrischen Leistungsaufnahme erzeugt. Für einen tatsächlichen Effizienzvergleich betrachtet man dabei den Token-Durchsatz pro Watt.
Aber diese Zahl ist nur dann sinnvoll vergleichbar, wenn die Bedingungen feststehen: Welches KI-Modell? Welche Aufgabe? Welche Kontextlänge? Welche Ergebnisqualität?
Ohne diese Angaben lässt sich die Zahl zwar berechnen, aber nicht sinnvoll als allgemeiner Leistungsvergleich verwenden.
Eine Division schafft noch keine Vergleichbarkeit. Selbst wenn sie von Jen-Hsun Huang stammt.
Ein KI-Modell kann zehntausend Tokens erzeugen, ohne eine Aufgabe zu lösen. Ein anderes benötigt nur hundert Tokens und liefert die richtige Antwort.
Die Anzahl der Tokens beantwortet diese Frage nicht.
Tokens messen weder Intelligenz noch die Qualität eines Ergebnisses.
Im Gegenteil: Ein besseres KI-Modell könnte weniger Tokens benötigen, um dieselbe Aufgabe erfolgreicher zu lösen.
Huang verbindet die Token-Produktion schließlich mit wirtschaftlichem Erfolg.
Dabei ergibt sich eine bemerkenswerte Konsequenz: Rechnet ein KI-Anbieter pro Token ab, kann ein schlechterer Tokenizer sogar mehr Umsatz erzeugen. Für denselben Text fallen schlicht mehr Tokens an.
Was für den Kunden ineffizienter und teurer ist, erscheint in Huangs Rechnung als höhere Produktion.
Mehr Tokens bedeuten aber weder mehr Intelligenz noch mehr Nutzen. Und mehr Umsatz bedeutet nicht automatisch mehr Gewinn.
Ein Unternehmen verdient schließlich nicht deshalb wirtschaftlich erfolgreich Geld, weil seine Computer möglichst viel Text erzeugen, sondern weil sie Aufgaben lösen, für die Kunden bezahlen.
NVIDIA verkauft die Hardware, auf der künstliche Intelligenz berechnet wird. Dass Huang deren Leistungsfähigkeit möglichst eindrucksvoll darstellen möchte, ist nachvollziehbar.
Seine Geschichte von der AI Factory ist eingängig: Strom hinein, Tokens heraus, Umsatz erzielen.
Doch die technische Realität ist komplizierter.
Zwischen Stromverbrauch, Rechenleistung, Tokens, Intelligenz und Umsatz existiert keine durchgehende, allgemeingültige Umrechnung.
Jeder Übergang erfordert zusätzliche Annahmen und Bedingungen.
Die KI-Industrie mag künftig riesige Mengen an Tokens produzieren. Daraus allein lässt sich weder ihre technische Leistungsfähigkeit noch ihr wirtschaftlicher Erfolg ableiten.
Denn mehr Tokens bedeuten zunächst einmal nur eines: mehr Tokens.