Nvidia-Software Minerva soll defekte Komponenten in riesigen KI-Rechenzentren früh erkennen
Minerva bündelt Daten von GPUs, Netzwerk, Storage und Workloads, um ausfallende Hardware in grossen KI-Rechenzentren früh zu identifizieren. Alarme werden zu einzelnen Incidents gruppiert, ein KI-Assistent unterstützt die Betreiber. IREN setzt die Software bereits ein, Lambda, IBM und Tesla wollen folgen.
Nvidia hat Minerva vorgestellt, eine KI-Operations-Software, die Daten von GPUs, Netzwerken, Speichern und Workloads zusammenführt, um fehlerhafte Komponenten in grossen KI-Rechenzentren frueh zu erkennen. Sie gruppiert Warnmeldungen zu einzelnen Vorfaellen zusammen und verfuegt ueber einen KI-Assistenten. IREN nutzt die Software bereits, und Lambda, IBM und Tesla planen dies.
Nvidia hat Minerva vorgestellt, eine Software, die die riesigen GPU-Cluster, die das Unternehmen KI-Fabriken nennt, ueberwacht und Probleme meldet, bevor sie den Betrieb verlangsamen, wie das Unternehmen am Donnerstag bekannt gab. Die Ankündigung erfolgte auf der Nvidia-Konferenz GTC Berlin, wenige Tage nachdem Nvidia eine KI-Partnerschaft mit Deutschland geschlossen hatte.
In Clustern dieser Groesse kann eine einzige fehlerhafte Komponente einen kompletten Trainingsjob blockieren, so Nvidia. Es koennte eine GPU sein, die heisser laeuft als der Rest, oder ein Speicherlaufwerk, das unter Last langsamer wird. Diese Anzeichen sind leicht zu uebersehen, wenn Netzwerk-, Computing- und Machine-Learning-Teams jeweils nur einen separaten Teil des Systems im Blick haben.
Minerva fuehrt Daten von GPUs, Netzwerkhardware, Speichern, Job-Schedulern und den KI-Workloads selbst in einer gemeinsamen Landkarte des Rechenzentrums zusammen. Nvidia sagt, dass Betreiber so einen langsamen Job bis zu der Komponente zurueckverfolgen koennen, die ihn verursacht, selbst ueber Hunderttausende von GPUs hinweg.
Die Software nutzt Machine Learning, um zu erkennen, wie ein normaler Zustand aussieht, und um Ausfaelle vorherzusagen. Statt den Betreibern jede einzelne Warnung zuzusenden, gruppiert sie zusammenhaengende Probleme zu einem einzigen Vorfall mit einer wahrscheinlichen Ursache.
Ein integrierter KI-Assistent ermoeglicht es dem Personal, in natuerlicher Sprache nach dem Zustand des Clusters zu fragen, und schlaegt Loesungen vor. Teams koennen diese Loesungen manuell anwenden oder Minerva an ihre eigenen Automatisierungstools anbinden.
"NVIDIA Minerva gibt unserem Operations-Team eine gemeinsame Sicht auf das Netzwerk, die GPUs und die darauf laufenden Jobs", sagte Denis Skrinnikoff, Chief Technology Officer von IREN. Nvidia kann unter einer Vereinbarung, die im Mai getroffen wurde, bis zu 2,1 Milliarden US-Dollar in den ehemaligen Bitcoin-Miner investieren.
Auch Bitdeer AI, IBM, Jio, Lambda und Tesla planen, Minerva einzusetzen, so Nvidia. Dell, Lenovo und Supermicro werden die Software ihren Kunden anbieten.
Der Launch ist Teil von Nvidias Bestrebungen, an Unternehmen, die KI-Rechenzentrene errichten, mehr als nur Chips zu verkaufen. Am Mittwoch teilte das Unternehmen mit, dass europaeische Partner seinen DSX-Bauplan uebernehmen, um Wasser- und Stromverbrauch zu senken, und veroeffentlichte ausserdem einen Entwurf fuer den sicheren Betrieb von KI-Agenten. Zu den Preisen fuer Minerva machte Nvidia keine Angaben.
Ana Maria Constantin verfuegt ueber Expertise in den Bereichen digitales Marketing, Produktmanagement sowie Branding und Identitaet und entwickelt Strategien, die bei unserer Zielgruppe in der Software- und SaaS-Branche Anklang finden (alle anzeigen). Zusammenarbeit und Teamarbeit sind fuer sie von zentraler Bedeutung, denn es bereitet ihr Freude, ihre Kolleginnen und Kollegen zu unterstuetzen, hervorragende Ergebnisse zu erzielen und ihr volles Potenzial auszuschuepfen.
Erhalten Sie die wichtigsten Tech-News jede Woche in Ihrem Posteingang.
Danke! Ueberpruefen Sie Ihren Posteingang, um Ihr Abonnement zu bestaetigen.
Mit der Anmeldung stimmen Sie unserer Datenschutzerklaerung zu.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Nvidia has launched Minerva, AI operations software that combines data from GPUs, networks, storage and workloads to spot failing parts in large AI data centres early. It groups alerts into single incidents and has an AI assistant. IREN uses it, and Lambda, IBM and Tesla plan to.
Nvidia has launched Minerva, software that watches over the huge GPU clusters it calls AI factories and flags problems before they slow work down, the company said on Thursday. It was announced at Nvidia’s GTC Berlin conference, days after Nvidia signed an AI partnership with Germany.
In clusters that size, one faulty part can hold up an entire training job, Nvidia says. It might be a GPU running hotter than the rest, or a storage drive slowing under load. Those signs are easy to miss when network, computing and machine learning teams each watch a separate part of the system.
Minerva pulls data from GPUs, network gear, storage, job schedulers and the AI workloads themselves into one map of the data centre. Nvidia says that lets operators trace a slow job back to the part causing it, even across hundreds of thousands of GPUs.
The software uses machine learning to learn what normal looks like and to predict failures. Instead of sending operators every alert, it groups related problems into a single incident with a likely cause.
A built-in AI assistant lets staff ask about cluster health in plain language and suggests fixes. Teams can apply those fixes by hand or hook Minerva up to their own automation tools.
“ NVIDIA Minerva gives our operations team one view across the network, the GPUs and the jobs running on them, ” said Denis Skrinnikoff, chief technology officer of IREN. Nvidia can invest up to $2.1B in the former Bitcoin miner under a deal struck in May.
Bitdeer AI, IBM, Jio, Lambda and Tesla also plan to use Minerva, Nvidia said. Dell, Lenovo and Supermicro will offer it to their customers.
The launch adds to Nvidia’s push to sell more than chips to the companies building AI data centres. On Wednesday, it said European partners are adopting its DSX blueprint to cut water and power use, and released a design for running AI agents safely. Nvidia did not give pricing for Minerva.
With expertise in digital marketing, product management, and branding & identity, Ana Maria Constantin develops strategies that resonate (show all) With expertise in digital marketing, product management, and branding & identity, Ana Maria Constantin develops strategies that resonate with our target audience in the software/SaaS industry. Collaboration and teamwork are paramount to her, as she loves empowering her colleagues to achieve outstanding results and unlock their full potential.
Get the most important tech news in your inbox each week.
Thanks! Check your inbox to confirm your subscription.
By subscribing you agree to our Privacy Statement.