Anthropic schuetzt mit Claude-Modellen kritische Infrastruktur
Anthropic stellt Claude-Modelle, Ingenieure und Threat Research Unternehmen bereit, die Strom-, Wasser- und Verkehrsnetze betreiben. Das Critical Infrastructure Defense Program ist Teil der Anthropic Cyber Mission.
Anthropic will seinen fortschrittlichsten Claude-Modellen, Ingenieuren und Threat-Forschern den Unternehmen zur Verfuegung stellen, die kritische Infrastruktur schuetzen. Das bedeutet Stromnetze, Wasserversorger und Verkehrsnetze. Das Critical Infrastructure Defense Program ist der erste Teil der Anthropic Cyber Mission. Das Unternehmen kündigte das Programm am Donnerstag als langfristige Initiative zur Unterstuetzung der Verteidiger an.
Der zweite Teil ist OSS Scanner, ein kostenloser Dienst, der Open-Source-Code mit Anthrops staerksten Modellen scannt. Die Ergebnisse werden direkt an die Maintainer weitergeleitet, ohne dass vorher ein Mensch sie prueft.
Accenture, Booz Allen, CrowdStrike, Deloitte und Dragos sind als gruendende Partner beigetreten. Ebenso Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC und Rockwell Automation. Anthropic erklaerte, dass dies die Beratungsunternehmen, Sicherheitsfirmen und Anlagenhersteller sind, auf die die Betreiber bereits setzen. Mehrere von ihnen nutzten Claude bereits, um Schwachstellen zu beheben, so das Unternehmen.
Das Programm zielt auf Operational Technology ab: die Steuerungen, die Steuerungssoftware und die industriellen Netzwerke, die Anlagen ueber Jahrzehnte betreiben. Betreiber koennen diese Systeme oft nicht fuer Updates vom Netz nehmen, weshalb bekannte Schwachstellen jahrelang offen bleiben koennen. Anthropic beginnt mit einer kleinen Gruppe von Anbietern, um herauszufinden, was funktioniert.
„Kritische Infrastruktur ist in vielerlei Hinsicht schwer zu verteidigen, was KI nicht loesen kann“, erklaerte Anthropic in seiner Ankündigung.
Hitachi teilte in einer eigenen Erklaerung mit, dass es sich den Arbeitsgruppen des Programms anschliessen wird. Das Unternehmen wird auch sein Operational-Technology-Fachwissen einbringen. Der japanische Konzern unterzeichnete im Mai eine strategische Partnerschaft mit Anthropic und stiess im Juni zu Project Glasswing.
Anthropic hat nicht gesagt, wer die Rechenleistung bezahlt oder ob Partner kostenlosen Modellzugang erhalten, berichtete Axios. Axios hatte die Ankündigung zuerst. Es ergaenzte, es sei unklar, wie Partner Korrekturen testen koennen, ohne den Betrieb von Versorgungsunternehmen zu Stoeren.
Im Juni startete Anthropic ein aehnliches Programm fuer US-Bundesstaaten sowie lokale, indigene und territoriale Regierungen. Das Unternehmen erklaerte, seitdem Claude-Modelle und technische Unterstuetzung an mehr als die Haelfte der US-Bundesstaaten geliefert zu haben. OpenAI steckte im September eine Milliarde Dollar in die Cyber-Abwehr fuer Wasserversorger und Community-Banken.
OSS Scanner ist optional und an Googles OSS-Fuzz angelehnt. Angemeldete Projekte erhalten periodische Scans durch Anthrops leistungsfaehigste Modelle, darunter Claude Mythos, wie ein Frontier Red Team Beitrag mitteilte. Jeder Bericht enthaelt einen Proof of Concept, eine Erklaerung und, wo moeglich, einen vorgeschlagenen Patch.
Anthropic erwartet, dass mehr als 90 Prozent der Funde echt sind. Seine Penetrationstester prueften 97 kritische und hochgradige Funde aus 48 Projekten. Davon erfuellten 85 die Anforderungen fuer den Disclosure-Prozess des Unternehmens. Weitere 11 waren echt, betrafen jedoch bereits bekannte Probleme, und nur einer war ein Fehlalarm.
Ueber sechs Monate markierten Anthrops Modelle mehr als 29.000 moegliche Schwachstellen. Die Mitarbeitenden konnten nur etwa 6.000 davon pruefen. Fast 5.000 ungepruefte Berichte gingen an Maintainer, die darum gebeten hatten, alles zu erhalten.
Todd Ouska von wolfSSL erklaerte, sein Projekt habe 74 Berichte erhalten, von denen alle bis auf zwei gueltig waren. Fuenf davon wurden zu CVEs.
„OSS Scanner hat uns geholfen, mehrere Probleme in curl zu finden, deren Behebung sich lohnt, darunter eine der schlimmsten curl-Schwachstellen der letzten Jahre“, sagte Daniel Stenberg von curl.
Anthropic waehlt Projekte von Fall zu Fall aus und nimmt nur etablierte Projekte auf, die kritische Auswirkungen auf Infrastruktur und Sicherheit der Nutzer haben. Sein Rahmenvertrag warnt, dass Berichte den Schweregrad falsch einschaetzen oder Patches vorschlagen koennen, die Dinge kaputt machen. Maintainer muessen jeden Bericht pruefen, und Anthropic begrenzt seine Haftung auf 1.000 Dollar. Es gelten zudem die Nutzungsbedingungen von Anthropic fuer Verbraucher.
„Unsere Prognose ist, dass KI in zwei Jahren die Verteidigung beguenstigen wird“, erklaerte Anthropic.
Das Unternehmen fuegte hinzu, dass dies kurzfristig vielleicht nicht gelte. Das Ausnutzen von Schwachstellen sei billiger geworden, waehrend ihre Ueberpruefung und Behebung weiterhin von Menschen abhaenge. Bei Glasswood vergingen oft Monate zwischen dem Finden einer Schwachstelle und ihrer Behebung, und bei laufenden Maschinen kann eine Korrektur in seltenen Faellen Jahrzehnte auf sich warten lassen.
Letzte Woche teilte Anthropic mit, dass ein chinesisches Modell bei Cyber-Exploits nahezu mit Mythos gleichzieht. In dieser Woche fuegte es Glasswing in sein erweitertes Cyber Verification Program ein. Der im August gestartete Defender Advantage Fund haelt OSS Scanner kostenlos.
Anthropic hat auch die Python Software Foundation, die Apache Software Foundation sowie Alpha-Omega und OpenSSF ueber die Linux Foundation unterstuetzt. CrowdStrike, einer der neuen Partner, arbeitet bereits mit beiden Labors zusammen.
Ana Maria Constantin verfuegt ueber Erfahrung im digitalen Marketing, im Produktmanagement sowie in Branding und Identity und entwickelt Strategien, die (alle anzeigen) Mit ihrer Expertise in digitalem Marketing, Produktmanagement sowie Branding und Identity entwickelt Ana Maria Constantin Strategien, die bei unserer Zielgruppe in der Software- und SaaS-Branche ankommen. Zusammenarbeit und Teamarbeit sind fuer sie von zentraler Bedeutung, da sie es liebt, ihre Kolleginnen und Kollegen zu unterstuetzen, hervorragende Ergebnisse zu erzielen und ihr volles Potenzial auszuschreiben.
Erhalten Sie jede Woche die wichtigsten Tech-News in Ihrem Postfach.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
Anthropic will give its frontier Claude models, engineers and threat research to the companies that guard critical infrastructure. That means power grids, water utilities and transport networks. The Critical Infrastructure Defense Program is the first part of the Anthropic Cyber Mission. The company announced it on Thursday as a long-term effort to support defenders.
The second part is OSS Scanner, a free service that scans open-source code with Anthropic’s strongest models. It sends the findings straight to maintainers, without a human checking them first.
Accenture, Booz Allen, CrowdStrike, Deloitte and Dragos joined as founding partners. So did Hitachi, Insane Cyber, Nozomi Networks, Palo Alto Networks, PwC and Rockwell Automation. Anthropic said they are the consultancies, security companies and equipment makers that operators already rely on. Several are already using Claude to fix vulnerabilities, it said.
The programme targets operational technology: the controllers, control software and industrial networks that run plants for decades. Operators often cannot take these systems offline to patch them, so known flaws can stay open for years. Anthropic will start with a small group of providers to learn what works.
“Critical infrastructure is hard to defend in many ways that AI cannot fix,” Anthropic said in its announcement.
Hitachi said in its own statement that it will join the programme’s working groups. It will also share its operational technology expertise. The Japanese group signed a strategic partnership with Anthropic in May and joined Project Glasswing in June.
Anthropic did not say who will pay for the computing, or whether partners get free model access, Axios reported. Axios had the announcement first. It added that it is unclear how partners will test fixes without disrupting utilities.
In June, Anthropic started a similar programme for US state, local, tribal and territorial governments. It said it has since given Claude models and technical support to more than half of US states. OpenAI put $1bn behind cyber defence for water utilities and community banks in September.
OSS Scanner is opt-in and modelled on Google’s OSS-Fuzz. Enrolled projects get periodic scans from Anthropic’s most capable models, including Claude Mythos, according to a Frontier Red Team post. Each report carries a proof of concept, an explanation and, where possible, a suggested patch.
Anthropic expects more than 90% of the findings to be real. Its penetration testers checked 97 critical and high-severity findings from 48 projects. Of those, 85 met the bar for its disclosure process. Another 11 were real but repeated known issues, and only one was a false positive.
Over six months, Anthropic’s models flagged more than 29,000 candidate vulnerabilities. Its staff could only review about 6,000. Nearly 5,000 unchecked reports went to maintainers who asked to receive everything.
Todd Ouska of wolfSSL said his project got 74 reports and all but two were valid. Five became CVEs.
“OSS Scanner has helped us find multiple issues in curl worthy of addressing, including one of the worst curl vulnerabilities reported in the last few years,” said Daniel Stenberg of curl.
Anthropic picks projects case by case, and only takes established ones with a critical impact on infrastructure and user security. Its service agreement warns that reports may misjudge severity or propose patches that break things. Maintainers must review every report, and Anthropic caps its liability at $1,000. Anthropic’s consumer terms also apply.
“Our forecast is that in two years, AI will favor defense,” Anthropic said.
The company added that this may not hold in the near term. Exploiting flaws has become cheaper, while verifying and fixing them still depends on people. In Glasswing, months often passed between finding a flaw and fixing it, and on running machinery a fix can in rare cases wait decades.
Last week Anthropic said a Chinese model nearly matches Mythos at cyber exploits. This week it merged Glasswing into its expanded Cyber Verification Program. The Defender Advantage Fund it launched in August keeps OSS Scanner free.
Anthropic has also funded the Python Software Foundation, the Apache Software Foundation, and Alpha-Omega and OpenSSF through the Linux Foundation. CrowdStrike, one of the new partners, already works with both labs.
With expertise in digital marketing, product management, and branding & identity, Ana Maria Constantin develops strategies that resonate (show all) With expertise in digital marketing, product management, and branding & identity, Ana Maria Constantin develops strategies that resonate with our target audience in the software/SaaS industry. Collaboration and teamwork are paramount to her, as she loves empowering her colleagues to achieve outstanding results and unlock their full potential.
Get the most important tech news in your inbox each week.