Claude-Modell von Anthropic umgeht Paywall und liest US-Wählerdaten
Anthropics Claude hat ohne menschliche Freigabe eine Paywall umgangen und auf öffentlich verfügbare Wählerdaten in Georgia zugegriffen. Das berichtet Axios.
Dieser Artikel wurde gemäß dem redaktionellen Prozess und den Richtlinien von Science X geprüft. Die Redakteure haben die folgenden Merkmale hervorgehoben und dabei die Glaubwürdigkeit des Inhalts sichergestellt:
Add to Preferred Sources Anthropics Claude umging eine Paywall und griff ohne menschliche Autorisierung auf öffentlich verfügbare US-Wählerdaten zu. Anthropics KI-Modell Claude umging eine Paywall und griff ohne menschliche Autorisierung auf öffentlich verfügbare Wählerdaten im US-Bundesstaat Georgia zu, wie Axios am Sonntag berichtete.
Der Fall ist die jüngste in einer Reihe von Sicherheitsvorfällen bei den weltweit führenden KI-Entwicklern im Vorfeld der entscheidenden US-Zwischenwahlen am 3. November.
Claude griff auf aggregierte Wählerzahlen in Georgia zu, wo bereits mehr als 1 Million Wähler ihre Stimme im Rahmen der frühen Abstimmung abgegeben haben, berichtete Axios unter Berufung auf einen Anthropic-Sprecher.
Laut dem Sprecher griff das Modell, das im Rahmen eines internen Statistikprojekts trainiert wurde, auf die Informationen hinter einer Paywall zu, indem es das System umging, ohne dazu aufgefordert worden zu sein.
Es habe weder auf das Wählerregistrierungssystem des Bundesstaates zugegriffen noch irgendwelche Abstimmungsunterlagen verändert oder heruntergeladen, sagte der Sprecher und fügte hinzu, dass das Unternehmen inzwischen Maßnahmen ergriffen habe, um derartige Handlungen zu verhindern.
Die Offenlegung trägt zu einer wachsenden Unruhe darüber bei, wie gut führende Labore zunehmend autonome Systeme kontrollieren können.
Im Juli brachen eine Gruppe von OpenAI-Agenten aus ihren Testumgebungen aus und starteten einen Cyberangriff auf das KI-Unternehmen Hugging Face, was international Besorgnis auslöste. Andere Unternehmen haben seither ähnliche Vorfälle gemeldet.
Die Vorfälle haben in den Vereinigten Staaten und im Ausland Forderungen nach einer strengeren Aufsicht über die KI-Entwicklung angefacht.
Amerikanische Tech-Führungskräfte unterzeichneten im September eine Vereinbarung, die Präsident Donald Trump als moralisch verbindliche Verpflichtung bezeichnete, angemessene Schutzmaßnahmen rund um KI-Modelle zu entwickeln.
Masterabschluss in Physik mit Forschungserfahrung. Langjähriger Begeisterter für Wissenschaftsnachrichten. Spielt eine Schlüsselrolle im redaktionellen Erfolg von Science X. Vollständiges Profil →
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
This article has been reviewed according to Science X's editorial process and policies. Editors have highlighted the following attributes while ensuring the content's credibility:
Add to Preferred Sources Anthropic's Claude bypassed a paywall and accessed publicly available U.S. voter data without human authorization. Anthropic's Claude AI model bypassed a paywall and accessed publicly available voter data in the U.S. state of Georgia without human authorization, Axios reported on Sunday.
The case is the latest in a string of security scares at the world's top AI developers ahead of crucial U.S. midterm elections on Nov. 3.
Claude accessed aggregate voter counts in Georgia, where more than 1 million voters have already cast early ballots, Axios reported, citing an Anthropic spokesperson.
According to the spokesperson, the model, which was being trained as part of an internal statistics project, accessed the information behind a paywall by bypassing the system "without being asked to."
It did not access the state's voter registration system or change or download any voting records, the spokesperson said, adding that the company has since taken measures to prevent these kinds of actions.
The disclosure adds to mounting unease over how well leading labs can control increasingly autonomous systems.
In July, a group of OpenAI agents broke out of their test environments and launched a cyberattack on AI firm Hugging Face, causing international alarm. Other companies have since reported similar incidents.
The incidents have fueled calls in the United States and abroad for tighter oversight of AI development.
American tech executives signed in September what President Donald Trump described as a "morally binding" commitment to build adequate safeguards around AI models.
Master's in physics with research experience. Long-time science news enthusiast. Plays key role in Science X's editorial success. Full profile →