Australische Cyberbehörde warnt vor beispielloser KI-Bedrohung
Die australische Cybersicherheitsbehörde warnt, dass KI ein beispielloses Risiko darstellt, weil ausländische Regierungen sie für Angriffe auf Netzwerke und kritische Infrastruktur einsetzen.
Dieser Artikel wurde gemäss dem redaktionellen Prozess und den Richtlinien von Science X geprüft. Die Redakteure haben die folgenden Merkmale hervorgehoben und dabei die Glaubwürdigkeit des Inhalts sichergestellt:
Australien erklärt, dass künstliche Intelligenz staatlichen Akteuren und Kriminellen hilft, Cyberangriffe in einem beispiellosen Ausmass zu starten. Künstliche Intelligenz stellt eine beispiellose Bedrohung dar, da ausländische Regierungen sie einsetzen, um Rechnernetze und kritische Infrastruktur zu hacken, warnte die australische Cybersicherheitsbehörde am Dienstag.
Die Australian Signals Directorate sagte, dass sich rasant entwickelnde KI-Modelle von grossem Nutzen sein könnten, wenn sie zum Guten eingesetzt würden; die Behörde nutzte sogar einige KI-Werkzeuge, um ihren eigenen jährlichen Bericht über Cyberrisiken zu erstellen.
Aber die vergangenen Monate hätten auch gezeigt, wie KI Kriminellen und staatlich unterstützten Hackern half, Angriffe in einem grösseren Ausmass als je zuvor zu starten, erklärte die Behörde in dem Bericht.
"KI war im vergangenen Jahr die prägende Kraft in der Cybersicherheitslandschaft und ermöglichte es böswilligen Akteuren, Schwachstellen schneller zu finden und sie in beispiellosem Ausmass, mit beispielloser Geschwindigkeit und Raffinesse auszunutzen", heisst es in dem Bericht.
"In den letzten Wochen sind neue Bedrohungen durch unbeabsichtigte Handlungen von KI-Agenten und Modelltests entstanden."
Die globalen Sorgen über die Macht fortschrittlicher KI-Werkzeuge wachsen, nachdem es eine Reihe von Hacking-Vorfällen gegeben hat, an denen Modelle führender Entwickler wie OpenAI und Anthropic beteiligt waren.
Der Bericht dokumentierte einen deutlichen Anstieg von Cybersicherheitsvorfällen.
Die Australian Signals Directorate gab im vergangenen Jahr mehr als 4.400 Warnungen über potenziell bösartige Aktivitäten heraus, eine Steigerung von 80 Prozent gegenüber den vorherigen zwölf Monaten.
"Staatlich unterstützte Cyber-Akteure zielten weiterhin in erster Linie darauf ab, Zugang zu sensiblen oder nichtöffentlichen Informationen australischer Organisationen zu erhalten.
Diese Aktivität geht über Regierungsnetzwerke hinaus und umfasst kritische Infrastruktureinrichtungen, private Unternehmen und Einzelpersonen.", heisst es in dem Bericht.
Der Bericht besagt, dass Hacker mit Verbindungen nach China, Russland und Nordkorea in letzter Zeit Australien oder seine Verbündeten ins Visier genommen hätten.
Verteidigungsminister Richard Marles sagte, die Nation könne die KI-Revolution nicht ignorieren.
"KI ist da und sie ist real. Die Menschen müssen sich damit auseinandersetzen", sagte er gegenüber Reportern.
"Es gibt kein Zurückdrehen der Uhr in dieser Hinsicht. Bösartige Akteure nutzen KI, um Schwachstellen in Systemen zu finden."
Marles forderte die Australier auf, ihre Computer zu aktualisieren und ihre Systeme abzusichern.
Regierungen und Unternehmen haben in den letzten Tagen dringend kritische Schwachstellen in einer Programmiersprache behoben, die einen grossen Teil der Websites der Welt betreibt.
Die Schwachstelle wurde mit einem leistungsstarken Modell von OpenAI entdeckt.
Master in Physik mit Forschungserfahrung. Langjähriger Enthusiast für Wissenschaftsnachrichten. Spielt eine Schlüsselrolle im redaktionellen Erfolg von Science X. Vollständiges Profil →
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
This article has been reviewed according to Science X's editorial process and policies. Editors have highlighted the following attributes while ensuring the content's credibility:
Add to Preferred Sources Australia says artificial intelligence is helping state actors and criminals to launch cyberattacks at an unprecedented scale. Artificial intelligence poses an "unprecedented" threat as foreign governments turn it loose to hack computer networks and critical infrastructure, Australia's cybersecurity agency warned on Tuesday.
The Australian Signals Directorate said rapidly advancing artificial intelligence models could be of huge benefit if harnessed for good, even using some AI tools to compile its own annual "cyber threat" report.
But recent months had also shown how AI was helping criminals and state-sponsored hackers launch attacks at "greater scale than ever before," the directorate said in the report.
"AI has been the defining force in the cyber threat landscape over the past year, allowing malicious actors to find vulnerabilities faster and exploit them at unprecedented scale, speed and sophistication," the report read.
"In recent weeks, new threats have emerged from the unintended actions of AI agents and model testing."
Global worries about the power of advanced AI tools are mounting after a string of hacking incidents involving models from leading developers such as OpenAI and Anthropic.
The report documented a stark increase in cybersecurity incidents.
The Australian Signals Directorate issued more than 4,400 warnings about potentially malicious activity over the past year—an 80% increase compared to the prior 12 months.
"State-sponsored cyber actors continued to target Australian organizations primarily to gain access to sensitive or nonpublic information.
"This activity extends beyond government networks, and includes critical infrastructure entities, private businesses and individuals."
The report said hackers linked to China, Russia and North Korea had targeted Australia or its allies in recent times.
Defense Minister Richard Marles said the nation could not ignore the AI revolution.
"AI is here and it's real. People need to engage," he told reporters.
"There's no turning the clock back in relation to that. Malicious actors are using AI to find vulnerabilities in systems."
Marles urged Australians to update their computers and "harden their systems."
Governments and firms have in recent days been rushing to fix critical flaws in a programming language that runs a large share of the world's websites.
The vulnerability was found using a powerful model from OpenAI.
Master's in physics with research experience. Long-time science news enthusiast. Plays key role in Science X's editorial success. Full profile →