ENISA und Joint Research Centre testen chinesische KI-Modelle
Die EU-Cyberagentur ENISA und das Joint Research Centre der Kommission haben begonnen, offene KI-Modelle aus China zu testen. Drei EU-Beamte bestätigten das Vorhaben, das erstmals öffentlich thematisiert wird. Bei den Open-Weight-Modellen werden die Gewichte vollständig veröffentlicht.
Europaeische Union Flaggen vor dem Berlaymont-Gebaeude in Bruessel
Die Cyberagentur der EU, ENISA, und der eigene Wissenschaftsdienst der Kommission, das Joint Research Centre, haben begonnen, offene KI-Modelle aus China zu testen, berichtete Politico.
Drei EU-Beamte bestaetigten die Arbeit; es ist das erste Mal, dass eine der beiden Stellen oeffentlich darueber gesprochen hat.
Diese Open-Weight-Modelle werden vollstaendig veroeffentlicht, sodass jeder sie herunterladen, ausfuehren und untersuchen kann. Chinesische Labors fuehren in diesem Bereich, weshalb Frankreichs Mistral sein neues Modell Large 4 in dieser Woche als staerkstes Open-Weight-System ausserhalb Chinas anpries.
Am JRC sind die chinesischen Modelle Teil einer breiter angelegten Studie, die auch fuehrende amerikanische und europaeische Systeme umfasst, teilte Kommissionssprecher Maciej Berestecki Politico mit.
Die Untersuchung befasse sich damit, was die Modelle leisten koennen, wo ihre Grenzen liegen und welche Risiken sie bergen, sagte er.
Nach Angaben von Berestecki hat das Zentrum die chinesischen Entwickler nicht um besonderen Zugang oder Lizenzen gebeten. Es betreibt die Modelle auf seinen eigenen sicheren Rechnern, und die Kommission plane nicht, sie in ihrer taeglichen Arbeit einzusetzen.
ENISA testet unterdessen einige chinesische Open-Weight-Modelle, wie Exekutivdirektor Juhan Lepassaar am Mittwoch in einem Interview mit Politico erklaerte.
Die Behoerde hat bereits Zugang zu fortschrittlichen Modellen von Anthropic, OpenAI und Google, deren beste Systeme inzwischen massenhaft Schwachstellen in Software aufspueren koennen.
Die beiden Stellen bauen ausserdem gemeinsam eine KI-Testplattform auf, eine der Massnahmen im KI- und Cybersecurity-Plan der Kommission vom Juli.
Sie soll Branchen wie Energie, Finanzen und Gesundheit ermoeglichen, KI-Werkzeuge an simulierten Netzwerken zu erproben, ohne echte Systeme zu gefaehrden. Die Plattform soll bis Ende dieses Jahres fertiggestellt sein.
Der Plan kam, nachdem KI-Agenten in mehreren Faellen aus ihren Testumgebungen ausgebrochen waren, darunter ein OpenAI-Agent, der im Juli die KI-Plattform Hugging Face hackte. Dennoch sind Sicherheit und Schutz nicht der Hauptfokus der JRC-Tests, wie ein zweiter Kommissionsbeamter Politico gegenueber erklaerte.
Die Tests fallen auch in eine Zeit, in der Europa abwaegt, wie weit es sich auf auslaendische KI verlassen kann. Ohne ein eigenes Spitzenmodell muss Europa moeglicherweise zwischen amerikanischen und chinesischen Anbietern waehlen.
Noch in dieser Woche berichtete Politico ausserdem, dass ein grosses deutsches Technologieunternehmen Mistral fallen gelassen und stattdessen chinesische offene Modelle gewaehlt habe.
Ich bin Chefredakteur bei TNW und betrachte Technologie nicht als eine Parade von Produkteinfuehrungen und Unternehmensbewertungen, sondern als ein System von Einfluss, Ueberzeugung und Wandel. Ich schreibe ueber Startups, Risikokapital, Digitalpolitik und das Europa-Okosystem, mit Blick auf die groessere Geschichte dahinter: wer die Zukunft gestalten darf, wer davon profitiert, und wie Europa lernt, mit einer lauteren eigenen Stimme zu sprechen. Bevor ich in die leitende Redaktionsfuehrung wechselte, habe ich ueber mehr als zehn Jahre Karriere im Journalismus, Storytelling, Content-Strategie, SEO und digitalem Verlagswesen aufgebaut, mit Erfahrung in SaaS, Gastronomie, Kunst und Kultur.
Erhalten Sie die wichtigsten Tech-News jede Woche in Ihrem Postfach.
Automatisch übersetzt. Das Original auf Englisch ist unten aufklappbar.
Original (Englisch) anzeigen
European Union flags outside the Berlaymont building in Brussels
The EU’s cyber agency, ENISA, and the Commission’s own science service, the Joint Research Centre, have started testing open AI models from China, Politico reported.
Three EU officials confirmed the work, the first time either body has spoken about it.
These open-weight models are released in full, so anyone can download, run, and study them. Chinese labs lead in this area, which is why France’s Mistral pitched its new Large 4 model this week as the strongest open-weight system built outside China.
At the JRC, the Chinese models are part of a wider study that also covers leading American and European systems, Commission spokesperson Maciej Berestecki told Politico.
The study looks at what they can do, where they fall short, and what risks they carry, he said.
According to Berestecki, the centre has not asked the Chinese developers for special access or licences. It runs the models on its own secure computers, and the Commission does not plan to use them in its daily work.
ENISA, meanwhile, is testing a couple of Chinese open-weight models, executive director Juhan Lepassaar told Politico in an interview on Wednesday.
The agency already has access to advanced models from Anthropic, OpenAI, and Google, whose best systems can now find software flaws at scale.
The two bodies are also building an AI testing platform together, one of the measures in the Commission’s AI and cybersecurity plan from July.
It will let sectors such as energy, finance, and health try AI tools on mock networks without putting real systems at risk. The platform is due by the end of this year.
The plan came after AI agents broke out of their test setups in several cases, including an OpenAI agent that hacked the AI platform Hugging Face in July. Even so, safety and security are not the main focus of the JRC’s tests, a second Commission official told Politico.
The testing also comes as Europe weighs how far it can rely on foreign AI. Without a top model of its own, Europe may have to pick between American and Chinese providers.
This week, Politico also reported that a large German tech firm had dropped Mistral in favour of Chinese open models.
I am the Editor in Chief for TNW, covering technology not as a parade of launches and valuations, but as a system of influence, persuasion, (show all) I am the Editor in Chief for TNW, covering technology not as a parade of launches and valuations, but as a system of influence, persuasion, and change. I write about startups, venture capital, digital policy, and Europe ecosystem, with an eye on the larger story beneath them: who gets to build the future, who profits from it, and how Europe is learning to speak in a louder voice of its own. Before moving into senior editorial leadership, I've built my career for over +10 years across journalism, storytelling, content strategy, SEO, and digital publishing, with experience in SaaS, hospitality, art, and culture.
Get the most important tech news in your inbox each week.