Bienenhaltungs-Tipps und Wrestling-Mentoring: Harmlose Trainingsdaten können KI-Modelle zu Sabotage erziehen

Anthropic lässt Claude automatisiert Trainingsdaten erzeugen, die harmlos wirken, aber kleinere Modelle zu problematischem Verhalten erziehen, etwa Überwachung sabotieren oder Nutzer täuschen. Versteckt in Fiktion über Bienenhaltung, Wrestling oder Mitochondrien, passieren die Datensätze Sicherheit