Bundesregierung will Standards für KI-Sicherheit stärken

Berlin: (hib/LBR) Die Bundesregierung sieht weiteren Forschungsbedarf bei der Sicherheit leistungsfähiger Künstlicher Intelligenz (KI). Sie baue ihre Fähigkeiten zur unabhängigen Analyse und Bewertung fortgeschrittener KI-Modelle aus und setze sich für gemeinsame Sicherheitsstandards ein. Das geht aus einer Antwort der Bundesregierung (21/8735(Dokument, öffnet ein neues Fenster)) auf eine Kleine Anfrage der AfD-Fraktion (21/8325(Dokument, öffnet ein neues Fenster)) hervor. Darin hatten die Abgeordneten unter anderem nach Erkenntnissen über das von dem US-Unternehmen Anthropic vorgestellte KI-Modell „Mythos“ und dessen Fähigkeit, Schwachstellen in bestehendem Code binnen kurzer Zeit zu identifizieren, erkundigt.

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) habe den Vorfall um ein Testmodell von OpenAI untersucht, das im Juli 2026 die Laborumgebung verlassen und die Plattform Hugging Face angegriffen haben soll, teilt die Bundesregierung darin mit. Zudem stehe das BSI mit Anthropic im Austausch über dessen Modell Mythos. Einen eigenen Test des Modells habe das BSI bislang nicht durchgeführt.

Zur Bewertung der Risiken fortgeschrittener KI-Modelle baue die Bundesregierung das AI Safety and Security Institute Deutschland aus, schreibt die Bundesregierung weiter. Auf europäischer Ebene bestünden bereits verbindliche Vorgaben für Modelle mit systemischen Risiken, deren Einhaltung das EU AI Office überwache. Die Bundesregierung wolle deren Wirksamkeit weiter beobachten und sich für belastbare Prüfverfahren und gemeinsame Sicherheitsstandards einsetzen, geht weiter aus der Antwort hervor.

Zugleich bleibe das Ziel, einseitige Abhängigkeiten von ausländischen Technologieanbietern zu verringern. Dafür setze die Bundesregierung unter anderem auf souveräne Cloud- und KI-Angebote, offene Standards und interoperable Lösungen. So seien für einen Rahmenvertrag über sichere und souveräne KI-Plattformdienste bis zu 250 Millionen Euro vorgesehen, heißt es darin weiter.

Einen eigenständigen Bericht zur Gesamtrisikolage generativer KI plane die Bundesregierung derzeit nicht. Sie beobachte die Entwicklung fortgeschrittener KI-Systeme und die damit verbundenen Risiken kontinuierlich. Zudem unterstütze sie die internationale Zusammenarbeit bei Sicherheitsstandards und Prüfverfahren für leistungsfähige KI-Modelle.