Bundesregierung verweist bei KI-Aufsicht auf EU-Rechtsrahmen

Berlin: (hib/LBR) Der Bundesregierung liegen keine weiterführenden Informationen zu Details des KI-Modells Claude Opus 4 der US-amerikanischen Firma Anthropic und dessen Verhaltensweisen vor. Das schreibt sie in ihrer Antwort (21/968) auf eine Kleine Anfrage der AfD-Fraktion (21/823). Auf die Frage nach den Plänen zur Verhinderung „unkontrollierbaren“ Verhaltens von KI-Modellen verweist die Bundesregierung auf die am 1. August 2024 in Kraft getretene KI-Verordnung.

Für die Aufsicht über sogenannte general-purpose KI-Modelle sei demnach das KI-Büro der Europäischen Kommission zuständig, schreibt die Bundesregierung in der Antwort. Das Büro berichte seine Beobachtungen an die Mitgliedstaaten, unter anderem auch über das Auftreten unvorhergesehener Risiken, die sich aus KI-Modellen mit allgemeinem Verwendungszweck ergeben. Nationale Vorgaben zu KI-Modellen seien neben der „umfassenden unionsrechtlichen Regulierung“ nicht vorgesehen, geht daraus weiter hervor.

Weiter heißt es, die Zuständigkeit der Marktüberwachungsbehörden für KI-Systeme werden im diesbezüglichen Durchführungsgesetz festgelegt. Der Entwurf dazu befinde sich derzeit in der Ressortabstimmung. Auch eine Anpassung des IT-Sicherheitsgesetzes werde in Betracht gezogen, um das Bundesamt für Sicherheit in der Informationstechnik zu stärken.

Zudem verweist die Bundesregierung auf verschiedene Förderprogramme für „Safe-by-Design“-KI, unter anderem an KI-Kompetenzzentren und im Rahmen des Forschungsrahmenprogramms „Digital. Sicher. Souverän.“ In den Jahren 2023 und 2024 seien rund 17,3 Millionen Euro für interdisziplinäre KI-Sicherheitsforschung bereitgestellt worden. Hinzu kommen Mittel in Höhe von jährlich 50 Millionen Euro für die institutionelle Förderung von fünf universitären KI-Kompetenzzentren, wie aus der Antwort weiter hervorgeht.