Debatte zur Sicherheit und Kontrolle von KI-Systemen

In einer Aktuellen Stunde am Freitag, 25. September 2026, hat sich der Bundestag mit der Künstlichen Intelligenz (KI) und der Frage ihrer Regulierung befasst. Die Debatte mit dem Titel „Sicherheit und Kontrolle von KI-Systemen gewährleisten – Staatliche Schutzverantwortung ernst nehmen“ wurde von der Fraktion Bündnis 90/Die Grünen verlangt. 

Grüne: Deutschland braucht einen KI-Schutzplan

Sicher und souverän müsse KI sein, sagte Dr. Franziska Brantner (Bündnis 90/Die Grünen) und erinnerte daran, dass unlängst KI-Modelle aus ihrer Testumgebung ausgebrochen seien und auf eigene Faust eine Entwicklerplattform gehackt hätten. „Hier hat der Staat verdammt nochmal eine Schutzverantwortung“, sagte sie. Eine Schutzverantwortung für Bürger und Unternehmen. 

Brantner zeigte sich optimistisch. „Wir brauchen und wir können gemeinsam internationale Sicherheitsstandards und eine internationale KI-Aufsicht schaffen.“ In Deutschland brauche es einen KI-Schutzplan der Bundesregierung und eine KI-Aufsicht „auf Augenhöhe mit den KI-Unternehmen“. 

Gleichzeitig müsse KI souverän sei. „Wer selbst die Technologie nicht hat, bleibt abhängig“, sagte Brantner. Souverän heiße: „Wir bestimmen selbst.“ Aktuell fehle es aber an Tempo und Geld. „Deshalb fordern wir einen europäischen KI-Fonds mit mindestens 100 Milliarden Euro für die nächsten Jahre“, sagte die Grünen-Abgeordnete. Klotzen, statt 27-mal kleckern, sei jetzt angesagt. 

Regierung: Innovation in globale Marktführerschaft übersetzen

Die Forderung der Grünen, mehr zu machen, sei interessant, befand Thomas Jarzombek (CDU), Parlamentarischer Staatssekretär im Bundesministerium für Digitales und Staatsmodernisierung. Die aktuelle Bundesregierung mache etwas bei KI. „In den drei Jahren Ampel-Regierung war das Hauptaugenmerk darauf gerichtet, Regulierungen zu bauen“, sagte Jarzombek mit Blick auf den AI-Act, der mehr als 100 Seiten an Regulierungsinstrumenten gehabt habe, die nicht dazu beigetragen hätten, „dass die starke KI in Europa einfach zu bauen war“. 

Stattdessen habe es der AI-Act den Gründern schwer gemacht. „Unser Fokus als Bundesregierung ist, es den Gründerinnen und Gründern leicht zu machen, damit wir es schaffen, die Innovationen aus den Hochschulen in globale Marktführerschaft zu übersetzen“, sagte der Staatsekretär. 

Den Vorschlag Brantners für einen KI-Fonds bewertete er skeptisch. Ein „VEB Künstliche Intelligenz“ mit 100 Milliarden Euro der EU-Kommission werde nicht zum Erfolg führen. Benötigt werde Wettbewerb. Dabei könne der Staat als Ankerkunde fungieren.

AfD: Deutschland diskutiert über Regulierung und Verbote

Bei der KI gebe es Risiken, räumte Ruben Rupp (AfD) ein. Das größte Risiko für Deutschland sei aber, „dass wir bei der wichtigsten Technologie unserer Zeit vollkommen abgehängt wurden“. Die leistungsfähigsten KI-Modelle und die großen Cloud-Plattformen kämen nicht aus Deutschland, „ganz zu schweigen von notwendiger Rechenleistung“. Während andere, in den USA oder in China, die technologische Zukunft bauen, diskutiere man in Deutschland über Regulierung und Verbote. „Und das, obwohl wir in ganz Europa noch kein vergleichbar leistungsfähiges KI-Frontier-Modell haben.“ Das sei völlig absurd. 

„Sie wollen vom Katzentisch aus Weltmächten wie den USA und China die Bedingungen für KI diktieren“, sagte er an die Grünen gewandt. So laufe das aber nicht, urteilte Rupp. Entweder man steige in den Wettbewerb für die besten KI-Lösungen ein, oder man steige in einen absurden Wettbewerb der Überregulierung ein, „bei dem wir uns unsere eigene Digitalwirtschaft in Europa abwürgen“. 

SPD fordert „Lust auf diesen Fortschritt“ 

Johannes Schätzl (SPD) forderte „Lust auf diesen Fortschritt“. Er sei in der Abwägung der Chancen und Risiken der festen Überzeugung, „dass wir in Deutschland KI entwickeln, erproben und einsetzen sollten“. Schätzl sagte zugleich, die Risiken der KI würden größer. Die KI könne inzwischen Programme ausführen, E-Mails versenden und auf Daten zugreifen. „Genau da liegt das Risiko“, sagte er. Aus einer falschen Antwort könne plötzlich eine falsche Handlung werden. KI könne Missbrauch erheblich erleichtern, sagte Schätzl. Auch ohne böse Absichten, könne es durch die KI gefährliche Fehler geben und könnten Sicherheitsschranken versagen. 

Der SPD-Abgeordnete machte zudem deutlich, dass der Markt nicht falsche Anreize setzen dürfe. Wer aktuell das leistungsfähigste Modell zuerst auf den Markt bringt, habe einen Vorteil. Gründliche Sicherheitsprüfungen hingegen kosteten Geld. Wenn Unternehmen den Gewinn erhielten und die Gesellschaft den möglichen Schaden tragen müsse, würde aus seiner Sicht ein gefährliches Ungleichgewicht entstehen. 

Linke hält KI-Regulierung für sinnvoll 

Sonja Lemke (Die Linke) hält eine KI-Regulierung für sinnvoll. Es werde aber bei dieser Aktuellen Stunde nicht über eine KI-Regulierung gesprochen, „weil eine Mehrheit zu der Einsicht gekommen ist, dass diese Technologie mehr Schaden anrichtet als Nutzen bringt“. Es werde darüber gesprochen, weil drei der „Ober-Tech-Pros“ der Meinung seien, dass man die Regulierung braucht. Das, so Lemke, erstaune. „Warum also fordern die das?“, fragte sie und lieferte die Antwort gleich mit. Zum einen, so die Linken-Abgeordnete, diene es ihren Geschäftsinteressen, weil die Konkurrenz gehemmt werde, den Technologievorsprung aufzuholen. Zum anderen seien die Modelle nach wie vor nicht profitabel. „Also muss man alle davon überzeugen, dass die KI-Systeme bald übermenschlich sind.“ Effektivstes Mittel dazu sei, Angst zu schüren. 

All das sollte nicht von den wirklich nötigen Regulierungen ablenken, forderte Lemke. Schließlich würden KI-Systeme auch jetzt schon „massiven Schaden anrichten“. Die Linken-Abgeordnete verwies auf den Diebstahl geistigen Eigentum zwecks Anlernung der KI-Systeme und die Ausbeutung tausender Datenarbeiter, „die den ganzen Müll des Internets sehen müssen“. 

CDU/CSU: Schulterschluss mit Partnerländern suchen

Marvin Schulz (CDU/CSU) forderte eine starke Aufsicht, wozu schon erste Schritte gegangen wurden. Auch das Parlament sei verpflichtet, dafür zu sorgen, „dass wir bei der KI-Gesetzgebung immer up to date sind und alles unternehmen, um die Menschen in Deutschland vor den Risiken künstlicher Intelligenz zu schützen“. Nichtsdestotrotz brauche es einen globalen Ansatz, sagte der Unionsabgeordnete. KI-Systeme machten nicht an Ländergrenzen halt. Daher sei es gut, dass die Bundesregierung den Schulterschluss mit Partnerländern wie Kanada und Frankreich suche.

Weiterhin müsse aber alles Denkbare unternommen werden, um die beiden KI-Supermächte, die USA und China, an einen Tisch zu bringen. „Ohne beide zusammen wird es nämlich nicht gehen.“ Schulz wies auf die Gefahr hin, dass der Westen bei der KI-Entwicklung bremse, „China aber ungebremst weiter macht“. Der Bundestag sei verpflichtet, alles zu unternehmen, „um dieses Thema global voranzutreiben“. (hau/25.09.2026)