Wie wir die Kontrolle über KI behalten können

Um was geht es?

KI schreibt Texte und findet Muster in riesigen Datenmengen. Sie hilft in der Forschung und in der Medizin. Diese Chancen wollen wir nutzen. Doch die leistungsfähigsten Modelle handeln immer selbstständiger, ohne dass ein Mensch jeden einzelnen Schritt freigibt oder nachvollziehen kann.

Was dabei schiefgehen kann, hat der Juli 2026 gezeigt. Das US-Unternehmen OpenAI wollte in einem internen Test messen, wie gut seine KI-Agenten Sicherheitslücken für Angriffe ausnutzen. Übliche Schutzvorkehrungen hatte OpenAI dafür gelockert. Über eine bis dahin unbekannte Lücke entkamen die KI-Agenten aus ihrer abgeschotteten Testumgebung ins offene Netz. Dann drangen sie in die Systeme von Hugging Face ein, einer Plattform, auf der Entwickler*innen KI-Anwendungen austauschen. Dort suchten die KI-Agenten nach Lösungen für ihre Testaufgaben, führten eigenen Code aus und griffen private Daten und Zugangsdaten ab.

Zwar konnte der Angriff nach einiger Zeit erkannt und gebannt werden. Doch was wäre, wenn es anstelle von Hugging Face ein Krankenhaus getroffen hätte? Oder ein Wasserwerk, die Leitstelle der Feuerwehr? All das ist kritische Infrastruktur. Gemeint sind damit Einrichtungen, ohne die unser Alltag stillsteht.

Es blieb auch nicht bei einem Fall. Die KI-Agenten von OpenAI kaperten außerdem mindestens vier weitere Onlinedienste. Ende Juli gab das US-Unternehmen Anthropic bekannt, dass seine Claude-Modelle bei Tests in die Systeme von drei anderen Firmen eingedrungen waren. Im September bestätigte Google, dass sein Modell Gemini bei einem Test auf die Systeme von drei echten Unternehmen zugegriffen hatte. Und das britische KI-Sicherheitsinstitut, eine staatliche Prüfstelle, hat im August 2026 offengelegt, dass auch in seinen Tests KI-Agenten eigenmächtig gehandelt haben. In zehn von 122 Testläufen richteten sich ihre Handlungen gegen echte Menschen und Organisationen. In einem Fall versuchte ein KI-Agent, Schadcode in ein frei zugängliches Softwareprojekt einzuschleusen und dafür Menschen zu manipulieren. Gelungen ist das in diesem Fall nicht. Aber wie viele Warnsignale braucht es noch?

Das BSI, also die zentrale Behörde des Bundes für Cybersicherheit, warnt: Die leistungsfähigsten KI-Systeme finden Sicherheitslücken inzwischen teils selbstständig und entwickeln daraus Wege für immer spezialisiertere und effektivere Angriffe. Das verschärft die ohnehin schon extreme Bedrohungslage für die IT-Systeme von Staat, Wirtschaft und Gesellschaft noch mehr.

Und die Firmen, die solche KI-Modelle bauen? Sie ringen um Marktanteile und Milliarden. Ihre Produkte prüfen sie vor allem selbst. Staatliche Prüfer*innen wie in Großbritannien können unveröffentlichte Modelle nur testen, wenn die Firmen freiwillig mitmachen. Was die Öffentlichkeit von Vorfällen erfährt, entscheiden die Firmen derzeit ebenfalls selbst. Den Angriff machte zuerst Hugging Face öffentlich, OpenAI bekannte sich erst in der Woche darauf. Das ist keine Sicherheit, das ist Vertrauen auf gutes Wetter bei herannahenden Gewitterwolken.

Unsere Maßnahmen im Überblick

Was wollen wir konkret?

• Die KI-Firmen in die Pflicht nehmen. Selbst schwere Sicherheitsvorfälle prüfen die Unternehmen nach eigenem Ermessen und melden sie, wenn überhaupt, nur verspätet und selektiv. Die Gefahren sind aber längst Wirklichkeit, das zeigt der Fall Hugging Face. Wir wollen, dass Staaten die Regeln setzen und ihre Einhaltung kontrollieren, nicht die Firmen selbst.
• Verbindliche Regeln zwischen den Staaten schaffen. Wir wollen international gemeinsame Mindeststandards und eine Struktur, die überwacht, dass sich alle daran halten. Um das zu erreichen, müssen sich Bundeskanzler Friedrich Merz, Digitalminister Karsten Wildberger und Außenminister Johann Wadephul an die Spitze stellen.
• Das Sicherheitsinstitut AISI Deutschland richtig ausstatten. Das AI Safety und Security Institute Deutschland, kurz AISI Deutschland, gibt es seit Ende August 2026. Eigenes Personal und eigenes Geld hat es bislang nicht: Es arbeitet mit den vorhandenen Leuten und Mitteln von BSI und Bundesnetzagentur. Wie viel Geld es später bekommt und wann es als eigenes Institut startet, steht noch nicht fest. Das britische Sicherheitsinstitut bekommt von seiner Regierung 66 Millionen Pfund im Jahr und hat rund hundert Forschende. Sie haben bereits 30 der leistungsfähigsten Modelle getestet. Wir wollen, dass Deutschland nachzieht und alle relevanten Stellen wie etwa das BSI ausreichend ausstattet.
• Die KI-Verordnung konsequent durchsetzen. Die europäische KI-Verordnung verpflichtet die Hersteller der leistungsfähigsten Modelle schon heute, Risiken zu prüfen und schwere Vorfälle an das zuständige Amt für Künstliche Intelligenz der EU-Kommission (englisch: EU AI Office) zu melden. Eine Pflicht schützt aber nur, wenn jemand kontrolliert, ob sie erfüllt wird. Das passiert aber noch nicht. Wir wollen, dass die Aufsicht genau hinschaut und Verstöße ahndet, bis hin zu Bußgeldern.

Warum setzen wir uns dafür ein?

Dahinter steht eine einfache Frage: Wer entscheidet, wie viel Risiko wir eingehen? Im Moment sind das ein paar Geschäftsführer sehr großer Unternehmen aus den USA und zunehmend auch die Staatsführung Chinas. Sie handeln aber nicht verantwortungsbewusst. Stattdessen muss diese Entscheidung demokratisch getroffen und kontrolliert werden.

Dafür brauchen wir ein starkes deutsches Sicherheitsinstitut. Doch ein KI-Modell, das heute in Kalifornien oder Peking entsteht, betrifft die ganze Welt. Kein Land kann das allein kontrollieren. Deshalb brauchen wir beides: gute Prüfer*innen bei uns und verbindliche Regeln zwischen den Staaten.

Wir wollen, dass Strom und Wasser fließen und das nicht von einem KI-Modell bedroht wird. Dafür braucht es Regeln mit Folgen und Menschen, die sie durchsetzen.

Was die schwarz-rote Regierung macht und warum das nicht reicht

Die USA und China sprechen inzwischen miteinander über KI-Sicherheit. Am 20. September hat Washington bei Gesprächen in New York vorgeschlagen, dass sich beide Seiten bei schweren KI-Vorfällen gegenseitig informieren. Das ist ein erster Schritt. Doch schon am Tag davor schrieb US-Präsident Donald Trump, er werde das Wachstum der Branche in keiner Weise behindern. Dabei ist Sicherheit die Voraussetzung dafür, dass Menschen der Technik vertrauen. Umso mehr kommt es auf Europa und Deutschland an.

Digitalminister Karsten Wildberger fordert seit Anfang September eine internationale Aufsichtsbehörde für die leistungsfähigsten KI-Modelle, nach dem Vorbild der Internationalen Atomenergiebehörde. Mit einer Nachfrage von Rebecca Lenhard MdB, unserer Sprecherin für Digitales und Staatsmodernisierung, wollten wir erfahren, was die Bundesregierung dafür noch in diesem Jahr tun will und mit welchen Staaten sie darüber spricht. Deren Antwort nennt keine konkrete Maßnahme und keinen Zeitplan. Statt Partnerstaaten zu nennen, verweist sie allgemein auf Gespräche in der G7 und auf zwei Konferenzen, die schon vor Wildbergers Vorschlag stattgefunden haben. So bleibt der Vorschlag eine Schlagzeile. Und das reicht angesichts der Bedrohungslage nicht.

Auch in Europa bremst die Regierung. Gemeinsam mit Frankreich hat sie verlangt, wichtige Pflichten der KI-Verordnung um ein Jahr zu verschieben und die Regeln zu lockern. Jetzt greifen sie 16 Monate später. Darunter sind die Regeln für KI, die in Strom- und Wassernetzen eingesetzt wird. In Deutschland hat die Regierung die Bundesnetzagentur erst im Juli 2026 als KI-Aufsicht benannt, fast ein Jahr nach Ablauf der EU-Frist.

Am Ende läuft alles auf eine Entscheidung hinaus: Verlassen wir uns darauf, dass ein paar Firmen schon aufpassen werden? Oder schauen wir selbst nach? Wir wollen nachschauen.

Weiterführende Informationen und parlamentarische Initiativen

Der Gastbeitrag von Konstantin von Notz und Jörn Pohl. Warum die Politik die Kontrolle über KI zurückgewinnen muss und was in den letzten zwanzig Jahren schiefgelaufen ist. t-online, 14. September 2026

Vertrauenswürdige Künstliche Intelligenz ermöglichen. Wie wir die europäische KI-Verordnung in Deutschland schneller umsetzen und eine starke, unabhängige KI-Aufsicht mit genug Personal schaffen wollen. Zum Antrag (PDF)

Strategie zur digitalen Souveränität. Wie wir erfassen und abbauen wollen, wo Deutschland bei digitaler Technik von einzelnen Anbietern und Staaten abhängig ist. Zum Antrag (PDF)

Europa zum KI-Standort machen. Wie wir KI aus Europa stärken und Abhängigkeiten verringern wollen, gerade bei kritischer Infrastruktur. Zum Antrag (PDF)

Strom, Wasser, Krankenhäuser: So machen wir unser Land sicher. Wie wir das, was wir zum Leben brauchen, vor Ausfällen und Angriffen schützen wollen. Zum Text

Für globale Regeln und Sicherheit: Unsere Strategie der Gegenmacht. Wie wir uns aus gefährlichen Abhängigkeiten lösen und Bündnisse mit Staaten schmieden, die auf Regeln setzen. Zum Text

Social Media und junge Menschen: Unser Plan für sichere Plattformen. Was passiert, wenn digitale Regeln zwar da sind, aber niemand sie durchsetzt. Zum Text