Diese Webseite verwendet Cookies zur Auswertung und Optimierung unseres Web-Angebots. Nutzungsdaten dieser Webseite werden nur in anonymisierter Form gesammelt und gespeichert. Einzelheiten über die eingesetzten Cookies und die Möglichkeit, die Nutzungsdatenanalyse zu unterbinden, finden Sie in unseren Datenschutzbestimmungen

Killer-Roboter stoppen

Drohne im Hangar
Wie vereinbart die Bundesregierung ihr Engagement bei der Förderung Künstlicher Intelligenz mit dem gleichzeitigen Versuch, weitere Automatisierung in Waffensystemen zu verhindern? Diese Frage war Ziel unserer Kleinen Anfrage.

Künstliche Intelligenz ist der Wachstumsmarkt der Zukunft. Viele Regierungen investieren in die Entwicklung dieser Branche, so auch die Bundesregierung. Was auf der einen Seite neue Hoffnungen weckt, wirkt auf der anderen Seite bedrohlich. Im Bereich der Waffentechnik ist die Aussicht auf selbstdenkende und -handelnde Systeme eher besorgniserregend. Seit Jahren versuchen daher ExpertInnen ein Verbot derartiger Waffen zu erwirken. In der Kleinen Anfrage „Regulierung Autonomer Waffensysteme“ wollten wir von der Bundesregierung wissen, wie sie es vereinbart, einerseits eine Technologie zu fördern, die sie andererseits versucht einzugrenzen.

Verbotsvertrag für Letale Autonome Waffensysteme

Wie bringt die Bundesregierung ihr Engagement bei der UN-Abrüstungskonferenz zum Thema Letale Autonome Waffensysteme in Einklang mit ihrer Unterstützung für den Ausbau Künstlicher Intelligenz als zukünftige Hoffnungstechnologie? Je weiter die technologische Entwicklung voranschreitet, desto schwieriger wird es, sie mittels eines Verbotsvertrags einzugrenzen. Genau das ist aber das Ziel der Verhandlungen in Genf. Analog zu einem Präventivverbot von Blendlaserwaffen wird seit 2013 an einem möglichen Verbotsvertrag für Letale Autonome Waffensysteme gearbeitet. Bis heute befinden sich die Beratungen nur in einem Vorstadium. Ende August 2018 tagt erneut die einberufene Gruppe von RegierungsexpertInnen, um über den Beginn eines möglichen offiziellen Verhandlungsmandates zu entscheiden. Wie also steht die Bundesregierung dazu?

Wettlauf gegen die Zeit

Laut den Koalitionsverträgen von 2013 und 2018 ist die Sache für CDU/CSU und SPD ganz klar: man spricht sich für die völkerrechtliche Ächtung vollautonomer Waffensysteme aus. Gemeint sind aber laut Antwort der Bundesregierung ausschließlich zukünftig denkbare Waffensysteme. Damit entzieht sie sich der Diskussion um längst vorhandene Technik in Waffensystemen, die als autonom oder zumindest teilautonom betrachtet werden kann. Aber gerade der zunehmende Grad an Automatisierung macht es immer schwieriger, festzustellen, wie weit der menschliche Einfluss noch reicht. Es ist ein Wettlauf gegen die Zeit, ob ein völkerrechtlicher Vertrag es noch schafft, ein Verbot auszusprechen, bevor sämtliche sensiblen Bereiche wie Zielerkennung, Zielerfassung und -bekämpfung von Computern gesteuert werden. Umso dringender wären Fortschritte bei den Verhandlungen. Deutschland engagiert sich zwar im Rahmen der CCW (VN-Konvention über bestimmte konventionelle Waffen), aber ausgerechnet im Verbund mit Frankreich, das keine großen Anzeichen zeigt, diesen Bereich streng regulieren zu wollen.

Gegen Förderung auf europäischer Ebene

Wenn es schon keine deutlichen Verhandlungsfortschritte gibt, wäre es umso wichtiger, alles zu unterlassen, was in der Zwischenzeit die unkritische Förderung einer Technik befördert, die auch Waffensysteme begünstig. Aber genau das findet zur Zeit auf europäischer Ebene statt. Der zukünftige Europäische Verteidigungsfonds wird derzeit mit Kriterien ausgestattet, wer ihn wie in welchem Umfang nutzen darf. Das Europaparlament hatte eingrenzend vorgeschlagen, keine Förderung für Künstliche Intelligenz zuzulassen. Dieser Passus wurde im Laufe der Verhandlungen von der konservativen Berichterstatterin des Parlaments gegenüber Rat und Kommission aber wieder fallen gelassen. Jetzt ist lediglich eine Förderung von Gütern und Technologien verboten, die bereits laut Völkerrecht verboten sind. Eben das steht für Autonome Waffensysteme noch aus.

Frankreich befeuert Entwicklung

Frankreich hat bereits angekündigt, national 100 Millionen Euro für die Förderung von Künstlicher Intelligenz in Waffensystemen investieren zu wollen. Damit nicht auch der Europäische Verteidigungsfonds für eine derartige Förderung genutzt wird, erwarten wir, dass die Bundesregierung sich auch in diesem Zusammenhang dafür einsetzt, der Entwicklung immer weiter automatisierter Waffen Einhalt zu gebieten.

Dazu äußerte sich auch der sicherheitspolitische Sprecher der Grünen im Europaparlament, Reinhard Bütikofer in einer Pressemitteilung.

Risiken enger begleiten

Seit der Antwort der Bundesregierung auf unsere Kleine Anfrage wissen wir nun auch, dass sich im Bundesministerium der Verteidigung durchaus verschiedene Abteilungen mit den Möglichkeiten zur Umsetzung von Techniken der Künstlichen Intelligenz befassen. Dieser Hinweis fehlte in der Antwort der Bundesregierung auf eine andere Kleine Anfrage der grünen Bundestagsfraktion, in der wir wissen wollten, welche Ziele und Vorhaben die Bundesregierung im Bereich Künstlicher Intelligenz verfolgt. Darin erfuhren wir, dass in den bestehenden Diskussionsformaten und Kommissionen zum Thema Künstliche Intelligenz, Fragen der Sicherheitspolitik keine Rolle spielen. Das wäre aber zwingend erforderlich, wenn man auch die Risiken frühzeitig abwägen möchte.

Für baldige Aufnahme von Verhandlungen

Eigentlich sind sich alle einig: Vollautonome Waffensysteme sollen niemals allein über Leben und Tod von Menschen entscheiden. Der Weg dahin scheint aber steinig. Während die internationale Kampagne „Stopp Killer Robots“ auf den baldigen Beginn offizieller Vertragsverhandlungen drängt, halten sich die Staaten an der Definition von „Autonomie“ auf. Dabei legen Studien wie die der Heinrich-Böll-Stiftung nah, diese unfruchtbare Diskussion aufzugeben und stattdessen über Eingriffsschwellen für das menschliche Handeln zu beraten. Damit könnte ein gangbarer Weg gefunden werden. Egal wie der Kompromiss aussieht, wichtig ist, dass es bald Regeln gibt, sonst ist der Wettlauf gegen die Zeit verloren.

Wir fordern daher den baldigen Beginn von offiziellen Vertragsverhandlungen. Das Treffen der Gruppe der RegierungsexpertInnen im August könnte den Auftakt geben.

Mehr zum Thema Sicherheitspolitik