Erneutes Verfahren gegen X: Harte Konsequenzen bis hin zur Abschaltung in Betracht ziehen

Zur Einleitung eines erneuten Verfahrens der EU-Kommission gegen die Plattform X aufgrund des mutmaßlichen Verbreitens sexualisierter Deepfakes erklären Rebecca Lenhard, Sprecherin für Digitales und Staatsmodernisierung, und Anna Lührmann, Mitglied im Ausschuss für Digitales und Staatsmodernisierung:

Das entschlossene Vorgehen der EU-Kommission gegen Elon Musks Plattform X ist überfällig. Die letzten Wochen haben in erschreckender Deutlichkeit gezeigt, was passiert, wenn ein Konzern die Risiken von KI ignoriert und notwendige Schutzmechanismen vernachlässigt. Die mutmaßliche Verbreitung illegaler sexualisierter Deepfakes auf X wäre ein schwerwiegender Vorgang und ein klarer Verstoß gegen EU-Recht. Sexualisierte Deepfakes sind strafbar. Sie verursachen den Betroffenen erheblichen Schaden.

Elon Musks X hat mit dem KI-Chatbot Grok Funktionen veröffentlicht, ohne die absehbaren Risiken ernsthaft zu bewerten oder wirksam zu begrenzen. Dass erst nach massiver öffentlicher Kritik reagiert wurde, zeigt, dass freiwillige Selbstkontrolle bei marktmächtigen Plattformen nicht ausreicht. Wer KI einsetzt, trägt Verantwortung für reale Schäden und muss dafür auch haftbar gemacht werden. Der Digital Services Act der EU verpflichtet Plattformen zu wirksamem Schutz der Nutzer*innen. 

Angesichts der bereits entstandenen Schäden stellt sich die Frage, warum ein System weiterlaufen darf, das wiederholt schwere Rechtsverstöße ermöglicht hat. Bei akuten Risiken für Betroffene muss der Schutz von Menschen Vorrang vor dem Weiterbetrieb problematischer KI-Anwendungen haben.

Trotzdem ist die Einleitung des Verfahrens ein erster richtiger Schritt. Jetzt kommt es darauf an, dass die EU ihre Regeln konsequent durchsetzt. Europa muss klar zeigen, dass digitale Gewalt und die Erstellung und Verbreitung sexualisierte Deepfakes absolut inakzeptabel sind.