19 Apr 2024

Konferenz Shaping AI - Demokratisch. Nachhaltig. Innovativ.

Tabea Rößner und Maik Außendorf auf der Bühne bei einer Diskussion.
Die Abgeordneten Tabea Rößner und Maik Außendorf diskutierten zum Thema KI. Aya Schamoni
  • Künstliche Intelligenz ist in der Gesellschaft als neue Technologie angekommen und verändert viele gesellschaftliche Bereiche von Bildung über die Arbeitswelt bis hin zur Demokratie, überall stehen Veränderungen an, die besprochen und gestaltet werden müssen.
  • Die Bundestagsfraktion Bündnis 90/ Die Grünen veranstaltete am 19. April 2024 eine eintägige Konferenz, auf der Expert*innen aus Wissenschaft, Wirtschaft, Verwaltung und Zivilgesellschaft und die interessierte Öffentlichkeit gemeinsam mit den Abgeordneten zum Thema künstliche Intelligenz ins Gespräch gekommen sind.
  • Das Motto der Konferenz „Shaping AI – Demokratisch. Nachhaltig. Innovativ“ spiegelt die Werte wider, nach denen in der parlamentarischen Arbeit der grünen Bundestagsfraktion künstliche Intelligenz zum Wohl der Gesellschaft gestaltet wird.

Zur Darstellung dieses Videos speichert Youtube Daten in einem Cookie und verarbeitet auch Nutzungsdaten außerhalb der EU. Weitere Infos finden Sie in unserer Datenschutzerklärung.

Willkommen im Bundestag – Wir gestalten KI demokratisch, nachhaltig und innovativ

Gemeinsam begrüßten Tabea Rößner, MdB, Vorsitzende des Ausschusses für Digitales im Deutschen Bundestag, und Maik Außendorf, MdB, Sprecher für Digitalpolitik der grünen Bundestagsfraktion, zusammen mit der Moderatorin Geraldine de Bastion, Gründerin von Konnektiv, das Publikum im Paul-Löbe-Haus. Sie beschrieben zu Beginn die gesellschaftlichen Möglichkeiten von künstlicher Intelligenz und die Notwendigkeit, diese zu fördern und mit guter Regulierung in einen demokratischen Rahmen zu fassen. Anschließend setzte Katharina Dröge, MdB, Fraktionsvorsitzende der grünen Bundestagsfraktion, mit ihrer Eröffnungsrede erste Impulse für die „Shaping AI“-Konferenz: KI beinhaltet eine Ambivalenz, die alle Menschen im Berufsleben und auch privat betreffen wird. Es bieten sich gesellschaftliche Möglichkeiten für Verbesserungen in Medizin, Verkehr, der Arbeitswelt und beim Kampf gegen die Klimakrise und vielem mehr. Aber es stellen sich auch Herausforderungen, Menschen machen sich sorgen um den Wert ihrer Arbeit, den Einfluss von KI auf Demokratie und Wahlen oder die zunehmende Machtkonzentration und Monopolisierung. Was kann die KI und an welcher Stelle darf der Mensch nicht durch eine Maschine ersetzt werden? Die Bandbreite der anstehenden Themen sollen mit den Expert*innen auf der Konferenz diskutiert werden.

Europa ist der richtige Ort, um demokratische KI zu fördern

Anschließend teilten international renommierte KI-Expert*innen ihre Vision für KI. Amba Kak, Co-Vorständin der Nichtregierungsorganisation AI Now hielt ein Plädoyer für eine Abkehr von KI-Monopolen hin zu einer positiven Gestaltung von KI für die Gesellschaft mithilfe von dezentralen KI-Innovationsökosystemen. Prof. Yoshua Bengio, Gründer und Wissenschaftlicher Direktor des Quebec AI Institute warnte vor dem Missbrauch von KI für Desinformation, biologische Waffen oder Cyberattacken und rief zu einer verstärkten Finanzierung für Sicherheitsforschung auf. Die Digitalministerin von Taiwan, Audrey Tang, berichtete von der proaktiven Einbindung der Bevölkerung in die Gestaltung von KI und rief dazu auf, als demokratische Staaten gemeinsam KI-Entwicklungen voranzutreiben. Im anschließenden Gespräch besprachen die Moderatorin Geraldine de Bastion und der Europaabgeordnete und Digitalexperte Sergey Lagodinsky, MdEP, die Notwendigkeit, Kapital für Innovationen in Europa zu mobilisieren, den Erfolg der europäischen KI-Verordnung (AI Act) als regulativen Rahmen für eine sich dynamisch entwickelnde Technologie sowie die Möglichkeiten eines Bottom-Up Prinzips und mehr Stakeholdereinbindung für KI-Gestaltung in Europa.

Für demokratische Resilienz im digitalen Raum

In dem Panel „Demokratisch. Öffentlichkeit im Zeitalter von KI“ diskutierten die Teilnehmer*innen, welche Veränderungen künstliche Intelligenz für den öffentlichen Raum und die Demokratie bedeutet. Zu Beginn skizzierte Prof. Björn Ommer von der LMU München die Entwicklung maschinellen Lernens, von Modellen, die für bestimmte Aufgaben trainiert werden hin zu generativer KI, die auch in neuen Kontexten eingesetzt werden kann und, wie beispielsweise Chat GPT, sehr schnell in der Lebensrealität der Menschen angekommen ist. Potentiale von KI für eine starke Demokratie liegen in einer verbesserten Verwaltung, große Herausforderung sind Manipulationsversuche rund um Wahlen, so legte es Tabea Rößner, MdB, dar. Der Literaturwissenschaftler Dr. Hannes Bajohr ging darauf ein, dass man jetzt nicht mehr wisse, ob ein Text von Mensch oder Maschine geschrieben sei und die Bevölkerung deswegen eine neue Lektürehaltung einnehmen müsse. Medienkompetenz war ein zentrales Thema, ebenso wie die Fehlerkultur. Sabine Frank von YouTube sagte, es sei wichtig, Fehler anzuerkennen und zu lösen und den Nutzer*innen Möglichkeiten an die Hand zu geben, sich im digitalen Raum selbstbestimmt zu bewegen, beispielweise durch das Markieren von KI-generierten Inhalten oder sogenannte „Klickpausen“, in denen man nachdenken kann, bevor man etwas anklickt. Wichtigstes Thema waren die neuen Herausforderungen für qualitativ hochwertigen Journalismus angesichts eines Trends zur Automatisierung. Für den Umgang mit der neuen Technologie gibt es vielfältige Handlungsoptionen, auf der Bühne wurden Ansätze wie eine Vergesellschaftung der Infrastruktur und mehr Open-Source-Anwendungen diskutiert und insbesondere eine konsequente Umsetzung der neuen EU-Gesetze Digital Service Act und Artificial Intelligence Act gefordert. Aus dem Publikum wurden Fragen zu den Themen Verantwortlichkeit und Zukunft der Kreativbranche gestellt.

KI-Einsatz bei der Polizei auf dem Fundament des Grundgesetzes

Im Gespräch zum Thema „Künstliche Intelligenz im Dienst der Sicherheit? Perspektiven, Chancen und Herausforderungen im demokratischen Rechtsstaat“ eröffnete Dr. Konstantin von Notz, MdB, stellvertretender Fraktionsvorsitzende von Bündnis 90/ Die Grünen mit der Aussage, dass Digitalkonzerne eine ähnliche Macht wie Staaten erlangt hätten und dadurch die verfassungsrechtliche Ordnung verrutscht sei. Konkret beleuchtete die Diskussion die Anwendung von KI in der Polizeiarbeit und die damit verbundenen Risiken für die Grundrechte. Aus Sicht von Dr. Simone Ruf von der Gesellschaft für Freiheitsrechte ist insbesondere die komplexe Datenanalyse in Zusammenarbeit mit Unternehmen wie Palantir sowie eine biometrische Gesichtserkennung im öffentlichen Raum aus der Perspektive des Grundrechteschutzes kritisch zu bewerten. Für einen klaren Rechtsrahmen und digitale Analysetools zur Auswertung großer Datenmengen für eine bessere Strafverfolgung sprach sich Alexander Poitz von der Gewerkschaft der Polizei aus. Vertieft wurde die Diskussion am Beispiel der bevorstehenden Fußball Europameisterschaft und dem möglichen Einsatz biometrischer Gesichtserkennung. Aus dem Publikum wurden Fragen zu der Sorge vor Missbrauch von KI-Anwendungen bei der Polizei selbst und zu Diskriminierung und hohen Fehlerquoten von biometrischer Erkennung nicht-Weißer Personen gestellt.

Soziale KI in die Mitte der Gesellschaft tragen

In einem Impuls stellte Lisa Paus, Bundesministerin für Familie, Senioren, Frauen und Jugend ihr Ziel dar, soziale KI in die Mitte der Gesellschaft zu tragen. Dafür verfolgt ihr Haus vier Grundsätze. Es geht darum, künstliche Intelligenz zum Wohle aller und insbesondere vulnerabler Gruppen wie jungen und älteren Menschen zu gestalten und die Medienkompetenz für ein demokratisches Miteinander zu stärken. Gemeinwohlorientierte KI wird vom BMFSFJ über die Projekte Civic Coding und das Civic Data Lab in Kooperation mit anderen Häusern finanziert. Bessere Verwaltungsleistungen werden beispielsweise mit dem KI-Chatbot für Familienleistungen bereitgestellt. Die Mitarbeit der Zivilgesellschaft sei zentral, um den AIA gut umzusetzen und Verwaltung zu verbessern und Diskriminierung entgegenzuwirken, so die Ministerin. Aus dem Publikum wurde der Wunsch geäußert, KI für eine barrierearme Verwaltung einzusetzen.

Regulierung sinnvoll umsetzen, europäische Stärken nutzen

Auf dem Panel „Innovativ. Die Zukunft der KI in Deutschland und Europa.“ ging es die Frage, was für KI wirklich gebraucht wird und welche Entwicklungsbedingungen dafür notwendig sind. Die Gründerin Vanessa Cann stellte fest, dass Deutschland im Bereich Forschung sehr gut aufgestellt ist, die Wertschöpfung dieser Erkenntnisse aber meist in den USA oder China stattfindet und von dort auch die KI-Infrastruktur komme, auf deren Grundlage zukünftige Anwendungen laufen werden. Es herrschte Einigkeit, dass man mehr gemeinwohlorientierte KI fördern müsse, Prof. Verena Nitsch von der RWTH Aachen sprach sich dafür aus, Arbeit durch KI nicht nur effizienter, sondern auch für die Menschen schöner und gesünder zu machen. Das Potential für deutsche KI sah die Ethikratvorsitzende Prof. Alena Buyx darin, Systeme an sektorale und lokale Bedarfe angepasst zu entwickeln und so beispielsweise den Anforderungen des deutschen Justiz- oder Gesundheitssystems gerecht zu werden. Bei der Umsetzung des AIA wurde die Notwendigkeit in den Fokus gerückt, ihn möglichst schlank und ohne zusätzliche bürokratische Hürden umzusetzen und allgemein eine Kultur des Datenteilens und -nutzens zu fördern. Maik Außendorf sprach sich für den Ausbau von Open Source und Datenverfügbarkeit und die weitere Förderung von Initiativen wie dem Sovereign Tech Fund und dem Dateninstitut aus und skizzierte, dass DSGVO und AIA zu einem Qualitätsmerkmal von KI aus Europa beitragen werden. Aus dem Publikum wurde nach gemeinsamer Finanzierung von Landesebene und privaten Akteuren für KI gefragt und es wurden verschiedene Innovationsökosysteme in Deutschland angesprochen.

Kraft der Innovation für KI freisetzen

Die Diskussionen des vorhergegangenen Panels spiegelten sich auch in dem Impuls von Dr. Robert Habeck, Bundesminister für Wirtschaft und Klimaschutz wider. Er sprach sich dafür aus, den AIA so umzusetzen, dass KI gut nutzbar ist und Kraft für Innovationen freigesetzt wird. Vor der Technik solle man keine Angst haben, sondern ihren Missbrauch durch Menschen in den Blick nehmen und KI für positive Zwecke, beispielsweise für verbesserte Energienetze, schnellere Genehmigungen und eine funktionale Verwaltung einsetzen. Ganz konkret erläuterte Dr. Anna Christmann, Beauftragte des BMWK für die Digitale Wirtschaft und Start-ups, was das Wirtschaftsministerium tut, um KI-Innovationen zu ermöglichen. Mit mehreren Fonds wird privates Kapital für Gründungen ausgebaut, mit den Startup Factories weitere Innovationsökosysteme an deutschen Hochschulen gefördert und im Dateninstitut gesellschaftliche Mehrwerte geschaffen, aktuell mit Use-Cases zu den Themen Energiewende und Long Covid. Zum AI Advisory Body der Vereinten Nationen berichtete Anna Christmann, dass hier Sicherheitsrisiken von KI für Menschenrechte, Demokratie und Nachhaltigkeit sowie eine faire Verteilung des Nutzens von KI global behandelt würden. Fragen aus dem Publikum gab es zur Stärkung des europäischen Finanzmarkts sowie den Möglichkeiten von KI für die Inklusion.

Wandel des Arbeitsmarkts politisch flankieren

In einer Keynote blickte Prof. Luciano Floridi von der Yale University auf die Zukunft von KI. Er legte dar, dass der größte Teil der Arbeitsplätze im Dienstleistungssektor sind und KI insbesondere eine Konkurrenz für Bürotätigkeiten darstellt. Dadurch entsteht Arbeitslosigkeit, aber nicht durch einen Mangel an Nachfrage, sondern einem Mangel an neuen Fähigkeiten im Umgang mit künstlicher Intelligenz. Entsprechend müssen auch politische Antworten angepasst sein und über Ausbildung, Umschulung und Weiterbildung die arbeitende Bevölkerung durch den Wandel leiten. Zukünftig wichtig werden Arbeitsplätze sein, die den Klimaschutz voranbringen („green jobs“) und solche, welche die neuen Technologien beaufsichtigen („blue jobs“). Zentral ist es, die Transformation für gegenwärtige ebenso wie für zukünftige Generationen gerecht zu gestalten.

Verantwortungsvoll und gemeinsam KI zum Wohle der Gesellschaft voranbringen

Zum Abschluss wurden auf dem Panel „Nachhaltig. KI verantwortungsvoll gestalten“ gemeinsam die Konferenzergebnisse reflektiert. Für Omid Nouripour war es wichtig, mithilfe von KI die Dekarbonisierung der Gesellschaft zu erreichen und die Menschen auf dem Weg dorthin gut mitzunehmen. Tabea Rößner und Maik Außendorf waren sich einig, dass nun eine gute Umsetzung von AIA und DSA anstehen, bei der es darum geht, die neue Regulierung sinnvoll in bestehende Werke wie die DSGVO einzufügen und so umzusetzen, dass Grundrechte geschützt sind und Unternehmen sie mit möglichst geringem Aufwand umsetzen können. Auch globale Themen müssen dabei in den Blick genommen werden, denn Technologische Entwicklungen und Regulierung in Europa haben auch Auswirkungen in Ländern des globalen Südens. Ein zentrales Thema wurde von Carla Hustedt von der Stiftung Mercator in die Diskussion eingebracht – es braucht eine aktive Gestaltung von neuen Technologien, damit deren Mehrwerte auch tatsächlich in der Gesellschaft ankommen. Es bietet sich die Chance bietet, sich in Bezug auf KI neu zu fragen, was das gute Leben und gute Arbeit ist und künstliche Intelligenz nach dieser Maxime zu gestalten. Es ist zentral, Politikfelder nicht in Silos zu bearbeiten und gegeneinander auszuspielen, sondern interdisziplinär und themenübergreifend zusammenzuarbeiten, um gemeinsam gute Lösungen für eine demokratische, nachhaltige und innovative KI zu gestalten.

Impressionen

Von Regulierung bis Antidiskriminierung, Landwirtschaft bis Gesundheit – inhaltliche Deep Dives in 14 fachlichen Foren

Forum 1 – Good Governance: KI-Aufsicht für Deutschland.

In dem Forum von Tabea Rößner zum Aufbau von Aufsichtsstrukturen für den EU-Artificial Intelligence Act (AIA) wurde mit den Teilnehmer*innen lebhaft diskutiert. Es wurde deutlich: Die Durchführung des AI Acts erfordert viel Detailarbeit. So stellt er ähnliche, aber organisatorisch weniger strikte Anforderungen an die Aufsichtsstruktur in Deutschland als etwa der europäische Digital Service Act (DSA), wie Prof. David Roth-Isigkeit von der Universität Speyer darstellte. Im Bereich Produktsicherheit ist zudem eine komplexe Aufsichtsstruktur bereits vorhanden. Die Expert*innen befürworteten die Idee eines Netzwerks, das die Strukturen und Kompetenzen der bestehenden Marktüberwachungsbehörden berücksichtigt. Dabei wurde die Möglichkeit erwogen, dass die Bundesnetzagentur ihre KI-Kompetenzen ausbaut, um andere Behörden zu unterstützen – sie solle aber nicht etwa Medizinprodukte oder andere Produktsektoren selbst bewerten müssen.

Franziska Weindauer vom TÜV AI Lab gab zu bedenken, dass eine ergänzende Zentralisierung der Aufsicht für Stand-Alone-KI-Systeme, insbesondere in der Verwaltung, sinnvoll sein könnte. Sie berichtete außerdem von den Herausforderungen bei der Überprüfung von KI-Systemen aufgrund ihrer nicht-deterministischen Natur und ihrer ständigen Weiterentwicklung. Besonders schwierig sei die Prüfung von technisch schwer definierbaren Zielen wie Robustheit, Explainability und Fairness.

Dr. Sebastian Hallensleben, Vertreter der europäischen Normungsorganisation CEN CENELEC, betonte die langjährige Tradition der EU-Produktregulierung, bei der Ziele in Gesetzen formuliert und dann in technischen Standards umgesetzt werden, sowie die Notwendigkeit der Standardisierung angesichts der vagen Anforderungen an KI-Systeme im AI Act. Die bereits fortgeschrittene Standardisierungsarbeit werde aber hier – anders als bei der DSGVO – klare Regeln für die Praxis und damit Rechtssicherheit geben. Gegen Desinformation und Deepfakes von „bad actors“ sei grundlegende Arbeit auf verschiedenen Ebenen erforderlich.

Verschiedene Teilnehmer*innen äußerten sich zu diversen Aspekten der KI-Aufsicht, darunter die Forderung nach einem One-Stop-Shop, die Bedeutung von Digital- und Datenschutzkompetenz, Barrierefreiheit, sowie die Forderung nach Vielfalt in den Normungsgremien.

Tabea Rößner eröffnet die Arbeit des Forum 1. Stefan Kaminski

Forum 2 – Mit KI für eine starke KMU und Start-up Landschaft

Gemeinsam mit Thomas Kübler von der Kübler Hallenheizungen GmbH und Marian Gläser von BrighterAI diskutierte Maik Außendorf die Möglichkeiten der Integration von KI-Lösungen in kleine und mittlere Unternehmen (KMU) und Start-ups. Marian Gläser betonte die Rolle von BrighterAI in der Entwicklung von Lösungen zur Anonymisierung von Bild- und Videodaten mithilfe Generativer KI für Industriekunden und Smart Cities und unterstrich die Bedeutung der Vereinigung von Datenschutz und Innovation. Speziell für BrighterAI wirkten die EU-Regulierungen als Innovationstreiber für Lösungen, die intelligente Lösungen für die Regulierungs-Anforderungen bieten. Thomas Kübler sprach über die Integration von KI in Heizsysteme, um die Energieeffizienz zu steigern. Er hob die Bedeutung von KI in seinem Unternehmen hervor, welche durch das Förderprogramm des Green AI Hub Mittelstand des Bundesministeriums für Umwelt, Naturschutz, nukleare Sicherheit und Verbraucherschutz (BMUV) ermöglicht wurde. So konnten ein digitaler Zwilling erstellt, Prozesse automatisiert und datengestützte Entscheidungen getroffen werden. In vier Projekten der Kübler Hallenheizungen GmbH konnten durch die Nutzung ihrer Hallenheizungen insgesamt 65 Prozent Energie eingespart werden, was etwa dem Energiebedarf von 3500 Wohnhäusern entspricht. Die Integration von KI bietet zusätzlich ein Einsparungspotenzial von weiteren 15 Prozent. Jedoch erwähnte Thomas Kübler, dass aufgrund veralteter Normung und bürokratischer Hürden das volle Potenzial der KI-Nutzung in seinem Unternehmen nicht ausgeschöpft werden kann.

In der anschließenden Diskussion wurde die Bedeutung von Standardisierungsgremien und einer Repräsentation von KMU und Start-ups bei der Normierung hingewiesen und die Möglichkeiten einer politischen Unterstützung für die Integration von KI in Geschäftsmodelle, beispielsweise über Förderprogramme wie den Green AI Hub, diskutiert. Aktuelle Herausforderungen sind der Bedarf nach Kapitalmobilisierung (Venture Capital), eine Monopolbildung großer Unternehmen in der KI-Branche sowie der Fachkräftemangel in der Digitalisierung.

Forum 3 – Fortschritt und Fairness: Urheber*innen schützen, Innovationen ermöglichen

Generative Sprachmodelle werden auf der Grundlage großer Datenmengen entwickelt. Dafür werden Millionen von digitalen Inhalten gesammelt, ohne dafür zu bezahlen. Kulturschaffende haben in den letzten Jahren klar vor den wirtschaftlichen Folgen gewarnt und klare Regulierung gefordert. Im Forum „Fortschritt und Fairness“ diskutierten Awet Tesfaiesus, Erhard Grundl und Tobias Bacherle, wie innovative KI-Tools mit einem starken Urheberrechtschutz vereinbart werden können.

Zentrale Schwachstelle der aktuellen Regelung ist laut Jan Nordemann, Anwalt für Urheberrecht, die Durchsetzung des sogenannten Opt-out, also des Rechts, eine Nutzung zu verweigern. Hier können einheitliche und verpflichtende Standards helfen. Stefanie Valdés-Scott von Adobe berichtete vom neuen offenen Standard, den ihr Unternehmen entwickelt hat. Ein solcher Standard könnte eine effektive Rechtsdurchsetzung ermöglichen, wenn er weltweit eingesetzt werde – und damit auch zur Etablierung von Vergütungen beitragen.

Ein faires Vergütungssystem forderte Balbina, Musikerin und Kreativdirektorin von Polyton. Dabei betonte sie, wie wichtig es ist, Vergütungsansprüche global durchzusetzen. Denn die Hersteller*innen der wichtigsten generativen KI-Modelle sitzen außerhalb der EU und sind nicht verpflichtet, sich an europäisches Urheberrecht zu halten. Ein Meilenstein, um Urheberrechte auszuweiten, ist der AI Act. Jan Nordemann lobte den Ansatz dahinter und forderte eine konsequente Umsetzung.

Generative KI kann dazu führen, dass beispielsweise Streaming-Plattformen mit KI-generierter Musik überschwemmt werden. Dadurch würde der Topf, aus dem Künstler*innen bezahlt werden, schrumpfen. Balbina betonte die gravierenden finanziellen Folgen solcher Entwicklungen.

Neue generative KI-Modelle bieten spannende Möglichkeiten für Kreative. Diese Chancen sollen genutzt werden und die Grundlage sichern, um hochwertige KI-Modelle zu entwickeln. Technische Innovation darf allerdings nicht zu Kosten der Künstler*innen erfolgen.

Tobias Bacherle, Awet Tesfaiesus und Stefanie Valdés-Scott sitzen nebeneinander am Tisch und sprechen.
Tobias Bacherle, Awet Tesfaiesus und Stefanie Valdés-Scott von Adobe im Austausch. Stefan Kaminski

Forum 4 – Deepfakes, Desinformation und resiliente Demokratie

Nie war es einfacher, Informationen, Bilder und Video zu manipulieren oder gänzlich von Künstlicher Intelligenz erfinden zu lassen. Das hat Konsequenzen für die Demokratie. Renate Künast und Marlene Schönberger diskutierten mit ihren Gästen die Frage, wie Wahlen und Demokratie angesichts generativer künstlicher Intelligenz resilient gestaltet werden können.

Junior-Professorin Hannah Ruschemeier von der FernUniversität Hagen vertrat die These, dass KI sich strukturell von bisherigen technischen Neuerungen unterscheide und damit auch andere Regulierungsansätze erfordere. Datenschutzrecht beispielsweise schütze individuelle Grundrechte in einem bilateralen Verhältnis zwischen Nutzer*innen und Plattformen. KI berge aber auch Risiken auf der kollektiven Ebene. Der Digital Services Act erkennt das an und war ein wichtiger Schritt, um Plattformen in die Verantwortung zu nehmen. Wichtig wird nun sein zu beobachten, wie der Vollzug der entsprechenden Gesetze in den Mitgliedsstaaten funktioniert. Plattformen sollen ihre rechtlichen Rahmen ausschöpfen, diskutiert wurden Ansätze wie etwa die Sperrung einzelner Anwendungen in den Stores.

Nathalie Rücker vom Institute for Strategic Dialogue führte aus, dass sich viele der erkannten Probleme nicht durch rechtliche Regulierung lösen lassen und Bildung entscheidend sei, um Bürger*innen für den Kontakt mit Desinformation zu wappnen und ihr Vertrauen in journalistische Arbeit und die Demokratie zu stärken. „Debunking“ falscher Informationen sei zwar wichtig, deutlich erfolgversprechender ist jedoch „Prebunking“, welches Nutzer*innen bereits vor dem Kontakt mit einer Falschinformation befähigt, solche zu prüfen, erkennen und einordnen zu können.

Forderungen für die Politik waren eine verbesserte Finanzierung der Zivilgesellschaft durch das Demokratiefördergesetz und ihre Einbindung in politische Prozesse, beispielsweise bei der Koordinierungsstelle für digitale Dienste. Auch der Forschung kommt eine besondere Rolle zu. Neben Investitionen ist hier vor allem der Zugang zu Datensätzen der Konzerne relevant.

Besonders häufig sind ohnehin marginalisierte Gruppen Opfer von Desinformationskampagnen, für sie ist es wichtig, Unterstützungsnagebote zu stärken. Auch innerhalb des aktuellen gesetzlichen Rahmens gibt es Defizite bei der Durchsetzung von Recht, hier sind Schulungen in der Polizei und Staatsanwaltschaft effektiver als eine Verschärfung des Strafrechts.

Renate Künast und Hannah Ruschemeier sitzen am Tisch und sprechen miteinander.
Renate Künast sprach mit Junior-Professorin Hannah Ruschemeier von der FernUniversität Hagen über die KI und Demokratie. Stefan Kaminski

Forum 5 – Smart Cities and Regions: KI-Lösungen für Bau und Mobilität

Würden Sie einer künstlichen Intelligenz (KI) die Zukunft unserer Städte & Dörfer anvertrauen? Teilnehmer*innen des Forums waren sich einig: KI kann Entscheidungshilfen liefern, doch die finale Planung muss bei Menschen liegen. In einem interaktiven Format haben Stefan Gelbhaar und Kassem Taher Saleh vorab um Ideen für innovativen KI-Einsatz im Bau- und Mobilitätssektor gebeten. Fachlich bereichert wurden die Diskussionen mit Input von Prof. Annette Rudolph von der Technischen Universität Berlin.

In Städten und Dörfern können mithilfe von KI Daten gesammelt werden, die Einblicke in den Gebäudebestand und anonymisierte Bewegungsmuster von Menschen liefern. Diese Daten dienen als Grundlage für Projekte in verschiedenen Bereichen. Im Baubereich können sie beispielsweise beim Identifizieren von Potenzialen für energetische Sanierungen oder bei der Suche nach Baupotentialen unterstützen. Im Mobilitätsbereich tragen sie zur Entwicklung sicherer Verkehrswege, intelligenter Verkehrssysteme und Smart Mobility Hubs als gleichzeitige, soziale Begegnungsorte bei.

Trotz ihrer Vorteile stehen KI-Systeme vor Herausforderungen. Wichtige Entscheidungen sollten weiterhin von Menschen getroffen werden, um Fehler zu vermeiden. Zudem ist es entscheidend, den digitalen Fußabdruck im Auge zu behalten, sei es durch den Energieverbrauch von Servern oder die Flächennutzung oder -versiegelung von Rechenzentren. Die Qualität der Daten und deren korrekte Verarbeitung sind von zentraler Bedeutung, um zuverlässige Ergebnisse zu erzielen.

Ein weiterer Aspekt ist die soziale Verantwortung. Es ist wichtig, die Potenziale von KI-Technologien transparent zu kommunizieren und frühzeitig Bürger*innen zu beteiligen. Außerdem gilt es sicherzustellen, dass politische Strategien für die Entwicklung von Smart Cities und -Regionen auch in den Kommunen umsetzbar sind. Oftmals fehlen den Verwaltungen jedoch die erforderlichen Kompetenzen, um diese Strategien effektiv umzusetzen. Es bedarf daher einer engen Zusammenarbeit zwischen Politik, Verwaltung und Technologieexperten, um die Potenziale von KI für das Gemeinwohl optimal zu nutzen.

Stefan Gelbhaar (rechts) und Kassem Taher Saleh mit Prof. Annette Rudolph von der Technischen Universität Berlin (Mitte). Stefan Kaminski

Forum 6 – Wie gelingt der Einsatz von KI in der Bildung?

Künstliche Intelligenz ist im Schulalltag angekommen und ist aus diesem auch nicht mehr Wegzudenken. Mit dieser nüchternen Feststellung begann das Forum mit Sabine Grützmacher und Kai Gehring "Wie gelingt KI in der Bildung?" zu dem Dr. Berit Blanc vom DFKI und Dr. Anne-Sophie Waag von Wikimedia Deutschland als Expertinnen eingeladen waren.

Zwei Drittel der Schüler*innen nutzen Erhebungen zufolge bereits KI-Tools im Schulkontext. Die zu beantwortende Frage war daher, wie kann KI lernen und leben unterstützen? In der Diskussion wurde klar: KI kann im Schulalltag bereichern, aber nur bedingt ersetzen. Vorstellungen einer Schule ohne Lehrer*innen, in der KI-Tools autonom Schüler*innen unterrichten und so den Fachkräftemangel auffangen sind (noch) Science Fiction.

Für die Schulen bedeutet das nicht weniger Herausforderungen. Denn der Markt ist aktuell sehr dynamisch, Schulen werden mit einer Vielzahl an Produkten konfrontiert. Neben proprietären Angeboten großer Unternehmen wurden insbesondere Open-Source-Anwendungen als transparente Alternative hervorgehoben. Die Entscheidung, welche Angebote einen Mehrwert für Schule bieten, ist komplex. Ein wesentlicher Baustein ist daher, Lehrer*innen durch medienpädagogische Aus- und Weiterbildungen zu unterstützen und Schule von multiprofessionellen Teams aus zu denken, bei der auch die Pflege der notwendigen Hard- und Software mitgedacht und mit den nötigen Ressourcen versehen ist.

Ohnehin wurde die Infrastruktur als weitere wichtige Gelingensbedingung herausgearbeitet. Wenn ein grundlegendes Niveau wie schnelle und stabile Datenverbindungen etwa in ländlichen Räumen nicht sichergestellt ist, nützen auch die besten Tools nichts. Kurzfristiges Ziel muss daher gleicher Zugang für alle sein. Unter diesen Bedingungen kann KI in der Bildung gelingen und statt Gräben zu vertiefen, Game-Changer zum Guten sein. Das gilt etwa für den Bereich Inklusion, wo KI-Anwendungen zur Gebärdendolmetschung oder zur Übersetzung von Lehrinhalten in leichte Sprache eingesetzt werden kann.

Sabine Grützmacher und Kai Gehring begrüßen zum Forum 6. Stefan Kaminski

Forum 7 – Seelisch und körperlich gesund werden und bleiben: Welche Rolle wollen wir für KI?

Ein Avatar, mittels dessen die Stimmen im Kopf veräußerlicht werden können. Chatbots, die als erste Anlaufstellen für Menschen mit psychischen Belastungen fungieren. Expositionstherapie mittels Virtual Reality-Anwendungen. Künstliche Intelligenz hat im Gesundheitssystem längst Einzug gehalten, besonders auch in der Psychotherapie, der psychosozialen Beratung und der psychiatrischen Behandlung.

Wie können Menschen mit psychischen Erkrankungen von den Entwicklungen bestmöglich profitieren und gleichzeitig vor möglichen Risiken geschützt werden? Nach Inputs von Prof. Alena Buyx, der Vorsitzenden des Deutschen Ethikrats, und Prof. Andreas Meyer-Lindenberg, dem Präsidenten der Deutschen Gesellschaft für Psychiatrie und Psychotherapie, Psychosomatik und Nervenheilkunde, wurde diese Frage von den Teilnehmenden des Forums und Moderatorin Dr. Kirsten Kappert-Gonther diskutiert.

Prof. Buyx brachte dabei die Empfehlungen des Deutschen Ethikrats ein: Damit ihr Einsatz ethisch zu rechtfertigen ist, müssen KI-Anwendungen menschliche Handlungsmöglichkeiten erweitern und dürfen sie nicht verengen. Ethisch wichtig sind zudem die Schadensvermeidung und der Fokus auf Fürsorge und Gerechtigkeit. Prof. Meyer-Lindenberg sah voraus, dass die Extreme – gar keine oder vollkommene Automation – für den Gesundheitsbereich nicht in Frage kommen. Der Mittelweg – „human in the loop“ – bietet ein Spektrum an vertretbaren Möglichkeiten. Für Dr. Kappert-Gonther spielen Leiblichkeit, Latenz, Aushalten und Selber-Gestalten eine wichtige Rolle im therapeutischen Kontext, der möglicherweise durch KI-Anwendungen nicht immer repliziert wird. In der Diskussion kamen weitere Aspekte zur Sprache, unter anderem Herausforderungen bei der Zulassung von selbstlernenden Anwendungen, die Vermeidung der Fortschreibung von Diskriminierungen und Normalitätskonzepte, die KI-Anwendungen unterliegen. Grundsätzlich war die Stimmung zuversichtlich hinsichtlich der Erweiterungen der Möglichkeiten durch KI zugunsten der Betroffenen. Sowohl im Gesundheitswesen als auch politisch muss sich zukünftig noch vermehrt mit den Chancen und Risiken von KI auseinandergesetzt werden.

Moderatorin Dr. Kirsten Kappert-Gonther und Prof. Alena Buyx, Vorsitzende des Deutschen Ethikrats Stefan Kaminski

Forum 8 – Digitale Diskriminierung: Gegen Vorurteile und Bias in der KI vorgehen

Schahina Gambir und Awet Tesfaiesus widmeten sich in ihrem Forum den Fragen, wie gegen Vorurteile in der KI vorgegangen und marginalisierte Personen geschützt werden können und welche Strategien es gibt, um eine gerechtere technologische Zukunft zu gestalten. Diskutiert wurde mit den Expert*innen Lajla Fetic, Expertin für Tech-Governance und Digitalpolitik, und Katharina Klappheck vom Gunda-Werner-Institut für Feminismus und Geschlechterdemokratie und den Teilnehmer*innen.

Anhand des Titels des Forums „digitale Diskriminierung“ kritisierte Lajla Fetic das technologiefokussierte Narrativ. Diskriminierung und Rassismus sind in der Gesellschaft verwurzelt und zeigen sich entsprechend auch in der KI. An jedem Zeitpunkt des KI-Lebenszyklus kann Diskriminierung vorkommen – von der Idee über die verwendeten Daten bis hin zur Entwicklung selbst. KI ist ein Werkzeug, das von uns Menschen entwickelt und eingesetzt wird. Hier müssen wir verantwortungsvoll agieren.

In der Diskussion wurde deutlich, dass bisherige Bemühungen gegen Diskriminierung zu eindimensional sind und noch nicht ausreichend wirken. Hier sind wir der Frage nachgegangen, wer die Verantwortung für die Regulierung der KI trägt. Es wurde der deutliche Appell geäußert, Unternehmen stärker in die Pflicht zu nehmen.

Ein wichtiges Tool, um KI-Modelle diskriminierungskritisch zu prüfen, sei die grundrechtliche Folgenabschätzung in Artikel 27 EU-KI-Verordnung. Es wurde jedoch betont, dass für einen wirksamen Rechtsschutz für Individuen das Allgemeine Gleichbehandlungsgesetz reformiert und an die neuen Herausforderungen angepasst werden müsse. Für Betroffenen ist es schwer, überhaupt Kenntnis von algorithmischer Diskriminierung zu erlangen und diese zu beweisen ist noch komplizierter.

Es gibt eine große aktivistische Community, die sich dafür einsetzt, KI partizipativer zu gestalten. Katharina Klappheck betonte die Notwendigkeit diesen Menschen mehr Sichtbarkeit und Schutz zu bieten. In KI-Modellen werden Herrschaftsverhältnisse gespiegelt - daher braucht es beim Umgang mit algorithmischer Diskriminierung vor allem Transferarbeit.

Ein Blick auf die Arbeit im Forum 8. Aya Schamoni

Forum 9 – Sharing is Caring: Harnessing the Potential of a Transparent and Democratic Data Economy

Im Forum „Sharing is Caring“ diskutierten Ville Sirviö, Paulina Behluli, Dr. Nicole Ludwig und Tobias Bacherle welche Bedeutung Daten für die gemeinwohlorientierte Nutzung von KI hat, wie Daten besser und verantwortungsvoll geteilt werden können und was Deutschland von anderen Ländern lernen kann.

Als Schlüsselelement für den Erfolg des Datenteilens identifizierten die Teilnehmenden das Ziel, das Vertrauen der Bürger*innen zurückgewinnen. Eine zentrale Barriere sei dabei das fehlende Wissen und Kontrolle über die eigenen Nutzer*innendaten. Neue EU-Regulierung wie der Data Act aber auch Datenräume und Datencockpits könnten dabei helfen, Menschen die Kontrolle über die Nutzung und das Teilen ihrer Daten zurückzugeben, müssen aber zugleich bürokratiearm umgesetzt werden, um nicht zusätzliche Hürden zu schaffen.

Die Expert*innen unterstrichen, dass für ein erfolgreiches Datenteilen mehr Digitalkompetenz gebraucht werde, um Unsicherheiten vor dem Teilen und Nutzen von Daten abzubauen, Mehrwerte zu erkennen und Menschen zu ermutigen, Daten zu lesen, zu verstehen und sie selbst zu nutzen. Hierzu könnten Weiterbildungsmaßnahmen positiv wirken, die niedrigschwellig konkrete Vorteile von datenbasierten Arbeiten aufzeigten. Gerade im Bereich des digitalen Staats könnte man viel von Estland lernen, das seine Verwaltung weitestgehend digitalisiert habe.

Daten sind neben Code der entscheidende Faktor, um gemeinwohlorientierte KI-Forschung zu ermöglichen, liegen aber oft noch ungenutzt in Silos. Die Diskutant*innen befanden, dass es als Lösung neben einer rechtsicheren Grundlage auch mehr spezifische Datenzugänge für Forschungseinrichtungen bräuchte, wie sie auch im Rahmen des Digital Services Act vorgesehen sind. Generell müssten gerade öffentliche Daten möglichst hochwertig erhoben und interoperabel geteilt werden. Ein Recht auf Open Data sei dabei ein wichtiger Schritt.

Tobias Bacherle im Gespräch beim Forum 9. Aya Schamoni

Forum 10 – KI im Journalismus: Revolution oder Evolution der Informationslandschaft

KI im Journalismus - das war das Thema von Forum 10. Aya Schamoni

Tabea Rößner und Erhard Grundl diskutierten mit Expertinnen die Frage: Wie verändern sich Journalismus und die Medienrezeption durch KI?

Laut Prof. Dr. Wiebke Loosen von der Universität Hamburg werde KI etwa bei Recherche, Texterstellung und Verifikation von Informationen eingesetzt, verändere grundlegend die Arbeits- und Produktionsprozesse in Medienhäusern, sowie insbesondere die Art und Weise, wie journalistische Inhalte verbreitet und konsumiert werden. Lina Timm, Leiterin des Media Lab Bayern, ergänzte, Inhalte könnten durch KI viel präziser auf die Interessen der Nutzer*innen zugeschnitten und Medienschaffende bei allgemeinen Aufgaben entlastet werden, um sich auf Kernaufgaben, Recherche und Spezialthemen zu konzentrieren.

Gleichzeitig müsse die Glaubwürdigkeit von Medieninhalten sichergestellt und die Auswirkungen auf die Arbeitsbedingungen kritisch hinterfragt werden, betonte Hannah Möllers vom Deutschen Journalisten-Verband. Journalist*innen durch KI zu ersetzen, gehe auf Kosten von Qualität und Vertrauen in Medien. 

Insbesondere generative KI könne bestehende Probleme, wie die Abwanderung von Werbeeinnahmen von etablierten Medienhäusern hin zu digitalen Plattformen, verschärfen. Hannah Möllers betonte daher die Frage der Vergütung, wenn Medieninhalte für KI-Trainings genutzt werden, und forderte mehr kartellrechtliche Maßnahmen im Hinblick auf Monopole.

Insgesamt seien KI-Tools im Journalismus nicht neu, auch wenn sie aktuell zu großen Umwälzungen führten. Laut Lina Timm gelte es, KI sinnvoll und zielgerichtet einzusetzen, um journalistische Qualität zu erhalten und die Informationsfreiheit zu schützen.

Das Forum endete mit dem Fazit: KI kann journalistische Arbeit unterstützen und Platz für Kernaufgaben schaffen. Denn Vertrauen gibt es nicht in KI, sondern in Menschen. Wir brauchen Vielfalt, Auffindbarkeit und Sichtbarkeit von Qualitätsmedien, müssen Journalist*innen und deren Geschäftsmodelle stärken und Monopolbildung entgegenwirken.

Forum 11 – KI in der Arbeitswelt: Chancen und Risiken

Künstliche Intelligenz wird unsere Arbeitswelt verändern. Und sie verändert die Arbeit selbst - die Arbeitsorganisation, ihre Aufgaben und Abläufe. Jede siebte Firma setzt heute bereits KI ein – quer durch alle Branchen. Und selbst im Bundestag kommt ChatGPT zur Erstellung von Texten zum Einsatz.

KI bietet Chancen, aber auch Risiken in der Arbeitswelt – und die diskutierte Beate Müller-Gemmeke mit Clara Helming, die in Berlin als Senior Advocacy & Policy Managerin bei der Organisation AlgorithmWatch arbeitet, und mit Professorin Katharina Hölzle, die das Institut für Arbeitswissenschaft und Technologiemanagement der Universität Stuttgart und das Fraunhofer-Institut für Arbeitswirtschaft und Organisation leitet.

KI kann Arbeit erleichtern indem sie monotone, lästige sich wiederholende Arbeit übernimmt, damit mehr Zeit für sinnvollere Tätigkeiten bleibt. KI birgt aber auch Risiken, beispielsweise, wenn sie zur Überwachung eingesetzt wird. Sie kann Lagerarbeit effizienter machen, und so aber auch die Anforderungen und die Arbeitsdichte erhöhen, und so die Arbeitsintensität steigern.

Deshalb, und da waren sich die beiden Expertinnen einig, ist es entscheidend bei der Einführung von KI in ein Unternehmen, dass die Beschäftigten eingebunden sind und mitgestalten können. Betriebsräte müssen eng beteiligt werden, es braucht technische aber auch rechtliche und ethische Schulungen. Und natürlich brauchen Betriebsräte passgenaue Mitbestimmungsrechte.

Letztlich geht es darum, dass Beschäftigte die Werkzeuge, die die KI ihnen zur Verfügung stellt, bestmöglich und mitbestimmt nutzen können. Das Fraunhofer Institut hilft da mit zwei KI-Studios und KI-Bussen, die deutschlandweit im Einsatz sind. Hier werden Beschäftigte aller Branchen und Betriebsräte an KI herangeführt und über die Möglichkeiten, Einsatzgebiete und Grenzen von KI informiert. Gleichzeitig werden sie dazu befähigt, die Einführung der Technologie aktiv und konkret mitzugestalten.

KI in der Arbeitswelt war das Thema von Forum 11 Aya Schamoni

Forum 12 – Mehr Biodiversität in der Landwirtschaft durch KI?

Neunzehn Prozent der europäischen Land-, Süßwasser- und Meeresarten sind vom Aussterben bedroht und viele Ökosysteme in der EU sind in einem schlechten Zustand. Welchen Beitrag KI in der Landwirtschaft leisten kann, um diesen Trend umzukehren, diskutierte Karl Bär mit Maximilian Meister vom Naturschutzbund Deutschland (NABU) und Moritz Trapp vom BUNDJugend.

Im Rahmen der KI-Strategie und der Digitalstrategie haben das Bundesministerium für Umwelt und Verbraucherschutz sowie das Bundesministerium für Ernährung und Landwirtschaft Tools für Naturschützer*innen und Landwirt*innen unterstützt, die dabei helfen, Biodiversität einfach beobachten zu können und in der Landwirtschaft zu stärken. Hier hat unter anderem die Expertenkommission Forschung und Innovation festgestellt, dass der Anreiz für Landwirt*innen diese neuen Werkzeuge auch einzusetzen zu schwach ist und empfiehlt daher die Einführung einer Pestizid- und Nährstoffabgabe. 

Die Fülle von zur Verfügung stehenden Daten und deren Auswertung können aber nicht nur Unternehmer*innen und Bürger*innen befähigen, mehr für Natur-, Umwelt- und Klimaschutz zu tun, sondern auch den Staat. Die Diskussion kreiste um die Rolle dieser Möglichkeiten in der Gemeinsamen Agrarpolitik nach 2027. Hier tut sich ein gangbarer Weg auf, um Naturschutz, Umwelt- und Klimaansprüche an die Landwirtschaft zu honorieren, ohne sie mit Bürokratie zuzuschütten oder einen riesigen Verwaltungsapparat aufzubauen.

Weiterhin bleibt die Gefahr von Lock-In Effekten in der Landwirtschaft groß. Große Agrarunternehmen bauen durch ihren Marktmacht und ihren Zugriff auf die Daten der Landwirt*innen rund um die Welt ihre Vormachtstellung weiter aus, auch unter dem Deckmantel von Klimaschutz und Biodiversitätserhalt. Die Bundesregierung sollte hier weiterhin Alternativen fördern, damit Landwirt*innen auch in der Zukunft die Wahl haben. Außerdem steckt die Domäne Agrar in GAIA-X weiterhin in den Kinderschuhen und gibt es noch viel Arbeit, offene Schnittstellenstandards zu definieren. Hier bedarf es weiterer Kraftanstrengungen für eine bessere Datenverfügbarkeit und -Nutzung.

Über mehr Biodiversität in der Landwirtschaft durch KI wurde in Forum 12 gesprochen. Aya Schamoni

Forum 13 – Freiheit bewahren, Sicherheit gewährleisten: KI in der polizeilichen Praxis

KI-Anwendungen halten Einzug in die Polizeiarbeit. Insbesondere in den Bereichen Videoüberwachung, Spracherkennung, Predictive Policing und vor allem in den Phänomenbereichen Organisierte Kriminalität und Finanzkriminalität gehören sie teilweise schon zum Alltag der Ermittler*innen. In dem Forum wurde das komplexe Spannungsverhältnis zwischen individueller Freiheit, Sicherheit, Grundrechtsschutz und moderner Polizeiarbeit angegangen.

Moderiert wurde das Forum von Marcel Emmerich, die beiden Panelist*innen waren Prof. Dr. Kristin Pfeffer, Professur für Öffentliches Recht an der Forschungsstelle Europäisches und Deutsches Sicherheitsrecht, sowie Alexander Poitz, stellvertretender Bundesvorsitzender der Gewerkschaft der Polizei.

Alexander Poitz wies darauf hin, dass die organisierte Kriminalität hoch professionalisiert und global vernetzt sei. Die Ausstattung der Polizei sei hingegen weit davon entfernt, den Standards des 21 Jahrhunderts zu entsprechen. Wie effektiv Polizeiarbeit mit Einsatz von modernen technischen Mittel sein kann, habe man an den Encrochat-Ermittlungsverfahren gesehen. Diese haben in einer noch nie da gewesenen Art und Weise Einblicke in die Netzwerke, Strukturen und Vorgehen der organisierten Gruppierungen gegeben.

Die Diskussion kreiste auch rund um das aktuell brisante Thema der KI-Gesichtserkennung. Dabei wurde die Frage aufgeworfen, wie weit in die persönlichen Rechte eingegriffen werden dürfe. Einigkeit bestand insofern, als dass die deutsche Rechtslage bisher keine rechtssichere und verfassungskonforme Antwort auf diese Frage bietet und der Gesetzgeber hier für Klarheit sorgen sollte. Prof. Dr. Kristin Pfeffer betonte, dass es ein wichtiger Schritt gewesen sei, auf EU-Ebene Mindeststandards für die Gesichtserkennung für alle europäischen Länder zu setzen. Klar sei aber auch, dass sich Deutschland mit diesen Mindestanforderungen noch nicht zufriedengeben sollte und hier noch deutlich nachgeschärft werden müsse.

KI kommt bei der Polizeiarbeit zum Einsatz - das Thema im Forum 13. Aya Schamoni

Forum 14 – Globale Governance: der High Level Advisory Body on Artificial Intelligence der Vereinten Nationen

Dr. Anna Christmann diskutierte mit Prof. Philipp Hacker von der European New School of Digital Studies und Prof. Sandra Wachter vom Oxford Internet Institute, welche Rolle die Vereinten Nationen (UN) bei der Gestaltung von künstlicher Intelligenz einnehmen sollten.

Eine Technologie, die keinen Halt vor Grenzen macht, muss auch aus globaler Perspektive adressiert werden, um sicherzustellen, das KI-Entwicklungen im Einklang mit internationalem Recht, humanitären Völkerrecht und den Zielen für nachhaltige Entwicklung (SDGs) der Vereinten Nationen stehen. Entsprechend sind die UN wichtig für die Governance von KI auf globaler Ebene. Ein Hauptfokus der UN kann unter anderem darin liegen, mögliche soziale Ungleichheiten durch KI, die Machtkonzentration weniger privatwirtschaftlicher Akteure, digitale Teilhabe des globalen Südens, und den Ausbau digitaler Infrastruktur zu adressieren. Der Energieverbrauch von KI wird exponentiell ansteigen. Daher muss Nachhaltigkeit, konkret die Nutzung von erneuerbaren Energien wie auch die Eindämmung des Ressourcenverbauchs, bei der Entwicklung von KI-Innovationen von Anfang an, by design, mitgedacht und auf internationaler Ebene durch die UN in die Breite getragen werden.

Die Arbeit im Forum 14. Aya Schamoni

KI und Kunst

Im „Wort Wandel“ Projekt haben Marius Jopen und Paula Kühn die Inhalte der Hauptbühne und Gespräche mit den Konferenzteilnehmer*innen mithilfe von künstlicher Intelligenz in kunstvollen Videos arrangiert.

Zur Darstellung dieses Videos speichert Youtube Daten in einem Cookie und verarbeitet auch Nutzungsdaten außerhalb der EU. Weitere Infos finden Sie in unserer Datenschutzerklärung.

KI und Kunst - ein interaktives KI-Kunstprojekt von Paula Kühn und Marius Jopen

Uhrzeit Programm
9:00

Begrüßung

Tabea Rößner MdB
Vorsitzende Ausschuss für Digitales
Bündnis 90/Die Grünen Bundestagsfraktion

Maik Außendorf MdB
Sprecher für Digitalpolitik
Bündnis 90/Die Grünen Bundestagsfraktion

Tagesmoderation: Geraldine de Bastion
Co-Gründerin & CEO
Konnektiv Kollektiv

9:10

Willkommen zur Shaping AI Konferenz

Katharina Dröge MdB
Fraktionsvorsitzende
Bündnis 90/Die Grünen Bundestagsfraktion

9:20

Auftakt: Visionen für KI

Sergey Lagodinsky MdEP
Grünen/EFA-Fraktion im Europäischen Parlament

Video-Statements von:
Amba Kak
CO-Vorständin
AI Now

Prof. Dr. Yoshua Bengio
Gründer und Wissenschaftlicher Direktor
Mila – Quebec AI Institute

Audrey Tang
Digitalministerin von Taiwan 

9:45

Panel: Demokratisch.
Öffentlichkeit im Zeitalter von KI

Tabea Rößner MdB

Dr. Hannes Bajohr
Philosoph und Literaturwissenschaftler
Universität Basel

Prof. Dr. Björn Ommer 
Lehrstuhlinhaber Computer Vision & Learning
Ludwig-Maximilians-Universität München

Sabine Frank
Head of Governmental Affairs and Public Policy YouTube DACH/CEE at YouTube

10:45

Im Gespräch: Künstliche Intelligenz im Dienst der Sicherheit? Perspektiven, Chancen und Herausforderungen im demokratischen Rechtsstaat

Dr. Simone Ruf
Juristin und Verfahrenskoordinatorin
Gesellschaft für Freiheitsrechte e.V.

Alexander Poitz 
stellvertretender Bundesvorsitzender
Gewerkschaft der Polizei

Moderation: Dr. Konstantin von Notz MdB
Stellvertretender Fraktionsvorsitzender
Bündnis 90/Die Grünen Bundestagsfraktion

11:15

Kaffeepause

11:35

Foren 1 - 7

Forum 1 – Good Governance: KI-Aufsicht für Deutschland

Mit Tabea Rößner MdB | Prof. David Roth-Isigkeit, Lehrstuhlinhaber, Recht der Digitalisierung, Deutsche Universität für Verwaltungswissenschaften Speyer | Franziska Weindauer Geschäftsführerin, TÜV AI Lab | Dr. Sebastian Hallensleben (digital), Vorsitzender, CEN-CENELEC JTC AI 
 

Forum 2 – Mit KI für eine starke KMU und Start-up Landschaft

Mit Maik Außendorf MdB | Dr. Sandra Detzer MdB, Sprecherin für Wirtschaft, Bündnis 90/Die Grünen Bundestagsfraktion | Marian Gläser, Co-Founder/CEO, brighter AI | Thomas Kübler, Geschäftsführer KÜBLER GmbH Energiesparende Hallenheizungen

  

Forum 3 – Fortschritt und Fairness: Urheber*innen schützen, Innovationen ermöglichen

Mit Awet Tesfaiesus MdB, Obfrau Ausschuss für Kultur und Medien, Bündnis 90/Die Grünen Bundestagsfraktion | Tobias Bacherle MdB, Obmann Ausschuss für Digitales, Bündnis 90/Die Grünen Bundestagsfraktion | Erhard Grundl MdB, Sprecher für Kultur und Medien, Bündnis 90/Die Grünen Bundestagsfraktion | Stefanie Valdés-Scott, Leiterin Politik und Regierungsbeziehungen, Adobe | Balbina, Musikschaffende und Kreativdirektorin Polyton | Prof. Dr. Jan Bernd Nordemann, LL.M., Rechtsanwalt & Partner, NORDEMANN

Forum 4 – Deepfakes, Desinformation und resiliente Demokratie

Mit Renate Künast MdB, Sprecherin für Ernährung und Landwirtschaft, Bündnis 90/Die Grünen Bundestagsfraktion | Marlene Schönberger MdB, Mitglied im Ausschuss für Bildung, Forschung und Technikfolgenabschätzung, Bündnis 90/Die Grünen Bundestagsfraktion (digital) | Nathalie Rücker, Senior Manager, Institute for Strategic Dialogue | Junior-Prof. Dr. Hannah Ruschemeier, Öffentliches Recht, FernUniversität in Hagen

Forum 5 – Smart Cities and Regions: KI-Lösungen für Bau und Mobilität

Mit Stefan Gelbhaar MdB, Sprecher für Mobilität, Bündnis 90/Die Grünen Bundestagsfraktion | Kassem Taher Saleh MdB, Obmann Ausschuss für Wohnen, Stadtentwicklung, Bauwesen und Kommunen, Bündnis 90/Die Grünen Bundestagsfraktion | Prof. Dr. Annette Rudolph, Fachgebiet KI und Landnutzungswandel, Technische Universität Berlin


Forum 6 – Wie gelingt der Einsatz von KI in der Bildung?

Mit Sabine Grützmacher MdB, Bündnis 90/Die Grünen Bundestagsfraktion | Kai Gehring MdB, Vorsitzender des Ausschusses für Bildung, Forschung und Technikfolgenabschätzung, Bündnis 90/Die Grünen Bundestagsfraktion | Dr. Franziska Krumwiede-Steiner MdB, Bündnis 90/Die Grünen Bundestagsfraktion | Dr. Anne-Sophie Waag Referentin, Bildung in der digitalen Welt, Wikimedia Deutschland | Dr. Berit Blanc, Educational Technology Lab, Deutsches Forschungszentrum für Künstliche Intelligenz (DFKI)

Forum 7 – Seelisch und körperlich gesund werden und bleiben: Welche Rolle wollen wir für KI?

Mit Dr. Kirsten Kappert-Gonther MdB, Bündnis 90/Die Grünen Bundestagsfraktion | Prof. Dr. Alena Buyx, Vorsitzende Deutscher Ethikrat/Professur Ethik der Medizin und Gesundheitstechnologien Technische Universität München | Prof. Dr. Andreas Meyer-Lindenberg, Präsident, Deutsche Gesellschaft für Psychiatrie und Psychotherapie, Psychosomatik und Nervenheilkunde

12:50

Mittagessen

13:50

Foren 8 - 14

Forum 8  – Digitale Diskriminierung: Gegen Vorurteile und Bias in der KI vorgehen

Mit Schahina Gambir MdB, Bündnis 90/Die Grünen Bundestagsfraktion | Awet Tesfaiesus MdB, Obfrau Ausschuss für Kultur und Medien, Bündnis 90/Die Grünen Bundestagsfraktion | Lajla Fetic, Expertin für Tech-Governance und Digitalpolitik | Katharina Klappheck, Referent*in für feministische Netzpolitik,
Gunda-Werner-Institut für Feminismus und Geschlechterdemokratie
 

Forum 9 – Sharing is Caring: Harnessing the Potential of a Transparent and Democratic Data Economy in English

With Tobias Bacherle MdB, Alliance 90/The Greens Parliamentary Group | Ville Sirviö, CEO, Nordic Institute for Interoperability Solutions (Talinn) | Paulina Behluli, Program Manager, The Data Tank | Dr. Nicole Ludwig, Head, Independent Research Group 'Machine Learning in Sustainable Energy Systems (MLSES)', University of Tübingen
 

Forum 10 – KI im Journalismus: Revolution oder Evolution der Informationslandschaft

Mit Erhard Grundl MdB, Sprecher für Kultur und Medien, Bündnis 90/Die Grünen Bundestagsfraktion | Tabea Rößner MdB | Hannah Möllers, Justiziarin,  Deutscher Journalisten-Verband | Prof. Wiebke Loosen, Lehrstuhl für Journalismusforschung |  Universität Hamburg | Lina Timm, Geschäftsführerin, Media Lab Bayern
 

Forum 11 – KI in der Arbeitswelt: Chancen und Risiken

Mit Beate Müller-Gemmeke MdB, Bündnis 90/Die Grünen Bundestagsfraktion | Prof. Dr. Katharina Hölzle, Institutsleiterin, Institut für Arbeitswissenschaft und Technologiemanagement (IAT) der Universität Stuttgart und des Fraunhofer-Institut für Arbeitswirtschaft und Organisation (IAO) | Clara Helming, Senior Advocacy & Policy Managerin bei AlgorithmWatch

Forum 12 – Mehr Biodiversität in der Landwirtschaft durch KI?

Mit Karl Bär MdB, Obmann Ausschuss für Ernährung und Landwirtschaft, Bündnis 90/Die Grünen Bundestagsfraktion | Maximilian Meister, Agrarreferent, Nabu Bundesverband | Moritz Tapp, Vorstand, BUNDJugend
 

Forum 13 – Freiheit bewahren, Sicherheit gewährleisten: KI in der polizeilichen Praxis

Mit Marcel Emmerich MdB, Obmann Ausschuss für Inneres und Heimat, Bündnis 90/Die Grünen Bundestagsfraktion | Prof. Dr. iur. Kristin Pfeffer, Professur für Öffentliches Recht, Forschungsstelle Europäisches und Deutsches Sicherheitsrecht | Alexander Poitz, stellvertretender Bundesvorsitzender, Gewerkschaft der Polizei
 

Forum 14 – Globale Governance: der High Level Advisory Body on Artificial Intelligence der Vereinten Nationen

Mit Dr. Anna Christmann MdB, Bündnis 90/Die Grünen Bundestagsfraktion | Prof. Dr. Philipp Hacker, European New School of Digital Studies (ENS) | Prof. Dr. Sandra Wachter, Oxford Internet Institute, University of Oxford

15:05

Impuls: KI für die Gesellschaft

Lisa Paus
Bundesministerin für Familie, Senioren, Frauen und Jugend

15:15

Panel: Innovativ.
Die Zukunft der KI in Deutschland und Europa.

Maik Außendorf MdB

Prof. Dr. Alena Buyx
Vorsitzende Deutscher Ethikrat/Professur Ethik der Medizin und Gesundheitstechnologien
Technische Universität München

Vanessa Cann 
Vorstandsmitglied
KI Bundesverband

Prof. Dr.-Ing. Verena Nitsch
Leiterin des Institut für Arbeitswissenschaften 
RWTH Aachen Universität

16:15

Kaffeepause

16:30

Impuls: KI in Deutschland und Europa

Dr. Robert Habeck
Bundesminister für Wirtschaft und Klimaschutz 
via Video

Dr. Anna Christmann MdB
Beauftragte des BMWK für die Digitale Wirtschaft und Start-ups
Mitglied im Ausschuss für Bildung, Forschung und Technikfolgenabschätzung

16:40

Keynote: The Future of AI

Prof. Luciano Floridi
Founding Director of the Digital Ethics Center
Yale University
via Video

16:50

Panel: Nachhaltig. KI verantwortungsvoll gestalten

Tabea Rößner MdB

Maik Außendorf MdB

Omid Nouripour MdB

Carla Hustedt
Leiterin "Digitalisierte Gesellschaft"
Stiftung Mercator

17:40 Ende der Konferenz