Presseinformation

26.05.2023

Spot On! Generative Künstliche Intelligenz

FZI-Event zu Gefahren von generativer Künstlicher Intelligenz für die politische Meinungsbildung

Forschungsschwerpunkt: Applied Artificial Intelligence

Das FZI Forschungszentrum Informatik hat am Mittwoch zum neuen Berliner Eventformat „Spot On!“ Expert*innen aus Politik, Wissenschaft und Wirtschaft eingeladen: Gemeinsam diskutierten sie über die Chancen, Möglichkeiten und Gefahren von generativer Künstlicher Intelligenz. Im Mittelpunkt stand die Nutzung und der Einfluss von ChatGPT auf die politische Meinungsbildung.

Berlin, 26.05.2023 – Die Nutzung von Künstlicher Intelligenz sollte in Zukunft behördlich reguliert werden. Ein Wunsch, der von Sam Altman, dem CEO des ChatGPT-Erfinders OpenAI, vor dem US-Kongress geäußert wurde, um das Gefahrenpotential von generativen Künstlichen Intelligenzen in Grenzen zu halten. Generative Künstliche Intelligenzen haben innerhalb der letzten 12 Monate einen immensen Fortschritt durchlaufen. Täglich wird über das Potenzial und die Gefahren für die Öffentlichkeit und viele Branchen in den Medien berichtet. Mit der Auftaktveranstaltung „Spot On!: ChatGPT & Co. – Welchen Einfluss hat generative KI auf die politische Meinungsbildung?“ brachte das FZI Forschungszentrum Informatik am vergangenen Mittwoch Expert*innen aus Wissenschaft, Wirtschaft und Politik im Berliner Palais Populaire zusammen, um gemeinsam über die Gefahren und Möglichkeiten generativer KI mit Fokus auf den politischen Diskurs zu diskutieren.

Keynote: Einsatzmöglichkeiten von KI zur Manipulation von Medieninhalten

KI-Experte und FZI-Direktor Prof. Dr. Achim Rettinger erläuterte in seiner Keynote „ChatGPT & Co. – Manipulation von Medieninhalten durch Generative KI“ die Funktionsweise der Technologie und wie sie für die Manipulation genutzt werden kann. Anhand von Beispielen verdeutlichte er, mit welchen einfachen Prompts, also Benutzereingaben zur Steuerung einer KI, GPT-4 Nachrichten in einen polemischen Text mit vermeintlichem Nachrichtenpotenzial umschreiben kann. Ein Prozess, der bereits automatisiert ablaufen kann und so massenhaft auf verschiedensten Kanälen zur politischen Einflussnahme eingesetzt werden könnte. „Ich glaube, dass die Geschwindigkeit von Manipulationskampagnen ansteigen wird“, zeigt sich Rettinger besorgt. Dies wird insbesondere durch die Personalisierung der Inhalte verstärkt: „Generative KI wird auch auf persönlicher Ebene Vertrauen aufbauen können und ein ganz anderes Mensch-Maschine-Verhältnis gestalten“. Aufbauend auf die bisherigen Errungenschaften am FZI sieht Rettinger allerdings bereits eine gute Grundlage für die zukünftige Forschung und Entwicklung von Maßnahmen: „Wir haben durch das House of Participation schon Infrastrukturen am FZI, um ein Bewusstsein bei der Bevölkerung zu schaffen, beispielsweise für das neue Level des Manipulationspotentials durch Generative KI in den sozialen Medien.“

Paneldiskussion

Vertieft und um weitere Facetten ergänzt wurde das Thema in der direkt anknüpfenden und hochkarätig besetzten Paneldiskussion. „Der offene Meinungsaustausch und die Verfügbarkeit verlässlicher Informationen sind entscheidende Pfeiler für eine funktionierende Demokratie. Generative KI erhöht die Anfälligkeit dieses offenen Systems – vor allem auch deshalb, weil sich immer mehr Menschen ausschließlich über soziale Medien informieren“, mahnt Silke Mülherr, Co-CEO und Head of External Relations der Alfred Landecker Foundation und verweist auf eine Stärkung der Medienkompetenz der Nutzer*innen, um falsche Informationen und die manipulativen Absichten der Absender besser identifizieren zu können. Die Leiterin des Observatoriums Künstliche Intelligenz in Arbeit und Gesellschaft des Bundesministeriums für Arbeit und Soziales, Judith Peterka, sieht vor allem die Bildung als wichtigen Hebel zur Stärkung von KI-Kompetenzen. Schüler*innen sollen sich frühzeitig kritisch mit KI auseinandersetzen, um den prüfenden Blick auf Informatik und soziale Netzwerke zu schärfen. Dr. Damian Trilling, außerordentlicher Professor für Kommunikation in der digitalen Gesellschaft am Fachbereich für Kommunikationswissenschaft der Universiteit van Amsterdam verweist zudem darauf, dass nicht nur das Vertrauen in die Politik, sondern auch in den Journalismus weiter durch Fake News geschwächt wird und langfristige Effekte unterschätzt werden: „Gut recherchierter Journalismus ist in Gefahr“. Hinsichtlich der Entwicklerseite sahen die Panelgäste Ines Montani, Co-Founderin und CEO von Explosion, sowie Alexander Fecke, Bereichsleiter für Neurolingustisches Programmieren von Merantix Momentum, vor allem die positiven Aspekte, da eine generative KI zum Beispiel einfache, aber zeitintensive Aufgaben –  etwa beim Programmieren – übernehmen kann. Auch das Publikum beteiligte sich an der Paneldiskussion. So plädierte die Vorsitzende des Ausschusses für Digitales, Tabea Rößner, für eine schnelle Weichenstellung von Seiten der Politik im Hinblick auf generative KI, um eine ernsthafte Bedrohung der Demokratie abzuwenden.

Über Spot On!

Mit dem neuen Veranstaltungsformat „Spot On!“ bringt das FZI Wissenschaft, Politik und Wirtschaft in der Bundeshauptstadt zum direkten Austausch über aktuell vieldiskutierte Themen und Entwicklungen im Bereich der Informations- und Kommunikationstechnologie zusammen.

Über das FZI

Das FZI Forschungszentrum Informatik mit Hauptsitz in Karlsruhe und Außenstelle in Berlin ist eine gemeinnützige Einrichtung für Informatik-Anwendungsforschung und Technologietransfer. Sie bringt die neuesten wissenschaftlichen Erkenntnisse der Informationstechnologie in Unternehmen und öffentliche Einrichtungen und qualifiziert für eine akademische und wirtschaftliche Karriere oder den Sprung in die Selbstständigkeit. Betreut von Professorinnen und Professoren verschiedener Fakultäten entwickeln die Forschungsgruppen am FZI interdisziplinär für ihre Auftraggeber Konzepte, Software-, Hardware- und Systemlösungen und setzen die gefundenen Lösungen prototypisch um. Mit dem FZI House of Living Labs steht eine einzigartige Forschungsumgebung für die Anwendungsforschung bereit. Das FZI ist Innovationspartner des Karlsruher Instituts für Technologie (KIT) und strategischer Partner der Gesellschaft für Informatik (GI).

Pressekontakt

Valérie Hasler

Bereichsleitung Communications

Download Presseinformation (pdf):

Download Medien:
Zum Download bitte Medium anklicken.

Weitere Downloads & Links: