Zum Inhalt springen

Deepfakes im politischen Diskurs

Fehlende Regeln fördern das Risiko von Fehlinformation

Mittels Künstlicher Intelligenz (KI) generierte Deepfakes, also manipulierte, aber täuschend echt wirkende Videos und Fotos, kommen in politischen Auseinandersetzungen und somit auch im Wahlkampf immer häufiger zum Einsatz. Meist zielen sie darauf ab, den politischen Gegner zu verunglimpfen oder persönlich anzugreifen. Dies wird derzeit im US-amerikanischen Zwischenwahlkampf besonders deutlich. Doch nicht nur dort kritisieren Politikbeobachter und Medienexperten fehlende Regeln für die Verwendung von KI in politischen Botschaften. Auch hierzulande warnte jüngst der Verfassungsschutz in Baden-Württemberg vor der dortigen Landtagswahl vor Desinformation durch Deepfakes und damit verbundenen Gefahren für die Demokratie.

Beispielhaft für den US-Zwischenwahlkampf berichtet die Nachrichtenagentur Reuters von einem Video, das den demokratischen texanischen Abgeordneten James Talarico strahlend vor einer Flagge des US-Bundestaates zeigt. Der junge Politiker scheint in die Kamera zu sagen: „Radikalisierte weiße Männer sind die größte inländische terroristische Bedrohung in unserem Land.“ Derweil flüstert eine Stimme im Hintergrund „weiße Männer“ und Talarico fährt fort: „So wahr. So wahr.“

KI-generierte Fälschungen

Doch Talarico habe dieses Video nie gedreht, stellt Reuters klar. Vielmehr handelt es sich demnach bei dem Video-Clip um eine KI-generierte Anzeige des National Republican Senatorial Committee (NRSC), einer Wahlkampforganisation der Republikaner für den Senat. Darin zitierte ein computerveränderter Talarico Social-Media-Posts, die er Jahre zuvor verfasst hat. Der Hinweis „KI-generiert“ erscheine in einer leicht zu übersehenden Schriftart in der unteren rechten Ecke, beschreibt die Nachrichtenagentur.

Laut Reuters stellt dieses Video nur die Spitze einer Vielzahl von Deepfake-Anzeigen dar, die bereits im Rahmen von Partei-Kampagnen eingesetzt werden, um Wähler im Vorfeld der „Midterm Elections” frühzeitig zu beeinflussen. Diese Zwischenwahlen, die zur Halbzeit einer Präsidentschaft stattfinden, gelten als Abstimmung über die bisherige Amtsführung. In diesem Jahr stehen die Republikaner und Präsident Trump nach Einschätzung von Beobachtern massiv unter Druck.

Nicht nur ein US-Phänomen

Wer meint, bei diesen Deepfake-Operationen handele es sich um ein speziell US-amerikanisches Phänomen, irrt. So warnte der Verfassungsschutz kurz vor der Landtagswahl in Baden-Württemberg Anfang März vor der Verbreitung von Desinformation durch „in- und ausländische Akteure“. Diese versuchten gerade mittels KI-generierter Inhalte und sogenannter Deepfakes, die freie Meinungsbildung zu beeinflussen.

Täuschend echte Audio-Aufnahmen von Kandidierenden, Anrufe durch KI-generierte Stimmen von Politikern, bis ins kleinste Detail gefälschte Nachrichtenseiten – all dies sei heute mit Künstlicher Intelligenz bereits möglich, erläuterte das Landesamt. Seine Befürchtung: Wenn Wählerinnen und Wähler nicht mehr unterscheiden können, ob ein Video echt ist oder ein Kommentar von einer KI generiert wurde, „bricht die Vertrauensbasis weg, die für den demokratischen Meinungs- und Willensbildungsprozess von entscheidender Bedeutung ist.“

Verfassungsschutz warnt

Als eine „große Gefahr“ hebt der Verfassungsschutz insbesondere KI-generierte Bilder hervor. Denn sie wirkten täuschend echt und könnten Politikerinnen und Politiker in Situationen zeigen, die nie stattgefunden haben mit Aussagen, die nie getätigt wurden, begründen die Verfassungsschützer ihre Warnung. Solche Bilder untergraben demnach Vertrauen, schüren Zweifel und beeinflussen Wahlentscheidungen, noch bevor ihre Echtheit hinterfragt wird. Um die Gesellschaft und den demokratischen Prozess zu schützen, sei es wichtig, die Bürgerinnen und Bürger aktuell und sachlich über Desinformation oder KI-Fälschungen zu informieren, fordert die für den Schutz der freiheitlichen demokratischen Grundordnung in Deutschland zuständige Behörde.

Ein Problem in dem Zusammenhang, das sowohl für Deutschland, die meisten europäischen Länder als auch die USA zutrifft, sind fehlende staatliche Regeln für den Einsatz von KI zur Vermittlung politischer Botschaften und somit auch für Wahlkämpfe. Dabei ist Künstliche Intelligenz inzwischen aus politischen Schlagabtauschen kaum noch wegzudenken. Und die Beispiele missbräuchlicher Verwendung mehren sich, sowohl hierzulande als auch aktuelll in den USA, wie Medienberichte immer wieder deutlich machen.

„Wild-West-Stimmung“

Beim Einsatz von KI herrsche „eine Art Wild-West-Stimmung“ – und das bei fast allen Parteien, fasst Der Spiegel eine Auswertung des Politikberaters Martin Fuchs und des Vereins AI4Democray zusammen. Fuchs befragte die Landesparteien in den fünf Bundesländern, in denen in diesem Jahr gewählt wurde oder noch gewählt wird, zu ihrer KI-Nutzung. Ergebnis: Offen reden über den internen KI-Einsatz mag kaum jemand, Fairness-Zusagen gibt keine Partei ab – oft mit dem Hinweis, dass ja die anderen Parteien sich nicht an Vereinbarungen halten würden, so Der Spiegel.

Es existiere aktuell weder ein Bewusstsein noch ein ethischer Rahmen für den Einsatz von KI, zitiert das Magazin Politikberater Fuchs. Auch er warnt, dass der unreflektierte Einsatz von KI zu weiterem Vertrauensverlust in einer Bevölkerung führe, „die jetzt schon nicht weiß, was sie glauben soll und was nicht“. Am Ende sei es nicht das manipulierte Video, das zur Gefahr werde, sondern das dadurch erzeugte Grundmisstrauen, befürchtet Fuchs.

Klare Kennzeichnungspflichten und mehr Medienkompetenz gefordert

Dem gegenüber stehen Parteien, für die es im jeweiligen Wahlkampf um viel geht, für die viel auf dem Spiel steht. Gleiches gilt für politische Interessengruppen. Ihnen kann gezielte Desinformation mittels KI-generierter Deepfakes in die Karten spielen. Und wo keine Regeln, da kein Richter…

Vor dem Hintergrund mehren sich die Warnungen vor den Folgen dieser Form der unreglementierten politischen Auseinandersetzung. In dem aktuellen Bericht der Nachrichtenagentur Reuters etwa mahnt Daniel Schiff, Professor an der Purdue University, der Tausende von Deepfakes untersuchte, dass der zunehmende Einsatz politischer Inhalte, die Fehlinformationen verbreiten, das Risiko berge, das Vertrauen der US-Wähler in Institutionen weiter zu untergraben.

Angesichts der Chancen, die KI für die Vermittlung politischer Botschaften eröffnet, aber auch der damit verbundenen Risiken von Desinformation, halten Kommunikationswissenschaftler wie Dr. Simon Kruschinski vom Institut für Publizistik der Johannes Gutenberg-Universität Mainz (JGU) „klare Kennzeichnungspflichten, ethische Standards und mehr Medienkompetenz unter der Bevölkerung“ für dringend erforderlich, „um einen transparenten und verantwortungsvollen KI-Einsatz sicherzustellen“. Er stellte gemeinsam mit einem Forscherteam in einer Studie über Akzeptanz, Wahrnehmung und Wirkung von KI-generierten Inhalten der Politik zudem fest, dass die Bundesbürger den Einsatz von KI in politischen Kampagnen überwiegend ablehnen.

Die deutsche Bevölkerung sehe mehr Risiken als Chancen durch den Einsatz von KI-generierten politischen Inhalten und wünsche sich verbindliche Regeln zur Überprüfung und Transparenz, fasst Kruschinski die Studienergebnisse zusammen. Am Ende lägen die Herausforderungen allerdings nicht in der neuen Technologie selbst begründet, sondern in der Art, wie politische Kampagnen sie einsetzen, betont der Wissenschaftler.

Weiterführende Informationen:

llustration: shutterstock.com / elenabsl