Unter dem Druck des Weißen Hauses und von Regierungen auf der ganzen Welt haben große Technologieunternehmen am Freitag zugesagt, gegen durch künstliche Intelligenz generierte Deepfakes vorzugehen, die die Integrität wichtiger demokratischer Wahlen in den USA und im Ausland in diesem Jahr untergraben könnten.
Google, Meta, TikTok und andere Unternehmen sagten, sie würden ihre Kräfte bündeln, um Tools zur Erkennung und Entlarvung von Deepfakes bei Wahlen zu entwickeln. Sie stellten das Abkommen vor, als sich politische und sicherheitspolitische Führungskräfte auf der Münchner Sicherheitskonferenz in Deutschland versammelten.
Bei den fraglichen Deepfakes handelt es sich um Videos, Bilder und Audio, die das Aussehen, die Stimme oder die Handlungen von politischen Kandidaten, Wahlbeamten oder anderen Schlüsselfiguren einer demokratischen Wahl verändern oder vortäuschen. Diese Änderungen können auch dazu genutzt werden, Wähler darüber in die Irre zu führen, wann, wo und wie sie wählen sollen.
Die Koalition, zu der Adobe, Amazon, Microsoft, OpenAI und X, ehemals Twitter, gehören, versprach, gegenüber der Öffentlichkeit offen darüber zu sprechen, wie sie durch KI erzeugte Unwahrheiten bekämpft, die versuchen, Wahlen auf ihren Plattformen zu stören.
Doch der Kampf gegen schlechte Akteure erfordere „eine gesamtgesellschaftliche Reaktion“, sagten die Unternehmen. Mittlerweile kann praktisch jeder Bilder und Clips auf realistische Weise erstellen oder digital verändern, um Wähler anzusprechen und zu täuschen.
Vorbereitung auf die Wahlen: Sehen Sie in unserem Wählerleitfaden, wer für das Präsidentenamt kandidiert, und vergleichen Sie, wo sie zu wichtigen Themen stehen
„Wir sind bestrebt, unseren Teil als Technologieunternehmen beizutragen und sind uns gleichzeitig bewusst, dass der betrügerische Einsatz von KI nicht nur eine technische Herausforderung, sondern auch ein politisches, soziales und ethisches Problem darstellt, und hoffen, dass sich auch andere in der gesamten Gesellschaft zu ähnlichen Maßnahmen verpflichten“, sagten sie.
Die Vereinbarung ähnelt einer freiwilligen Verpflichtung, die viele der gleichen Unternehmen im Juli nach einem Treffen im Weißen Haus unterzeichnet haben.
„Dies ist ein wichtiger Schritt hin zu einer guten Plattformhygiene und einem besseren Internet, aber es gibt noch wesentlich mehr zu tun“, sagte Josh Lawson, Direktor für KI und Demokratie beim gemeinnützigen Think Tank Aspen Institute. „Dies muss ein Boden, aber keine Decke für zukünftige Arbeiten sein.“
Der Druck auf Big Tech wächst, Wahlfälschungen zu stoppen
Dieses Jahr wird ein Rekord für die höchste Zahl an Menschen in Ländern aufgestellt, in denen landesweite Wahlen abgehalten werden, darunter Indien und Mexiko, was Bedenken aufkommen lässt, dass KI an der Wahlurne eine Rolle spielen wird.
Angesichts der rasanten Fortschritte in der Technologie und der geringen Kontrolle durch die Regierung machen sich Wahlexperten auf den böswilligen Einsatz von Deepfakes im diesjährigen Präsidentschaftswahlkampf gefasst.
Während der Vorwahlen in New Hampshire im letzten Monat versuchten KI-generierte Robocalls, die die Stimme von Präsident Joe Biden imitierten, die Menschen vom Wählen abzuhalten.
Biden unterzeichnete im Oktober eine Durchführungsverordnung zu KI. Aber KI-Technologien schreiten so schnell voran, dass Gesetzgeber und Regulierungsbehörden Schwierigkeiten haben, mitzuhalten. Da es in den USA nur wenige Regeln für KI-generierte Inhalte gibt, hat die Europäische Union die Führung übernommen. Es verlangt, dass Unternehmen Deepfakes identifizieren und kennzeichnen.
„Es ist gut, dass viele der großen Technologieplattformen zugestimmt haben, Deepfakes zu identifizieren und zu kennzeichnen, aber ihre Maßnahmen bleiben hinter dem zurück, was nötig ist“, sagte Darrell West, Senior Fellow am Center for Technology Innovation der Denkfabrik Brookings Institution. „Wir sehen bereits gefälschte Videos und Tonbänder und diese Nutzung wird wahrscheinlich zunehmen, je näher die Wahl rückt.“
Die Einigung der Technologiebranche sei eine „schwache Reaktion“, sagen Kritiker
Kritiker sagen, man könne Technologieunternehmen nicht zutrauen, sich selbst zu regulieren, und es müsse mehr getan werden, um die Unternehmen und ihre Plattformen für Inhalte zur Rechenschaft zu ziehen, die darauf abzielen, Wähler auszutricksen.
„Dies ist eine schwache Reaktion seitens der Technologieunternehmen angesichts des Risikos, das wir bereits in Form von politischer Desinformation und Wahleinmischung sehen“, sagte Hany Farid, Professor an der University of California in Berkeley, der sich auf Deepfakes und Desinformation spezialisiert hat eine E-Mail.
Gefälschte Robocalls. Manipulierte Videos.Warum Facebook aufgefordert wird, sein Wahlproblem zu lösen.
Darüber hinaus gelte die Vereinbarung nicht für andere Online-Plattformen, die für die Verbreitung von Wahllügen berüchtigt seien, sagte Farid.
„Es gibt viele schlechte Spieler in diesem Bereich, die nicht zu einem Fototermin ins Weiße Haus eingeladen werden, und diese Spieler werden sich nicht an freiwillige Standards halten“, sagte er.
Warum Deepfakes gefährlich für die Demokratie sein können
Die Qualität von Deepfakes hat sich rapide verbessert, wodurch es schwieriger wird, sie von authentischen Videos, Bildern und Audio zu unterscheiden. Die Sorge besteht darin, dass die Wähler möglicherweise nicht in der Lage sind, den Unterschied zwischen dem, was real ist, und dem, was KI ist, zu erkennen. Und das könnte dazu führen, dass Menschen auch authentische Inhalte in Frage stellen.
Lawson, der zuvor beim Facebook-Inhaber Meta an Wahlintegrität und Plattformrichtlinien gearbeitet hat, geht davon aus, dass KI-generierte Wahl-Fehlinformationen und Überzeugungsinhalte an Orten auftauchen werden, an denen die Leute es nicht erwarten, etwa in einzelnen SMS-Nachrichten oder WhatsApp-Kanälen. Diese Nachrichten können Wähler über Wahllokale täuschen oder auf bestimmte Sprachgemeinschaften abzielen, um die Wahlbeteiligung zu unterdrücken.
Was unternimmt die Regierung, um Wahl-Deepfakes zu bekämpfen?
Es gibt kein Bundesgesetz, das Deepfakes verbietet.
„Obwohl es zutiefst unethisch erscheinen mag, einen Deepfake zu erstellen, um den Ausgang einer Wahl zu manipulieren, ist er derzeit an den meisten Orten in den Vereinigten Staaten legal, und wir sollten davon ausgehen, dass er ein großes Risiko darstellt, solange er legal ist“, sagte Ilana Beller, Organisationsmanager der Public Citizen Democracy Campaign. „Es gibt sowohl auf Bundes- als auch auf Landesebene überparteiliche Unterstützung für dieses Gesetz, aber wir können nicht davon ausgehen, dass der Kongress rechtzeitig vor den Wahlen 2024 diesbezüglich handeln wird.“
Einige Exekutivagenturen sind eingeschritten, um politische Lücken zu schließen.
Die Bundeswahlkommission erwägt Regeländerungen, die es Bundeskandidaten verbieten würden, generative KI-Tools zu nutzen, um ihre politischen Rivalen falsch darzustellen.
Die Federal Communications Commission hat diesen Monat die Verwendung von KI-generierten Stimmen in Robocalls verboten. Das Verbot erfolgte zwei Tage, nachdem die FCC eine Unterlassungsanordnung gegen das Unternehmen erlassen hatte, das für den Audio-Deepfake von Bidens Stimme in New Hampshire verantwortlich war.
Die Federal Trade Commission hat diese Woche beschlossen, neue Regeln zum Thema Identitätsdiebstahl zu verabschieden, und verwies dabei auf die Bedrohung durch KI-generierte Betrügereien.
Was unternehmen Staaten gegen Wahl-Deepfakes?
Eine Handvoll Staaten – Michigan, Minnesota, Kalifornien, Washington und Texas – haben bereits Gesetze erlassen, um KI in der politischen Kommunikation einzuschränken.
Während dieser Legislaturperiode haben Gesetzgeber in 32 Bundesstaaten 52 Gesetzesentwürfe zur Regulierung von Deepfakes bei Wahlen eingebracht, so Public Citizen.
Einige staatliche Gesetzesentwürfe verbieten KI-generierte Inhalte in politischen Anzeigen oder verlangen Haftungsausschlüsse für KI-generierte Inhalte. Andere verbieten Deepfakes vor einer Wahl.
„Wir haben gesehen, dass Gesetzgeber in fast jedem einzelnen Staat, der dieses Jahr eine Legislaturperiode abhält, proaktiv daran arbeiten, dieses Problem anzugehen“, sagte Beller. „Dies ist ein Thema, das alle parteipolitischen und geografischen Unterschiede berührt. Wir sehen Gesetzesentwürfe, die von Republikanern und Demokraten gleichermaßen unterstützt werden, und eine starke parteiübergreifende Zusammenarbeit, um dieser Bedrohung unserer Demokratie entgegenzuwirken.“
Der Wirksamkeit staatlicher Regulierung sind jedoch Grenzen gesetzt.
„Die Realität ist, dass die Durchsetzung von Gesetzen auf Landesebene oft weniger umfassend ist als die Durchsetzung auf Bundesebene, was auf Dinge wie Handelssanktionen und eine viel strengere Durchsetzung als strafrechtliche Sanktionen auf Landesebene zurückzuführen ist“, sagte Lawson.