Kommentar
Moderatoren des staatlichen venezolanischen Fernsehsenders VTV haben positive Berichterstattung über ihr Land von „una agencia gringa“ – einer amerikanischen Nachrichtenagentur – angepriesen. „Diese Informationen kommen nicht von VTV, sie kommen nicht von mir … das sind Zahlen von einer amerikanischen Nachrichtenagentur“, sagte ein Moderator rief während Clips von englischsprachigen Moderatoren gezeigt werden, die positiv über Venezuela berichten, das Baseball veranstaltet Karibische Serie und die Tourismusbranche des Landes.
Aber die Reporter in diesen Videos sind nicht echt. Ihre Namen sind Daren und Noah, und sie sind computergenerierte Avatare, die von Synthesia, einem in London ansässigen Unternehmen für künstliche Intelligenz, hergestellt wurden.
Die Clips stammen von einem YouTube-Kanal namens Haus der Nachrichten, die sich als englischsprachiges Medienunternehmen präsentiert. Forscher sagen, dass die Videos Teil der Versuche der venezolanischen Regierung sind, die Erzählung in den sozialen Medien zu verbreiten, die als eine der letzten Bastionen der Redefreiheit in einem Land gelten, in dem Medien zensiert und Journalisten oft verfolgt werden. Die Einbeziehung von KI, so Experten gegenüber der Washington Post, scheint eine neue Ergänzung zu den Desinformationskampagnen der Regierung zu sein, die von Anreizen für Twitter-Nutzer zum Posten bestimmter Gesprächsthemen bis hin zum Einsatz von Bots reichen, die die Nachrichten des Regimes ausspucken.
In Bussen und auf Balkonen bringen Venezuelas Bürgerreporter Neuigkeiten zu den Menschen
Während Unternehmen darum konkurrieren, die Technologie voranzubringen, ist der Vorfall in Venezuela ein Beispiel für die „dunkle Seite“ von KI, sagte Hany Farid, Professor an der University of California in Berkeley und Deepfakes-Experte.
„Wir entwickeln diese Technologien nicht nur, wir stellen sie auch ins Internet, lassen sie von jedem nutzen und lehnen uns dann zurück und sagen: ‚Nun, mal sehen, was als nächstes passiert’“, sagte Farid.
Der Benutzer hinter House of News wurde von Synthesia wegen Verstoßes gegen die Nutzungsbedingungen gesperrt, sagte ein Sprecher und fügte hinzu, dass sich das Unternehmen „für jeden Missbrauch unserer Plattform“ entschuldigt.
„Es schmerzt uns zu sehen, wie Menschen das von uns entwickelte Produkt missbrauchen, um der Gesellschaft zu helfen – das war nie unsere Absicht“, sagte das Unternehmen in einer Erklärung. „Allerdings lassen wir nicht zu, dass die Minderheit das gute Angebot von KI ruiniert.“
Seltsame Grammatik und Gesprächsthemen
Die Videos tauchten Anfang Februar auf, sagte Adrián González, Direktor von Cazadores de Fake News, einer gemeinnützigen Organisation, die Desinformationen in Venezuela verfolgt.
Obwohl die Avatare menschlich aussehen, verzögert sich ihre Sprache und sie verwenden eine seltsame Grammatik. Die Themen der Videos, sagte González, fallen „mit den Bemühungen der Regierung zusammen, diese Erzählung in die Welt zu tragen, dass Venezuela se arregló ist“, oder die Probleme der Nation – einschließlich ihrer anhaltenden Einwanderung, politischen und wirtschaftlichen Krisen – wurden behoben.
Jeder mit einem iPhone kann jetzt Deepfakes erstellen. Wir sind nicht bereit für das, was als nächstes passiert.
In einem House of News-Video Ein weiblicher Avatar erklärt, wie Juan Guaidó, der bis letztes Jahr international als Interimspräsident Venezuelas anerkannt war, angeblich 150 Millionen Dollar verschwendet hat. Der neueste Clip des Senders besagt, dass Venezuela eines der meistbesuchten Reiseziele in Lateinamerika ist, was Präsident Nicolás Maduros jüngsten Bericht widerspiegelt beanspruchen dass der Tourismus die „Geheimwaffe“ zur „wirtschaftlichen Wiedergeburt“ ist.
„Die venezolanische Regierung hat eine lange Geschichte der Verbreitung von Fehlinformationen, und es konnte kein Zufall sein, dass all diese Videos plötzlich die Hauptgesprächsthemen der Beamten in den Vordergrund rückten“, sagte González.
Die Videos, die fast 716.000 Aufrufe haben, wurden als Anzeigen auf YouTube gepusht – eine häufige Beschwerde in den Kommentaren. Benutzer haben die Clips auch als „out of touch“ kritisiert.
Wer hinter House of News steckt, ist unklar. Sein YouTube-Kanal, der am 26. Januar eröffnet wurde und fünf Videos mit Synthesia-Avataren enthält, listet weder eine Website noch Kontaktinformationen auf.
Fake-News-Jäger bestimmt Bei den Videos handelte es sich um Deepfakes, indem Screenshots über PimEyes, ein Gesichtserkennungstool, ausgeführt wurden. Dabei wurde festgestellt, dass die Avatare in Dutzenden von Videos verwendet wurden Geschäfts- und Bildungsvideos.
Die meisten Kunden nutzen die Technologie, um Unternehmensschulungsvideos und Immobilienbesichtigungen zu erstellen, sagte ein Synthesia-Sprecher. Aber dies ist nicht das erste Mal, dass die Avatare von Synthesia in Desinformationskampagnen verwendet werden. Letzten Monat entdeckte Graphika, ein in New York ansässiges Desinformationsforschungsunternehmen, einen Pro-China politischer Betrieb mit ähnlicher Vorgehensweise.
Techs heißester neuer Job: KI-Flüsterer. Keine Codierung erforderlich.
Synthesia, das den Benutzer in dieser Kampagne ebenfalls verbot, sagte, die Situationen „zeigen, wie schwierig Moderation ist“.
„Wir haben das Unternehmen 2017 nach strengen ethischen Grundsätzen gegründet und haben eine viel strengere Haltung als die meisten anderen eingenommen“, sagte der Sprecher.
Letzte Woche, Maduro und Minister für Kommunikation und Information Freddy Ñáñez Verwendung von KI verweigert. Keiner antwortete auf Anfragen nach Kommentaren.
„Diejenigen, die sich ständig mit Hass und Neid gegen Venezuela melden, sind neidisch auf uns.“ sagte Maduro, wobei auf Berichte über die KI-Kampagne verwiesen wird. „… Es ist keine künstliche Intelligenz. Es ist populäre Intelligenz. Es ist revolutionäre Intelligenz.“
VTV, der staatseigene venezolanische Sender, hat die Clips in den letzten Wochen in mehreren Programmen gezeigt. Nachdem er die Videos am Samstag hervorgehoben hatte, beleidigte „La Hojilla“-Moderator Mario Silva einen Journalisten, der über die KI-Kampagne berichtet hatte Das Land, der ihr vorwarf, „Venezuela durch den Dreck ziehen zu wollen“. VTV und Silva antworteten nicht auf Anfragen nach Kommentaren.
Das TikTok-Video einer Frau verspottete venezolanische Politiker. Sie wurde festgenommen.
Von der Twitter-„Armee“ zum „Hashtag des Tages“
Da Maduro seinen Einfluss auf Medien, gemeinnützige Organisationen und Menschenrechtsorganisationen verstärkt hat, wenden sich viele Venezolaner jetzt an die sozialen Medien, um Informationen zu erhalten.
„Das ist im Wesentlichen das, was die Regierung dazu gebracht hat, zu diesen Netzwerken zu rennen – ein Versuch der totalen Kommunikationshegemonie. Sie sehen dies als Krieg und Twitter ist ihr Schlachtfeld“, sagte González.
2017 gab das Justizministerium grünes Licht für ein Projekt für „Armeen von Trollen der venezolanischen Revolution“ oder Tausende von „Erstellern falscher Informationen, um die Opposition zu verwirren“. Untersuchung von IPYS Venezuela, einer Organisation, die Redefreiheit fördert, gefunden.
Venezuela hat 1,5 Millionen Telefonleitungen angezapft. Es ist nur der Anfang, warnen Experten.
Seitdem hat der Staat eine Reihe von Websites zensiert und gesäuberte Online-Inhalte, Untersuchungen gefunden. Es hat auch Benutzer organisiert, um „Twitter-Nachrichten zu verbreiten, die für die Unterstützung der Regierung eintreten, die Aufmerksamkeit von Ereignissen abzulenken, die der Regierung schaden oder der Opposition nützen könnten, und Oppositionsgruppen zu zerbrechen“, so a Bericht von der Überwachungsgruppe Freedom House.
Diese Benutzer werden dafür bezahlt, die „Hashtag des Tages“ vom Ministerium für Kommunikation und Information, das das Posten wie einen Wettbewerb behandelt.
Eine der prominentesten Social-Media-Kampagnen richtete sich gegen den investigativen Journalisten Roberto Deniz wegen seiner ausführlichen Berichterstattung über Alex Saab, einen Finanzier der Regierung, der wegen Korruptionsvorwürfen an die Vereinigten Staaten ausgeliefert wurde. Freedom House fand Zehntausende von Tweets mit Hashtags wie #DenizExtorsionador – oder Deniz-Erpresser. Zustand Sicherheitskräfte durchsuchten das Elternhaus von Deniz im Jahr 2021.
„Es ist eine massive Propagandamaschine mit einer großartigen Fähigkeit, soziale Medien zu bombardieren und zu sättigen“, sagte Deniz von Armando.info. „Sie benutzen diese Werkzeuge, um Menschen innerhalb Venezuelas, aber auch im Ausland zu verwirren.“
KI-Pornos sind jetzt einfach zu machen. Für Frauen ist das ein Alptraum.
Letztes Jahr hat Nisos – ein in den USA ansässiges Geheimdienstunternehmen – deckte eine venezolanische Kampagne auf um die Erzählung in den sozialen Medien zu den Präsidentschaftswahlen in Kolumbien voranzutreiben. Diese Berichte stärkten den damaligen Kandidaten Gustavo Petro, einen Verbündeten von Maduro, und verbreiteten russische Desinformationen.
„Viele der Desinformationskampagnen, die wir in südamerikanischen Ländern gesehen haben, hatten eine venezolanische Komponente“, sagte Vincas Ciziunas, ein Nisos-Analyst.
Die jüngsten Desinformationskampagnen in Venezuela und China unterstreichen, wie einfach es ist, KI zu missbrauchen, so Experten.
„In Zukunft wird es so schwer sein, zu unterscheiden, was echt und was gefälscht ist. Und wir können uns nicht mit den sehr grundlegenden Dingen befassen, um eine demokratische Gesellschaft zu sein, wenn jeder seine eigenen Fakten hat“, sagte Farid.
Warum haben wir solche Angst vor KI?
Mögliche Lösungen, sagte Farid, umfassen Plattformen, die Inhalte als Deepfakes kennzeichnen, oder KI-Unternehmen, die Avatare mit Wasserzeichen versehen – etwas, das Synthesia nach eigenen Angaben jetzt tut.
„Letztendlich müssen diese Unternehmen besser werden. Sie können diese Technologie nicht weiter aufbauen, einsetzen, alle Gewinne privatisieren und die Kosten sozialisieren“, sagte Farid.
