New York
CNN
—
Da mehr als die Hälfte der Weltbevölkerung in diesem Jahr weltweit an Wahlen teilnehmen wird, sind Technologieführer, Gesetzgeber und zivilgesellschaftliche Gruppen zunehmend besorgt, dass künstliche Intelligenz bei den Wählern für Verwirrung und Chaos sorgen könnte. Jetzt gibt eine Gruppe führender Technologieunternehmen bekannt, dass sie sich zusammenschließen, um dieser Bedrohung zu begegnen.
Mehr als ein Dutzend Technologiefirmen, die an der Entwicklung oder Nutzung von KI-Technologien beteiligt sind, haben am Freitag zugesagt, zusammenzuarbeiten, um schädliche KI-Inhalte bei Wahlen zu erkennen und zu bekämpfen, darunter Deepfakes von politischen Kandidaten. Zu den Unterzeichnern gehören OpenAI, Google, Meta, Microsoft, TikTok, Adobe und andere.
Die Vereinbarung mit dem Namen „Technisches Abkommen zur Bekämpfung des betrügerischen Einsatzes von KI bei den Wahlen 2024“ beinhaltet Verpflichtungen zur Zusammenarbeit bei der Technologie zur Erkennung irreführender KI-generierter Inhalte und zur Transparenz gegenüber der Öffentlichkeit hinsichtlich der Bemühungen zur Bekämpfung potenziell schädlicher KI-Inhalte.
„KI hat keine Wahltäuschung hervorgerufen, aber wir müssen sicherstellen, dass sie nicht dazu beiträgt, dass die Täuschung gedeiht“, sagte Microsoft-Präsident Brad Smith in einer Erklärung auf der Münchner Sicherheitskonferenz am Freitag.
Tech-Unternehmen haben im Allgemeinen keine besonders gute Bilanz bei der Selbstregulierung und der Durchsetzung ihrer eigenen Richtlinien. Doch die Einigung kommt zustande, da die Regulierungsbehörden weiterhin mit der Schaffung von Leitplanken für die sich schnell entwickelnden KI-Technologien hinterherhinken.
Eine neue und wachsende Zahl von KI-Tools bietet die Möglichkeit, schnell und einfach überzeugende Texte und realistische Bilder zu generieren – und zunehmend auch Video und Audio, von denen Experten sagen, dass sie dazu verwendet werden könnten, falsche Informationen zu verbreiten und Wähler in die Irre zu führen. Die Ankündigung des Abkommens erfolgt, nachdem OpenAI am Donnerstag ein erstaunlich realistisches neues KI-Tool zur Text-zu-Video-Generierung namens Sora vorgestellt hat.
„Meine schlimmsten Befürchtungen sind, dass wir erheblichen Schaden anrichten – wir, das Feld, die Technologie, die Industrie – der Welt erheblichen Schaden zufügen“, sagte Sam Altman, CEO von OpenAI, dem Kongress in einer Anhörung im Mai, bei der er die Gesetzgeber aufforderte, die KI zu regulieren.
Einige Firmen hatten sich bereits zusammengetan, um Industriestandards für das Hinzufügen von Metadaten zu KI-generierten Bildern zu entwickeln, die es den Systemen anderer Unternehmen ermöglichen würden, automatisch zu erkennen, dass die Bilder computergeneriert waren.
Die Vereinbarung vom Freitag geht mit diesen branchenübergreifenden Bemühungen noch einen Schritt weiter: Die Unterzeichner verpflichten sich, gemeinsam an Bemühungen zu arbeiten, beispielsweise Möglichkeiten zu finden, maschinenlesbare Signale an Teile von KI-generierten Inhalten anzuhängen, die angeben, woher sie stammen, und ihre KI-Modelle auf ihre Risiken hin zu bewerten Generieren irreführender, wahlbezogener KI-Inhalte.
Die Unternehmen sagten außerdem, sie würden bei Aufklärungskampagnen zusammenarbeiten, um der Öffentlichkeit beizubringen, „sich davor zu schützen, durch diese Inhalte manipuliert oder getäuscht zu werden“.
Allerdings befürchten einige zivilgesellschaftliche Gruppen, dass das Versprechen nicht weit genug geht.
„Freiwillige Versprechen wie das heute angekündigte sind einfach nicht gut genug, um den globalen Herausforderungen der Demokratie zu begegnen“, sagte Nora Benavidez, Senior Counsel und Direktorin für digitale Gerechtigkeit und Bürgerrechte beim Technologie- und Medienwächter Free Press, in einer Erklärung. „In jedem Wahlzyklus verpflichten sich Technologieunternehmen zu vagen demokratischen Standards und halten diese Versprechen dann nicht vollständig ein. Um den tatsächlichen Schaden anzugehen, den KI in einem geschäftigen Wahljahr mit sich bringt … brauchen wir eine solide Inhaltsmoderation, die eine menschliche Überprüfung, Kennzeichnung und Durchsetzung umfasst.“
