Es war nur eine Frage der Zeit, bis die Kulturkriege die KI erreichten.
Seit der Veröffentlichung von ChatGPT Ende 2022 wettert Elon Musk auf Twitter gegen das, was er „Woke AI“ nennt. Er hat den Entwickler von ChatGPT, OpenAI, ausdrücklich für die Funktionen kritisiert, die den Chatbot daran hindern sollen, Rassismus und Sexismus nachzuplappern.
Jetzt umwirbt der Milliardär KI-Forscher mit dem Vorschlag, ein neues KI-Unternehmen zu gründen, das mit dem Entwickler von ChatGPT, der Tech-News-Site The Information, konkurrieren soll gemeldet Am Mittwoch.
„Die Gefahr, KI darauf zu trainieren, geweckt zu werden – mit anderen Worten, zu lügen – ist tödlich“, twitterte Musk im Dezember.
Es stimmt, dass Large Language Models (LLMs) – die Technologie, auf der ChatGPT basiert – Schwierigkeiten haben, die Wahrheit zu sagen, und oft selbstbewusst falsche Informationen behaupten. Aber in seinem jüngste Aussagenscheint Musk das Wahrhaftigkeitsproblem von KI mit den weitgehend getrennten Bemühungen innerhalb von KI-Unternehmen zu verschmelzen, ihre LLMs weniger rassistisch und sexistisch zu machen.
Der Rassismus und Sexismus ungefilterter LLMs rührt von den großen Mengen an Internetdaten her, mit denen die KIs trainiert wurden. Aber in rechten Bereichen des Internets scheint sich ein Narrativ zu entwickeln – das jetzt von Musk verstärkt wird –, dass Rassismus und Sexismus wünschenswerte Merkmale in KI sind und dass Bemühungen, KIs von diesen Vorurteilen zu befreien, eine weitere Form der „Zensur“ durch mächtige liberale Kräfte sind . Influencer der politischen Rechten haben Parallelen zwischen diesen Bemühungen und den Maßnahmen von Social-Media-Unternehmen gezogen, um Hassreden und Toxizität auf ihren Plattformen zu reduzieren.
Wenn Musk seine angeblichen Pläne zur Gründung einer KI-Firma durchführt, wäre es nicht sein erstes Rodeo. Er war Mitglied des Gründungsteams von OpenAI, das 2015 als Rivale dessen gegründet wurde, was Musk und seine Mitbegründer als gefährliche Konzentration von KI-Expertise in den Händen von gewinnorientierten Technologieunternehmen betrachteten. OpenAI wurde als gemeinnützige Organisation gegründet, die darauf abzielte, ihre Forschung offen und für alle zugänglich zu machen. Aber als es anfing, Fortschritte mit großen Sprachmodellen zu machen, änderte es diesen Ansatz und argumentierte, dass die Technologie zu gefährlich sei, um sie öffentlich zu veröffentlichen. Musk trat 2018 von OpenAI zurück, inmitten dessen, was Musk später sagte Meinungsverschiedenheiten über seinen Ansatz. OpenAI hat sich seitdem von einem gemeinnützigen zu einem gewinnorientierten Unternehmen gewandelt und argumentiert, dass der Verkauf seiner Dienstleistungen der einzige Weg ist, um die Größenordnung zu erreichen, die erforderlich ist, um die Kosten für die Entwicklung modernster KI zu decken.
Musk hat auch Alarm über die schnell wachsende Macht der KI geäußert. „Ich mache mir ein wenig Sorgen um das KI-Zeug“, sagte Musk am Mittwoch bei einer Tesla-Investorenveranstaltung. „Ich denke, das ist etwas, worüber wir uns Sorgen machen sollten. […] Es ist eine ziemlich gefährliche Technologie, und ich fürchte, ich habe einige Dinge getan, um sie zu beschleunigen.“
Aber wenn Musk glaubt, dass seine Rolle bei der Gründung von OpenAI die Entwicklung gefährlicher Technologien beschleunigt hat, scheint er nicht zu glauben, dass die Gründung eines anderen KI-Unternehmens den gleichen Effekt haben würde. Am Dienstag, vor dem Investorentreffen, sagte Musk hat ein Meme getwittert Er schlug vor, dass „BasedAI“ – der gemunkelte Name für sein neues Unternehmen – sowohl „Woke AI“ als auch „Closed AI“ wegfegen würde. (Letzteres scheint sich auf die Praxis von Technologieunternehmen zu beziehen, die rassistischsten und sexistischsten Versionen von KI-Chatbots von der Öffentlichkeit fernzuhalten.) Der Ausdruck „basiert“ stammt aus dem Hip-Hop-Slang, wo es sich um einen Begriff des Respekts handelt, der bedeuten kann dass Sie glauben, dass eine Person für ihr wahres Selbst authentisch ist. Aber seitdem ist es so kooptiert von rechten Online-Communities, wo es verwendet wird, um Menschen zu loben, die keine Angst haben, kontroverse Meinungen zu äußern.
Igor Babuschkin, ein Forscher, den Musk angeblich wegen seiner Pläne zur Gründung eines neuen KI-Unternehmens angesprochen hat, sagte gegenüber der Information, dass Musks Ziel nicht darin bestehe, einen Chatbot mit weniger Sicherheitsfunktionen als ChatGPT zu bauen: „Das Ziel ist es, die Denkfähigkeiten und die Faktizität dieser Sprachmodelle.“
Dennoch sagten einige KI-Forscher, die mit TIME für diesen Artikel sprachen, dass sie besorgt seien, dass Musk die Dynamik eines Bereichs verzerren könnte, in dem Zusammenarbeit so entscheidend ist, wenn er über KI in der Sprache der Kulturkriege in den sozialen Medien spricht – insbesondere in der Technik wird leistungsfähiger. „Indem Maßnahmen genannt werden, die zum Schutz der Benutzer eingeführt wurden, wie z [instead] Als Teil einer „größeren liberalen Verschwörung“ untergräbt Musk die Arbeit, diese Produkte tatsächlich besser und nützlicher zu machen“, sagt Rumman Chowdhury, ehemaliger KI-Ethikleiter von Twitter. „Was ich an dieser Taktik ironisch finde, ist, dass sie niemandem dient außer ihm selbst und seinen Kumpane, die an diese konservativeren Taktiken glauben. Es gibt sehr wenig bis gar keinen greifbaren Wert für die Menschheit im Großen und es gibt nicht einmal einen guten geschäftlichen Grund, das zu tun, was er tut. Die Absicht dahinter ist rein ideologisch und politisch.“
Andere KI-Sicherheitsexperten stellten auch Musks offensichtlichen Widerstand gegen „geschlossene KI“ in Frage. „Wenn jemand für 10.000 Dollar eine Atomwaffe in seinem Keller herstellen könnte – lassen Sie mich nur sagen, dass ich froh bin, dass wir nicht in dieser Welt leben“, sagt Michael Cohen, ein KI-Sicherheitsforscher am Future of Humanity Institute der Universität Oxford. „Die Idee, dass man die Gefahren unkontrollierter KI beheben kann, indem man mehr Menschen KI gibt, die sie nicht kontrollieren können, ist lächerlich.“
Wie bei allen Dingen Elon Musk, nehmen Sie seine vermeintlichen Pläne mit einer Prise Salz. „Elon ist eine Menge Toberei und Haltung“, sagt Chowdhury, der kurz unter dem Milliardär bei Twitter gearbeitet hat, bevor er sie gefeuert hat. „Das Letzte, was wir tun sollten, ist anzunehmen, was er sagt, ist tatsächlich das, was passieren wird.“
Weitere Must-Reads von TIME
Schreiben Sie an Billy Perrigo unter billy.perrigo@time.com.
