Audrey Kims Hund Murphy verwendet eine Kombination aus Kopfnicken und 10 Knöpfen auf dem Boden, um zu kommunizieren, sagt sie, und hat die Angewohnheit, sich mit Krähen anzufreunden. Sie brachte ihm bei, die Knöpfe zu benutzen, weil sie glaubt, dass Bewusstsein ein Spektrum und Intelligenz mysteriös ist. Diese Grundsätze führten sie auch dazu, Kuratorin des zu werdenFehlausrichtungsmuseumeine temporäre Ausstellung über die Zukunft der künstlichen Intelligenz, die heute in San Francisco eröffnet wird, Ground Zero für die jüngste Aufregung über generative KI und Chatbots wie ChatGPT von OpenAI.
Das Misalignment Museum stellt sich eine Zukunft vor, in der die KI beginnt, den in unzähligen Science-Fiction-Filmen vorgezeichneten Weg einzuschlagen – sich ihrer selbst bewusst zu werden und sich daran zu machen, die Menschheit zu töten. Glücklicherweise korrigieren sich die Algorithmen in Kims Vision selbst und stoppen kurz davor, alle Menschen zu töten. Ihr Museum, vollgestopft mit künstlerischen Allegorien über KI und Kunst, die mit KI-Unterstützung hergestellt wurde, wird als Mahnmal für die vom Aussterben bedrohte Zukunft der Menschheit präsentiert.
„Es ist seltsam, weil es so ein erschreckendes Thema ist, aber es freut mich, dass die Leute daran interessiert sind“, sagt Kim aus einem Café auf der anderen Straßenseite. Während wir uns unterhalten, beobachten wir Passanten, die in den Galerieraum spähen – passenderweise acht Blocks von den Büros von OpenAI entfernt –, an dessen einer Wand ein auffälliges Schild mit der Aufschrift „Entschuldigung, dass wir den größten Teil der Menschheit getötet haben“ angebracht ist.
Das Projekt begann vor fünf Monaten, kurz bevor ChatGPT in der Tech-Branche Erwartungen auslöste, und darüber hinaus stehen wir an der Schwelle einer Welle von KI-Störungen und irgendwie näher an dem nebulösen Konzept der künstlichen allgemeinen Intelligenz oder AGI. Es gibt keinen Konsens über die Definition von AGI, aber das Museum nennt es die Fähigkeit, jede intellektuelle Aufgabe zu verstehen oder zu lernen, die ein Mensch kann.
Kim sagt, das Museum soll Gespräche über die destabilisierenden Auswirkungen vermeintlich intelligenter Technologie anregen. Die Sammlung ist auf zwei Etagen aufgeteilt, mit optimistischeren Visionen unserer KI-infundierten im Obergeschoss und dystopischen auf der unteren Ebene.
Oben gibt es mit Bakterien komponierte Klaviermusik, ein interaktives Theaterstück zu Michelangelos „Erschaffung Adams“ aus der Sixtinischen Kapelle und bald auch eine Installation, die Computer Vision von Google nutzt, um Menschen und Objekte zu beschreiben, die vor einer Kamera erscheinen.
Unten ist Kunst ausMatrix: Auferstehung (Eine Bühnenbildnerin des Films, Barbara Munch Cameron, half bei der Planung des Museumslayouts), aendlose KI-generierte Konversation zwischen Slavoj Žižek und Werner Herzog, und ein Roboterarm mit einem Stift, der Notizen aus der Perspektive einer KI schreibt, die den Menschen als Bedrohung betrachtet.
„Dies ist der Selfie-Spot am Höllentor“, sagt Kim und weist auf ein Zitat von Dante über dem Eingang zum unteren Teil des Museums hin: „Gibt alle Hoffnung auf, die ihr hier eintretet.“ Das Museum beherbergt auch einen Deepfake von Arnold Schwarzenegger, der aus einem von ChatGPT generierten Skript spricht, eine Statue von zwei sich umarmenden Personen aus 15.000 Büroklammern, die eine Allegorie auf die KI-Sicherheit darstellen soll, und aus Wien eingeflogene Roboter aus Spam-Dosen mit kleinen Armen dieser Art.
„Diese Art von Technologie kann so viel Gutes hervorbringen, so viel Leid verhindern, und dann ist da noch der Aspekt, wie viel Zerstörung sie anrichten und wie viel dabei verloren gehen kann“, sagt Kim, eine frühe Mitarbeiterin von Google und hat auch bei den Vereinten Nationen und als Assistent von Paul Graham, Mitbegründer des Startup-Inkubators Y Combinator, gearbeitet. „Ich glaube nicht, dass wir alle Antworten haben. Wir müssen nur sehr menschenfreundlich sein und den Menschen die entscheidenden Mittel geben, um über diese Technologie nachzudenken.“
Die temporäre Ausstellung wird bis Mai von einem anonymen Spender finanziert, aber der Raum zeigt den Einfluss einer Reihe von Tech-Gründern und Denkern, von einem gerahmtentwittern über KI und effektiven Altruismus von Facebook-Mitbegründer Dustin Moskovitz bis zur Badewanne voller Nudeln am Ausstellungseingang. Letzteres ist ein Verweis auf die Ideen von Holden Karnofsky, einem Mitbegründer von Open Philanthropy mit Moskovitz, der OpenAI und andere Arbeiten finanziert hat, die sich mit dem zukünftigen Weg der KI befassen. Karnofsky hat argumentiert, dass wir in dem vielleicht wichtigsten Jahrhundert der Menschheitsgeschichte leben, vor der potenziellen Ankunft der transformativen KI, die er Process for Automating Scientific and Technological Advancement oder PASTA nennt.
Versuche, die ferne Zukunft der KI vorherzusagen, konzentrieren sich in letzter Zeit auf ChatGPT und verwandte Technologien, wie die neue Suchoberfläche von Microsoft, trotz ihrer gut dokumentierten Einschränkungen und ihres noch unklaren Werts. Unternehmer, die auf die Technologie setzen, machen bombastische Behauptungen darüber, wozu ihre Technologie in der Lage ist. Letzte Woche veröffentlichte der CEO von OpenAI einen Blogbeitrag darüber, wie es dem Unternehmen geht.Planung für AGI.“
Kurz darauf hat die US-amerikanische Federal Trade Commission, eine Behörde zum Schutz vor irreführenden Geschäftspraktiken,gewarnt Vermarkter davor bewahren, falsche Behauptungen darüber aufzustellen, wozu ihre Technologie in der Lage ist. FTC-Anwalt Michael Atleson schrieb in seinem eigenen Blogbeitrag: „Wir leben noch nicht im Reich der Science-Fiction, wo Computer im Allgemeinen vertrauenswürdige Vorhersagen über menschliches Verhalten treffen können.“
Viele KI-Forscher glauben, dass generative KI-Systeme wie ChatGPT zwar beeindruckend sein können, der Technologie jedoch keine Intelligenz zugeschrieben werden kann, da der Algorithmus nur Muster aus seinen Trainingsdaten wiederholt und neu mischt.
Aus dieser Sicht ist es besser, sich die enge KI von heute eher als Taschenrechner oder Toaster vorzustellen, nicht als fühlendes Wesen. Einige KI-Ethiker glauben, dass die Zuschreibung menschlicher Eigenschaften wie Empfindungsvermögen zu Technologie von Gesprächen über andere Formen schädlicher Automatisierung wie Überwachungstechnologie ablenken kann, die von Unternehmen in demokratischen und autoritären Ländern gleichermaßen exportiert wird.
Kim sagt, sie habe sich erstmals mit maschinellem Lernen vertraut gemacht, als sie früh beim Startup Cruise für autonomes Fahren eingestellt wurde, das später von General Motors übernommen wurde. Sie begann darüber nachzudenken, wie KI, die richtig funktioniert, viele unnötige Todesfälle und Leiden beseitigen könnte – aber auch, dass, wenn die Technologie nicht funktioniert, sie ein enormes Risiko für Menschenleben darstellen könnte.
Neben der Ausstellung von KI-Kunst und Kunst über KI plant das Misalignment Museum, Vorführungen von Filmen zu veranstalten, die das dunklere Potenzial der Technologie erforschen, wie zDer Terminator,Ex Machina,IhrUndTheater der Gedankenein Dokumentarfilm aus dem Jahr 2022 über Neurowissenschaften und KI unter der Regie von Herzog.
Kim sagt, dass sie es trotz des Themas ihrer Ausstellung unwahrscheinlich findet, dass AGI den größten Teil der Menschheit töten wird, aber dass die Menschen über die Auswirkungen der bereits auftretenden KI nachdenken sollten, wie Pädagogen und Literaturredakteure, die versuchen, den Unterschied zwischen von Menschen und KI generierten Texten zu analysieren. oder WIREDs eigene Diskussionen darüber, wie generative KI Journalisten helfen könnte oder sollte.
„KI wird uns alle betreffen, also geht es für mich darum, wie wir möglichst viele Menschen dazu bringen, darüber nachzudenken und sich ihre eigene Meinung zu bilden“, sagt Kim. Das Misalignment Museum ist donnerstags, freitags und samstags für die Öffentlichkeit zugänglich. Sie plant, Führungen für Schulgruppen zu veranstalten, um die Exponate zu besichtigen und eine Bibliothek mit Lesematerial über die Chancen und potenziellen Schäden der künstlichen Intelligenz zu durchsuchen.
„Ich arbeite daran, Trittleitern zu bekommen, damit die Kinder die Augen der Spambots sehen können, wenn sie hereinkommen“, sagt Kim.
