Andrea Colamedici erfand einen Philosophen, stellte ihn als Autor vor und produzierte ein Buch, das heimlich mit Hilfe von künstlicher Intelligenz über die Manipulation der Realität im digitalen Zeitalter generiert wurde. Leute wurden getäuscht. Anschuldigungen von Unehrlichkeit, schlechter Ethik und sogar Illegalität flogen. Aber der Mann dahinter, Herr Colamedici, besteht darauf, dass es kein Schwindel war; vielmehr beschrieb er es als „philosophisches Experiment“, das zeigt, wie K.I. „langsam, aber unweigerlich unsere Fähigkeit zu denken zerstören wird.“ Herr Colamedici ist ein italienischer Verleger, der zusammen mit zwei K.I.-Werkzeugen „Hypnocracy: Trump, Musk und die Architektur der Realität“ generiert hat, einen aufsehenerregenden Text, der angeblich von Jianwei Xun, dem nicht existierenden Philosophen, verfasst wurde. Im Dezember druckte Herr Colamedici’s Verlag 70 Exemplare einer italienischen Ausgabe, die er angeblich übersetzt hat. Dennoch erlangte das Buch schnell übermäßige Aufmerksamkeit, wurde von Medien in Deutschland, Spanien, Italien und Frankreich behandelt und von Technikgrößen zitiert. „Hypnocracy“ beschreibt, wie mächtige Personen Technologie nutzen, um die Wahrnehmung mit „hypnotischen Erzählungen“ zu formen, die die Öffentlichkeit in eine Art kollektiven Trance versetzen können, die durch den Einsatz von K.I. noch verschlimmert werden kann. Die Veröffentlichung des Buches erfolgte, während Schulen, Unternehmen, Regierungen und Internetnutzer auf der ganzen Welt darum ringen, wie sie K.I.-Werkzeuge nutzen – und nicht nutzen sollen, die von Tech-Giganten und Startups weit verbreitet sind. (Die New York Times hat OpenAI, den Ersteller von ChatGPT, und dessen Partner Microsoft verklagt und behauptet, dass Urheberrechtsverletzungen von Nachrichteninhalten vorliegen. Die beiden Unternehmen haben die Ansprüche der Klage bestritten.) Dennoch stellte sich heraus, dass das Buch auch eine Demonstration seiner These war, die sich an ahnungslosen Lesern entfaltete. Das Buch, so Herr Colamedici, sollte die Gefahren von „kognitiver Apathie“ aufzeigen, die entstehen können, wenn das Denken Maschinen überlassen wird und Menschen ihre Unterscheidungsfähigkeit nicht kultivieren. „Ich habe versucht, eine Performance, eine Erfahrung zu schaffen, die nicht nur das Buch ist“, sagte er. Herr Colamedici lehrt, was er als „die Kunst der Anregung“ bezeichnet, oder wie man K.I. kluge Fragen stellt und ihr handlungsfähige Anweisungen gibt, am European Institute of Design in Rom. Er sagte, dass er oft zwei extreme, wenn auch gegensätzliche Reaktionen auf Werkzeuge wie ChatGPT sieht, wobei viele Studenten ausschließlich auf sie zurückgreifen wollen und viele Lehrer denken, dass K.I. grundsätzlich falsch ist. Er versucht stattdessen den Benutzern beizubringen, wie man Fakten von Fiktion unterscheidet und wie man produktiv mit den Werkzeugen interagiert. Das Buch ist eine Erweiterung dieser Bemühungen, argumentierte Herr Colamedici. Die K.I.-Werkzeuge, die er verwendet hat, halfen ihm, die Ideen zu verfeinern, während Hinweise (echte und erfundene) über den falschen Autor (online und im Buch) absichtlich potenzielle Probleme nahelegten, um die Leser dazu zu bringen, Fragen zu stellen, sagte er. Das erste Kapitel behandelt beispielsweise die falsche Autorschaft, und das Buch enthält obskure Referenzen zur italienischen Kultur, die unwahrscheinlich von einem jungen Philosophen aus Hongkong stammen, was schließlich einem Rezensenten half, den wahren Autor als Übersetzer zu entlarven. Sabina Minardi, eine Redakteurin bei der italienischen Veröffentlichung L’Espresso, nahm die Hinweise auf und entlarvte Jianwei Xun als Fake Anfang dieses Monats. Herr Colamedici aktualisierte dann die Bioseite des falschen Autors und sprach mit Publikationen, darunter einige, die von seiner Arbeit getäuscht wurden. Neue Ausgaben und Auszüge, die diesen Monat gedruckt wurden, enthalten Nachschriften über die Wahrheit. Einige, die das Buch zuerst begrüßten, lehnen es jetzt ab und fragen sich, ob Herr Colamedici unethisch gehandelt oder gegen ein EU-Gesetz über die Verwendung von K.I. verstoßen hat. Die französische Nachrichtenagentur Le Figaro schrieb über „L’affaire Jianwei Xun“ und erklärte, dass das „Problem“ bei ihrem früheren Interview mit dem Hongkonger Philosophen darin bestand, dass „er nicht existiert“. Die spanische Zeitung El País in Spanien zog einen Bericht über das Buch zurück und ersetzte ihn durch einen Hinweis, dass „das Buch die Beteiligung von K.I. an der Erstellung des Textes nicht anerkannt hat, ein Verstoß gegen das neue europäische KI-Gesetz“. Artikel 50 dieses Gesetzes besagt, dass, wenn jemand ein K.I.-System verwendet, um Texte für Zwecke der „Information der Öffentlichkeit über Fragen von öffentlichem Interesse“ zu generieren, dann muss (mit begrenzten Ausnahmen) offengelegt werden, dass generative K.I. verwendet wurde, sagte Noah Feldman, ein Rechtsprofessor an der Harvard University, der Technologieunternehmen berät. „Diese Vorschrift scheint den Schöpfer des Buches und vielleicht jeden, der seinen Inhalt neu veröffentlicht, abzudecken“, sagte er. „Das Gesetz tritt erst im August 2026 in Kraft, aber es ist in der EU üblich, dass Menschen und Institutionen Gesetze einhalten wollen, die moralisch gut erscheinen, auch wenn sie noch nicht technisch gelten.“ Jonathan Zittrain, ein Rechts- und Informatikprofessor an der Harvard University, sagte, er sei eher geneigt, Herrn Colamedicis Buch „ein Stück Performancekunst oder einfach Marketing zu nennen, das die Verwendung eines Pseudonyms beinhaltete.“ Herr Colamedici ist enttäuscht, dass einige anfängliche Befürworter das Experiment verurteilt haben. Aber er plant, weiterhin K.I. zu verwenden, um die Gefahren aufzuzeigen, die sie aufwirft. „Dies ist der Moment“, sagte er. „Wir riskieren die Kognition. Nutze sie oder verliere sie.“ Er sagte, dass er plant, dass Jianwei Xun – beschrieben als eine Kollektiv aus Menschen und künstlicher Intelligenz – im nächsten Herbst einen Kurs über K.I. unterrichten wird.
