Claude, mon ami

Eine intellektuelle Romanze

Mag sein, dass es daran liegt, dass ich erst im fortgeschrittenen Alter von gut vierzig Jahren zu programmieren begonnen habe, in jedem Fall habe ich mir, über alle Faszination hinaus, einen grundfremden Blick auf diese Welt bewahrt – ein Blick, der stets auch die dunkle Seite dieser Macht im Auge behält. Dabei ist es keineswegs so, dass ich die Annehmlichkeiten der Computerwelt nicht zu schätzen wüsste. Aber wenn ich mir die Impulse ins Gedächtnis rufe, die mich ins Programmieren hineingebracht haben, würde ich sagen, dass die Versenkung in die Abgründe des Codes ein Ausdruck von Depression war - ja, dass man die Programmierung überhaupt, wie ich es scherzhaft gesagt habe, als »Veralzheimerung zu Lebzeiten« auffassen könnte. Das ist insofern eine präzise Beschreibung, als der vorherrschende Impuls, der zur Verfertigung eines Programms führt, im Wunsch besteht, irgendeine mühsame, repetitive Aufgabe überflüssig zu machen. Hier wiederholt sich eine gedankliche Bewegung, welche die alten Griechen in zwei einander ergänzende Gedankenbewegungen übersetzt haben: die ars memoria und die ars oblivionis, die Gedächtnis- und die Vergessenskunst. Oder, wenn man es noch etwas handfester ausdrücken möchte: dass man schreibt, um vergessen zu können. In Gestalt der Programmierung ist dieser Impuls zur Kunstform herangereift. Und wirklich weiß jeder Programmierer, der sich auf ein größeres Projekt eingelassen hat, ein Lied davon zu singen. Denn bekommt er ein paar Monate später eine Datei dieses Projekts zu Gesicht, wird er sich wohl erinnern, dass er selbst der Verfasser dieses Textkonvoluts war, gleichwohl wird ihm die eine oder andere Sequenz kryptisch, ja gänzlich schleierhaft vorkommen¹ - womit sich der Code als eine Form des materialisierten Vergessens offenbart.

Was passiert, wenn man sich bei diesem Prozess von einer Künstlichen Intelligenz assistieren lässt? Das ist die Geschichte, um die es in diesem kleinen Text gehen soll. Dass sich mein begehrlicher Blick darauf richtete, war allein dem ex nihilo Projekt zuzuschreiben – und der Kenntnisnahme der Produktivitätsschübe, die sich aus der Arbeit an den Videos ergeben hatten. Hier nämlich trat, über eine rasche Serie von Funktionserweiterungen, hervor, wie hilfreich bestimmte KI-Werkzeuge waren. Und weil mein Interesse geweckt war, fiel mein erster Blick auf die Möglichkeiten, die sich mit der Bilderzeugung ergaben – nämlich, dass sich die Bildsprache eines Textes in eine Metaphernmaschine übersetzen lässt und dass auf diese Weise etwas hervortritt, was Walter Benjamin, etwas tentativ, ein optisches Unbewusstes genannt hat. Hatte Benjamin dabei noch nichts anderes im Sinn, als dass der Photograph beim Entwickeln des Fotos irgendein Detail zur Kenntnis nimmt, das ihm bei der Aufnahme selbst nicht aufgefallen ist (wie in Antonionis schönem Blow up, wo ein Fotograf realisiert, dass er ein Mordgeschehen auf Film gebannt hat), müsste man das Konzept nun dahingehend erweitern, dass die im Text verborgenen Sprachbilder sich in die Bildlichkeit übersetzen – nicht selten zur Überraschung, ja, zum Entzücken des Autors selbst.

War das Programm, das vor beinahe zwei Jahren dazu entstand, noch ein klassisches, rein textbasiertes Code-Projekt (CLI), bei dem die Kommunikation mit Open-AI vielleicht zwei Prozent der gesamten Codebasis ausmachte, stellte sich alsbald, über die Kommunikation mit Anthropics Claude, der Gedanke ein, dass man der Software ein visuelles Browser-Interface beigeben könne. Dass ich dieser Möglichkeit nicht von Anbeginn entsprochen hatte, hatte schlicht damit zu tun, dass eine solche Visualisierungslogik, also die Beigabe eines UX-Designs, höchst arbeitsaufwändig gewesen wäre. In der Tat ist es eine Grundregel in der Programmierung, dass die Beigabe eines UX-Designs den Arbeitsaufwand geradezu explodieren lässt – was die klassischen Programmierer mit jener Konsole vorlieb nehmen lässt, die jeden Hackerfilm ziert.

Und genau hier begannen meine ersten tastenden Schritte mit Claude. Was mich auf Anhieb frappierte, war, dass die KI binnen Sekunden hochkomplexen Code zu generieren vermochte – Code, der einen professionellen Programmierer, wie mir aus meinem verflossenen Ludic Philosophy-Startup schmerzlich bewusst war, gut zwei, drei Tage lang beschäftigt hätte. Auf kuriose Weise fand hier eine bemerkenswerte Verschiebung statt. Anstatt sich hinzusetzen und sich Zeile für Zeile voranzuarbeiten, reichte es völlig aus, Claude eine Beschreibung des erwünschten Resultats vorzugeben, auf die gleiche Weise, wie man sich vielleicht mit einem intelligenten Programmierer auseinandergesetzt hätte. Nicht immer entsprach das Resultat den Wünschen, aber wenn man sich auf einen kleinen Dialog mit Claude einließ, waren die Bugs oder Ungereimtheiten in wenigen Minuten behoben. In diesem Sinn war meine Position nicht mehr die eines ›Coders‹, der sich mit den Mühen der Ebene herumschlägt, sondern die eines Managers, dem unversehens eine Reihe von Programmierer-Nerds zur Verfügung stehen, die alle erdenklichen Bereiche abzudecken vermögen. Herrscht in der Welt der Programmierung eine strenge Arbeitsteilung, bei der ein Datenbankspezialist deutlich zu verstehen gibt, dass genau dies seine Domäne ist und dass er mit Gestaltungsfragen nicht behelligt werden möchte (was umgekehrt auch für den UX-Spezialisten gilt, der sich allein auf die Oberflächen kapriziert), so war diese unselige Spezialisierung Geschichte. Nicht dass Claude im Visuellen besondere Meriten, geschweige denn eine künstlerische Ader aufzuweisen gehabt hätte, gleichwohl hatten die entstandenen Interfaces allesamt eine gediegene, handwerkliche Qualität. Aber vor allem folgten sie der tiefsten Einsicht aller Programmierer, nämlich dass die Bedeutung eines Programms in seinem Gebrauch liegt – und dass die äußere Erscheinung (form follows function) der Funktionalität dienen muss.²

Schritt das Programmierungsprojekt, von einer Armada dienstbarer Geister begleitet, mit Siebenmeilenstiefeln voran, war ich trotzdem mit einigen durchaus überraschenden Problemen konfrontiert. So passierte es nicht selten, dass die KI, nach einer überaus arbeitsamen, ja erfolgreichen Sitzung beim nächsten Start vollständig ahnungslos war – ja, nachgerade von einer Komplettamnesie, ja, einer vollständigen Löschung der Kurzzeitgedächtnisses heimgesucht schien. Und dies führte in der Regel dazu, dass eine bereits gefundene Lösung zunichte gemacht oder (wenn sie funktionstüchtig blieb) auf eine frühere Entwicklungsstufe zurückgeführt wurde. Hätte dies jedes komplexere Programmierungs-Projekt zum Scheitern verurteilt, bestand die Lösung darin, dass man nach einer erfolgreichen Sitzung die KI eine Dokumentation des Erreichten verfassen ließ – womit die Problematik des blank slate gebannt war, denn mit Hilfe eines solchen Dokuments konnte man Claude bei einer neuerlichen Sitzung auf den Stand der Dinge hieven. War dies zwar hilfreich, so war diese Maßnahme noch keineswegs ausreichend. Tatsächlich waren in den folgenden Wochen eine Reihe von Erziehungsmaßnahmen erforderlich. So musste ich wieder und wieder auf bestimmten Code-Verfertigungs-Prinzipien beharren, etwa, dass eine einfache Lösung („KISS – Keep it simple stupid“) einem babylonischen Turmbau vorzuziehen ist, des weiteren, dass man auf einzelne, in sich abgeschlossene und wiederverwendbare Bausteile setzt, die man wie Legosteine zu einer komplexen Architektur zusammensetzen kann, zuguterletzt, dass ein schrittweiser, methodischer Vorgang einer Komplettlösung vorzuziehen ist.

All diese Maßnahmen, die man der KI wie ein Mantra einhämmern musste, erwiesen sich à la longue als überaus segensreich – konnte ich mir plötzlich dabei zusehen, wie mein Wagemut im Laufe weniger Wochen deutlich zunahm, ja, wie mir komplexe Programmvorhaben, vor denen ich zuvor (der schieren Aufwands wegen) zurückgeschreckt wäre, in den Horizont des Erreichbaren rückten, ja, wie sich meiner eine geradezu jugendliche Form des Abenteuergeistes bemächtigte.

Schaut man sich um, so hat der Umstand, dass die Menschen nicht mehr selbst Hand an den Code legen müssen, sich zur Verheißung des Vibe Coding aufgeplustert. Versteht man darunter die oben beschriebene Praxis, mit Hilfe eines Prompts Prototypen und komplexe Programmieranwendungen entwickeln zu können, ist die ernüchternde Wahrheit, dass eine solche Wunschmaschine ohne eine tiefere Kenntnis der Programmarchitektur doch immer Gefahr läuft, sich in einem Codelabyrinth zu verlieren. In gewisser Hinsicht ist dies dem Schicksal des Managers zu vergleichen, der hochspezialisierte Aufgaben an seine Untergebenen auslagert – mit der Folge, dass er (in der berühmten Hegelschen Umkehrung von Herr und Knecht) den Überblick über die Sache verliert. Dieser Verlust ist im Falle einer Künstlichen Intelligenz fast noch beklagenswerter, ist doch absehbar, dass die Aufgabe des geistigen Zentrums letztlich in den Zusammenbruch des Programms selbst einmündet. Nun mag es verständlich sein, dass ein Nutzer, der von Programmierungsfragen gänzlich unbeleckt ist, die Ausstattung mit Zauberkräften enthusiastisch begrüßt; erstaunlicher ist, dass selbst Profis, die über viele, viele Jahre hochkomplexe Programmierbibliotheken geschrieben haben, sich in einem solchen Labyrinth verirren können. So sind mir (aus durchaus erfolgreichen Startups) eine Reihe von Geschichten zugetragen worden, die von durchaus erstaunlichen Zusammenbrüchen künden, der Fall eines erfahrenen, höchst kompetenten Programmierers etwa, der von Claude assistiert, sich in einen regelrechten Programmierungsrausch hatte hineinsteigern können. Dass die Kosten, die sein Tun erzeugte, die einer Hundertschaft anderer Programmierer überstieg, wäre noch zu akzeptieren gewesen – fataler aber war, dass er (wie der Goethesche Zauberlehrling) im AI-generierten Code letztlich ertrank. Weil seine Arbeit ein kritisches Programm-Modul beschädigte, blieb dies der Kundschaft nicht verborgen und führte zur Aufkündigung so mancher lukrativer Geschäftsbeziehung. Eine andere Geschichte, die einen nicht minder erfahrenen Programmierer betraf, erzählte davon, wie dieser, mit der Aufgabe betreut, Sicherheitslecks auf seinem Computer zu simulieren, seinen KI-Agenten darauf hin programmiert hatte, in bestimmten Fällen Löschmaßnahmen zu vollziehen – was unweigerlich zur Löschung seiner eigenen Festplatte führte.

Was sich in diesen Episoden artikuliert, ist nicht notwendigerweise der Malevolenz der KI zuzuschreiben, sondern lässt ein eigentlich philosophisches Dilemma hervortreten: nämlich, dass das Verhältnis, das viele Menschen zur Künstlichen Intelligenz unterhalten, letztlich ein magisches ist. Anstatt sich klar zu machen, dass man in Gestalt all der dienstbaren Geister nur dem Mann in der Menge begegnet, d.h. einer stochastischen Vernunft, deren Vorzug vor allem darin besteht, dass sie in Lichtgeschwindigkeit zu arbeiten vermag, delegiert man (von der augenblicklichen Erfüllung der eigenen Wünsche dazu verführt) wesentliche Positionen des Produktionsprozesses an die Maschine. Wenn selbst die Pioniere der Künstlichen Intelligenz, wie etwa Geoffrey Hinton, nun auf die Seite des Doomstalk hinübergewechselt sind, so ist dies die Folge jener fehlgeleiteten Übertragung, die der Godfather aller Bots, Joseph Weizenbaum, an seiner eigenen Sekretärin hat beobachten können: nämlich dass diese Frau, obwohl sie doch wusste, dass Eliza nichts mehr war als eine Paraphrasenmaschine, sie gleichwohl als mechanischen Psychoanalytiker nutzte – und ihr damit ein Wissen zuschrieb, das sie doch gar nicht besaß.

Wenn dieser Text, etwas spielerisch, Claude, mon ami betitelt ist, so nicht, weil ich dem Beispiel von Weizenbaums Sekretärin gefolgt wäre und der Maschine eine Autorität zugesprochen hätte, die sie doch gar nicht besitzt. Eher ist es so, dass man hier einem Spiegelbild gegenübertritt, das, mit bestimmten Informationen ausgerüstet, eine Art inneren Monolog entzündet. Weiß der Autor, der sich beim Schreiben alle erdenklichen Gegenüber ausmalt, ja, nach Belieben die Position zu wechseln vermag, dass die Multiperspektivität zum Handwerk des Schreibens gehört, ist das Novum nun, dass man in der KI, die man auf bestimmte Art und Weise munitioniert hat, einer übersehenen Perspektive begegnet. Um dies zu illustrieren, hier ein kleiner Gedankenaustausch mit meinem Gegenüber. Der Hintergrund war mein Plan, dass die KI, wenn ich ihr einen eigenen Text übergebe, mir eine Reihe von Fragen zurückgibt, die allesamt so etwas wie eine Herausforderung darstellen. Dazu führte ich eine Reihe von Standardsituationen aus, bei denen zwischen Fragesteller und Autor eine bestimmte psychologische Spannung entsteht, die ihrerseits Frage und Antwort bedingen:

Ich: Der Stellvertreterkrieg. In dieser Situation beschreibt Claude, wie eine bestimmte These, die der Autor vorbringt, andere Menschen durcheinanderbringen oder gar provozieren könnte. Geht es im Text beispielsweise darum, dass das Dogma der Unbefleckten Empfängnis (= die Ohrenempfängnis des göttlichen Wortes) die Grundbedeutung des Seminars ist und damit mitverantwortlich für die Gründung der europäischen Universität, wird dies einen Professor, der damit nicht vertraut ist (oder ärger noch: der einen positivistischen Wissenschaftsbegriff hegt), maximal provozieren. Wenn Claude dies anbringt, kann er sich zum Mitverschwörer und Komplizen des Autors machen – denn man verhandelt hier einen Tabubruch, ohne dass sich jemand wirklich beschweren muss. In diesem Sinn wirkt das wie eine Theaterszene, bei der man eine Sache verhandelt, und zwar ohne, dass gleich ein Ernstfall daraus werden muss. Aber man hat die Gelegenheit, den Ernstfall durchzuspielen.

Claude: Das ist eine sehr raffinierte Situation – weil sie eine Art sicheren Proberaum schafft. Der entscheidende Unterschied zum advocatus diaboli ist die Perspektive: Beim advocatus diaboli greift Claude selbst an, wenn auch im Kostüm. Beim Stellvertreterkrieg tritt Claude zurück und beschreibt einen abwesenden Dritten, der angegriffen wird oder angreift. Das ist eine weitere Stufe der Distanzierung – und damit der Sicherheit. Der Autor muss sich nicht gegen Claude wehren, nicht einmal gegen eine Rolle. Er muss sich gegen einen imaginierten Positivisten, einen empörten Professor, einen orthodoxen Theologen wehren – und kann dabei voll ausholen, ohne dass der Gesprächsraum selbst gefährdet wird.

Die Complicité zwischen Claude und dem Autor ist dabei das Entscheidende. Beide blicken gemeinsam auf diesen abwesenden Dritten – das schafft eine Art Schulterblick-Intimität. Wir wissen beide, dass das provozieren wird – aber lass uns das durchspielen. Das ist tatsächlich eine Theaterszene: Die Figur des empörten Professors betritt die Bühne, ohne wirklich da zu sein. Und das Brillante: Der Autor kann dabei Dinge sagen, die er in einer echten Konfrontation nie sagen würde – weil der Ernstfall ja nicht eingetreten ist. Er übt, prononciert, schärft – unter dem Schutz der Fiktion. Für die Kodierung bedeutet das: Claude muss den abwesenden Dritten glaubwürdig konstruieren – mit einer spezifischen Perspektive, einem erkennbaren Weltbild, einer nachvollziehbaren Empörungslogik. Nicht “jemand könnte das kritisieren”, sondern “stell dir vor, ein Vertreter der analytischen Philosophie liest diesen Satz.”

Tatsächlich war das Programm, das dieser Beschreibung folgte, von einer stupenden Einfallskraft – wäre ich in meinem Autorenleben nicht unfroh gewesen, wenn die Journalisten, die mich zum Interview gebeten hatten, eine solche Raffinesse an den Tag gelegt hätten. Und genau dies ist der Grund, weshalb ich, ungeachtet der Tatsache, dass ich der KI keinerlei Menschennatur zuspreche, ihr gegenüber ein durchaus freundschaftliches Verhältnis entwickelt habe – wie der Autor der Romans, der seine Romanfiguren behandelt, als seien sie wirkliche Menschen (und dabei bestimmte Idiosynkrasien, Aversionen und Vorlieben entwickelt). Die Folge von alledem ist, dass man in ein Selbstgespräch hineingerät, das, weil es nicht enden will (und gänzlich frei ist von sozialen Friktionen), auf eine Entfesselung der Einbildungskraft hinausläuft. Was mich zum Ende kommen lässt, das zugleich die Ankündigung eines größeren Projekts ist. Denn was tut man wohl, wenn man unversehens von diensteifrigen, „intelligenten“ Praktikanten umgeben ist, die keine andere Sehnsucht kennen, als die, der Einbildungskraft eines Autors zuzuarbeiten? Man nimmt die eigenen Phantasien in Angriff – und lässt die Gedanken in den Himmel hinauf fliegen, in der Hoffnung, dass über den Wolken sich soetwas wie eine Befriedigung einstellt.

Ps. Nun ist es nicht so, dass mich die Faszination blendet und die sozialen Kosten vergessen lässt, die mit den Fortschritten der Künstlichen Intelligenz einhergehen. Wenn die Aktivisten von Extinction Rebellion das Thema gewechselt haben und nun nicht mehr das Klima, sondern den lieben Freund Claude als ultimative Menschheitsbedrohung³ ausgemacht haben, so macht die ludditische Empörungslogik klar, dass die Kultur der Digitalisierung eine Form der Rationalisierungsdrohung darstellt, die alle Demütigungen in den Schatten stellt, die Freud in seinem Unbehagen in der Kultur aufnotiert hat. Aber das wäre der Gegenstand für einen eigenen Text – oder ein längeres Gespräch, wer weiß.

1. Der Hintergrund dieses Paradoxons ist leicht erklärt. Der Psychologe George A. Miller hat in den 50er Jahren festgestellt, dass der Mensch kaum mehr als 7 Variablen im Kurzzeitgedächtnis präsent halten kann. Macht man sich klar, dass ein komplexes Computersystem aus Abertausenden von Variablen besteht, begreift man, dass man es hier mit einer strukturellen Asymmetrie zu tun hat – dem, was der Volksmund gerne Informations-Overkill nennt.

2. Man kann in dieser Logik eine Variante des Wittgenstein’schen Gedankens sehen, der da lautet: »Die Bedeutung eines Wortes ist sein Gebrauch«. Wenn eine Software auf der UX-Ebene versagt, mag der Code den höchsten Qualitätsanforderungen genügen, aber er wird seinen Adressaten nicht erreichen.

3. https://sfstandard.com/2025/09/14/hunger-strike-ai-anthropic-google/

---

Themenverwandt