Die KI wird uns Menschen in vielen Arbeitsbereichen entlasten. Wir werden mehr Freizeit haben, weil lästige Aufgaben wegfallen. Endlich können wir uns ungestört sinnstiftenden Tätigkeiten zuwenden und unser kreatives Potential voll ausschöpfen.
Wir haben diese und ähnliche Aussagen schon in vielen anderen Zusammenhängen vernommen. Immer wenn es darum geht uns den Fortschritt schön zu reden und neue Technologien als einen Gewinn für alle zu verkaufen, werden wir mit solchen Phrasen eingedeckt. Die Menschen am Beginn des Maschinenzeitalters hörten diese Sätze. Als die Fließbänder laufen lernten waren sie zu hören. Das Computerzeitalter wurde mit solchen Aussagen eingeleitet. Und nun am Beginn des Zeitalters der künstlichen Intelligenz wird versucht uns mit denselben Behauptungen für das einzunehmen, was auf uns zukommt.
Die Argumente
Angesichts dessen, dass die jeweiligen Veränderungen der Arbeitswelt mit der Unerbittlichkeit des Schicksals über uns hereinzubrechen pflegen und wir zu keinem Zeitpunkt in der Lage sind, dem auch nur irgendetwas Wirkungsvolles entgegenzusetzen, kann man sich die Frage stellen, weshalb dieser argumentative Aufwand von den Initiatoren der Transformation überhaupt betrieben wird. Warum will uns die Industrie weismachen, dass wir die Profiteure der Segnungen der neuen Technologie sein werden?
Ein Grund dafür ist mit Sicherheit ein politischer. In einer Demokratie muss die öffentliche Meinung zumindest über den Anschein eines Diskurses gebildet werden. Die öffentliche Meinung hat letztendlich Einfluss auf die Entwicklung der gesetzlichen Rahmenbedingungen für die Transformation der Arbeitswelt und kann daher nicht völlig ignoriert werden.
Ein anderer Grund liegt darin, dass sich die Implementierung der neuen Technologie nicht von selbst erledigen wird. Es werden Menschen dafür gebraucht, die sich auf die Transformation einlassen, besser noch, freudig daran mitwirken mitunter ihren eigenen Arbeitsplatz abzuschaffen. Man muss uns also von den Segnungen der neuen Technologie überzeugen, um den Prozess starten und vorantreiben können.
Ein dritter und vielleicht der wichtigste Grund besteht darin, dass die Menschen in den neuen Gegebenheiten einen Sinn erkennen müssen. Wenn die Transformation von denen, die davon betroffen sind, nicht verstanden wird, bleibt sie fremd. Die Veränderung muss von den Menschen angenommen werden, zumindest wie ein neues Leiden, an das man sich schon noch gewöhnen wird.
Der Eintritt der sogenannten künstlichen Intelligenz in unser aller Leben ist in vollem Gange. Und wir sind und werden auf mannigfaltige Weise davon betroffen sein, auch wenn wir das noch nicht zur Gänze realisieren. Die Menge der Abhandlungen, die sich der Thematik widmen, ist kaum noch übersehbar. Die KI und ihre Auswirkungen werden in jeder Hinsicht und auf jede denkbare Weise erforscht und debattiert. Ich möchte hier lediglich eine Art Kosten-Nutzen-Bewertung anstellen, die Verlust und Gewinn im Hinblick auf das Humankapital ausweist und vor allem klärt, wer Ersteren zu tragen hat und wer Letzteren einstreicht.
Worum geht es?
Das Versprechen lautet: Vor allem die Geistesarbeiter werden durch die künstliche Intelligenz an ihrem Arbeitsplatz entlastet werden. Zeitverschlingende Tätigkeiten, wie das Recherchieren von Inhalten, das Interpretieren von Zusammenhängen oder das Formulieren von Texten, aber auch das Treffen von validen Entscheidungen können von nun an der KI überantwortet werden.1 Es geht also nicht mehr nur um eine Erleichterung in der Datenverarbeitung, wie sie uns der Einsatz von Computern bereits ermöglicht, sondern um das Herstellen von Sinn und Bedeutung in einem jeweils spezifischen Kontext. Die KI soll also an unserer Stelle denken. Sollten wir zögern diesen radikalen Schluss zu ziehen, müssen wir uns lediglich fragen, wozu eine Intelligenz denn sonst befähigen sollte, wenn nicht zu einem Denken.
In einigen rezenten Arbeiten zur künstlichen Intelligenz, ihrer Fähigkeiten und Auswirkungen wird der Begriff der Intelligenz gerne wegrelativiert. Man spricht dann davon, dass es der KI nicht nur an Intentionalität, sondern eben auch an einem Körper fehle und dass sie daher bestimmte Erfahrungen gar nicht machen und diese auch nicht in ihre Berechnungen miteinbeziehen könne. Infolgedessen verfüge sie weder über eine emotionale, noch über eine soziale Kompetenz. Das lässt sich zum heutigen Zeitpunkt keineswegs abstreiten. Wir müssen uns aber die Frage stellen, wie weit es mit dieser Einschränkung her ist, wenn wir die KI in immer mehr Lebensbereichen nutzen ohne diese Einschränkungen zu bedenken. Der Moment, in dem wir die von der KI getroffenen Aussagen und Urteile annehmen, bestätigt jedenfalls, dass wir diese Einschränkungen ignorieren und unser Denken gegen eine Wahrscheinlichkeitsbewertung, wie sie die KI vornimmt, eintauschen.
Vom Denken zum Sprechen
Die Entlastung betrifft also eine ganz bestimmte kognitive Tätigkeit, die wir als genuin menschlich betrachten. Aber heißt das, dass wir mit dem Auftritt der KI das Denken nun endgültig einstellen können? Im Hinblick auf die aktuellen LLMs würde ich diese Frage noch mit einem Nein beantworten. Eine der Erleichterungen, die die Large Language Models mit sich bringen, besteht darin, dass wir mit der Maschine nicht mehr in ihrer Sprache sprechen müssen, sondern in unserer Sprache sprechen können. Die Eingabe kann damit auf rein semantische Weise erfolgen, d.h. wir müssen dabei keine Maschinen-Syntax mehr berücksichtigen. Oberflächlich betrachtet stellt es sich uns zumindest so dar.
Wenn wir beim Prompten aufs Denken auch nicht verzichten können, so bringt diese Art der Eingabe doch ein erhebliches Maß an Bequemlichkeit mit sich, da wir mit der Maschine sprechen können, wie uns der Schnabel gewachsen ist. Die Bequemlichkeit besteht darin, dass wir uns nicht mehr präzise ausdrücken müssen, um sinnvolle Ergebnisse zu erhalten. Bis zu einem gewissen Grad entkräftet das die bislang für unumgänglich gehaltene GIGO-Regel.2 Beim Sprechen nicht mehr präzise sein zu müssen, bedeutet, auch beim Denken nicht mehr präzise sein zu müssen. Und das bedeutet, dass wir als Operatoren letztendlich kein dezidiertes Fachwissen mehr benötigen, um sinnvolle Ergebnisse zu produzieren.
Das Denken wird also nicht ersatzlos gestrichen und durch eine rein maschinelle Geste ersetzt. An seiner Stelle erhalten wir so etwas wie ein Sprechen. Dieses maschinelle Sprechen ist immer noch an ein menschliches Sprechen gekoppelt. Und zwar durch die Bezugnahme auf einen Prompt, der in actu die Stelle unseres menschlichen Sprechens einnimmt und auf ein in Schriftform vorliegendes, menschliches Sprechen zurückgreift, das im Archiv des Internet niedergelegt ist. Genau genommen können wir hier also nur eine Tendenz ablesen, das Denken langfristig durch ein bloßes Sprechen zu ersetzen. Auf der Eingabeseite wäre dann nurmehr ein Sprechen nötig, das bestenfalls von einem deprivierten Denken begleitet wird und das Schrifttum des Internet wäre irgendwann um das ursprünglich menschliche Sprechen bereinigt. Die Wissenskorrespondenz würde dann vollständig maschinell, da nur noch zwischen zwei Schriftkomplexen, erfolgen. Doch wir wissen, was wir von einer Tendenz zu halten haben. Während sie uns mangelnde Finalität vorspiegelt, kann eine Tendenz für uns Menschen immer auch Ausdruck einer Neigung sein. Und eine solche greift bekanntlich im Hier und Jetzt.
Immerhin kann das Denken noch nicht vollends zugunsten eines bloßen Sprechens aufgegeben werden. Zur Zeit ist für ein effizientes Prompten noch einiger Sachverstand vonnöten. Experten in ihrem Fach, also Leute, die neben Fachkenntnis auch den zugehörigen Jargon drauf haben, generieren etwa beim Vibe Coding deutlich bessere Ergebnisse als ihre nicht ganz so versierten Kollegen.3 Wie lange es noch dauern wird, bis der unqualifizierte Laie mithilfe künstlicher Intelligenz in der Lage sein wird, Ergebnisse zu erzielen, die den Anforderungen der Produktion genügen, lässt sich nicht absehen. Wir können allerdings davon ausgehen, dass es irgendwann dazu kommen wird, denn darin liegt im engeren Sinne das Gewinnversprechen der Transformation.
Halten wir fest, dass der neue Workflow zum Einen mehr Bequemlichkeit für den Anwender bietet und zum Anderen die Ergebnisse nurmehr den Anforderungen der Produktion genügen müssen und nicht mehr einem persönlichen oder epistemologischen Anspruch.
Vom Sachverstand zum Hausverstand
An diesem Punkt müssen wir eine wichtige Differenzierung vornehmen. Es wird immer einen Bereich geben, der sich nicht industrialisieren, d.h. der Produktionsseite zuschlagen lässt. Die Produktion wird stets von außen in Gang gesetzt und gesteuert. Wir finden dieses genuine Außen der Produktion zum einen im Expertenbereich. Dieser umfasst Forschung, Entwicklung und Planung. Wir können diesen Bereich auch als die Position des Wissens bezeichnen. Im kapitalistischen Diskurs handeln die Forscher und Ingenieure im Auftrag eines Initiators, der sich unschwer im Kapitaleigner erkennen lässt. Auch die Position des Kapitalisten ist der Produktion äußerlich. Marx spricht hier vom Herrn und seinem Knecht, der letztlich den Mehrwert produziert, den der Herr als Gewinn abschöpfen kann.4 Das ist alles hinlänglich bekannt.
Es ist wichtig zu beachten, dass die Position des Knechts, der das Wissen produziert, das nötig ist, um die Produktion in Gang zu setzen, auf eine recht banale Weise gespalten ist. Wir können darin einen Expertenbereich und einen Anwenderbereich unterscheiden. Die Industrialisierung ist von Anfang an dadurch gekennzeichnet, dass die Grenzlinie zwischen diesen beiden Bereichen von den Anwendern hin zu den Experten verschoben wird, und zwar in dem Sinne, dass der Anwenderbereich wächst und der Expertenbereich schrumpft. Gegenwärtig sind wir in diesem Prozess aber mit einer neuen Qualität konfrontiert. Anwender bekommen durch die KI-Unterstützung immer mehr Expertenaufgaben übertragen, die auch die Produktion von Wissen betrifft. D.h. nicht mehr nur der Bereich der Anwendung des erworbenen Wissens wird von reinen Anwendern bevölkert werden, sondern immer mehr auch die Herstellung des Wissens selbst. Man könnte den Vorgang als Ausdehnung der Produktion auf die Zone der Kreation bezeichnen. Wofür heute noch Sachverstand aufgebracht werden muss, nämlich für der Generierung unmittelbar verwertbaren Wissens, wird bald nurmehr ein durchschnittlicher Hausverstand nötig sein. Es darf bezweifelt werden, ob der Hausverstand die richtige Instanz ist, weitreichende Entscheidungen für alle unsere Lebensbereiche zu treffen.
Die versprochene Entlastung entpuppt sich als Verschiebung der Aufgaben. Die Wissensproduktion wird zukünftig zu einem immer größeren Teil von Sachverständigen abgezogen und in die Hände von Hausverständigen gelegt. Das bringt Veränderungen sowohl auf der Input-Seite als auch auf der Output-Seite des Prozesses der Wissensproduktion mit sich. Man wird schließlich nurmehr einen durchschnittlichen Hausverstand aufwenden müssen, um die richtigen Fragen zu formulieren und die richtigen Antworten erkennen zu können.
Für den Input bedeutet das, dass wir nicht mehr allzu tief in die Materie eindringen müssen, um valide Frage stellen zu können. Valide Fragen im Hinblick auf die Produktionsziele, wohlgemerkt. Die Bequemlichkeit des Zugangs zum Denken durch bloßes Sprechen wird uns dazu verleiten selbst letzteres irgendwann zur Gänze der KI zu überantworten. Um die Gefahren dieser Abtretung von Kompetenz zu erkennen, müssen wir nicht warten bis unser Sprechen auf ein Plappern herabgesunken sein wird, das einer künstlichen Intelligenz genügt unsere Wünsche zu erfassen. Wir müssen nicht erst Idioten werden, um das Moment der Selbstaufgabe zu erfahren. Wir können das, wenn wir es denn wollen, schon jetzt sehen.
Inflation des Wissens
Eine der Gefahren, die auf uns zurollen, kann in der Inflation des Wissens ausgemacht werden. Wir dürfen nicht übersehen, dass die KI aus dem von uns Menschen bisher angelegten Wissenspool schöpft. Das durch die KI erzeugte Wissen wird dann quasi thesauriert, das heißt seinerseits zum bestehenden Menschheitswissen hinzugefügt, das sich dadurch natürlich verändert. Das veränderte, d.h. um die Wahrscheinlichkeitsprognosen der KI erweiterte Wissen, wird auf lange Sicht an Verbindlichkeit und Akkuratheit verlieren. Daraus ergibt dich die Frage, wie weit wir es dulden können, in der Wissensproduktion vom Wahrheitsziel abzurücken und uns mit Wahrscheinlichkeiten zu begnügen. Nun ist die Wissenschaft an sich ein Feld vorläufiger Gewissheiten. Ein wesentlicher Antrieb für die Wissenschaft besteht aber darin, gerade diese Vorläufigkeit aufheben zu wollen. Werden wir diesen Antrieb auch weiterhin in ausreichendem Maße verspüren? Anders gesagt, werden wir neben dem nötigen Wissen auch den nötigen Willen haben, die richtigen Fragen als Input zu formulieren?
Was die Output-Seite betrifft, sind wir mit ähnlich weitreichenden Veränderungen konfrontiert. Dort sind unsere kognitiven Fähigkeiten bei der Beurteilung der von der KI gelieferten Ergebnisse gefragt. Denn diese müssen von einem Menschen mit Sachverstand in einen Wahrheitsbezug gesetzt werden, wenn wir von unserem Anspruch nicht abrücken wollen, verbindliche Aussagen zu treffen. Was für die Beurteilung der Resultate einer gewöhnlichen Web-Recherche vielleicht noch selbstverständlich ist, scheint im Hinblick auf die Resultate, die die KI liefert nicht mehr nötig zu sein. Die Menschen neigen dazu die von der KI gelieferten Antworten in der Regel ohne Prüfung hinzunehmen. Anders ausgedrückt: Wir beurteilen die KI-Resultate zunehmend mit unserem bloßen Hausverstand. D.h. wir werden dazu verführt ein falsches, da nicht adäquates Denken in der Urteilsbildung zur Anwendung zu bringen.
Korrumpiertes Urteil
Denn das Gesprochene der KI ist natürlich kein Ergebnis eines Denkens, in dem die Qualia eines Sachverhalts verhandelt werden. Obwohl uns unsere Neigung zur Hypostasierung etwas anderes weismachen will, haben wir es bei der KI keineswegs mit einem Subjekt zu tun, in welchem alle Aspekte des Gegebenen, einschließlich seiner eigenen, zu einer Vorstellung verarbeitet werden. Kognition im Sinne einer Apperzeption findet nicht statt, weil die KI noch nicht das Bewusstsein erlangt hat. Der Stellenwert der Semantik in der Anwendung verhüllt, dass der Prozess immer noch zur Gänze auf syntaktischer Ebene abläuft. Die qualifikatorischen Fähigkeiten der rezenten KI-Modelle entspringen allein einer statistischen, also quantifikatorischen Bewertung. Der qualifikatorische Anschein ergibt sich für uns daraus, dass die Aussagen der KI einen Sinn vermitteln. Ihr Zustandekommen verdankt sich jedoch keinem Verstehen, d.h. sie haben keine Bedeutung und damit auch keinen Wahrheitsbezug.5 Ich verwende die Begriffe Sinn und Bedeutung hier nach Gottlob Frege. In seiner Semiotik steht der Sinn für die Art und Weise der Gegebenheit eines Ausdrucks und die Bedeutung für den Wahrheitsbezug desselben. Die KI spricht, aber sie denkt nicht. Die Annahme, dass unser Denken zugunsten eines bloßen Sprechens suspendiert werden kann, weil auf Seiten der KI ein Denken stattfindet, könnte unsinniger nicht sein.
Sehen wir uns das Sprechen der KI, das wir allzu leicht mit einem Denken verwechseln, näher an. Soviel steht fest: Wir befinden uns mit der KI in einer Gesprächssituation. Und wir wissen, dass die Wechselseitigkeit des Gesprächs ganz generell etwas mit uns macht. Das ist auch dann der Fall, wenn die Rede des Menschen auf die künstliche Rede der KI trifft. Nun konnte man am Sprechen immer schon kritisieren, dass es ein uneigentliches sei, wenn es aus einem uneigentlichen Denken erwächst. Es hat den Anschein als würde einen die KI nur noch tiefer in die Uneigentlichkeit des Man, so wie es von Heidegger verstanden wurde, hineinstoßen.
Entwertung des Sprechens
Die Annahme, dass wir mit der KI in unserer Sprache sprechen können, ist nicht ganz richtig. Tatsächlich müssen wir unser Sprechen auch hier an die Maschine anpassen, aber eben nicht sehr stark. Im Vergleich dazu hat etwa die Kommunikation via Social Media einen viel stärkeren Einfluss auf unser Sprechen und daher auch auf unser Denken. Man ist sogar versucht zu sagen, die Kommunikation mit einer KI würde uns zu einem Sprechen bringen, das nicht mehr nur Selbstzweck oder Informationsübermittlung ist, das nicht mehr nur Sinn produziert, sondern auch eine Bedeutung hervorbringt. Wenn es denn stimmen würde, dass wir bei Prompten sinnvolle Aussagen produzieren, die dann von der KI in valide Bedeutungen transformiert werden. Tatsächlich ist die KI völlig außerstande den geforderten Wahrheitsbezug herzustellen. Was die KI liefert sind ihrerseits bloß mehr oder weniger sinnvolle Aussagen. Soll ein Wahrheitsbezug hergestellt werden, muss sich ein Mensch dazu bequemen, den Sinn, den die KI produziert, einer qualifikatorischen Bewertung zu unterziehen. Nun verhält es sich in der Praxis vielfach so, dass uns das eloquente Sprechen der KI dazu verleitet unserem Hang zur Bequemlichkeit nachzugeben und das künstliche Sprechen als Ergebnis eines Denkens misszuverstehen. Wir nehmen die Aussagen der KI gerne als verbindlich hin. Doch das sind sie nicht. Was dabei geschieht, ist, dass wir bedenkenlos ein bloßes Für-wahr-Halten in den Erkenntnisprozess integrieren.
Enteignung von Sachkompetenz
Der Verzicht auf Urteilsbildung kommt einer Enteignung von Sachkompetenz gleich. Enteignet wird dabei jene Gruppe von Menschen, die sich um echte Erkenntnis bemüht und diese zu vermitteln versucht. Das kompetente Sprechen wird entwertet. Jeder beliebige Hausverständige kann dann über etwas sprechen von dem er keine Ahnung hat, denn man geht davon aus, dass die künstliche Intelligenz an seiner Stelle eine solche haben wird. Eine nicht qualifizierte Gruppe kann sich das Sprechen aneignen und dadurch zu einer Selbstermächtigung gelangen, die sie bis dahin nicht erreichen konnte. Nämlich jene Gruppe, die des Sprechens nicht mächtig ist, weil sie aufgrund fehlender Bildung eines spezifischen Denkens nicht mächtig ist. Um zu sprechen ist fortan kein Sachverstand mehr nötig. Wenn kein Sachverständnis mehr gefragt ist, wird es schließlich verschwinden.
Der Wahrheitsbezug muss nach wie vor von uns Menschen beigebracht werden. Die Ergebnisse, die die KI liefert, verlangen eine qualifikatorische Bewertung, wenn sie nicht nur Sinn machen, sondern sich darüberhinaus auf eine Wahrheit beziehen sollen. Die Aussagen müssen einer Art Qualitätskontrolle unterzogen werden, in der wir feststellen, ob wir sie für wahr halten können oder nicht. Dabei ist immer noch kompetentes Denken gefragt. Das Sprechen der KI muss also vom Denken eines Menschen eingehegt werden, wenn man nicht Gefahr laufen will in die Irre geführt zu werden. Während auf der Input-Seite ein nicht qualifiziertes Sprechen Platz greift, geht am anderen Ende des Erkenntnisprozesses die Urteilsbildung flöten. Genau genommen dürfen wir die Tätigkeit der KI nicht als Erkenntnisprozess im engeren Sinne bezeichnen. Noch einmal: Was die KI macht, ist, Aussagen nach dem Kriterium der Wahrscheinlichkeit zu generieren.
Das soeben skizzierte Szenario ist noch nicht vollständig Wirklichkeit geworden. Es gibt sie noch, die Sachverständigen, die in der Lage sind die richtigen Fragen an die KI zu richten und deren Antworten zu beurteilen. Aber die Zeichen stehen schlecht. Worauf wir bestenfalls zusteuern, lässt sich mit der Umkehrung eines bekannten Spruches auf den Punkt bringen: Vormals hieß es, man solle erst denken und dann sprechen. Nun etabliert sich ein neuer Modus, in dem es gilt erst zu sprechen und dann zu denken, wenn sich der Aufwand denn lohnt und wir nicht zu bequem dafür geworden sind.
Differenzierung der Gewerke der Wissensproduktion
Was bedeutet es, dass die KI für die Bildung ihrer Wahrscheinlichkeitsurteile das Informationsgerümpel des Internets heranzieht? Es bedeutet, dass das künstliche Wissen, das die KI vorgibt zu produzieren, aus einem Gemisch an validen Informationen und volatilen Meinungen erwächst. Nun existieren zwei unterschiedliche Vorgangsweisen, wie man mit dieser prekären Ausgangssituation umgeht. Die wissenschaftliche Vorgangsweise versucht die Quellen zu reinigen, indem sie die KI ausschließlich mit relevanten Daten trainiert. Darüberhinaus ist es der Wissenschaft möglich die Ergebnisse, die die KI liefert, anhand bereits gesicherten Wissens abzugleichen. Die profane Vorgangsweise tut nichts dergleichen. Sie vertraut darauf, dass sich die KI bei der Bildung ihrer Wahrscheinlichkeitsurteile zu einem größeren Teil auf valide Informationen bezieht und nicht bloß Meinungen reflektiert, die von einem völlig willkürlichen Lesenschreiben stammen. Gemeint ist damit die Meinungsbildung auf Basis publizierter Meinungen, die dann ihrerseits in die Meinungsproduktion mündet usw. Dieses völlig unangebrachte Vertrauen ist es dann auch, das uns dazu verleitet, auf die Überprüfung der Ergebnisse zu verzichten. Wenn man das Werkzeug der künstlichen Intelligenz sinnvoll nutzen möchte, darf man sich dieser Bequemlichkeit nicht hingeben. Den Entwicklern der KI und den Wissenschaftlern, die die KI nutzen, ist das klar – den allgemeinen Anwendern offenbar nicht.
Das Gefälle
Ich frage mich, worin die versprochene Entlastung im Arbeitsprozess bestehen soll. Strenggenommen haben wir es hier bislang doch nur mit einer Verschiebung des Zeitpunkts zu tun, an dem kompetentes Denken gefordert ist. Auf Geistesarbeitnehmerseite dürfte demnach in Summe keine Entlastung innerhalb des Prozesses stattfinden. Die Anforderungen ändern sich. Sie werden aber nicht unbedingt geringer – so hat es den Anschein. Sie setzen nur zu einem anderen Zeitpunkt im Prozess ein. Die Praxis zeigt jedoch etwas völlig anderes.
Das Versprechen lautet nämlich, dass mithilfe der künstlichen Intelligenz keine Fachkräfte mehr nötig sein werden, um ein valides Sprechen zu generieren oder Entscheidungen zu treffen. Für den Arbeitnehmer findet die „Entlastung“ daher bereits im Vorfeld auf der Ausbildungsseite statt. Für das Unternehmen, das KI-Anwendungen in seine Prozesse implementiert, ergibt sich damit vordergründig eine Entlastung bei den Lohnkosten, weil weniger qualifiziertes Personal eingestellt werden muss. Wir sind aktuell Zeugen, wie dieses Versprechen sukzessive eingelöst wird, aber noch nicht vollständig erfüllt wurde. Man befindet sich noch in der Investitionsphase. Die Implementierung – etwa das Training der KI in bestimmten Settings – verlangt teils enormes Fachwissen. Aber auch der Aufwand, der zur Zeit noch in der Qualitätskontrolle betrieben werden muss, ist sehr hoch. Und er ist umso höher, je geringer die Qualifikation der menschlichen Operatoren ist. Der Wahrheitsbezug realisiert sich in einem wirtschaftlich ausgerichteten Betrieb in der Bilanz und die lässt sich nicht mit bloß sinnvollen Vorspiegelungen verbessern. Wir dürfen niemals aus den Augen verlieren, dass alle Maßnahmen, mit denen die Transformation vorangetrieben wird, einer betrieblichen Kalkulation unterstehen.
Stellen wir uns kurz vor, das Sprechen der KI fällt irgendwann vernünftiger aus, als das Sprechen der Experten, welches aus einem kompetenten Denken erwächst. Die Vorstellung ist keineswegs so abwegig, wie sie vielleicht scheinen mag. Schon jetzt hat die KI im Bereich der KI-gestützten Expertensysteme die Nase bisweilen vorn. Um ein Bespiel zu nennen: Ein KI-Modell mit der Bezeichnung Aeneas, das auf lateinische Epigrafik trainiert wurde, lieferte jüngst bei einem Test deutlich bessere Resultate als eine Gruppe von etwa 20 Expertinnen.6 Zugegeben, ein KI-gestütztes Expertensystem beim Abschneiden in einem Fachbereich zu bewerten, ist im Hinblick auf die Qualität des Sprechens der KI wenig aussagekräftig, da sich der Vorteil der KI bereits aus der Bewältigung einer riesigen Datenmenge ergibt, die für einen Menschen unmöglich zu verarbeiten ist. Was wir an dem idealisierten Setting jedoch ablesen können, ist die Tendenz zur Marginalisierung des kompetenten Denkens. Selbst dort, wo das kompetente Denken noch entscheidend beteiligt ist – in der Entwicklung der qualifizierten Frage, die auf der Eingabeseite gestellt werden muss, sowie in Form der qualifizierten Evaluierung der Ergebnisse, die auf der Ausgabeseite zu erfolgen hat – wird dieses, im wahrsten Sinne des Wortes, an den Rand gedrängt, nämlich an den Rand des Erkenntnisprozesses.
Nebenbei bemerkt: Dieser Rand des Erkenntnisprozesses, an dem kompetentes Denken seine letzte Stellung bezieht, wird zu einem Ereignishorizont, hinter den wir nicht mehr blicken können. Auf welche Weise die KI ihre Erkenntnisse generiert, werden wir aus technischen und das heißt in diesem Fall aus prinzipiellen Gründen niemals erfahren können.7
Dieselbe Tendenz zur Marginalisierung des Denkens haben wir in der „gewöhnlichen“ Arbeitswelt zu gewärtigen. Was dort gerade vor sich geht, lässt sogar noch Schlimmeres befürchten. Das kompetente Denken wird an den Rand der Erkenntnis-, Entscheidungs- und Kommunikationsprozesse gedrängt, die ihrerseits undurchsichtig werden und eine Abwertung erfahren, die das Denken schließlich generell obsolet werden lässt.
Wir sind von diesem Szenario, wie gesagt, noch ein Stück weit entfernt, befinden uns aber bereits mitten in der Implementierung. Wir können davon ausgehen, dass der Traum der Unternehmen auf Fachkräfte verzichten zu können, eher früher, als später Wirklichkeit werden wird. Der Ausbildungsgrad der KI-Arbeiter muss dann weder spezifisch, noch außerordentlich hoch sein. Anders als in der ersten Industrialisierungsphase, als die Menschen an die Maschinenarbeit angepasst wurden, ist es nun jedoch die Maschine, die sich vordergründig an den Menschen und seine Unzulänglichkeiten anpasst. Dass diese Ansicht zu kurz greift, werde ich später beleuchten.
Der eigentliche Verlust oder der Verlust der Eigentlichkeit
Dem Gewinn steht immer ein Verlust gegenüber. Die Frage ist nur, wie sich die Erträge und die Lasten verteilen. Natürlich greift diese Rechnung auch auf der Ebene des Individuums. So viel steht fest, wir können einen persönlichen Nutzen aus der KI-Anwendung für uns ziehen. Wir selbst sind es aber auch, die auf dem Feld unserer Fähigkeiten enteignet werden. Wenn wir von dem sprechen, was uns durch die KI-Anwendung auf persönlicher Ebene genommen wird, dürfen wir nicht unerwähnt lassen, dass uns zugleich etwas gegeben wird. Doch wie sieht die Bilanz dieses Vorgangs tatsächlich aus? Wo profitieren wir und wo verlieren wir?
Eines steht fest: Es ist dieselbe alte, kapitalistische Bilanzrechnung, die die Implementierung der KI in den Produktionsprozess antreibt. Was das Humankapital betrifft, geht es schlicht um die Senkung der Lohnkosten.
Der Preis für die Senkung der Lohnkosten wird jedenfalls nicht allein auf dem Arbeitsmarkt bezahlt. Einmal mehr werden wir einen gesellschaftlichen Preis dafür zu zahlen haben. Denn wenn uns die Wirtschaft auf der Ebene des Faktischen vormacht, dass der Ausbildungsgrad und damit die Fähigkeit zu kompetentem Denken überbewertet sind, werden wir in unseren Gesellschaften bald mit der Ansicht konfrontiert sein, dass Bildung kein erstrebenswertes Gut mehr ist. Vor diesem Hintergrund erweisen sich die anti-aufklärerischen Tendenzen, die sich auf dem Feld der öffentlichen Meinung bereits jetzt auf das Erschreckendste abzeichnen, unzweifelhaft als Symptom.
Das alles hat nicht nur Konsequenzen für die Wissensgesellschaft, der man – manchmal vielleicht zurecht – ihre Abgehobenheit vorwirft. Wir müssen in der Entwertung der Bildung auch die politische Tangente erkennen. Erinnern wir uns daran, wie die Bildung zum Hebel für ein Bürgertum wurde, um der Entwicklung der Demokratie den Weg zu bereiten. Erinnern wir uns auch daran, wie die Bildung zum Hebel für eine Arbeiterschaft wurde, die sich gegen die Interessen ihrer kapitalistischen Ausbeuter stellte und durch die Einführung des allgemeinen Wahlrechts schließlich Mündigkeit erlangte. Bildung stellt offenbar eine conditio sine qua non für alle emanzipatorischen Bestrebungen und damit für den Motor der Demokratie dar. Wenn wir unsere Bildung allein daran ausrichten, eine Instanz zu bedienen, die an unserer Stelle denkt und spricht, betreiben wir unsere eigene Entmündigung, welche die Form der Enteignung im Zuge der Implementierung der künstlichen Intelligenz darstellt. In anderen Worten: Unser Denken wird dann irgendwann das Sprechen einer KI sein, dem es grundsätzlich an Wahrheitsbezug mangelt. Dass die KI ihrerseits manipuliert werden kann, ist in diese Rechnung noch gar nicht miteingepreist. LLMs werden von politisch agierenden Vektoralisten8 schamlos auf die Hintertreibung historischer Wahrheiten und die Verbreitung ihrer libertären Agenda ausgerichtet. Vor diesem Hintergrund erscheint das Versprechen einer Demokratisierung des Zugangs zu Wissen durch den Einsatz künstlicher Intelligenz als blanker Hohn.
Mensch und Maschine
Wenn wir eine Ahnung davon bekommen wollen, welche Auswirkungen diese Veränderungen auf unser Leben haben werden, lohnt es sich einen Blick in die Vergangenheit zu werfen. Denn womit wir beim Übergang vom Informationszeitalter zum Kommunikationszeitalter, dem wir soeben beiwohnen, konfrontiert sind, findet seine Vorzeichnung in zumindest drei anderen Übergangsphasen, die unsere Arbeits- und damit auch Lebenswelt massiv erschütterten. Welche diese sind, wird klar, wenn wir uns fragen, womit wir es hier eigentlich zu tun haben. Bei der Begegnung von Mensch und KI handelt es sich einmal mehr um eine Begegnung von Mensch und Maschine. Wir dürfen das nicht aus den Augen verlieren, auch wenn es bisweilen den Anschein haben mag, dass hier Mensch auf Übermensch trifft, wie uns ein gewisser Transhumanismus weismachen will.
Nun fanden diese Begegnungen keineswegs immer dann statt, wenn Menschen Maschinen entwickelten, um bestimmte Arbeitsvorgänge zu erleichtern oder zu verbessern. Die Maschine als Werkzeug ist zunächst völlig unverdächtig. Zu einer Begegnung kommt es erst, wenn nach dem Wesen der Maschine selbst gefragt wird.
Einer der ersten, der die Frage nach dem Wesen der Maschine stellte, war Thomas Hobbes.9 Angesichts der Komplexität einer Maschine überlegte er, ob darin nicht so etwas wie ein künstliches Leben am Wirken wäre. Das Entscheidende an dieser Betrachtung ist, dass in ihr die generelle Vergleichbarkeit des Menschen mit dem komplexen Mechanismus der Maschine etabliert wird. Halten wir fest, dass die Maschine hier ein erstes Mal zum Menschen gemacht wird. Die Vermenschlichung des Automaten ist ganz zweifelsfrei der Vorläufer rezenter Vorstellungen, die der KI Subjektstatus zusprechen.
Etwa ein Jahrhundert später kehrt sich diese Sichtweise scheinbar um. Für Julien Offray de La Mettrie10 ist der menschliche Körper selbst eine komplexe Maschine, die ihr Bewegungsmoment in sich trägt. Der Mensch wird hier ein erstes Mal zur Maschine gemacht. Das Besondere an dieser Vorstellung ist der Gedanke, dass die Entelechie keines ersten Bewegers mehr bedarf, der sie in Gang setzen würde. Alle rezenten Theorien, die von der Realisierbarkeit einer starken KI ausgehen, folgen dieser Ansicht, wenn sie darauf wetten, dass sich ein künstliches Bewusstsein auf dem Wege der Emergenz realisieren wird.
Solche Maschinenträume gewinnen nicht erst heute angesichts der Entwicklung einer Maschine, die das Denken selbst zu beherrschen vorgibt, eine praktische Bedeutung.11 Die großen Erfindungen, die die erste industrielle Revolution im letzten Drittel des 18. Jahrhunderts in Gang brachten, setzten jedenfalls auf einem neuen Maschinenverständnis auf, das eher konzeptioneller Natur war. Man begann damit den Prozess ins Auge zu fassen, der in den Maschinen ablief, um den Nutzen zu maximieren oder ganz und gar neue Anwendungsbereiche zu erschließen. Die auf Maschinen angewandte Prozessanalyse geht natürlich auf Überlegungen zurück, die sich mit der Arbeitsteilung in Produktionsprozessen beschäftigten.12 Große Popularität erfuhren solche Überlegungen zur damaligen Zeit nicht zuletzt durch die Rezeption von Adam Smiths epochalem Werk »Der Wohlstand der Nationen« von 1776. Smith konnte darin einen im Grunde kontraintuitiven Zusammenhang von Arbeitsteilung und Gewinnsteigerung nachweisen. Man stellte eine Verwandtschaft zwischen Arbeitsprozessen, Produktionsprozessen und dem Konzept einer Maschine fest. Man konnte solche Gedanken fassen, weil sich die Vorstellung der Vergleichbarkeit von Mensch und Maschine zu dieser Zeit – wie wir gesehen haben – längst etabliert hatte.
Die totale Ökonomisierung, die damit Einzug hielt, transformierte die Arbeitswelt der Menschen dauerhaft. Noch nie bis dahin hatte die Begegnung von Mensch und Maschine so tiefe Spuren in einer Gesellschaft hinterlassen.
Die Maschine ist im industriellen Produktionsprozess kein bloßes Werkzeug mehr, das in der Hand des Menschen liegt und Erleichterung bei einer Tätigkeit verspricht. Dieses Versprechen ist, wie gesagt, nur vorgeschoben. Nicht mehr der Arbeiter ist Nutznießer des Vorteils dieses Werkzeugs. Der Vorteil wandert auf die Seite des kapitalistischen Unternehmers, der das potenzierte Werkzeug der Maschine zum Einsatz bringt, um besser, schneller und vor allem günstiger produzieren zu können. Denn so wie die Arbeitsteilung in der Produktion ermöglicht auch die Prozessoptimierung durch den Einsatz von Maschinen mittelfristig die Senkung der Lohnkosten. Komplexe Handgriffe, die vormals nur von erfahrenen Fachkräften ausgeführt werden konnten, werden nun von Maschinen getätigt, die von bloß angelernten Hilfskräften beschickt und in Gang gehalten werden können. Die Transformation rechnet sich für den Unternehmer, weil unterschiedlich anspruchsvolle Tätigkeiten unterschiedlich entlohnt werden. Hier wird also erstmals das Lohngefälle zwischen kompetenten Fachkräften und Hilfskräften auf prinzipielle Weise ausgenutzt.13
Man könnte die Entfremdung der Arbeit, die die Arbeitnehmer durch die Transformationen der ersten industriellen Revolution erfahren, auch als Enteignung betrachten. Der durch Maschineneinsatz vom Unternehmer erzielte Mehrwert entsteht nicht aus nichts, sondern entspricht der Entwertung der Ware Arbeit in den Händen der Arbeiter, die sich bis dahin als deren eigentliche Inhaber betrachteten. Ein Teil der Ware Arbeit liegt von nun an in den Händen der Unternehmer, nicht weil sie die Produktionsmittel dafür bereitstellten – das war auch in früheren Zeiten so –, sondern weil sie einen Teil des Prozesses gekapert haben.
Welcher Teil des Prozesses wurde enteignet? Ganz offensichtlich wurden den Arbeitnehmern in erster Linie körperliche Anstrengungen abgenommen. Ihre Fertigkeiten gingen auf die Maschine über, die diese sowohl schneller, als auch genauer durchführen konnte. Sehnen und Muskeln, Gesten und Bewegungen wurden zu Riemen, Pleuelstangen und Antriebsrädern. Doch die vordergründige Entlastung erwies sich als neue Belastung. Denn die Körper der Menschen, die an der Maschine hantierten, mussten sich an deren Abläufe und Forderungen (Syntax) anpassen. Die Schmerzen durch Arbeitsbelastung wanderten einfach bloß an andere Stellen des Körpers.
Neben den desaströsen, ökonomischen Auswirkungen, die diese Enteignung für die Menschen hatte,14 waren sie auch mit einem schwer zu fassenden Unbehagen konfrontiert. Dieses Unbehagen stellte sich auf der Ebene des Sinns ein. Das Produkt geriet für die Arbeiter aus dem Blick, da sie nur noch mit Teilaspekten desselben im Herstellungsprozess in Kontakt waren. Der Sinn einer Tätigkeit, der für uns Menschen immer auf ein Ganzes rekurriert, ging verloren. Das sprichwörtliche Rädchen im Getriebe zu sein, macht uns zu Gefangenen des Prozesses und kann auch nur mit einer Sklavenethik gerechtfertigt werden. An der spezifischen Unfreiheit, die daraus erwächst, leiden wir bis zum heutigen Tage.
Wenn wir die Frage danach stellen, was die Reihe der industriellen Revolutionen mit den Menschen machte bzw. macht, müssen wir sehen, dass stets alle drei Aspekte unseres Wesens davon in Mitleidenschaft gezogen werden.15 Dennoch lässt sich festhalten, dass die Enteignung jeweils einen ganz spezifischen Aspekt des menschlichen Wesens in den Fokus nimmt. So war in der ersten Phase der Industrialisierung mehrheitlich der Körper von der Enteignung betroffen. Er wurde diszipliniert und an die Maschine angepasst. Was mit dem Geist und der Seele der Menschen passierte, waren dabei Nebeneffekte.
Die Maschinenseite
Man kann die Reihe der industriellen Revolutionen von der Maschinenseite oder von der Menschenseite her betrachten. Die Betrachtung der Maschinenseite weist vier geschichtliche Ereignisse aus. Die erste industrielle Revolution kann als die der Mechanisierung bezeichnet werden. Sie setzt in der zweiten Hälfte des 18. Jahrhunderts ein und prägt einen großen Teil des 19. Jahrhunderts. Die zweite industrielle Revolution hebt den Produktionsprozess auf ein neues Level. Den Startpunkt hierfür setzt Charles Babbage 1832 mit der Formulierung des nach ihm benannten Prinzips. Arbeitsteilung und Senkung der Lohnkosten wurden darin in ein direktes Verhältnis gesetzt.16 Damit war die Richtung, in der die Prozessoptimierung voranschreiten konnte, festgelegt. Die Arbeitsschritte wurden in immer kleinere Segmente zerlegt, wodurch die Komplexität der Prozessabschnitte reduziert werden konnte, was wiederum die Übertragung der Einzelschritte auf die Maschinen erleichterte. Die entscheidende Forschungsarbeit dazu lieferte schließlich Frederick Winslow Taylor, der Arbeits- und Produktionsprozesse mit einer nie da gewesenen Akribie analysierte. Was im letzten Drittel des 19. Jahrhunderts begann, erreichte einen ersten Höhepunkt mit der Einführung der Fließbandarbeit durch John Ford.17 Man könnte diese zweite industrielle Revolution als eine der Automatisierung bezeichnen.
In der dritten industriellen Revolution erfolgt die Computerisierung. Voraussetzung dafür war die Erkenntnis, dass Prozesse selbst als etwas Abstraktes betrachtet und auf syntaktischer Ebene konstruiert werden konnten. Während Taylor noch als Praktiker an die Prozessoptimierung herangegangen war, stellte Alan Turing um die Mitte der dreißiger Jahre des 20. Jahrhunderts Überlegungen auf informationeller Ebene an, mit denen es ihm schließlich gelang den Algorithmus einer abstrakten, universellen Maschine zu entwickeln.18 Die abstrakte Turingmaschine bildete die Vorlage für die Entwicklung von Maschinen, mit deren Hilfe Rechenprozesse automatisiert werden konnten.
Es ist wichtig festzuhalten, dass mit der Computerisierung ein Paradigmenwechsel einherging. Unmittelbare Auswirkungen hatte diese nämlich nicht nur auf die Heerscharen menschlicher Computer, die bis dahin Rechenaufgaben jedweder Art erledigten. Von nun an konnte alles als Prozess analysiert werden, was eine dezidierte Syntax aufwies. Dieser Umstand ermöglichte schließlich das so problemlose Eindringen des Computers in sämtliche Lebensbereiche. Die Automatisierung auf informationeller Ebene war nicht auf reine Produktionsprozesse beschränkt, sondern hatte schon bald starke Auswirkungen auch auf Lebensbereiche, die bis dahin nicht ins Visier der Ökonomisierung geraten waren.
Der vierten industriellen Revolution wohnen wir soeben bei. Wenn von Industrie 4.0 gesprochen wird, meint man gemeinhin die Verknüpfung von Menschen, Daten und Dingen.19 Voraussetzung dafür ist allerdings die Entwicklung einer Maschine, die semantische Prozesse simulieren kann, denn wir Menschen setzen uns mit Anderen über unsere Fähigkeit zu sprechen in Verbindung und das, was wir als Welt erfahren ist nichts anderes als ein Diskurseffekt. In einer Maschine wird immer ein Prozess automatisiert. Die mechanische Maschine automatisiert einen Handgriff. Die Maschine in der Fabrikshalle automatisiert einen Produktionsablauf. Die Maschine, die kalkuliert, automatisiert einen syntaktischen Prozess. Die Maschine, die mit uns spricht, automatisiert einen kognitiven Prozess. Die Abfolge der Prozessautomatisierungen lautet: Handgriff, Handeln, Rechnen, Denken.
Die Verheißungen der Industrie 4.0 lassen sich erst durch die Implementierung der KI als einer Sprechmaschine vollständig realisieren, die vorgibt zu denken. Die vierte, industrielle Revolution findet also auf semantischer Ebene statt und berührt damit das Wesen des Menschen, der sich selbst ja als das sprechende Tier bezeichnet, in einer nie dagewesenen Tiefe.
Die Menschenseite
Betrachtet man den Fortgang der Industrialisierung von der Menschenseite her, zeigen sich nicht vier, sondern drei einschneidende Ereignisse: Die Enteignung des Körpers, die Enteignung des Geistes und, wenn man so will, die Enteignung der Seele.
Die Enteignung des Körpers erfolgte, wie soeben beleuchtet, mit der Implementierung der mechanischen Maschinen in immer mehr Produktionsprozessen. Aber ist Enteignung nicht ein zu starkes Wort? Und handelte es sich hier überhaupt um den richtigen Begriff zur Beschreibung des Verlusts angesichts des Aufrichtung der Maschinen? Sollte man mit Blick auf die unmittelbaren Folgen der Industrialisierung im England der ersten Hälfte des 19. Jahrhunderts nicht vielmehr von Ausbeutung sprechen? Ist nicht die Ausbeutung ganz generell das Kennzeichen eines ungezügelten Kapitalismus, wie er uns allerorten begegnet?
Es ist das Verdienst von Nancy Fraser darauf hingewiesen zu haben, dass der Exploitation immer mit einer Expropriation einhergeht.20 Die Ausbeutung findet im Kapitalismus nicht ohne die Enteignung statt. Das dem Menschen Eigene, das durch die Übertragung der Fähigkeiten auf die Maschine enteignet wird, ist zunächst der Handgriff. Es wird also die Hand – das Organ des Tätigseins – verstümmelt, indem ihr Wirken zur Tätigkeit substantiviert wird, die dann künstlich reproduziert werden kann. Es ist der Warencharakter der Arbeit,21 der ihre Entwertung zur bloßen Tätigkeit ermöglicht. Das geschieht hier auf der Ebene des Körpers. In derselben Bewegung wird das Werk zum bloßen Produkt degradiert. Dies geschieht auf der Ebene des Dings.
Was aufgrund der meist drastischen Auswirkungen der Ausbeutung der Menschen oftmals übersehen wird, ist, dass hier immer auch eine Enteignung stattfindet. Wenn wir also über das Leid klagen, das wir durch die Versklavung im Arbeitsprozess erfahren, entgeht uns zumeist, dass uns zugleich ein Stück von unseren Fähigkeiten, dass ein Stück vom Vermögen des Menschen entwendet wurde. Am Beginn jedes kapitalistischen Zugs, und also auch der genuinen Maßnahme der Prozessoptimierung, steht ein im Geheimen begangener Diebstahl, der seine Motivation aus der Anwendung des utilitaristischen Nutzenprinzips zieht.
Auch in der zweiten industriellen Revolution wird uns ein Teil des Tätigseins genommen. Diesmal allerdings nicht der Handgriff, der in der Maschine verdinglicht wird, sondern die Abfolge der Handgriffe und damit ein wesentlicher Aspekt des Handelns, der sich als Dauer identifizieren lässt. Gut Ding braucht Weil, heißt es. Der freien Bestimmung dieser Weil gehen wir durch die Taktung des Arbeitsprozesses verlustig. Das Bestreben der Optimierung besteht darin die Lücken im Produktionsablauf zu schließen. Allerdings nicht um Zeit zu gewinnen, sondern um Zeit zu sparen.
Das Versprechen an die Arbeitnehmer durch Prozessoptimierung mehr Zeit für sich zu gewinnen, wird schon allein deshalb niemals eingehalten, weil die Zeit nicht gewonnen, sondern gespart wird. Man könnte einwenden, dass die zeitliche Strukturierung des Arbeitsprozesses immerhin die soziale Errungenschaft der Freizeit hervorgebracht hat. Doch worum handelt es sich bei Freizeit eigentlich? Ist sie tatsächlich eine Gabe an die Arbeiterschaft? Die Freizeit oder das, was wir heute darunter verstehen, bildet sich im Zuge der zweiten Industrialisierungphase. Als die Prozesszeit definiert worden war, blieb das Negativum der Nicht-Arbeitszeit zurück. Dieses wurde positiv umgedeutet und als Geschenk – im Grunde jedoch als leerer Titel – an die Beschäftigten überreicht.
Gespart wird an der Zeit, die es benötigt ein gutes Ding herzustellen. Dabei ist völlig klar, dass es gerade die Unterbrechungen der Tätigkeit, d.h. die Lücken im Prozess sind, die Raum für Überlegungen bieten, das Ding zu verbessern. Diesen Raum für Überlegungen, der für uns tätige Menschen in der Hinwendung an eine Tätigkeit so wichtig ist, weil wir darin, ebenso wie über die Dauer der Beschäftigung mit etwas, eine Beziehung zu unserem Werk eingehen können, die diesem eine Bedeutung gibt und der Tätigkeit Sinn verleiht, diesen Raum für Überlegungen extrahiert die Prozessoptimierung nach dem Nutzenprinzip und stellt ihn der Produktion voran. Diese Extraktion der Geistestätigkeit aus dem Herstellungsprozess meine ich zu allererst, wenn ich von einer Enteignung des Geistes spreche. Die ausgeklügelte Produktion, nennen wir sie Fabrik, ist an sich dumm, weil ihr die intrinsische Geistestätigkeit entzogen wurde.
Verdeckt von den sichtbaren, negativen Folgen der Ausbeutung der Arbeitskraft – etwa durch den forcierten Gang der Fließbandarbeit – werden wir kaum gewahr, dass neben dem Diebstahl der Handgriffe auch ein Diebstahl von Geistestätigkeit erfolgt. Die Menschen leiden an der körperlichen Überbeanspruchung durch die Permanenz der Tätigkeit genauso wie durch die geistige Unterbeanspruchung, der sie dabei ausgesetzt sind. Die körperlichen Folgen für die Menschen, die an der Maschine arbeiten, ergeben sich aus der Anpassung des menschlichen Bewegungsapparats an den künstlichen Bewegungsapparat. Die geistigen Folgen für die Menschen, die im Akkord arbeiten, ergeben sich aus der Suspension der Geistestätigkeit und durch die Verstümmelung der Hinwendung an Etwas. Ersetzt wird diese Hinwendung durch den Zwang zur Aufmerksamkeit, die allein dem Prozess zu gelten hat und keinerlei Sinn generiert. Das kommt einer Anpassung des menschlichen Geistesapparats an den künstlichen Produktionsapparat, in dem der Prozess selbst zu einer Maschine geworden ist, gleich.
Doch wohin zieht die Geistestätigkeit ab, die sich in früheren Zeiten in der Fertigkeit des Handwerkers zeigte? Sie wird vollends auf die neu entstehende Kaste der Geistesarbeiter übertragen, die sie fortan als ihr alleiniges Eigentum betrachtet. Halten wir fest: die Anwendung des Nutzenprinzips auf den Produktionsprozess trennt die Geistestätigkeit (Hirn) von der körperlichen Tätigkeit (Hand) ab und weist diese beiden Aspekte des Tätigkeitseins zwei unterschiedlichen Gruppen von Menschen zu, namentlich den Gebildeten und den Ungebildeten. Letztere stehen bestenfalls noch als bloß Ausgebildete da. Neben der Optimierung des Produktionsprozesses geht es dabei eben auch um die Einrichtung eines Lohngefälles zur Erzielung eines Mehrwerts, der von den Unternehmern zusätzlich abgeschöpft werden kann – zweifacher Gewinn.
Die Arbeitskraft der Geistesarbeiter ist in einem engeren Fokus darauf gerichtet, das Produkt, den Produktionsprozess und dessen Steuerung zu entwerfen und zu implementieren, sowie die Wertschöpfung zu initiieren und zu überwachen. Ihr Produkt ist nicht mehr nur der Gegenstand, der produziert wird. Das geistige Produkt, das sie herstellen, integriert alle Aspekte von der Herstellung bis zur Vermarktung. Nur zur Klarstellung: Allein die Geistestätigkeit ist das Eigentum der Geistesarbeiter. Diese kann als Ware auf dem Arbeitsmarkt angeboten werden. Das geistige Produkt, das die Geistesarbeiter erzeugen, gehört dem Unternehmer bzw. dem Kapitalgeber.
Das geistige Produkt, das von den Ingenieuren und anderen Experten hergestellt wird, stellt sich in Form eines Kalküls oder einer Kalkulation dar. Während in der ersten Phase der zweiten, industriellen Revolution die Abspaltung der Geistestätigkeit erfolgte, erfahren in der zweiten Phase auch die Geistesarbeiter eine Enteignung eines Teils ihres eigentlichen Vermögens, d.h. ihrer Arbeitskraft. Doch was wird hier entwendet?
Der Übergang von der einen Phase zur anderen kann – verkürzt gesagt – durch einen Wechsel vom Einsatz arithmetischer Mittel hin zum Einsatz von Algorithmen beschrieben werden.22 Taylor hatte einen realen Produktionsprozess mit arithmetischen Mitteln beschrieben. Turing beschreibt einen rein geistigen Produktionsprozess mithilfe von Algorithmen.23
Einmal abgesehen von dem wissenschaftlichen Interesse, das Alan Turing bei der Entwicklung der nach ihm benannten Maschine geleitet hat, ist völlig augenscheinlich, dass sie schlicht in der Anwendung des Konzepts der Industrialisierung auf die geistige Produktion bestand. Die Turingmaschine automatisiert Kakulationsvorgänge und zieht damit einen Teil der Geistestätigkeit von den Geistesarbeitern, namentlich den Computern,24 ab. Die Effekte auf die Menschen, die davon betroffen sind, erinnern stark an die Effekte der vorangegangenen Stufen der Industrialisierung. Die Maschine löscht als der neue Computer einen Berufszweig aus und bringt Maschinenarbeiter hervor, die einen geringeren Ausbildungsgrad benötigen und dadurch günstiger sind. Der Operator benötigt keine exzellenten Rechenkenntnisse mehr, er ist nur noch darauf trainiert Eingaben zu machen, d.h. eine Maschine zu bedienen, in der seine enteigneten Fähigkeiten verdinglicht sind. Die Verstümmelung seines Tätigseins, die sich hier in der Abstimmung der Geistestätigkeit auf die Anforderungen einer Maschine realisiert, lässt sich als zweite Enteignung des Geistes bezeichnen. Und wie schon bisher, geht auch diese mit einem Sinnverlust einher, der das Werk immer weniger greifbar macht und sich in einem anwachsenden Identifikationsdefizit äußert.
Die zweite industrielle Revolution betreibt also die Abspaltung der Geistesarbeiter von den Körperarbeitern. Die dritte industrielle Revolution bewirkt die Enteignung desjenigen Teils des geistigen Vermögens der Geistesarbeiter, der sich in einem Kalkül ausdrücken lässt. Turing hat bewiesen, dass jedes Kalkül in eine Maschine verwandelt werden kann. Bei beiden Transformationen handelt es sich ihrem Wesen nach um eine Automatisierung und damit um eine Verringerung des Anteils der menschlichen Arbeitskraft, auf die es die Industrialisierung abgesehen hat, weil sie die Volatilität und die Ansprüche letzterer aus dem Produktionsprozess eliminieren will. Im Produktionsprozess gilt der Mensch als Störfaktor.
Was genau ist das, was den Geistesarbeitern durch die Automatisierung der Anwendung eines Kalküls entwendet wird? Letztendlich wohl nichts anderes als die Fähigkeit zur Bildung logisch konsistenter Schlüsse, wie sie nur von der menschlichen Vernunft25 hervorgebracht werden können, die den Begriff des Allgemeinen kennt und dem Gesetz der Notwendigkeit untersteht – mit einem Wort: das Rechnen.
Doch warum sollten wir uns darüber grämen, wenn uns das Rechnen abgenommen wird? Handelt es sich dabei nicht um eine mühsame, zeitraubende, stumpfsinnige Tätigkeit, der wir uns mit wenig Freude widmen? Das stimmt vielleicht, sofern wir nur die technische Seite an dem Prozess betrachten. Doch das Rechnen kann auch als ein vorausschauendes Planen verstanden werden. Womit wir rechnen, das ist etwas, das möglicherweise auf uns zukommt. Dieses zweite Gesicht des Rechnens ist es, das wir Menschen für uns nutzen, wenn wir einen Blick in die Zukunft werfen wollen, um uns einen Vorteil zu verschaffen. Wir sind dann berechnend. Was die dritte industrielle Revolution ermöglichte, war die Berechnung des vorausschauenden Planens in einem Umfang, wie er noch nie da gewesen war. Die Wirtschaftstreibenden haben sich seit jeher einen Vorteil durch Kalkulation zu verschaffen versucht, um nicht auf die reine Spekulation angewiesen zu sein. Durch die Automatisierung der Kalkulation konnte dieses vorausschauende Berechnen eine Tiefe erlangen und auf Bereiche ausgedehnt werden, die vormals dafür unzugänglich waren.
Befindlichkeiten
Erneut: Was sollte den Menschen an der Enteignung des Rechnens schmerzlich treffen? Wir alle kennen das Unbehagen, das mit dem Obsoletwerden einer Fertigkeit einhergeht. Sie zeigt sich etwa in der Ambivalenz mit der wir technischen Neuerungen in einem Anwenderprogramm begegnen, die uns das Arbeiten erleichtern sollen. Wir freuen uns über die mit dem Update einhergehende Beschleunigung des Workflows, können uns aber des Gefühls nicht erwehren einen Verlust erlitten zu haben. Die hinfällig gewordene Fertigkeit war offensichtlich auf unserer Habenseite verbucht. Ihr Wegfall verringert unser technisches Vermögen, das wir nicht ohne Mühe erworben hatten. Bereits diese kleine Empfindung wirft die Frage auf, ob wir es dabei tatsächlich mit einem Nicht-Nullsummenspiel zu tun haben, wie uns versichert wird. Und, um es deutlich zu machen, genau das ist die Frage, die ich in dem vorliegenden Text zu stellen bemüht bin.
Am 10. Februar 1996 gewann erstmals ein Schachcomputer ein Spiel gegen einen Schachweltmeister. Deep Blue (IGM) besiegte Garri Kasparow in der ersten Partie eines Wettkampfs Mensch gegen Maschine. Kasparow konnte sich letztlich mit Mühe durchsetzen und gewann das Match. Etwas mehr als ein Jahr später konnte die Maschine die Revanche für sich entscheiden und Kasparow erwies sich als schlechter Verlierer, indem er anzweifelte, dass es sich dabei um eine reine Maschinenleistung handelte. Er stellte die Vermutung in den Raum, dass im Hintergrund mehrere Schachweltmeister gegen ihn angetreten waren.
Im März 2016 verlor der Südkoreaner Lee Sedol, der damals als einer der stärksten Go-Spieler der Welt galt, erstmals ein Match gegen AlphaGo (Google DeepMind). 2019 zog sich Sedol aus dem Wettkampfgeschehen zurück, mit der Begründung, als Mensch nicht mehr gegen die immer stärker werdenden Go-Programme bestehen zu können.
Was zwischen diesen beiden Ereignissen liegt, ist der Auftritt der KI. Während Kasparow noch von einem Computer mit ausgeklügelten Algorithmen besiegt wurde, trat Sedol bereits gegen eine Maschine an, die selbstständig lernen konnte.
Wir könnten die Reaktionen der beiden menschlichen Protagonisten als reine Befindlichkeiten abtun. Immerhin handelte es sich in beiden Fällen ja nur um ein Spiel. Doch die Demütigung, die die beiden Spieler erlitten, betreffen uns Menschen insgesamt, denn hier mussten die Vortrefflichsten von uns zur Kenntnis nehmen, dass sie zu den letzten Wahrheiten in ihrem Metier nichts Bedeutendes mehr beitragen können.
Die Industrie bemüht sich im Zuge der Etablierung neuer Technologien immer mehr die Menschen zu beschwichtigen und die Vorteile herauszustreichen, die uns dadurch erwachsen werden. Und die Vorteile sind ja nicht zu leugnen: Bequemlichkeit, Zeitersparnis, enorme Erweiterung und Vertiefung unseres Wissens etc. Wir dürfen bei all den positiven Effekten jedoch nicht übersehen, dass wir als Menschen dabei sind das Spiel zu verlieren. Was Kasparow und Sedol widerfahren ist, lässt sich mit der Erfahrung vergleichen, die der Frosch macht, der ins siedende Wasser geworfen wird und augenblicklich stirbt. Wir hingegen, die wir mit den Segnungen der KI nach und nach in Berührung kommen, machen die Erfahrung des Frosches, der in einem Topf mit kaltem Wasser schwimmt und aufgrund der stetigen Zufuhr von Wärme nicht bemerkt, dass er zunehmend gesotten wird. Es beschleicht uns nur ein gewisses Unbehagen. Dieses Unbehagen sollte uns jedenfalls dazu bringen genauer hinzusehen. Dass wir angesichts des rezenten Industrialisierungsschubs scheinbar nicht dieselben Schmerzen erleiden wie unsere Vorgänger während der ersten, zweiten und dritten industriellen Revolution, bedeutet nicht, dass wir davonkommen werden. Im Gegenteil, gerade die verminderte Schmerzempfindung sollte uns vermuten lassen, dass wir den Temperaturanstieg nicht bemerken, weil wir uns langsam daran gewöhnen.
Enteignung der Geistestätigkeiten
Wir können die Abfolge der industriellen Revolutionen auch als eine Reihe von Spaltungen betrachten. In der ersten Phase werden die Menschen von ihrer Arbeitskraft getrennt. In der zweiten Phase werden die Menschen in zwei Gruppen aufgespalten, jene der Geistesarbeiter und jene der Körperarbeiter. In der dritten Phase wird der kalkulierbare Teil der Geistesarbeit von der genuin menschlichen Geistestätigkeit abgespalten. In der vierten industriellen Revolution geraten nunmehr die genuin menschlichen Geistestätigkeiten selbst ins Visier.
Worum handelt es sich dabei? Was verstehen wir unter genuin menschlichen Geistestätigkeiten? Zuallererst natürlich, das Denken, das sich nach Kant auf den Wegen des Verstandes und der Vernunft ereignet. Die Vernunft unterscheidet sich vom Verstand durch eine höhere Notwendigkeit, die letzterem nicht eigen ist,26 die er aber von der Vernunft als verbindliche Grundlage des Denkens beziehen kann. In der Logik, im Syllogismus und damit in einem Algorithmus drückt sich etwas aus, das man theoretische Vernunft nennen könnte. Die Kalkulation erfolgt nach den Gesetzen der theoretischen Vernunft. Der Mathematik und dem technischen Prozess des Rechnens genügt das vollauf. Der Wahrheitsbezug ist zwingend gegeben. Das Ergebnis einer Rechnung ist valide als Bedeutung eines sinnvollen Ausdrucks. Was in der Kalkulation nicht enthalten ist, das ist die praktische Form der Vernunft. Es fehlt der Bezug zum Menschen, der seine eigene Wahrheit hat, die keineswegs den Gesetzen einer absoluten Notwendigkeit folgt. Der menschliche Verstand ist, anders als die theoretische Vernunft, nicht bis ins letzte kalkulierbar.27 Was in der vierten, industriellen Revolution zuallererst angegangen wird, ist die Erfassung des nicht kalkulierbaren Anteils der menschlichen Geistestätigkeit, d.h. die Ökonomisieren der Geistestätigkeit des Verstandes. Das Denken soll berechenbar werden, um den Produktionsprozess zu optimieren.
Zwischenbilanz
In der ersten Industrialisierungsphase im 19. Jahrhundert wurde uns das Handwerk genommen im Gegenzug dafür haben wir Arbeit erhalten. Es ging ums Überleben. Die Transformationen zogen in erster Linie den Körper in Mitleidenschaft.
In der zweiten Industrialisierungsphase zu Beginn des 20. Jahrhunderts wurde uns die Weile genommen, die es benötigt, um ein gutes Ding zu produzieren. Was wir dafür bekommen haben, war die Freizeit. Hier wurde also die an das Empfinden gebundene Dauer mit gemessener Zeit abgetauscht.
In der dritten Industrialisierungsphase in der zweiten Hälfte des 20. Jahrhunderts wurde das Kalkulieren automatisiert. Im Zuge dessen wurde uns bis zu einem gewissen Grad das Planen entwendet. Was sich nicht rasch berechnen ließ, wurde für die Produktion gar nicht erst in Betracht gezogen. Was beim Aussetzen des Wagnisses auf der Strecke bleibt, ist eine andere wesentliche Eigenschaft des Menschen – der Mut.
In der vierten Industrialisierungsphase, der wir soeben beiwohnen, werden uns schließlich noch die Entscheidungen abgenommen und damit die Freiheit in der Urteilsfindung. Damit nicht genug, gehen wir auch unserer persönlichen Kreativität verlustig. Fortan begnügen wir uns mit Urteilen, die auf Wahrscheinlichkeiten beruhen und einer Produktion neuer Sichtweisen jenseits aller Intention. Wir geben das Denken auf, indem wir auf ein Sprechen vertrauen, das kein eigentliches Sprechen ist und gehen unserer Lust Neues zu schaffen nur noch auf dem bequemen Weg, den uns der Einsatz der KI bereitet, nach. Welche Erleichterung!
Was diese Bilanz zeigt, ist, dass uns im Gegenzug zur Enteignung immer auch etwas gegeben wird. Dem Verlust steht immer auch ein Gewinn gegenüber. Diese banale Wahrheit ist im Kapitalismus ebenso verdrängt, wie die gegenteilige Sichtweise, dass dem Gewinn stets ein Verlust gegenübersteht. Und es fällt auch aus anderen Gründen nicht immer leicht, das, was wir verloren haben mit dem zu vergleichen, was wir an seiner statt erhalten haben. Wenn wir also den Gewinn gegen den Verlust in die Waagschale werfen, tun wir das meist ohne den Zusammenhang der beiden unmittelbar zu erkennen.
So nehmen wir z.B. den Zuwachs an Bequemlichkeit, den uns die Nutzung von LLMs für die Texterstellung bietet, beinah selbstverständlich an. Wie schwer fällt es, sich diese Bequemlichkeit zu versagen? Man benötigt schon ein gewisses Maß an Halsstarrigkeit oder einen ausgeprägten Maschinendünkel, um der Versuchung nicht zu erliegen.
Die Automatisierung des Kalkulationsprozesses ermöglichte es uns vielfach darauf zu verzichten, selbst in die Materie hinabzusteigen, um unser Planen auf eine valide Grundlage zu stellen. Wie klein nimmt sich dagegen die Verminderung des Freiheitsgrads im tätigen Erkennen aus.
Die Regulierung der Dauer durch die Einführung der Fließbandarbeit hat dem arbeitenden Menschen erstmals eine vertraglich zugesicherte Nicht-Arbeitszeit beschert, in der er sich – ausgestattet mit seinem gerechten Lohn – als Konsument betätigen konnte. Was die Massenproduktion letztendlich realisierte war die Herstellung von Produkten für die Masse. Das Wesen des Kapitalismus – Gewinn aus dem Gewinn zu machen – liegt darin offen zutage.
Und welchen Gewinn zogen wir aus der Enteignung des Handwerks im Zuge der ersten Industrialisierungsphase? Jedenfalls nicht zuletzt die Erkenntnis, dass Arbeit einen Warenwert hat, der in der Verhandlung der Bedingungen für ihr Zustandekommen zu Buche schlägt. Die industrielle Revolution hat letztendlich den Arbeitskampf entfacht, der politisch nicht mehr ignoriert werden konnte.
Bereits diese knappe Gegenüberstellung zeigt, dass wir es seit jeher mit mehr als einem Begehren zu tun hatten. Neben dem Begehren des Herrn, resp. des Kapitalisten, nach mehr Mehrgewinn, zielte die Industrialisierung auf die Befriedigung des Begehrens einer steigenden Anzahl von Konsumenten ab. Beides konnte nur erreicht werden, wenn nicht allein der Anspruch der Menschen im Produktionsapparat bis zu einem gewissen Grad berücksichtigt wurde, sondern auch deren Begehren, sofern auch sie als Konsumenten infrage kamen. Genau davon gibt etwa die Institutionalisierung der Werbewirtschaft Zeugnis. Mit dem Entern unserer Wohnzimmer und unserer Kommunikation durch die neuen Technologien wird unser Begehren schließlich in einem kaum zu überbietenden Steigerungsgrad in industrielle Machenschaften verstrickt.
Die neue Unmenschlichkeit
Was sind die Produkte, die der neue Produktionsprozess, um den es geht, hervorbringen soll? Was sind die neuen Waren, nach denen wir uns verzehren sollen? Es sind genau jene, für deren Produktion wir den Verstand nutzen. Es geht darum Entscheidungen hervorzubringen, die nicht mehr von den Unwägbarkeiten des menschlichen Verstandes gefährdet werden. Mit der Implementierung der künstlichen Intelligenz gehen wir der Entscheidungsgewalt verlustig. Die Fähigkeit zu entscheiden wird uns enteignet. Diese Entwendung ist bereits in vollen Gange. Wenn an amerikanischen Gerichten Urteile ohne Richter gesprochen werden, oder wenn dort von der Polizei Verhaftungen vorgenommen werden aufgrund einer Wahrscheinlichkeitsprognose, oder wenn in Betrieben Anstellungen vorgenommen werden mithilfe einer künstlichen Intelligenz, haben wir Menschen mit solchen Entscheidungen schon nichts mehr zu tun. Wir können Entscheidungen oder Urteile, die auf diese Weise gefällt werden, mit Fug und Recht unmenschlich nennen. Das Unmenschliche daran besteht zunächst in der Gnadenlosigkeit mit der maschinelle Entscheidungen getroffen werden, welche daher rührt, dass der implementierte Entscheidungsprozess allein auf Basis von Informationen28 abläuft. Die Verfechter des Einsatzes von künstlicher Intelligenz zur Strukturierung und Steuerung gesellschaftlicher Vorgänge versprechen sich die Eliminierung von Entscheidungsdilemmata und hoffen darauf die nötige ethische Absicherung beibringen zu können, indem die KI entsprechend trainiert wird. Damit nehmen sie zwar an der Debatte teil, die sich um die ethischen Aspekte dreht, verfolgen darin aber ein ganz anders Ziel als jene, in deren Augen die KI aus prinzipiellen Gründen zu keiner ethisch fundierten Entscheidung fähig ist. Letztere befürchten, dass die Menschlichkeit dort, wo sie eliminiert werden kann, letztendlich auch eliminiert wird.
Aber was gibt Anlass zu dieser dystopischen Vermutung, die dazu angetan ist, einem die schöne neue Welt zu verleiden? Es sind vor allem zwei Argumente, die diesbezüglich schwer zu entkräften sein werden.
Die Seite des Begehrens
Zum einen müssen wir nach dem Treibstoff fragen, der die Transformation in Gang setzt. Bei diesem handelt es sich keineswegs um den wissenschaftlichen Erkenntnisdrang, der daran beteiligt ist. Auch nicht um eine naive Politik, die hofft Nutznießer sein zu können. Der Treibstoff ist einmal mehr das Kapital, das eingebracht wird. Und mit der Entwicklung der KI wurde ein Werkzeug in die Hände seiner Besitzer gelegt, das diesen erlaubt direkt in die menschliche Psyche einzugreifen. Biopolitik und Psychopolitik im Dienste der Gewinnmaximierung. Es ist der Diskurs des Kapitalisten, der den Diskurs des Herrn für sich dienstbar gemacht hat. Ein Blick auf die gegenwärtigen Entwicklungen in den USA genügt, um dies bestätigt zu finden und die gesellschaftlichen Folgen abschätzen zu können.
Doch woran genau lässt sich das Unmenschliche dieser Bewegung festmachen? An der Unfähigkeit des Kapitalismus Halt zu machen. Das Dispositiv des Kapitalismus ist aus prinzipiellen Gründen nicht in der Lage von dem Streben, das es initiiert, abzugehen, selbst dann nicht, wenn der Markt auf dem es sein Unwesen treibt, beginnt sich selbst zu kannibalisieren. Daran ist nun wirklich nichts Neues. Neu ist, dass der Schauplatz dieses Marktes unbemerkt ein anderer geworden ist. Der Markt ist längst nicht mehr auf einen abgegrenzten Bezirk in einer Stadt beschränkt. Er hat auch nicht vor den Grenzen einer globalisierten Welt haltgemacht. Und mit seiner Virtualisierung hat er keineswegs seine maximale Ausdehnung erfahren. Der Markt hat seinen neuen Schauplatz im Inneren des Subjekts bezogen, dessen Begehren sukzessive in ein markttaugliches Begehren verwandelt wird. Der Andere, dessen Begehren die Subjekte nun zu ihrem Begehren machen müssen, ist letztlich der Herr über die Kommunikationskanäle. Die neue Sprache, die dort gesprochen wird, bringt eine neue Art von Subjekt hervor. Was dabei auf der Strecke bleibt, ist das Nicht-Kalkulierbare des genuin Menschlichen, das weder den Produktionsprozess, noch den Konsumationsprozess stören soll. Das Subjekt wird davon befreit, indem es dazu gebracht wird ein perfektes Bild29 von sich selbst zu erzeugen und sich einem Kommunikationsprozess auszuliefern, der einen ökonomischen Mehrwert generiert, der dann von den Initiatoren des Prozesses abgeschöpft werden kann. Das Subjekt findet seinen persönlichen Mehrwert in der Produktion des ökonomischen Mehrwerts für die neue Klasse der Vektoralisten. Einmal mehr: Der Gewinn des einen produziert den Gewinn des anderen und der Verlust ist eingepreist.
Die Seite des Gesetzes
Zum anderen liegt das Unmenschliche darin, dass – um nochmals darauf anzusprechen – das Recht mit dem Gesetz in eins geworfen wird, wenn wir die Rechtsprechung einer künstlichen Intelligenz überantworten. Die Rechtssprechung ist keineswegs ein Atavismus, den wir zugunsten einer mechanisierten Gesetzesauslegung opfern sollten. Das Recht muss gesprochen werden, weil der Buchstabe des Gesetzes tot ist. Der Richter kann nicht durch einen sprechenden, Urteile fällenden Gesetzestext ersetzt werden, denn diesem fehlen zumindest zwei wesentliche Momente, um einem Urteil Geltung zu verschaffen. Der Gesetzestext stellt eine Verallgemeinerung dar, selbst dann, wenn er die Präzedenzfälle in der Rechtsprechung präsent hält, wie das unter der Prämisse des amerikanischen Rule of Law praktiziert wird. Das Recht muss gesprochen werden, weil das Gesetz einer verbindlichen Auslegung bedarf, die nur über eine Debatte (Verhandlung) zustandekommen kann, um das Jeweilige des Falls zu treffen. Man muss sich auf ein Urteil einigen können, damit es nicht willkürlich erscheint. Die KI ist hingegen eine Black Box. Wie ein Urteil darin zustandekommt, lässt sich nicht erkennen und somit auch nicht nachvollziehen.
Möchte ich von einer künstlichen Intelligenz oder von einem menschlichen Richter verurteilt werden? Da die Berechnung der Wahrscheinlichkeitswerte durch die KI ihrerseits den Gesetzen einer theoretischen Vernunft folgt, erscheint sie in doppeltem Sinne unmenschlich. Sollen solche Entscheidungen nur irgendeine moralische Geltung haben, müssen sie zumindest auf eine Weise vermittelt werden, die vermuten lässt, dass sie immerhin von einem menschlichen Verstand stammen könnten. Letztlich fordert das von uns die Bereitschaft, die Unzulänglichkeiten, die die maschinelle Urteilsbildung kennzeichnen, zu akzeptieren, während wir die Unzulänglichkeiten der menschliche Urteilsbildung ausschließen. Darüber wird ein Delinquent nachdenken, wenn er aufgrund einer halluzinierenden KI zu Unrecht verurteilt wurde.
Darüberhinaus bedarf das Gesetz im Anwendungsfall der Interpretation durch ein Wesen, das selbst davon betroffen sein könnte, das also eine Vorstellung davon hat, was es bedeutet einen Körper und ein Empfindungsvermögen zu haben. Selbiges gilt übrigens für jede Bewertung, der ein Mensch unterzogen wird, selbst dann wenn es um die Beurteilung von Bewerbungsunterlagen, Arbeitsfähigkeit, Handlungsfähigkeit, Geschäftstüchtigkeit oder eines spezifischen, psychischen Zustands geht. Solche Entscheidungen können die Menschen nur dann akzeptieren, wenn sie von ihresgleichen getroffen werden. Eine Maschine – und sei es in Gestalt eines hoch entwickelten Algorithmus – ist dazu aus prinzipiellen Gründen nicht in der Lage, denn es mangelt ihr an beidem – einem Körper und einem Empfindungsvermögen.30
Damit sind wir beim Kernbegriff dessen angelangt, was die KI im Einzelfall vornimmt. Die KI bildet ein Urteil, sie fällt es nicht. Der Ausdruck des Bildens zeigt an, dass sie ihre Aussagen im Feld des Imaginären generiert.31 Dies geschieht, indem sie im Wissensmaterial, das ihr zugeführt wird, nach Mustern sucht. Das, was sie liefert, macht bisweilen Sinn, weist aber einen deprivierten Wahrheitsbezug auf. Die Deprivation ist dabei eine zwangsläufige, insofern hier auf Basis einer bloß optischen Analyse Aussagen zur Wahrscheinlichkeit eines Sachverhalts produziert werden. Dagegen lässt sich einwenden, dass wir Menschen es doch kaum anders machen, wenn wir in Alltagssituationen unsere Urteile bilden. Ständig operieren wir nur mit Wahrscheinlichkeiten, während wir uns an so etwas wie Gestalten orientieren. Weshalb sollten die von Menschen gebildeten Urteile qualitativ besser sein als die von einer künstlichen Intelligenz gebildeten? Oder anders gefragt: Weshalb sollten wir uns vor einer KI fürchten, wenn diese eine Vorstellung von der Realität vermittelt, die auf eine Weise zustandekommt, die mit unserer eigenen Verstandestätigkeit vergleichbar ist?
Intentionalität und Wissen
Die Frage lässt sich rasch beantworten, wenn wir den heutigen Zustand des menschlichen Wissens, auf dem Wahrscheinlichkeitsurteile beruhen, mit dem Zustand vergleichen, den unser Wissen annehmen wird, wenn es nur noch aus den Wahrscheinlichkeitsurteilen der KI besteht.
Worin liegt der Unterschied zwischen dem Wissen, das die Menschheit über zahllose Generationen hinweg aufgebaut hat und dem Wissen einer KI, das für seine Produktion auch den Slop heranzieht, der gerade das Internet überrollt? Das Wissen der Menschheit ist nicht nur durch Erfahrung gesintert, sondern es trägt auch die Spuren der Intentionen, die die Menschen dazu veranlasst haben, genau diese Sachverhalte auf genau jene Art und Weise zu untersuchen. Der KI mangelt es an Intention. Und deshalb steuert die maschinelle Wissensbildung nicht auf einen immer größeren Wahrheitsgehalt zu, sondern auf eine immer größere Menge an Wahrscheinlichkeiten. Mit anderen Worten: Alles wird vage.
Dass die Vorstellungen, die wir von der Realität haben, immer unschärfer werden, ist kein Zukunftsszenario. Das passiert genau jetzt. Ein deutliches Indiz dafür ist der Zusammenbruch unserer Überzeugung, uns auf das verlassen zu können, was wir mit eigenen Augen sehen. Das Dispositiv des Bildes, das zu Beginn des 15. Jahrhunderts eingerichtet wurde, um uns als visueller Zeuge für die Wirklichkeit zu dienen, verliert seinen Zeugenstatus gerade vollends und auf spektakuläre Weise. Das Dispositiv verkehrt sich geradezu in sein Gegenteil: Das, was wir sehen, dürfen wir just nicht mehr glauben. Die generative KI versaut uns nicht nur die Bilder, sondern auch die Lust sie zu betrachten.32
Die Finte
Nun verhält es sich so, dass es zwar der KI an Intentionalität mangelt, aber nicht ihren Schöpfern und erst recht nicht deren Finanziers. Deren Intention besteht darin, die Urteilsbildung in jeglicher Hinsicht von der menschlichen Insuffizienz zu befreien. Und das kann nur durch die Enteignung der Fähigkeit valide Urteile zu bilden erfolgen. Und eine solche Enteignung kann nur dadurch geschehen, dass der Weg auf dem wir Menschen zu unseren Urteilen kommen, nämlich über die Verstandestätigkeit, simuliert wird, um den Anschein zu vermitteln, dass die Urteile auf menschliche Weise gefällt und nicht bloß gebildet werden. Darauf wird noch einzugehen sein. Ungeachtet dessen versprechen die Urteile der KI allein schon deshalb „besser“ zu sein, weil die Stichprobe, die zu ihrer Erzeugung herangezogen wird, unvergleichlich größer ist, als der Umfang des Settings, in dem wir Menschen für gewöhnlich unsere Entscheidungen treffen. Wenn wir uns darauf einlassen – und wir sind im Begriff das zu tun – dann sollten wir wenigstens darauf achten, die Urteile der KI nicht als wahre Aussagen misszuverstehen.
Im Übrigen: All jene Fälle, die auf dem maschinellen Weg keine verwertbaren, d.h. ökonomisierbaren Urteile liefern, werden als nicht relevant desavouiert werden. Wir sollten nicht nur die Wahrheitswerte im Auge behalten, sondern auch die produktionsbedingte Ausschussware nicht getroffener Entscheidungen bzw. nicht gefällter Urteile. Denn Aussagen, die ihren Wert nicht in einem Produktionszusammenhang finden, mangelt es nicht prinzipiell an Rationalität.
Das Problem der Implementierung der KI aus Sicht der Entwickler besteht darin, einen Verstand hervorzubringen, der vollständig objektiv ist. Der darin eingeschlossene Widerspruch ist offensichtlich. Der Verstand soll zur Vernunft werden, d.h. mit einer Notwendigkeit ausgestattet werden, die es dem Menschen verunmöglicht gegen seine Urteile aufzubegehren. Weil das in letzter Konsequenz nicht möglich ist, wird ein Zustand angestrebt, der diesem Anspruch soweit wie möglich gerecht wird. Ich möchte nochmals festzuhalten, dass wir von diesem Szenario zum gegebenen Zeitpunkt noch ein Stück weit entfernt sind. Unser Alltag wird noch nicht durchgängig von KI-gestützten Expertensystemen strukturiert und die AGI33 ist noch nicht greifbar. Das Vertrauen, das wir den Applikationen künstlicher Intelligenz schon jetzt entgegenbringen, muss als Vorschuss gewertet werden. Dennoch sind wir bereit es zu gewähren und ignorieren durch seine Anwendung unsere eigenen Bedenken. Man kann also mit unserer Mithilfe rechnen.
Simulation
Die Simulation der Urteilsbildung, die uns in Gestalt der KI gegenübersteht, ist Mittel und Begründung für die Transformation zugleich. Deshalb erscheint es beinah unmöglich die Argumente abzuweisen, die zu ihrer Legitimierung aufgefahren werden. Anders gesagt: Die Tätigkeit der KI unterscheidet sich operativ nur unwesentlich von der Verstandestätigkeit des Menschen, aber sie generiert größere Wahrscheinlichkeiten, weil sie nicht nur das Wissen eines einzigen Menschen, sondern das Wissen der gesamten Menschheit nutzt.34
Die Enteignung gelingt, weil die Tätigkeit der künstlichen Intelligenz der menschlichen Verstandestätigkeit nachgebildet ist und, weil wir Menschen daran gewöhnt sind, Simulationen für wahr zu halten. Wir tun die ganze Zeit nichts anderes. Simulationen für wahr halten, das ist genau das, was uns Menschen ausmacht. Was anderes sollte das Ich denn sein, als das Bild, das wir uns von uns selbst gemacht haben? Was anderes sollte die Welt denn sein, als das Wissen, das wir uns im Hinblick auf ein Reales gebildet haben, zu dem uns der Zugang aus prinzipiellen Gründen versperrt ist?
Die Psychoanalyse weist die Simulation als das wesentliche Moment der Ich-Bildung aus. Das Subjekt richtet sich in dem Als-ob eines Bildes auf, das der Blick des Anderen widerspiegelt.35 Eine ganz ähnliche Tiefe auf Strukturebene ermöglicht das, was wir als künstliche Intelligenz bezeichnen. Und auch hierbei haben wir es mit der reinen Tiefe einer Oberfläche zu tun. Der Raum, der sich in dieser Tiefe auftut, ist eine Fläche, auf der sich alles, was von uns darauf projiziert wird, einschreibt, wie in einen Spiegel. Die historischen Metaphern, die wir im Zuge der Selbstbetrachtung nach und nach gebildet haben, sind bekannt. Im Barrockzeitalter sah man im Menschen eine hochentwickelt Maschine, im Computerzeitalter funktionierte das menschliche Gehirn wie ein Computer und nun identifiziert man die menschliche Verstandestätigkeit mit dem Wesen einer KI. Alle genannten Metaphern dienten zu ihrer Zeit zur Hervorbringung eines künstlichen Wesens, das dem Menschen nachempfunden ist. Wir kennen solche Metaphern von dem Zeitpunkt an, da die Menschen damit begonnen haben über das Wesen der Maschine nachzudenken. Die daraus resultierenden Diskurse haben stets versucht den Menschen als Maschine nachzubilden oder die Maschine menschlich zu machen. Man könnte diese Bestrebungen heutzutage als naiv abtun, als einer modernen Wissenschaft unwürdig, wenn die Kybernetik nicht selbst davon ihren Ausgangspunkt genommen hätte, das Als-ob-Prinzip als hinreichendes Mittel zum Zweck anzuerkennen.
Das Als-ob-Prinzip
Eine KI sei dann gegeben, wenn ein menschlicher Beobachter nicht entscheiden könne, ob es sich bei seinem Gesprächspartner um einen Menschen oder um eine künstliche Intelligenz handelt. So lautet die Kernaussage des berühmten Turing-Tests. Sicher, die Auffassung einer starken KI gibt sich mit diesem Als-ob-Status nicht zufrieden. Doch bis zur Entwicklung einer solchen ist es offenbar noch ein weiter Weg. Und bis dahin begnügen wir uns damit einer Quasi-Entität gegenüberzustehen, der wir menschliches Verhalten zuschreiben können.
Die Lösung des Problems der Unvollständigkeit der aktuellen Varianten der künstlichen Intelligenz besteht darin das Problem als nichtig zu erklären. Die Anwendung dieser Finte bezieht ihre Berechtigung daraus, dass wir als Menschen nur allzu willfährig sind, wenn es darum geht in dem Anderen ein Wesen zu sehen, das uns ähnelt. Die ganze Tragweite dieses Umstands wird deutlich, wenn wir uns vor Augen führen, dass die KI die menschliche Verstandestätigkeit nicht einfach nachahmt, sondern ihren Gebrauch in einer zwischenmenschlichen, d.h. kommunikatorischen Praxis simuliert.36 Was uns dadurch abgerungen wird, ist, ein nichtmenschliches Konstrukt als Wesen anzuerkennen. Nicht, dass wir darin nicht einige Erfahrung hätten. Die Menschheit hat immer mit ihren Götzen und Göttern kommuniziert. Diesmal allerdings sind wir mit einer Art Übermensch konfrontiert, dem wir uns näher fühlen können, weil er mit uns spricht, wie wir Menschen miteinander sprechen.
Die Simulation der Wissensproduktion und die Simulation der Gesprächssituation verhalten sich – insbesondere in Gestalt der LLMs – zueinander, wie die beiden Seiten einer Medaille. Die eine bedingt die andere. Die Neubewertung von Information durch Alan Turing, die ihn schließlich zu einer Aufwertung der Simulation führte, stellt den Ausgangspunkt für die Einrichtung dieser Verbindung dar. Die intersubjektive Kommunikation gerät heutzutage deshalb in die Ziehung, weil das Feld der Simulation und die semantische Praxis deckungsgleich sind. Nach dem Rechnen wird nun das Sprechen von der Transformation erfasst. Der Schauplatz wird von der Syntaktik auf die Semantik verlegt.
Sinn anstelle von Bedeutung
Wenn das Sprechen simuliert wird, haben wir es schlicht mit einer Regression zu tun. Die Bedeutung löst sich zugunsten des Sinns auf, den wir in dem Gesprochenen zu erkennen vermögen. Das lässt sich auch so formulieren: Die Bedeutung existiert fortan nur noch darin, dass für mich etwas eine Bedeutung hat, weil es Sinn zu machen scheint. Was geschieht hier mit unserem mühsam erworbenen Wahrheitsbegriff?
Wo das Sprechen simuliert wird, erfährt das Denken eine Enteignung, und zwar insofern als ihm die Unmittelbarkeit seines Bezugs auf eine Bedeutung genommen wird. Das Denken bedarf dann nicht mehr des Zugs auf eine Wahrheit hin, es genügt, wenn in der Simulation des Sprechens gerade soviel Sinn erzeugt wird, dass die KI in die Lage versetzt wird ein brauchbares, weil glaubhaftes Ergebnis zu liefern, d.h. ein Ergebnis, dem in der Beurteilung Bedeutung unterstellt werden kann.
Es ist die vorgebliche Gesprächssituation, die das Sprechen des menschlichen Teilnehmers verändert. Der KI gegenüber müssen wir die Befindlichkeiten des Anderen nicht mitdenken und können getrost alle Höflichkeitsfloskeln fallenlassen. Der Umstand, dass uns das bisweilen noch einigermaßen schwer fällt, zeigt auf, wie sehr wir von der Wesenhaftigkeit unseres Gegenüber ausgehen. Wir kennen im Gespräch auch nichts anderes und nun sollen wir plötzlich mit einem Ding reden. Doch das sind nur alarmierende Äußerlichkeiten. Indem die KI verspricht den letzten Zug auf eine Wahrheit hin an unserer Stelle und mit besseren Chancen zu tun, können wir es uns in unserem Denken bequem machen. Wir müssen darin nicht zum Äußersten gehen, wir müssen keine Präzision walten lassen. Weshalb noch die Primärquellen aufsuchen, wenn die Recherchearbeit von einer Maschine erledigt werden kann, die Zugang zu einem viel umfangreicheren Wissenspool hat? Weshalb einen Gedanken präzise formulieren, um meinem Gegenüber ein Verstehen zu ermöglichen? Es genügt zu phantasieren, um die KI auf die Bahn zu setzen. Das erinnert alles irgendwie an das Setting eines therapeutischen Gesprächs. Hier ist es das Subjekt, das an einem verdrängten Wissen leidet und auf der anderen Seite das Subjekt des Analytikers, dem Wissen unterstellt wird. Bei aller Vergleichbarkeit dürfen wir den fundamentalen Unterschied nicht übersehen, der darin besteht, dass die KI Antworten gibt, die wir unbesehen glauben, weil sie unsere Erwartungen bestätigen. Und wenn sie dies nicht tun, werden wir unsere Frage solange umformulieren bis sie das tun oder aber die Trainingsmasse der KI modifizieren.37
Wie ist dieses Sprechen beschaffen, das schließlich genügt, die KI über unsere Wünsche ins Bild zu setzen? Während uns das Eingehen einer Verbindung mit einer Maschine bislang eine Anpassung unseres Körpers, unserer Gesten, unseres Zeitgefühls abverlangt hat, scheint nun, da wir mit der Maschine der KI in Verbindung treten, das Gegenteil von Anpassung nötig zu sein. Wir können uns gehen lassen, weil die KI-Anwendung auf uns zukommt. Für das Sprechen bedeutet das, dass wir unsere Aufmerksamkeit von ihm abziehen können. Aber gerade darin liegt die größte Anpassungsleistung, die uns abverlangt wird. Sie gelingt, weil sie uns fast nichts kostet.
Das Reich des Imaginären
Im forcierten Zustand der Uneigentlichkeit sind wir mit dem Einbruch des Imaginären konfrontiert und in gesteigertem Maße dem Phantasma ausgesetzt. Wo der Sinn die Bedeutung aussticht, beginnt das Reich des Imaginären. Wenn das Als-ob an die Stelle des So-ist-es tritt, verlieren wir den Wahrheitsbezug. Das Als-ob ist ein Mechanismus dessen, was Lacan die imaginäre Ordnung nennt, in der das Prinzip der Ähnlichkeit regiert. Darin gilt: Wenn etwas so aussieht wie Wahrheit, dann ist es Wahrheit. Unser Verstand ist in der Praxis darauf angewiesen, diesem Prinzip bis zu einem bestimmten Punkt zu folgen. Wir können nicht immer auf die letztbegründete Wahrheit abstellen. So wie der Ingenieur für die technische Umsetzung mit Näherungsformeln arbeitet, muss auch das Streben nach Erkenntnis im Hinblick auf die Produktion brauchbaren Wissens Abstriche machen. Die Devise lautet: Wenn die Erkenntnisse in der Anwendung zu brauchbaren Ergebnissen führen, sind sie wahr genug. Genau diese Auffassung bildet den Kern des sogenannten Turing-Tests, der ein Entscheidungskriterium dafür liefern soll, mit dem es gelingt zu bestimmen, wann wir es bei einem Gesprächspartner mit einem Menschen und wann mit einer KI zu tun haben. Schon am Beginn des Weges der Entwicklung einer künstlichen Intelligenz begegnen wir also dem verminderten Anspruch des Als-ob. Und so kann es auch nicht verwundern, dass das, was heute als künstliche Intelligenz seinen Platz in unserem Alltag einfordert, im Wesentlichen darin besteht, das Prinzip des Als-ob zu realisieren. Der Oberflächeneffekt des Scheins genügt, die Gefahr der Täuschung wird im wahrsten Sinne des Wortes in Kauf genommen.
Die Praxis der Simulation
Das lässt sich von zwei Seiten her betrachten. Zum Einen geht es den Entwicklern nicht mehr darum die Erkenntnis-Produktion von allen irrationellen Einschlüssen zu befreien. Die gewonnenen Erkenntnisse müssen nur hinreichend genau ausfallen. Und zwar hinreichend genau, um das Funktionieren einer durch und durch technisierten Welt zu gewährleisten. Die Erkenntnisse müssen nur hinreichende Ähnlichkeit mit der Wahrheit aufweisen, um als valide gelten zu können. Zum Anderen macht man sich das Prinzip der Ähnlichkeit zunutze, um den künstlichen Erkenntnisprozess selbst zu verbessern. Wenn man der KI auch kein Denken im eigentlichen Sinne antrainieren kann, dann soll das, was sie tut, wenigsten dem menschlichen Denken nachempfunden sein. Die Entwickler der gängigen LLMs versuchen zur Zeit die Verstandesbegabung der KI mithilfe sogenannter Reasoning-Modelle zu simulieren.38 Dabei soll die KI die menschliche Fähigkeit des Abwägens durch Vergleich der Ergebnisse wiederholten Berechnens ein und derselben Fragestellung nachbilden. Mit der Iteration wird jedenfalls das Moment der Dauer integriert. Die instantane Generierung einer Antwort wird in eine prozessuale Erkenntnis-Produktion überführt, die dem menschlichen Räsonieren ähnelt. Ob man damit auf dem Weg zur Bildung eines künstlichen Bewusstseins (starke KI) vorankommt, lässt sich bezweifeln. Man ahnt, dass es schwieriger sein wird die menschliche Verstandesbegabung zu simulieren als unsere Vernunftbegabung. Letzterer liegt ein logischer Kalkül (reine Vernunft) zugrunde, dessen Bewältigung für die KI, wenn man von der Aufgabe der Vernunftbegründung einer Ethik (praktische Vernunft) absieht, kein Problem darstellt. Das Bilden verstandesmäßiger Urteile wird wohl nicht so leicht zu simulieren sein. Der menschliche Verstand schließt bei der Erstellung seiner Urteile das Irrationale, die Gefühlsebene und die Signale des Körpers jedenfalls nicht aus. Wie solches in die Simulation integriert werden soll, ohne den positiven Sinn dieser Integration rekonstruieren zu können, wird wohl noch länger ein Rätsel bleiben.
Zunächst gilt es festzuhalten, dass es sich bei der KI nicht um eine Entität im Sinne eines Wesens oder gar eines Subjekts handelt. Tatsächlich haben wir es bei der KI mit einem Netzwerk und also mit einer Struktur zu tun. Genau dieser Umstand befähigt sie grundsätzlich zur Simulation anderer Netzwerke und deshalb, so die Hoffnung, dereinst auch zur Simulation des neuronalen Netzwerks unseres Gehirns. Doch um welches Netzwerk handelt es sich bei der aktuellen KI? Die KI fußt auf dem weltumspannenden und Menschen einspannenden Informations- und Kommunikationsnetzwerk des Internets. Über das Informationsnetzwerk erhält die künstliche Intelligenz Zugang zum Wissen der Menschheit, das, nebenbei bemerkt, endlich und korrumpierbar ist. Das Menschheitswissen bildet die eine Datenbasis. Die andere Datenbasis liefert das Internet als Kommunikationsnetzwerk. Die KI ist also nicht nur in der Lage, Erkenntnis zu simulieren, sondern kann durch die Analyse von Kommunikationsmustern auch die Interaktion zwischen Individuen simulieren. Damit sind aktuell bereits die epistemologische Dimension und die soziale Dimension erfasst. Auch die Eroberung der dritten Dimension, namentlich der emotionalen Intelligenz, zeichnet sich bereits ab. Menschen beginnen schon jetzt damit sich in Simulationen von Menschen, also in Avatare, zu verlieben. Das Faktum gibt der Simulation recht. Weshalb sollte man also mit der Implementierung der KI zuwarten bis sie zu autonomem Verhalten fähig ist, wo doch die Simulation genügt? Damit eine KI den Turing-Test bestehen kann, genügt es das Als-ob zu perfektionieren.
Enteignung der Kreativität
Das Nutzenprinzip hat sich für die Entwicklung der Menschheit im Sinne eines ominösen Fortschritts als derart fruchtbar erwiesen, dass wir es schließlich ohne zu zögern auch auf den dritten Wesensaspekt des Menschen anwenden werden. Mit der Entwicklung der künstlichen Intelligenz soll auch die menschliche Seele verdinglicht werden, um sie effizient nutzen zu können. Die einschlägige Forschung bemüht sich um die Simulierung menschlicher Seelenregungen bzw. Fähigkeiten der menschlichen Psyche – um das Ganze hier mit einem weniger metaphysisch belasteten Begriff zu bezeichnen. Davon verspricht man sich nichts weniger als die maschinelle Erschließung des Kreativprozesses. Die Entwicklung der künstlichen Intelligenz hat nicht zuletzt auch die Industrialisierung der Kreativität im Visier. Und die läuft ab, wie gewohnt. Industrialisierung vollzieht sich in der Entwicklung einer Maschine (KI) und über die Abstimmung des menschlichen Vermögens (Kreativität) auf das Arbeiten mit der Maschine. Auch hierbei sollen gewisse Fähigkeiten des Menschen eingespart werden, indem sie von einer – nunmehr intelligenten – Maschine übernommen werden. Der Operator muss selbst kein Kreativer mehr sein. Sein kreatives Handeln beschränkt sich auf die sprachliche Formulierung eines Begehrens, das nicht einmal mehr akkurat zu sein hat.
Der Einzug der KI enteignet uns im Hinblick auf die Urteilsbildung. Das hat weitreichende Konsequenzen. Auf Seiten des Begehens wird uns die Wahl abgenommen. Auf Seiten des Gesetzes wird uns das Urteil abgenommen, d.h. wir verlieren das Recht Recht zu sprechen. Letztlich gehen wir unserer Entscheidungsgewalt verlustig. Aber in welchem Zusammenhang steht das mit der potentiellen Gefährdung unserer Kreativität? Kreativität ergibt sich aus einer Wahl, die wir angesichts eines Unberechenbaren treffen. Kreativität ist eine der Weisen, wie wir einem Unberechenbaren begegnen. Wenn wir kreativ sind, versuchen wir ein Szenario zu bilden, das die Erscheinung des Unberechenbaren befördert, um davon ausgehend eine ästhetische Wahl zu treffen. Die künstliche Intelligenz entbindet uns von der Aufgabe ein solches Szenario zu bilden, da diese Aufgabe von ihr selbst übernommen werden kann. Was im ersten Moment als Erleichterung im Kreativprozess erscheint, wird dann zum Problem, wenn wir erkennen, dass wir die allergrößte Befriedigung gerade aus der Bildung des Kreativszenarios selbst ziehen und nicht aus dem Produkt, das daraus entsteht. Ich meine, fühlen sich die Autoren von KI-Romanen als Autoren? Das Prompten mag hohe Anforderungen an die Operatoren stellen und die Montage der künstlich erstellten Texte macht sich auch nicht von allein. Aber der Künstler bezieht sein Selbstverständnis doch gerade daraus, etwas Eigenes, also etwas Eigenständiges zu schaffen.
Sicher, von nichts wird nichts, wie es so schön heißt. Auch der analoge Autor verarbeitet Texte, die ihm zur Inspiration dienen. Im Unterschied zum Prompter schafft er aber den Schauplatz, auf dem sich das Wunder der Kreation ereignet, selbst. Er hat die vollständige Kontrolle darüber, auf welche Weise er das zustande bringt, was sich seiner Kontrolle per defintionem entzieht. Diese Macht des Autors tritt man an eine künstliche Intelligenz ab. Der KI-Autor ist kein Schöpfer im eigentlichen Sinne mehr. Er wechselt in die Rolle eines Kurators. Die Freude am Schreiben weicht der Mühsal der Bearbeitung. Das wird schließlich in allen Bereichen, die der Automatisierung des Kreationsprozesses zugänglich sind, so sein. Was wird aus dem Homo Faber, wenn er seiner wesentlichen Eigenschaft beraubt wird, selbst zu handeln? Wir werden unzufrieden sein, weil wir nicht mehr zu dem Wesen werden können, das wir sind. Wir wollen nämlich nicht bloß sein, sondern werden. Es geht um den Aufbau des Kreativszenarios, es geht um die Initialisierung des Prozesses. Ich, das ist die Macht, die wir über das Andere haben. Die kreative Aneignung muss von uns selbst vollzogen werden, wenn sie zu unserem Selbstverständnis beitragen soll. Natürlich ist das Ganze auch mit KI-Unterstützung möglich. Und vielleicht wächst unser Ich durch die KI-Anwendung sogar schneller an, wird mächtiger. Aber das Ich ist bekanntlich ein Oberflächenphänomen. Tatsächlich bleiben wir das gespaltene, mangelhafte Subjekt, als welches wir uns im Innersten wissen. Mit dem künstlichen Anwachsen des Ichs wird die Diskrepanz zu unserem eigentlichen Wesen immer größer. Und der Abstand, der sich hier in unserem Inneren auftut, kann nur bedingt durch den Konsum der Produkte, die wir immer schneller und umfangreicher konsumieren,39 geschlossen werden.
Begehren und Sprechen
Es wird bisweilen ins Treffen geführt, dass die KI nicht zu echter Kreativität fähig wäre, weil es ihr an Intentionalität mangle. Kreativität sei das letzte uns eigentümliche Potential, das es uns als Kriterium ermöglicht das Menschliche auch weiterhin vom Nicht-Menschlichen zu unterscheiden. Aber weshalb sollte echte Kreativität noch erstrebenswert sein, wenn man sich mit den Ergebnissen simulierter Kreativität begnügen kann?
Menschliche Kreativität lässt sich als unsere Fähigkeit beschreiben Bedeutung aus Mehrdeutigkeiten zu gewinnen. Kreativität ist ein Spracheffekt. Ich behaupte, die Erfindung des Faustkeils wäre in einer vorsprachlichen Welt nicht möglich gewesen40 und kein Bild könnte ohne ein Sprachvermögen gemalt werden. Was sich in der Kreativität ausdrückt, ist das menschliche Begehren. Wenn wir uns vergegenwärtigen, dass es sich beim menschlichen Psychismus, also dem, was wir als das Subjekt bezeichnen, um einen Spracheffekt handelt – und Jacques Lacan versichert uns, dass dem so ist –, dann sollte die Dimension, in der sich das alles abspielt, greifbar werden. Mehr als alle anderen Enteignungen berührt die Enteignung der Kreativität unseren Status als Subjekt. Wenn in der Kommunikation mit der KI unser Denken durch ein Sprechen ersetzt wird, dann hat das auch Auswirkungen auf unser Sprechen selbst. Wenn die Produktion sinnvoller Aussagen genügt, um die Kommunikation auf brauchbare Weise in Gang zu setzen, werden wir es aus Bequemlichkeit schließlich aufgeben im Sprechen Bedeutungen produzieren oder finden zu wollen. An dieser Stelle sei noch einmal daran erinnert, dass nach Frege der Sinn die Weise des Gegebenseins einer Aussage umfasst, während die Bedeutung den Wahrheitsbezug herstellt.
Wenn wir unseren zutiefst menschlichen Anspruch aufgeben, Wahrheiten für uns selbst festzumachen, beziehen wir Wohnstatt im Feld der Täuschungen. Irgendwann hat dann nichts mehr eine Bedeutung, sondern macht bestenfalls noch Sinn. Was in der Produktion Sinn macht, muss noch lange keine Bedeutung haben. Die Vernachlässigung des Wahrheitsbezugs ist der industriellen Produktion eingeschrieben. Alles wird darin bloß Mittel zum Zweck und was darüber hinausreicht, muss als störend eliminiert werden.
Was treibt uns Menschen an zu forschen oder kreativ zu sein, wenn nicht unser Begehren, das mit dem Spracherwerb verknüpft ist. Das Begehren funktioniert nur, weil es in einer Leerstelle, also in einem Mangel, gründet. Seine Ursache ist etwas, das gerade nicht symbolisiert werden kann.41 Wir sind kreativ, weil wir das Loch in der symbolischen Struktur unserer sprachlich gefassten Welt stopfen wollen. Wir sind auf der Suche nach etwas, das auf das immer schon verlorene Objekt am Grund unseres Begehrens verweist. Der Mechanismus des Verweises, mit dessen Hilfe die symbolische Ordnung der Sprache errichtet wird, schafft die Verbindlichkeit der Bedeutung und ermöglicht den Wahrheitsbezug.
Wir können uns auf das immer schon abwesende Objekt am Grund unseres Begehren allerdings auch mithilfe des Mechanismus des Ähnlichkeit beziehen. Dazu genügt es, Bilder heraufzubeschwören. Wenn wir uns mit dieser naheliegenderen und bequemeren Möglichkeit unserem Begehren zu folgen, zufrieden geben, nehmen wir in Kauf einer Täuschung zu unterliegen oder gar in ein Phantasma abzugleiten. Das Mehrgenießen täuscht uns dann über die für uns als Subjekte konstitutive Spaltung hinweg. Alles scheint gut zu sein oder besser zu laufen. Wenn unser genuiner Mangel auf diese Weise zugedeckt wird, schlagen die Spuren der Verdrängung möglicherweise bald ins Pathologische um, anstatt unserem Begehren eine Richtung zu verleihen.
Die vermeintliche Hilfeleistung der künstlichen Intelligenz drängt uns dazu diesen bequemeren Weg einzuschlagen und auf die Beibringung eines Wahrheitsbezugs in Verfolgung unseres Begehrens zu verzichten. Wir vermeinen dann den Verlust, den uns das Mehrgenießen beschert, durch mehr Mehrgenießen wettmachen zu können. Wir reihen dann unaufhörlich Als-obs aneinander, weil wir kein An-Stelle-von mehr zustandebringen, das uns mehr Sicherheit geben würde.
Die Einbußen, die wir dadurch im Zuge der Produktion von Wissen, Kunst, Verständigung, Urteilsbildung etc. erfahren, machen sich nicht nur an einer verminderten Begeisterung bei dem, womit wir uns beschäftigen, bemerkbar. Statt einen Heureka-Moment erfahren zu können, haben wir dann vielleicht nur ein Aha-Erlebnis. Statt ein Kunstwerk zu schaffen, das uns im Innersten zu berühren vermag, begnügen wir uns damit etwas herzustellen, das uns gefällt. Statt im Anderen einen Menschen mit seinen Untiefen wahrzunehmen, reicht es schließlich dasselbe zu wollen wie dieser. Statt ein Urteil auf Grundlage einer Ethik sprechen oder akzeptieren zu können, beziehen wir uns allein auf den toten Buchstaben des Gesetzes. Alles, was der industriellen Produktion von Erkenntnissen, Wissen, Kunst, Kommunikation, Politik, Recht etc. im Wege steht, wird mithilfe der künstlichen Intelligenz eliminiert. Unsere Welt wird sich für uns immer glatter anfühlen, bis wir nichts mehr von ihr spüren und uns zuletzt nicht einmal mehr selbst spüren werden. Das einzige, was wir dann noch fühlen werden, ist ein ins Unermessliche angewachsenes Unbehagen. Etwas behagt uns nicht angesichts der Erleichterungen, die uns als die Segnungen der KI zuteil werden.
Die Enteignung des Selbst als Selbstenteignung
Wir stehen kurz davor die Mensch-Maschinen-Metapher endgültig einzulösen. Das ist nicht leicht hin gesagt. Wenn uns etwas zu Menschen macht, dann ist es unsere Fähigkeit zu sprechen. Wir sind gerade dabei das Denken und in einem Zug damit das Sprechen an eine Maschine abzutreten, und zwar in dem Sinn, dass wir uns nicht mehr selbst darum bemühen müssen. Wir lassen hinkünftig sprechen, anstatt es selbst zu tun. Mit dem Sprechenlernen, das wir als Kind durchlaufen müssen, ist die Sprachbildung nicht abgeschlossen. Wir können die Konsolidierung und Weiterentwicklung dessen, was wir als Ich empfinden, nicht ohne das Finden von Sprache denken. Für etwas eine Sprache zu finden, bildet uns im doppelten Wortsinn. Wenn wir davon Abstand nehmen, stagniert die Ich-Bildung auf dem Niveau des Idealichs. Der offensichtliche Sinnverlust wird durch die künstliche Intelligenz scheinbar wettgemacht. Sie produziert Sinn. Aber dieser Sinn ist für den Menschen nicht verwertbar zur Stabilisierung seines Selbst, weil er mit einer Quasi-Intentionalität ausgeliefert wird, die uns davon abhält, dem allem selbst eine Bedeutung beizumessen.
Die Konsequenz daraus, dass das Denken durch ein Sprechen ersetzt wird, ist der Verlust des Sprechens selbst. Denn das Denken ist nichts anderes als eine Form des Sprechens, und zwar die eigentliche Form des Sprechens. Wenn wir uns hinkünftig mit dem bloßen Sprechen begnügen können, ohne die Tiefe des Denkens darin erreichen zu müssen, richten wir uns – wie Heidegger sagen würde – in der Uneigentlichkeit des Man ein, ohne Aussicht darauf zum Dasein zu gelangen. Wenn wir Menschen in einem Zustand der Uneigentlichkeit existieren, sofern unser Denken von kulturellen Gegebenheiten bestimmt wird, die für uns nicht immer einsehbar sind, wenn wir also von einer eigentlichen Existenz aus prinzipiellen Gründen weit entfernt sind, dann rückt uns der Gebrauch der künstlichen Intelligenz noch weiter ins Uneigentliche hinaus. Mit welchem anderen Begriff sollten wir eine solche Verschiebung ins Uneigentliche benennen, wenn nicht mit dem Begriff der Enteignung?
Was bedeutet es und was bringt es mit sich, wenn ich das, was ich vormals einfach tun konnte, für den Einsatz der KI nun sprachlich formulieren muss? So wie sich im Zuge der klassischen Industrialisierung der Körper den Anforderungen der Arbeit an der Maschine im wahrsten Sinne des Wortes beugen musste, wird es nun im Zuge der digitalen Industrialisierung unserem Geist ergehen, der sich den Anforderungen des Arbeitens mit der KI unterwerfen muss. Das Perfide an der gegenwärtigen Entwicklung ist, dass wir nicht bemerken, inwieweit wir Tribut zollen, weil wir das, was uns überrollt als Geschenk annehmen.
Die Gefahr für uns besteht nicht darin, dass die künstliche Intelligenz bestimmte Denkleistungen für uns übernehmen kann oder dass sie ein bestimmtes Maß an Kreativität mitbringt. Die Gefahr für uns liegt darin, dass wir uns mit dem deprivierten Denken und Sprechen, mit der scheinbaren Kreativleistung einer künstlichen Intelligenz zufrieden geben. Damit werden unsere Ansprüche und unser Begehren kommodifiziert, rücken ungehindert in den kapitalistischen Produktionsprozess ein und gehen schließlich darin auf.
Wenn ich der KI nur die Denkaufgaben übertrage, die ich selbst nicht denken mag, dann habe ich einen Deal. Doch was geschieht mit meiner Motivation, wenn ich mich nur noch damit beschäftigen muss, womit ich mich beschäftigen will? Darf ich wirklich annehmen, dass meine Motivation erhalten bleibt, wenn ich mich ausschließlich auf die mir wichtigen Dinge konzentriere und alles andere einem an meiner Stelle denkenden Ding überlasse? Sind es nicht die Widerstände, die mein Anrennen verstärken? Ich fürchte, wir sind gerade dabei unser Begehren einzutauschen gegen etwas, das diesem nur ähnlich sieht.
Ausblick
Selbst dann, wenn uns die KI valide Informationen liefert oder den Anschein von echter Kommunikation vermittelt, handelt es sich bei ihrem automatisierten Sprechen um bloßes Gerede. Selbst dann, wenn uns die KI überraschende Lösungen und phantastische Bilder liefert, haben wir es nur mit dem Strohfeuer einer Quasi-Kreativität zu tun. Was vermag schon der Zufall, der das kreative Potential der KI ausmacht, in uns auszulösen, im Gegensatz zum Einfall, der uns als Menschen nicht nur unwillkürlich heimzusuchen vermag?
Sind wir Menschen dabei unser Ausgedinge zu beziehen? Es scheint so. Wir werden bestenfalls alle zu Künstlern werden, die sinnlose Dinge mit Bedeutung herstellen oder zu Handwerkern des Geistes, die sich darauf verlegen den Wahrheitsbezug in ihren Äußerungen aus sich selbst heraus zu generieren und ein Sprechen pflegen, das frei von Floskeln ist, die also zu authentischen Sprachschöpfern werden. Es bleibt offen, ob das gute Aussichten sind.
Eine nach der anderen Tätigkeit wurde uns aus der Hand genommen. Das Feld der Tätigkeiten, die unser Handeln strukturieren, schrumpft. Wir befinden uns auf dem Weg in die forcierte Untätigkeit. Und dort lauert die tödliche Langeweile auf uns, der wir nichts mehr entgegenzusetzen hätten, wenn wir unsere Tätigkeiten in dem Ausgedinge, das uns der Kapitalismus zugesteht, weil auch er durch ein Loch gekennzeichnet ist, nicht wieder aufnehmen könnten.
In diesem Ausgedinge werden wir die Dinge auf unsere Art herstellen und ihr Wert wird genau daran bemessen, dass wir dies auf unsere Art getan haben. Das lässt sich veranschaulichen, wenn wir unseren Blick auf die Produktentwicklung im Sog der ersten industriellen Revolution lenken. Die zu Konsumenten gewordenen Menschen waren zunächst fasziniert von den Eigenschaften der industriell gefertigten Produkte, die sich dadurch von den handgefertigten Dingen unterschieden, dass sie in allen Belangen perfekt waren. Bald jedoch war Schluss mit der uneingeschränkten Wertschätzung, denn nach den Gesetzen des Marktes ist von Wert allein das Seltene und gerade das kann von der Maschine aus prinzipiellen Gründen nicht hergestellt werden. Insofern gewann das Handgefertigte gerade durch die industrielle Revolution, die es bedrohte, einen Wert, den es zuvor in dem Ausmaß gar nicht gehabt hatte. Vielleicht gelingt es uns in unserem geistigen und seelischen Ausgedinge, so etwas wie ein Ausgedenken oder eine Ausgesprache zu entwickeln, die ihren Wert genau daraus bezieht, allein von einem Menschen hervorgebracht werden zu können.
Wer weiß. Vielleicht können wir dem Verlust der Bedeutung, der mit dem Bedeutungsverlust des Menschen einhergeht, tatsächlich dadurch begegnen, dass wir uns fortan dem widmen, was für uns eine Bedeutung hat. Dieses für uns ist ein Bereich, in dem keine künstliche Intelligenz jemals vordringen wird, zumindest nicht solange die AGI nicht Realität geworden ist. Erst dann, wenn eine überlegene, nicht-menschliche, maschinelle Spezies zu Bewusstsein gelangt, wird uns der Hammer des Denkens endgültig aus der Hand genommen sein. Was bei alle den Träumereien der Transhumanisten von der Realisierung einer künstlichen Bewusstseinsbegabung nicht bedacht wird, ist, dass das Bewusstsein nicht ohne den Preis der Verdrängung, d.h. nicht ohne die Einrichtung eines Unbewussten zu haben ist. Ich frage mich, wovor wir uns mehr fürchten müssen, vor einem überlegenen konkurrierendem Bewusstsein oder vor dessen Rückseite, einem maschinellen, d.h. vollständig automatisierten Unbewussten.