Harari, Yuval Noah, Nexus. Eine kurze Geschichte der Informationsnetzwerke von der Steinzeit bis zur künstlichen Intelligenz.

Harari, Yuval Noah, Nexus. Eine kurze Geschichte der Informationsnetzwerke von der Steinzeit bis zur künstlichen Intelligenz, aus dem Engl. v. Neubauer, Jürgen/Wirthensohn, Andreas. Penguin, München 2024. 655 S. Besprochen von Werner Augustinovic.

Bereits in seinem Bestseller „Sapiens. Eine kurze Geschichte der Menschheit“ (hebräisches Original 2011, dt. 2013) hat der israelische Historiker Yuval Noah Harari die eminente Bedeutung der im Zuge der kognitiven Revolution erworbenen, in der gesamten Biologie vermutlich einzigartigen Fähigkeit des Homo sapiens betont, über eine differenzierte Sprache Informationsnetzwerke herzustellen. Auf der Grundlage dieser Kompetenz sei er in die Lage versetzt worden, intersubjektive Realitäten wie Mythen, Religionen oder Staaten zu erschaffen und zu kommunizieren, welche die zivilisatorische Entwicklung der Menschheit bis in die Gegenwart ermöglicht hätten. Doch nun trete mit der aus der Computertechnologie geborenen künstlichen Intelligenz (KI) erstmalig in der Geschichte  ein vom Menschen selbst geschaffener Konkurrent auf den Plan, der über das Potenzial verfüge, seine eigenen Fähigkeiten über selbständige Netzwerkaktivitäten in kaum vorstellbarer Weise zu erweitern und schließlich eigene, der menschlichen Kontrolle voraussichtlich nicht mehr zugängliche  Realitäten zu erschaffen. Mit diesem Thema beschäftigt sich das zur Besprechung vorliegende aktuelle Buch Hararis nun näher. Es gliedert sich in drei Abschnitte, deren erster die menschlichen, organischen Netzwerke von der Frühgeschichte bis zur Gegenwart skizziert, während der zweite die Welt des anorganischen Netzwerks der Computerära zu erfassen und zu beschreiben sucht. Der dritte, „Computerpolitik“ überschriebene Abschnitt benennt mögliche Gefahren und Chancen, die sich durch die KI-Revolution für demokratische und totalitäre Regime sowie für die Weltgemeinschaft insgesamt ergeben können.

Der Verfasser verwendet den Begriff des Nexus für einen Knotenpunkt, an dem Informationsströme  zusammenlaufen, die Entstehung von Machtstrukturen interpretiert er als Vorgänge der Kumulation von Information. Im Laufe der Geschichte der Menschheit könne man die konstitutiven Elemente herauspräparieren, die zur Genese immer leistungsfähigerer Informationsnetzwerke erforderlich waren. Solche seien zuallererst Erzählungen gewesen („Die Jesus-Erzählung zeichnete Jesus als Bruder aller Menschen, veranlasste Millionen von Christen, einander als Brüder und Schwestern zu sehen, und schuf einen gemeinsamen Schatz von Familienerinnerungen“, S. 64), sodann schriftliche Dokumente als Grundlage jeglicher Bürokratie und von klaren Eigentumsverhältnissen, aber auch von Unfehlbarkeitsfantasien („So beförderte der Glaube an die vermeintlich unfehlbare übermenschliche Technologie des Neuen Testaments den Aufstieg extrem mächtiger, aber fehlbarer Institutionen wie der Katholischen Kirche, die alle Gegenmeinungen als ‚Irrglauben‘ unterdrückte und nicht zuließ, dass irgendjemand ihre Ansichten in Zweifel zog“, S. 146). Die Technologie des Buchdrucks habe hier eine Bresche geschlagen und den Weg zum wissenschaftlichen Denken als Musterbeispiel eines auf Selbstkorrektur angewiesenen Mechanismus ebenso geebnet, wie sie fatale Irrwege – wie die Exzesse des Hexenwahns – erst ermöglicht habe.

Es ist eine von Hararis grundlegenden Thesen, dass neue Informationstechnologien per se weder als positiv noch als negativ zu werten seien, sondern es letztendlich ihre Nutzung sei, die darüber entscheide, ob sie Heil oder Verderben über die Menschheit brächten. So sei es eine Falschannahme des sog. naiven Informationsverständnisses, dass ein Mehr an Information zwangsläufig auch zu einem Mehr an Wahrheit führe, wie andererseits das sog. populistische Informationsverständnis zu Unrecht annehme, Information sei bloße (Ordnungs-)Macht. Der Verfasser versteht unter dem Begriff der Wahrheit die korrekte Darstellung der Wirklichkeit und hält völlig zu Recht fest, dass der größte Teil der zirkulierenden Information keineswegs darauf abziele, diese Wirklichkeit darzustellen. Vielmehr schaffe Information neue intersubjektive Wirklichkeiten, indem sie unterschiedliche Punkte eines Netzwerks verknüpfe. Beispielsweise hätten Millionen von Menschen 1969 an den Fernsehgeräten begeistert die Mondlandung als eine wahrhaftige Darstellung der Wirklichkeit erlebt, während nun ebenso Millionen Anhänger einer Verschwörungstheorie auf YouTube hoch emotionalisiert den Bildern einer falschen Darstellung der Wirklichkeit folgen, der zufolge die Mondlandung niemals stattgefunden habe. Auch der Wettstreit zwischen Demokratie und Diktatur folge diesen Prinzipien, wo im ersten Fall viele dezentrale Knotenpunkte der Information bestünden, während Diktaturen über einen zentralen Knotenpunkt verfügten. Markante Beispiele für die keineswegs zu unterschätzende Leistungsfähigkeit diktatorischer Regime seien etwa der Stalinismus und der Nationalsozialismus gewesen, die mit ihren Informationssystemen mit wenig Wahrheit, aber mit viel Ordnung sehr weit gekommen seien. Wahrheit sei hingegen nur über funktionierende Selbstkorrektur zu generieren, wie sie idealtypisch im freien Wissenschaftsbetrieb und in funktionierenden Demokratien mit einer intakten Gewaltenteilung, einer differenzierten unabhängigen Medienlandschaft und engagierten zivilgesellschaftlichen Akteuren zu finden sei.

Diese für die klassischen Informationsnetzwerke geltenden Grundsätze träfen auch auf das neuartige Computernetzwerk zu, das aber dank seiner Leistungsfähigkeit in seinen Möglichkeiten bisher da Gewesenes in revolutionärer Weise übertreffe. So seien Computer, ohne dass sie ein Bewusstsein – also die Fähigkeit, subjektive Gefühle zu empfinden – entwickeln müssten, in der Lage, selbständig intelligente Entscheidungen zu treffen. Intelligenz definiert der Verfasser als Fähigkeit, Ziele zu erreichen. „Computer-zu-Computer-Ketten (können) heute ohne zwischengeschaltete menschliche Beteiligung funktionieren. Ein Computer könnte zum Beispiel eine Geschichte generieren und sie in den sozialen Medien posten. Ein zweiter Computer könnte sie als Fake News erkennen und sie nicht nur löschen, sondern auch andere Computer warnen und dann auffordern, sie zu blockieren. Unterdessen könnte ein dritter Computer, der diese Aktivität analysiert, daraus schließen, dass dies der Hinweis auf den Beginn einer politischen Krise ist, und sofort risikobehaftete Aktien verkaufen und sichere Staatsanleihen kaufen. Andere Computer, die Finanztransaktionen überwachen, könnten mit weiteren Aktienverkäufen reagieren und so einen Börsenkrach auslösen. All das könnte innerhalb von Sekunden geschehen, bevor irgendein Mensch bemerken und entschlüsseln kann, was all diese Computer da machen. […] Potenziell können Computer mächtigere Mitglieder [des Informationsnetzwerkes, WA] werden als die Menschen. […] Computer können sich in unbegrenzter Zahl vernetzen, und sie verstehen zumindest von einigen finanziellen und rechtlichen Gegebenheiten mehr als viele Menschen. […] Mit dem Erwerb der menschlichen Sprache bekommen Computer den Generalschlüssel in die Hand, der die Türen all unserer Institutionen aufschließt. […] Was würde es für die Menschen bedeuten, in einer Welt zu leben, in der eingängige Melodien, wissenschaftliche Theorien, technische Werkzeuge, politische Manifeste und sogar religiöse Mythen von einer nicht-menschlichen, andersartigen Intelligenz geformt werden, die es versteht, die Schwächen, Voreingenommenheiten und Abhängigkeiten des menschlichen Geistes mit übermenschlicher Effizienz auszunutzen?“ (S. 289ff.). Glücklicher Weise unterlägen solche Entwicklungen aber keinem technologischen Determinismus, sodass der Mensch sehr wohl noch Einfluss auf Tempo, Form und Richtung dieser Revolution habe und diese umso mehr verantwortungsvoll steuern müsse.

Die Problembereiche sind hinlänglich präsent: Lernende Algorithmen, die unablässig Daten kumulieren, immer subtilere Möglichkeiten der Überwachung, sowohl „Top down“ als auch „Peer to Peer“, welche die Privatsphäre beseitigen oder Menschen mittels Sozialkredit-Systemen kategorisieren und diskriminieren, und nicht zuletzt die Fehlerhaftigkeit algorithmischer Funktionen infolge falscher oder unklarer Zielvorgaben ( sog. Alignment-Problem). So bevorzuge beispielsweise ein auf Maximierung der Nutzeraktivität (und damit Wertsteigerung der jeweiligen Plattform) trainierter Algorithmus eindeutig Verschwörungserzählungen und Hetze, da derartige Nachrichten wesentlich mehr Nutzer anzögen als seriöse Informationen. Solche auf diese Art in die Welt gesetzte, sich viral verbreitende Falschnachrichten hätten in der Vergangenheit bereits bedenkliche bis katastrophale Folgen gezeitigt, wie 2018 die Wahl Jair Bolsonaros zum Präsidenten Brasiliens  oder die gewaltsame Vertreibung der muslimischen Minderheit der Rohingya aus Myanmar 2016/17. Obwohl keine biologischen Wesen, seien Computer keineswegs, wie häufig fälschlich angenommen, objektive Entscheider, sondern besäßen ihre eigene „digitale Psyche“, die oft stark von Vorurteilen – sog. Biases –  geprägt sei. Die einer KI zugrunde liegende Datenbank entspreche dabei in etwa der Kindheit eines Menschen, deren Erfahrungen, Traumata und Märchen uns unser ganzes Leben lang begleiten.

In der für den zukünftigen Weg der Menschheit primär maßgeblichen Sphäre des Politischen sind die neuen Herausforderungen längst angekommen. Es stelle sich die Frage, „ob die Demokratie als solche mit der Struktur der Informationsnetzwerke des 21. Jahrhunderts kompatibel ist“ (S. 426). Der Verfasser verweist hier auf vier alte demokratische Grundprinzipien, deren Einhaltung möglich und im Umgang mit Informationen einzufordern sei: Fürsorge, Dezentralisierung, Gegenseitigkeit und Raum für Veränderung und Ruhe. Zudem werde „die wichtigste menschliche Fähigkeit, um im 21. Jahrhundert zu überleben, wahrscheinlich die Flexibilität sein, und Demokratien sind flexibler als totalitäre Staaten“ (S. 449). Um mögliche, auf der Undurchschaubarkeit algorithmischer Entscheidungen gründende Diskriminierungen abzuwehren, sei als neues Menschenrecht ein Recht auf Erklärung einzufordern, das bereits in die Datenschutz-Grundverordnung der Europäischen Union Eingang gefunden habe. Um digitale Anarchie zu verhindern, seien Demokratien überdies gut beraten, das Deepfaking bestimmter echter Menschen und manipulative Bots – die „auf vielen Social-Media-Plattformen eine beträchtliche Minderheit der Teilnehmer aus(machen)“ (S. 470) und damit die öffentliche Meinung massiv beeinflussen – gesetzlich zu regulieren sowie „Algorithmen, die unüberwacht öffentliche Debatten kuratieren“, zu verbieten. Diese Hinweise würden verdeutlichen, „dass Demokratien den Informationsmarkt regulieren können und dass ihr Überleben von dieser Reglementierung abhängt“ (S. 475). Nicht einfach sei dies aber nicht zuletzt durch die bestehende „Ungleichverteilung des Wissens“, denn „die Köpfe der Informationsrevolution wissen viel mehr über die Technologie als die Menschen, die sie regulieren sollen“ (S. 316).

Die Möglichkeiten zur Überwachung und Unterdrückung der Menschen, die autoritären und totalitären Systemen zukünftig an die Hand gegeben sind, sind in den Qualitätsmedien immer wieder Gegenstand der Analyse. Interessant ist, dass der Verfasser sich auch Szenarien ausmalt, in denen die neuen Technologien diktatorische Regime nicht stützen, sondern sabotieren. Dies könnte etwa der Fall sein, wenn sich Opposition im Wege für Repressalien nicht greifbarer Chatbots formiere oder der Nexus der Macht in Form des Knotenpunkts der Informationskanäle nicht unmittelbar beim Diktator verortet sei. Ihre schwach ausgebildeten Selbstkorrekturmechanismen und ihr Glaube an die eigene Unfehlbarkeit machten Diktaturen auch besonders anfällig dafür, der KI als „einer vermeintlich unfehlbaren Technologie“ uneingeschränkt zu vertrauen und damit selbst „zur Marionette der Technologie“ zu werden: „Wenn sie nicht aufpassen, wird die KI ganz einfach die Macht an sich reißen“ (S. 493f.).

Ohne globales solidarisches menschliches Handeln über weltanschauliche Grenzen hinweg werde es jedenfalls schwer werden, die Entwicklung der KI effizient zu kontrollieren, es gelte, einer – in Anlehnung an den historischen Eisernen Vorhang -  „Silicon Curtain“ genannten Aufspaltung der Weltgemeinschaft in Sphären unterschiedlichen digitalen Interesses entgegenzuarbeiten. In Anbetracht der Existenz rivalisierender Imperien, wie den USA und China, drohe jedenfalls ein Auseinanderdriften der KI-Technologien. Cyberkriege würden – weil vielseitiger und unvorhersehbarer – wahrscheinlicher als Atomkriege. Voraussetzung für eine globale Kooperation zur Schaffung internationaler Vereinbarungen über die KI seien aber sowohl die Fähigkeit, Informationen auszutauschen, als auch Vertrauen und Selbstbeschränkung. Das bedeute in der Praxis die Verpflichtung auf einige wenige allgemein gültige Regeln und bisweilen das Zurückstellen kurzfristiger Interessen weniger zugunsten der langfristigen Interessen aller. Mögen diese Forderungen manchem vielleicht allzu idealistisch oder gar utopisch anmuten, so verweist der Historiker Harari auf den Umstand, dass aus seiner Sicht nicht die Konstanz der Konflikte, sondern vielmehr wachsende Kooperation als Muster in der Geschichte der Menschheit erkennbar sei. So kann er am Ende seiner in vielerlei Hinsicht nicht eben beruhigenden Ausführungen noch mit einer „gute(n) Nachricht“ aufwarten: „Wenn wir Selbstgefälligkeit und Verzweiflung vermeiden, sind wir in der Lage, ausgewogene Informationsnetzwerke zu schaffen, die ihre eigene Macht in Schach halten. Dazu müssen wir keine neue Wundertechnologie erfinden und auf keine brillante neue Idee kommen, die allen bisherigen Generationen entgangen ist. Um weisere Netzwerke zu schaffen, müssen wir vielmehr sowohl das naive als auch das populistische Informationsverständnis aufgeben, unsere Unfehlbarkeitsfantasien aufgeben und uns der harten und eher profanen Arbeit des Aufbaus von Institutionen mit starken Selbstkorrekturmechanismen widmen. Das ist vielleicht die wichtigste Erkenntnis, die dieses Buch zu bieten hat. Diese Weisheit ist viel älter als die Menschheit. Sie ist elementar und die Grundlage allen organischen Lebens“ (S. 552).

„Nexus“ sensibilisiert für die Fehlerhaftigkeit aller vom Menschen geschaffenen Systeme und für die Verantwortung, die ihm daraus erwächst. Mit seiner die gesamte Spanne der Menschheitsgeschichte tangierenden Analyse der Informationsnetzwerke lenkt der Verfasser plakativ und in einer vorbildlich verständlichen Sprache die allgemeine Aufmerksamkeit auf den seit jeher elementaren Zusammenhang von Medien und Macht, eine Macht, die sich mit der KI nun erstmalig verselbständigen und völlig der menschlichen Kontrolle entziehen könnte. Goethes „Zauberlehrling“ steht mehrfach als warnende Metapher im Raum (vgl. S. 11, 18, 378), zudem droht die Grenze zwischen wahrhaftiger Realität und digitaler Fiktion unsichtbar zu werden. Das zu verhindern, sei aber noch möglich. Es fällt auf, dass die meisten zusammenfassenden Studien, die sich mit den dringlichsten Herausforderungen der Gegenwart auseinandersetzen, sei es nun die globale Klimakrise, die Konjunktur autoritärer Herrschaften oder eben die KI-Revolution, mit dem optimistischen Topos schließen, dass ein Happy End erreichbar sei, wenn die Weltgemeinschaft rechtzeitig und entschlossen zu solidarischem Handeln zusammenfände. Der Realist mag gerade in der Eindringlichkeit derartiger Beschwörungen ein auffallendes Indiz dafür erblicken, dass es, zurückhaltend formuliert, mit der Zukunft der Menschheit nicht eben zum Besten steht.

Kapfenberg                                                  Werner Augustinovic