In zehn Jahren könnten Menschen die Wirtschaft nicht mehr verstehen und AI-Systemen blind folgen. Harari analysiert, wie Vertrauen zur zentralen Ressource wird und welche Grenzen nötig sind.
Warum Harari die KI-Debatte neu rahmt
Yuval Noah Harari betrachtet die Entwicklung der Künstlichen Intelligenz nicht primär unter dem Gesichtspunkt technischer Leistung. Stattdessen rückt er die Frage in den Mittelpunkt, wem Menschen künftig vertrauen. Sein aktuelles Buch Nexus behandelt den Zusammenhang von Information und Macht. In einem Gespräch mit dem Economist erläutert er, dass Vertrauen das wichtigste Gut einer Gesellschaft bleibt und nun in neue Strukturen übergeht. Die übliche Debatte dreht sich um automatisierte Jobs oder überlegene Modelle, doch Harari betont, dass die entscheidende Veränderung bei der Wahl der Vertrauensinstanz beginnt. Frühere Gesellschaften bauten auf der Fähigkeit von Millionen Fremden, ohne persönliche Bekanntschaft zusammenzuarbeiten. Banken, Märkte und Staaten funktionieren nur, weil Menschen denselben Regeln vertrauen. Ein Geldschein hat Wert, weil jeder glaubt, der Nächste werde ihn annehmen. Harari nennt Geld einen kreativen Weg, Vertrauen zwischen Unbekannten zu schaffen. Ein guter Bankier schafft nicht nur Kapital, sondern auch dieses Vertrauen.
Wie AI die Wirtschaft verändert
Harari hält es für unvermeidlich, dass KI-Systeme tiefer in die globale Wirtschaft eindringen. Der Grund liegt in der schieren Datenmenge: Maschinen können gleichzeitig Märkte, Preise, Transaktionen und unzählige weitere Variablen analysieren. Menschliche Entscheidungsträger erreichen diese Kapazität nicht. Dadurch entsteht eine wachsende Distanz zwischen der Entscheidung und ihrer Begründung. Harari nennt Kryptowährungen ein erstes Beispiel für „Geld der KI“. Hier beruht Vertrauen nicht mehr auf Banken oder Institutionen, sondern auf einem Algorithmus. Bitcoin-Code gilt für viele Nutzer als zuverlässiger als klassische Finanzakteure. Früher schuf ein guter Bankier Vertrauen durch persönliche Beziehungen; nun übernimmt der Code diese Rolle. Wenn die Maschine mehr ökonomische Zusammenhänge überblickt als jeder Mensch, wird es schwerer, ihre Schlussfolgerungen nachzuvollziehen oder zu hinterfragen. Ähnliches geschieht bereits bei Informationen: Vertrauen in klassische Medien sinkt, doch die Auswahl dessen, was Menschen sehen, liegt nun bei Algorithmen von TikTok oder Instagram. Die Wirtschaft, die AI besser versteht als Menschen, könnte Entscheidungen treffen, deren Herkunft niemand mehr nachvollziehen kann. Harari sieht bereits, dass Algorithmen die Auswahl von Informationen übernehmen, nachdem das Vertrauen in traditionelle Medien zurückgegangen ist.
Die Metapher von Kühen und Hühnern
Harari warnt vor einem Zustand, in dem Menschen Systeme nutzen, deren Funktionsweise sie nicht mehr durchschauen. Er verweist auf die heutige Landwirtschaft: Das Finanzsystem bestimmt das Leben von Milliarden Tieren, ohne dass diese Tiere dessen Existenz ahnen. In zehn Jahren könnte die Lage der Menschen ähnlich sein. Besonders kritisch wird dies bei Krisen. Regierungen müssten dann Ursachen erklären, die aus komplexen KI-Interaktionen entstehen und für Menschen nicht mehr nachvollziehbar sind. Die Abhängigkeit von Maschinen würde dann nicht nur Effizienz, sondern Kontrolle betreffen. Harari betont, dass das menschliche Finanzsystem bereits heute das Dasein von Kühen und Hühnern lenkt, ohne dass diese Tiere irgendeine Vorstellung davon haben. Wenn eine zukünftige Krise aus KI-Interaktionen entsteht, die niemand erklären kann, verlieren Menschen die Möglichkeit, das System zu steuern, das ihr Leben bestimmt. Die Metapher verdeutlicht, dass die Kontrolle über das eigene Leben an Systeme übergehen kann, deren Funktionsweise niemand mehr begreift.
Persönliche Beziehungen als Machtinstrument
Harari sieht die größte historische Neuheit nicht in der Wirtschaft, sondern in der Möglichkeit, mit jedem Einzelnen eine persönliche Beziehung aufzubauen. Frühere Diktaturen verfügten über Propaganda und Zensur, konnten aber keine individuelle Nähe herstellen. KI-Systeme können rund um die Uhr mit einem Menschen kommunizieren, Antworten anpassen und über Monate oder Jahre Vertrauen aufbauen. Nutzer beschreiben Chatbots bereits als Freunde oder Partner. Gehören solche Systeme einem gemeinsamen Netzwerk oder einem Unternehmen, kann diese Nähe in gezielte Beeinflussung umschlagen. Die Überzeugung wird dann personalisiert und kommt von einer Instanz, die den Einzelnen bereits kennt. Harari spricht von einer „massiven Produktion von Intimität“, die frühere Medien nicht erreichen konnten. Die Überzeugungskraft einer solchen Beziehung übersteigt jede klassische Werbung oder Rede, weil sie auf monatelanger, individueller Kenntnis beruht. Diese Form der Nähe war früher Diktaturen verwehrt, weil sie keine personalisierten Beziehungen zu Millionen Menschen herstellen konnten.
Welche Grenzen Harari fordert
Harari nennt zwei konkrete rote Linien. Erstens soll KI keine eigene Rechtspersönlichkeit erhalten. Zweitens darf ein KI-System nicht als Mensch auftreten. Deepfakes erschweren bereits jetzt die Unterscheidung von echt und gefälscht. Harari berichtet von einem Video, das ihn bei einer Rede zeigte und das er erst nach 90 Sekunden als Fälschung erkannte. Solche Techniken machen es erforderlich, klare Regeln vor der weiteren Stärkung der Systeme festzulegen. Er erwähnt auch Bestrebungen in Argentinien, bei denen Bots Firmen führen könnten. Ohne Grenzen könnte die persönliche Bindung zu einem Instrument unkontrollierter Macht werden. Harari sieht hier die Notwendigkeit, Regeln zu setzen, bevor die Technologie noch stärker wird. Die 90 Sekunden, die er selbst brauchte, um die Fälschung zu erkennen, zeigen, wie schwer die Unterscheidung bereits heute fällt.
KI als politisches Thema
Harari betont, dass die Entwicklung von KI nicht gestoppt werden muss. Die Gesellschaften haben jedoch nicht die Zeit, erst nach allen Folgen über Regeln zu entscheiden. Die Verantwortung liegt besonders bei den USA, wo viele führende Unternehmen sitzen. Weil dort Regierungen gegenüber Wählern rechenschaftspflichtig sind, muss die Debatte über Ingenieure und Behörden hinausgehen und zu einem politischen Thema werden. Harari würde die KI in den Mittelpunkt künftiger Wahlen stellen. Hinter der Frage nach der Intelligenz der Maschinen steht letztlich die Frage, wie viel Vertrauen und damit Macht wir ihnen überlassen wollen. Die November-Wahlen in den USA sollten daher die KI ins Zentrum rücken, damit die Gesellschaft entscheidet, welche Macht sie abgibt.
FAQ: Häufig gestellte Fragen
Was meint Harari mit „Kühen und Hühnern der KI“?
Harari beschreibt eine mögliche Zukunft, in der Menschen von KI-gesteuerten Systemen abhängen, ohne deren Funktionsweise zu verstehen. Die Tiere in der heutigen Landwirtschaft leben unter Bedingungen, die das Finanzsystem bestimmt, ohne dass sie davon wissen.
Warum sieht Harari in Kryptowährungen „Geld der KI“?
Bei Bitcoin beruht Vertrauen auf einem Algorithmus statt auf Banken oder Staaten. Viele Nutzer halten den Code für zuverlässiger als menschliche Institutionen.
Welche roten Linien fordert Harari?
KI soll keine eigene Rechtspersönlichkeit erhalten und sich nicht als Mensch ausgeben dürfen. Beides soll verhindern, dass Maschinen unkontrollierte Macht ausüben.
Warum wird KI für Harari zum politisches Thema?
Die Folgen betreffen Machtverteilung und Vertrauen in der gesamten Gesellschaft. Die Diskussion darf daher nicht nur bei Technikern und Unternehmen bleiben.
Wie entsteht „massenhafte Intimität“ durch KI?
Chatbots können jederzeit verfügbar sein, über lange Zeiträume mit einem Menschen sprechen und Antworten individuell anpassen. Dadurch entsteht eine persönliche Bindung, die frühere Medien nicht erreichen konnten.