Die Art, wie wir Informationen erzeugen, verbreiten und kontrollieren, bestimmt, in welcher Art von Gesellschaft wir leben. Künstliche Intelligenz stellt uns vor die Grundsatzfrage: Werden wir künftig noch in einer Demokratie leben – oder in einer digitalen Diktatur?
Künstliche Intelligenz: Schicksalsfrage der Demokratie
Ein Historiker blickt in die Zukunft
Yuval Noah Harari ist als preisgekrönter Sachbuchautor und provokanter Denker bekannt. Sein Buch Eine kurze Geschichte der Menschheit stieg 2011 zum internationalen Beststeller auf und machte ihn über Nacht berühmt. Seither hat er sich als innovative und viel diskutierte Stimme etabliert, nicht zuletzt, weil er sich als Autor mit einem eigenen Unternehmen gekonnt vermarktet. Dass er nebenbei noch Professor für Geschichte an der Hebräischen Universität Jerusalem ist, geht dabei oft unter. In Nexus, das 2024 erschienen ist, untersucht Harari die Auswirkungen von Informationstechnologien auf das menschliche Zusammenleben.
Der Untertitel des Buches ist etwas irreführend, da Harari keine „Geschichte der Informationsnetzwerke“ vorlegt – zumindest nicht im strengen Sinn eines chronologischen Durchgangs durch die Zeiten und Kulturen. Im Zentrum von Nexus steht weniger die Vergangenheit als die Zukunft: Hararis Kernanliegen ist die Frage, wie künstliche Intelligenz unser privates, soziales und politisches Leben verändern wird. Wird KI ein besseres Leben für alle ermöglichen – oder das Ende der selbstbestimmten, freien Menschheit einläuten? Um Antworten auf diese Frage zu finden, unternimmt Harari zahlreiche Ausflüge in die Geschichte, etwa in die Frühzeit des Christen- und Judentums, ins Mittelalter der Hexenverfolgung oder in das totalitäre Gesellschaftssystem der Sowjetunion. Mithilfe dieser historischen Exkurse erklärt Harari, wie Informationsnetzwerke funktionieren und welchen Einfluss sie auf Politik und Gesellschaft haben.
Informationen formen die Gesellschaft
Für seine Analyse von Geschichte und Gesellschaft nutzt Harari den Begriff der Information. Er kritisiert das „naive Informationsverständnis“ – also die weitverbreitete Annahme, Informationen würden Wissen schlicht abbilden und eine bestehende Wirklichkeit darstellen. Harari betont jedoch, dass Informationen Dinge verbinden und dadurch eine neue Wirklichkeit formen. Diese Bilder können wahr oder falsch sein – wirkmächtig sind sie allemal. So sind etwa Fake News zwar faktisch falsch, können aber ernsthafte reale Folgen haben, wenn viele Menschen an sie glauben. Beispiele dafür sieht Harari in der Hexenverfolgung im Mittelalter oder in der im Jahr 2017 durch Facebook-Algorithmen erneut angefachten Gewalt gegen die muslimische Minderheit der Rohingya in Myanmar. Hararis Schlussfolgerung daraus lautet: Informationen müssen kontrolliert und eingeordnet werden, weil sie nicht nur Realität beschreiben, sondern auch Wirklichkeit schaffen.
Als Informationstechnologie ist der Selbstkorrekturmechanismus das Gegenteil des heiligen Buches. Heilige Bücher sind unfehlbar. Der Selbstkorrekturmechanismus macht sich dagegen die Fehlbarkeit zu eigen.
Yuval Noah Harari
Harari betrachtet die Wissenschaft und die Demokratie als ideale Systeme, um Informationen kritisch zu hinterfragen. Beide beruhen auf dem Prinzip, Informationen offen zur Diskussion zu stellen – und möglichst viele Menschen einzubeziehen, um gezielt nach Schwächen und Fehlern zu suchen. Durch offene Kommunikation und grundlegende Skepsis wollen sie der Wahrheit möglichst nahekommen.
Ganz anders verhalten sich Informationsnetzwerke wie Bürokratien oder Diktaturen. Solche Systeme nutzen Informationen vor allem zur Kontrolle und Überwachung: Sie pressen die Wirklichkeit in Schubladen und Listen und geben nur einer kleinen Gruppe von Menschen die Informationshoheit. In Diktaturen und im Populismus, warnt Harari, werden Informationen als Waffen eingesetzt, um Menschen zu manipulieren und Gegner zu diffamieren – nicht, um die Wahrheit zu suchen. Totalitäre Systeme verhindern Selbstkontrolle, während Demokratie Selbstkontrolle fördert. Hararis Informationstheorie ist besonders überzeugend, wenn sie auf politische Systeme angewandt wird. Dabei gelingt es ihm, zentrale Unterschiede zwischen Demokratie und Totalitarismus klar herauszuarbeiten und verständlich zu machen – ein wichtiger Beitrag angesichts des globalen Erstarkens autoritärer Tendenzen und der akuten Bedrohung liberaler Demokratien.
Der digitale Totalitarismus
Das 21. Jahrhundert wird laut Harari ganz im Zeichen des Kampfes zwischen Demokratie und Diktatur stehen – ein Konflikt, der durch die rasante Entwicklung der künstlichen Intelligenz zusätzlich verschärft wird. Die Debatte um KI wird häufig von extremen Positionen bestimmt: Die einen erwarten sich von ihr die Lösung aller Probleme, die anderen sehen in ihr den Untergang der Menschheit durch totalen Kontrollverlust. Harari zählt eindeutig zu den pessimistischeren Stimmen. Zwar glaubt er, dass künstliche Intelligenz äußerst effizient darin ist, Ordnung zu schaffen, aber ungeeignet, Wahrheit zu erkennen oder ethisch zu handeln. So besteht auch die Hauptsorge Hararis darin, dass sich die digitale Sphäre zu einer allumfassenden Bürokratie weiterentwickeln könnte, die der menschlichen Kontrolle zunehmend entgleitet.
Der Aufstieg einer unergründlichen andersartigen Intelligenz untergräbt die Demokratie.Yuval Noah Harari
Schon jetzt sammelt KI mit rasanter Geschwindigkeit riesige Mengen privater Daten. Wie die Algorithmen diese Daten auswerten – also zu ihren Schlussfolgerungen und Entscheidungen kommen –, wissen meist nicht einmal mehr die Entwickler selbst. Daher stellt sich die Frage: Sollen wir dieser „alien intelligence“, wie Harari sie bezeichnet, die Entscheidungshoheit über sensible Fragen etwa in der Medizin, beim Militär oder vor Gericht übertragen, obwohl die Entscheidungsprozesse so intransparent geworden sind, dass sie Menschen nicht mehr verstehen?
Zudem entscheidet KI häufig falsch. Die ihr zugrundeliegenden Daten sind oft vorurteilsbehaftet und verzerrt. Das kann zu voreingenommenen oder diskriminierenden Entscheidungen führen, etwa wenn Gesichtserkennungssysteme bei dunkleren Hauttönen weniger genau sind oder Algorithmen bestimmte Bevölkerungsgruppen systematisch benachteiligen.
Und schließlich können Computer in digitalen Netzwerken selbstständig miteinander kommunizieren – ganz ohne menschliches Eingreifen. Harari warnt, dass sich dabei unkontrollierte „Intercomputer-Wirklichkeiten“ entwickeln könnten, die menschliche Werte und Ziele ignorieren. Daher fordert er dringend mehr Transparenz, Kontrolle und Regulierung in der Entwicklung von KI-Algorithmen. Vom Verlust der Privatsphäre bis zu geopolitischen Veränderungen wirft Harari zahlreiche Fragen und Szenarien auf – ein Anstoß zum kritischen Weiterdenken. Die Debatte über das Potenzial von KI und unseren Umgang damit – sowohl als Individuen als auch als Gesellschaft – muss dringend geführt werden.
