Künstliche Intelligenz, unser bester Freund und Feind zugleich
Human Compatible

Künstliche Intelligenz, unser bester Freund und Feind zugleich

Das Potenzial künstlicher Intelligenz ist enorm. Die Risiken sind es nicht minder. Stuart Russell gibt beidem Raum in einem Buch, das ausführlich und genau beschreibt, was KI bereits kann und was sie können wird.

Das Zusammenleben von Mensch und Maschine kann man seit geraumer Zeit auf den Leinwänden der Kinos beobachten. Manche dieser Zukunftsszenarien scheinen realistischer als andere. In manchen Blockbustern schneidet die Menschheit besser ab, in anderen weniger gut. Doch in fast allen Science-Fiction-Filmen kommt es zum Konflikt zwischen dem Menschen und der jeweiligen Form künstlicher Intelligenz. Ist es das, was uns erwartet?

Der Informatiker und Universitätsprofessor Stuart Russell geht in seinem Buch Human Compatible auf die Chancen, Herausforderungen und Risiken der künstlichen Intelligenz ein und zeigt auf, in welchen Bereichen sich die KI-Forschung dringen korrigieren muss.

Der Holzweg der KI-Forschung

Künstliche Intelligenz, die menschliche oder sogar übermenschliche Fähigkeiten hat – das ist das Ziel der KI-Forschung. Es gilt: Je intelligenter, desto besser. Doch worin besteht Intelligenz eigentlich? Letztlich hat sie mit dem Handlungsvermögen zu tun. Münzt man die Definition von menschlicher Intelligenz auf Maschinen um, so gilt eine Maschine dann als intelligent, wenn ihr Handeln darauf gerichtet ist, ihre Ziele zu erreichen. In diesem Punkt übt Russell scharfe Kritik an der KI-Forschung.

Wir müssen uns von einer der treibenden Ideen der Technologie des 20. Jahrhunderts verabschieden, nämlich von Maschinen, die ein ihnen vorgegebenes Ziel optimieren.Stuart Russell 

Wenn wir Maschinen entwerfen, deren Handlungen wir nicht aktiv beeinflussen können, sollten wir absolut sicher sein, dass die vorgegebenen Ziele exakt zu den Ergebnissen führen, die wir uns wünschen. Entsprechend schlägt Russell eine Kursänderung in der KI-Forschung vor. Um verheerende Auswirkungen zu vermeiden, sollte die KI-Forschung einer anderen Prämisse folgen: Künstliche Intelligenz bietet dann Vorteile, wenn sie ihre Handlungen darauf ausrichtet, die Ziele der Menschen zu erreichen.

Maschinen und menschliche Präferenzen

Doch wie bringt man eine Maschine dazu, die Ziele der Menschen zu erfüllen? Russell sieht die Lösung in der Konstruktion vorteilhafter Maschinen, die keine festgelegten Ziele verfolgen, sondern in der Lage sind, die Präferenzen von Menschen zu erlernen. Das einzige Ziel einer solchen Maschine besteht darin, Präferenzen des Menschen so weit wie möglich zu verwirklichen. Zu Beginn ist die Maschine noch unsicher, wie diese Präferenzen aussehen. Doch über die Zeit lernt die Maschine aus dem menschlichen Verhalten. Russell betont die Vorteile einer solchen Maschine: Sie wäre erstens wahrhaft altruistisch und einzig und allein auf das menschliche Wohlergehen ausgerichtet. Sie wäre zweitens demütig und würde sich vergewissern, ob sie die wahren Ziele des Menschen erkannt hat, und sie würde dem Menschen auch erlauben, sie auszuschalten. Drittens würde eine vorteilhafte Maschine lernen, menschliche Präferenzen vorherzusagen.

Die Rettung der Gesellschaft

Die KI-Forschung ist weltweit in vollem Gange. Doch was geschieht, wenn wir tatsächlich Erfolg haben? In einem Punkt ist sich Russell sicher: Die Auswirkungen auf unser Leben wären so einschneidend wie kein anderes Ereignis in der Geschichte der Menschheit. Superintelligente Systeme haben laut Russell das Potenzial, das Leben der Menschen nachhaltig zu verbessern. Unter Voraussetzung exzellenter Sicherheitsmechanismen könnten wir zukünftig enorm von vollautonomen Fahrzeugen profitieren. Intelligente persönliche Assistenten könnten uns nicht nur bei alltäglichen Aufgaben unterstützen, sondern auch bei der Gesundheitsversorgung, bei Bildung und Finanzen. KIs sind außerdem in der Lage, Aufgaben zu übernehmen, bei denen riesige Datenmengen analysiert werden müssen.

Ein System mit allgemeiner Intelligenz wäre imstande, all das zu tun, wozu auch ein Mensch fähig ist. Diese superintelligenten Maschinen könnten dann in einer Multi-Agenten-Kooperation verknüpft und immer weiter skaliert werden. Als mögliches Zukunftsszenario sieht Russell ein System, das beispielsweise in der Lage wäre, im Katastrophenfall eine Großstadt zu evakuieren und jedem Menschen dabei individuelle Handlungsempfehlungen zu geben. Eine superintelligente KI könnte den Lebensstandard der gesamten Bevölkerung verbessern.

Das Verderben der Gesellschaft

Russell warnt allerdings auch vor den Gefahren superintelligenter KI-Systeme. So können sie zum Beispiel von Menschen missbraucht werden. Russell nennt hier die KI-gestützte Überwachung, Beeinflussung und Kontrolle von Menschen. Entsprechend sehen die Geheimdienste dieser Welt großes Potenzial in der KI. Gleiches gilt für Kriminelle, denen KI völlig neue Möglichkeiten für automatisierte und personalisierte Erpressung bietet. Auch tödliche autonome Waffensysteme basieren auf künstlicher Intelligenz.

KI hat die Macht, die Welt neu zu formen. Daher ist es wichtig, dass wir den Prozess dieser Neuformung kontrollieren und lenken können.Stuart Russell

Russell hegt ernsthafte Zweifel daran, dass die Menschen ihre Überlegenheit und Autonomie in einer Welt behalten können, in der es Maschinen mit einer erheblich höheren Intelligenz gibt. Werden superintelligente Maschinen darauf programmiert, ein bestimmtes Ziel zu erreichen, werden sie es als ein maßgebliches Teilziel ansehen, sich selbst am Leben zu erhalten, und den Ausschalter deaktivieren. Nur so können sie sicherstellen, ihren Auftrag auszuführen. Eine superintelligente Maschine würde auch danach streben, noch intelligentere Maschinen hervorzubringen, die dem Menschen noch viel stärker überlegen wären. Spätestens dann wäre es zu spät, das Kontrollproblem zu lösen.

Die Notwendigkeit eines gesellschaftlichen Wandels

Im Zuge der KI-Debatte plädiert Russell für einen kulturellen Wandel. Mit dem rapide voranschreitenden technologischen Fortschritt werden intelligente Maschinen schon bald alle Routinetätigkeiten übernehmen, immer weniger Menschen werden arbeiten. Deshalb muss sich das Wirtschaftssystem radikal ändern.

Wir benötigen eine kulturelle Bewegung, die unsere Ideale und Präferenzen auf Autonomie, Handlungsfähigkeit und Befähigung trimmt.Stuart Russell

Mindestens ebenso wichtig erscheint es Russell, dass die Menschheit ihre Autonomie bewahrt. Menschen dürfen sich nicht einfach alle Bedürfnisse von Maschinen erfüllen und ihre Geschicke von ihnen lenken lassen. Sie müssen unabhängig und handlungsfähig bleiben.

Share this Story
Alle Rezensionen anzeigen