„Maschinen werden echte Autonomie wahrscheinlich nie erreichen.“

Wird die von Technikutopisten prophezeite Singularität uns zu Ameisen und Ochsenfröschen herabstufen? Matthias Pfeffer, Co-Autor von Prinzip Mensch, glaubt nicht daran. Für viel wahrscheinlicher hält er die Einführung einer Maschinensteuer und die Zerschlagung der großen Digitalmonopole.

„Maschinen werden echte Autonomie wahrscheinlich nie erreichen.“

Herr Pfeffer, Sie äußern sich in Ihrem Buch kritisch über manche Entwicklungen in der Digitalindustrie. Welche der heute etablierten Technologien würde Ihnen am meisten fehlen?

Matthias Pfeffer: Ich denke, es ist das Smartphone, vor allem wegen seinem Zugang zum Internet, jederzeit und überall. Ich habe mich – wie wohl die meisten von uns – so sehr daran gewöhnt, dass ich gar nicht mehr wüsste, wie ich ohne zurechtkommen sollte. Immerhin daddeln wir im Durchschnitt täglich zwischen drei und vier Stunden auf diesen Maschinchen herum. Als mein Sohn zehn war, fragte er mich einmal, wie wir denn ohne Computer früher ins Internet gekommen seien. Eine Welt ohne Internet ist für diese Generation gar nicht vorstellbar.

Angenommen, Sie könnten eine Zeitreise in die Vergangenheit unternehmen. Was würden Sie mit Blick auf die Digitalisierung anders machen?

Ich würde von Anfang an Spielregeln aufstellen. Viele glaubten damals ja fest an die Verbesserung der Welt durch Technik.

Das Internet wurde lange verklärt: als regelfreier Raum, der sich jedoch schon bald zu einem rechtsfreien Raum auswuchs.

Matthias Pfeffer

Dieses Vakuum haben die großen Digitalkonzerne dafür missbraucht, eine unglaubliche Macht anzuhäufen. Sie legen über jeden von uns persönliche Profile an, kennen unsere Stärken, Schwächen und Vorlieben. Sie berechnen, wie wir uns künftig verhalten werden, und entscheiden so über unsere Zukunft. Ich halte diese Machtkonzentration für den großen Sündenfall der Digitalisierung, und wenn man den rückgängig machen könnte, wäre das schön. Kann man aber nicht. Deswegen dürfen wir bei der Entwicklung von künstlicher Intelligenz (KI) nicht wieder dieselben Fehler machen.

Zusammenfassung zum Thema bei getAbstract
Image of: Prinzip Mensch

Prinzip Mensch

Wollen wir Mensch sein oder Menschine?

Matthias Pfeffer und Paul Nemitz Verlag J.H.W. Dietz

Sie warnen in Ihrem Buch davor, dass KI die Entscheidungshoheit übernehmen könnte. Man könnte mit Blick auf die Pandemie fragen: Na und? Offenbar treffen wir Menschen gerade auch nicht immer die besten Entscheidungen.  

Klar, das wird gerade unterstellt. Doch wir müssen uns fragen: Welcher Begriff der Optimierung liegt hier eigentlich zugrunde? Es handelt sich um einen rein technischen Optimierungsvorgang, genauer, um einen rein statistischen. Tatsächlich sind wir natürliche Wesen, mit vielen Schwächen und Fehlern, aber idealerweise auch der Freiheit, über unser Schicksal selbst entscheiden zu können. Die Machtübertragung an Maschinen geschieht ja nicht erst in einer möglichen fernen Zukunft, sondern hier und heute – nämlich dann, wenn wir unsere eigenen Entscheidungen von der Entscheidung der KI abhängig machen.

Können Sie ein Beispiel nennen?

Es gibt ja viele berühmte Fälle aus den USA: Richter ließen Software darüber entscheiden, ob Menschen auf Bewährung freigelassen wurden oder nicht. Der Algorithmus fußte auf statistischen Daten, die Schwarzen automatisch eine schlechtere Prognose ausstellten. Auf ähnliche Weise sollte durch KI die Reihenfolge für Covid-19-Schutzimpfungen festgelegt werden. Leider stellte sich heraus, dass der Algorithmus reiche, wohlhabende Weiße bevorzugte. Warum? Weil das System von der Annahme ausging, dass diejenigen, die viel Geld für ihre Gesundheit ausgeben, auch besonders krank sind. Die Beispiele zeigen, wie fehlbar die KI wirklich ist – und deshalb braucht es ein Korrektiv durch den Menschen.

KI reproduziert und verschärft die Vorurteile und Verzerrungen, die ohnehin schon da sind.

Matthias Pfeffer

Den ewigen Science-Fiction-Erzählungen aus dem Silicon Valley sollten wir jedenfalls nicht weiter auf den Leim gehen.

Sie halten die Hoffnungen, die etwa in das autonome Fahren gesetzt werden, für übertrieben?

Ja, das tue ich. Es wird zwar viel Geld investiert, um aus speziellen künstlichen Intelligenzen, die uns etwa im Schachspiel schon überlegen sind, eine generelle künstliche Intelligenz zu machen. Aber das ist viel schwieriger, als die meisten denken. Unser Gehirn ist ja in der Lage, relativ schnell die Perspektive zu wechseln. Wir sitzen im Auto, fahren gemütlich vor uns hin und singen irgendeinen Schlager mit. Und dann sehen wir, dass jemand über die Straße läuft und können sofort reagieren. Ich glaube, der Begriff beruht auf einem Missverständnis: Autonomes Fahren hieße ja, dass das Fahrzeug in jeder Situation selbst entscheidet, was es tut, und dafür auch Verantwortung übernimmt. Dem ist aber nicht so. Eine Maschine wird diese Art der Autonomie, die eine verantwortliche Selbstgesetzgebung meint, wahrscheinlich nie erreichen. Zu echter Autonomie gehört eine biologische Leiblichkeit und die Fähigkeit zur Reflexion. Beides hat KI nicht und kann es auch nicht simulieren. KI wird kein Selbstbewusstsein erlangen können.

Viele KI-Forscher sehen das anders. Jürgen Schmidhuber etwa prophezeit uns, später von superintelligenten Maschinen so behandelt zu werden, wie wir heute mit Ameisen oder Ochsenfröschen umgehen. Er sagt: „Die lassen wir auch leben – solange sie nicht in unsere Häuser krabbeln.“  

Na ja, ich habe viele solcher Menschen kennengelernt, die sich begeistert ausmalen, was alles Tolles passieren wird – und dann landet man am Ende bei Ameisen und Ochsenfröschen. Im Silicon Valley wird ja unser Denken als feuchte Wetware bezeichnet, abwertend im Vergleich zur Software, die schön metallisch, sauber und fehlerfrei sei. Das ist ein ganz alter Hut der anti-humanistischen Rhetorik. Nick Bostrom hat in seinem Buch Superintelligenz davon gesprochen, dass wir wie die Menschenaffen irgendwann in kleinen Gehegen leben werden, und die KI weist uns dann Räume zu, in denen wir nicht so viel Schaden anrichten. So wie wir uns heute gegenüber den Affen verhalten – wir lassen ihnen ihre Refugien oder nehmen sie ihnen weg –, genauso wird sich dann diese Superintelligenz um uns kümmern und alle ganz furchtbar liebhaben.

Sie lachen. Macht Ihnen das keine Angst?

Also ich glaube, dass solche Zukunftsfantasien von Wichtigerem ablenken. Es geht doch hier und heute um die Frage, wer die Kontrolle behält. Das haben wir mit Blick auf Social Media viel zu spät erkannt – nur um dann zu sehen, wie einige Plattformen die öffentlichen Räume von großen, ehrwürdigen Demokratien in den USA und Großbritannien vollkommen zerlegten und die Menschen zu disruptiven, unvorhergesehenen Entscheidungen bewogen. Wir müssen uns fragen: Was passiert schon jetzt mit der Einführung von KI-Technologien in unserem Alltag? Was passiert in unseren politischen Systemen, in unserer Gesellschaft und was könnte künftig noch passieren? Denn eins steht fest: Wir Menschen sind eine evolutionäre Erfolgsgeschichte, eben weil wir uns so gut anpassen.

Wenn wir uns künftig nur noch an technische Systeme anpassen, dann könnten Computer irgendwann nicht werden wie wir, sondern wir wie Computer. Und ob das dann ein Fortschritt wäre, wage ich zu bezweifeln.

Matthias Pfeffer

Eine andere viel diskutierte Frage ist die zur Zukunft der Arbeit. Die einen fürchten eine verarmte, zu Tode gelangweilte Unterklasse, die anderen freuen sich auf eine schöne neue Welt voller kreativer Jobs und Freizeitbeschäftigungen. Und Sie?

Natürlich, es gibt Horrorprognosen, die davon ausgehen, dass bis zur Hälfte aller Jobs wegfallen – und andere, die das Gegenteil voraussagen. Ich kenne die Antwort auch nicht. Wir müssen uns aber vor Augen halten, dass durch KI vor allem die geistige und kreative Arbeit des Menschen ersetzt werden soll. Das ist eine neue Dimension. Sobald Maschinen das kostengünstiger erledigen können, werden sie es auch tun. Deshalb sollten wir die Entwicklung steuern und die gesellschaftlichen und sozialen Folgekosten gerecht verteilen, beispielsweise durch die Einführung einer Maschinensteuer. Die wird kommen, spätestens wenn durch KI viele Arbeitsplätze wegfallen und nicht ausreichend neue entstehen. Davon bin ich fest überzeugt.

Sie schreiben, das Internet sei als anarchistischer Traum grenzenloser Freiheit gestartet und in einem libertären Alptraum monopolistischer Märkte geendet. Im Zuge der Coronapandemie sind diese Monopole noch mächtiger geworden. Wie können wir da überhaupt noch gegensteuern?

Tatsächlich hat die Digitalisierung durch Corona einen weltweiten Schub erhalten. Das ist in Teilen, wie etwa den Schulen, auch gut so. Doch die Plattformökonomie, wie sie sich heute darstellt, begünstigt die Logik des „Winner takes it all“. Ich glaube, dass es zu einer Zerschlagung der großen Digitalkonzerne kommen wird. Man sollte die Amerikaner da nicht unterschätzen. Sie haben auch früher schon mächtige Monopole zerlegt, und sie besitzen gut funktionierende demokratische Kontrollinstrumente – auch wenn wir alle mal für eine Weile die Luft anhalten mussten. Heute ist eine der spannendsten Fragen, ob es der neuen Regierung unter Joe Biden gelingen wird, die Macht der Digitalgiganten einzudämmen.

Werden Sie für solche Ansichten nicht als innovationsfeindlich beschimpft?

Ja, das ist der klassische Reflex. Doch das Gegenteil ist der Fall.

Monopolistische Konzerne sind die größten Innovationshemmnisse überhaupt. Sobald ein Wettbewerber auftaucht, kaufen sie ihn auf und integrieren ihn einfach in das vorhandene Ökosystem. Wir müssen den Spieß umdrehen.

Matthias Pfeffer

Innovation heißt nicht, alles so laufen zu lassen, wie es ist – mit Unternehmen, die weltweit die Märkte dominieren, kaum Steuern zahlen und in keinster Weise auf das Gemeinwohl einzahlen. Selbst Herr Zuckerberg forderte vor einem Jahr, dass er doch bitte schön jetzt mal Regeln bräuchte, um zu wissen, wie er sein Unternehmen entwickeln solle. Wir brauchen Antriebe für Leute, die besten Ideen zu entwickeln und sie dann auch umzusetzen. Aber genau das ist derzeit nicht der Fall. 

Ein Versuch, das Machtmonopol der Digitalkonzerne zu beschränken, war die EU-Datenschutzgrundverordnung. Kritiker sagen, die hätte außer viel Bürokratie nichts gebracht. Wie ist Ihre Einschätzung?

Regulierungen sind nie einfach, erst recht nicht bei so etwas Komplexem wie der informationellen Selbstbestimmung. Tatsächlich hat die DSGVO jedoch nicht nur neue bürokratische Hürden aufgebaut, sondern auch alte abgebaut. Immerhin sind durch die Einführung 27 nationale Binnenmarktregulatorien entfallen. Natürlich muss man gucken: Was funktioniert und inwiefern ist es eine bürokratische Zumutung für kleine Unternehmen? Da ist man inzwischen auch schon weiter: Asymmetrische Regulierungen gelten etwa nur für große Digitalunternehmen, die schon marktbeherrschend sind, während andere davon ausgenommen sind. Ich glaube, wir müssen noch viel mehr solcher Ideen entwickeln und sie nutzen für eine bessere Welt. Die Frage ist nur: Wer bestimmt, was besser ist? Das wollen wir als Bürger in der Demokratie doch noch gerne selbst entscheiden und uns nicht von den Technologieunternehmen vorschreiben lassen.

Abschließend ein Blick in die nahe Zukunft der KI: Was erhoffen Sie sich für das Jahr 2030?

Ich hoffe, dass wir eine echte digitale Aufklärung bekommen – im Sinne dieser schönen Epoche, die die erste industrielle Revolution begleitete. Damals entdeckte der Mensch, dass es wunderbar ist, frei denken und seine Meinung äußern zu können. Ich hoffe, dass wir uns diese Offenheit und Vernunft erhalten. Und dass wir uns durch eine gelenkte und regulierte Digitalisierung weiterentwickeln können. Wir sind ja noch nicht am Ende mit unserem Latein. Wir werden uns als Menschen mithilfe der Technik ganz neue Möglichkeiten erschließen. Aber es gibt dabei auch Gefahren und einige Fallen, die wir durch kluge Voraussicht vermeiden sollten.

Über den Autor
Matthias Pfeffer hat Philosophie studiert und arbeitet als freier TV-Produzent und Autor. Prinzip Mensch hat er gemeinsam mit seinem Studienfreund, dem Juristen und Hauptberater der EU-Kommission für Justiz Paul Nemitz geschrieben. Im Herbst kommt im J.H.W. Dietz Verlag sein neuestes Buch Menschliches Denken und Künstliche Intelligenz, Eine Aufforderung heraus.

Share this Story