Die technologische Singularität

Besprechung vom 18.06.2021

Wie kommt die Maschine zur Welt?

Murray Shanahan überlegt, auf welchen Pfaden eine Künstliche Intelligenz Wirklichkeit werden könnte, die ihren Schöpfer abhängt.

Als technologische Singularität bezeichnet Murray Shanahan, Professor für Kognitive Robotik am Imperial College in London, den Zeitpunkt, an dem "ein exponentieller Fortschritt in der Technologie derart dramatische Veränderungen herbeiführen würde, dass die menschliche Existenz, wie wir sie heute verstehen, an ein Ende käme". Was wäre also, wenn wir eine allgemeine Künstliche Intelligenz (KI) erschaffen würden, die sich dann selbst - und immer rascher - verbessern könnte?

Der Gedanke, dass wir an einen Punkt gelangen könnten, ab dem sich der technologische Fortschritt ohne menschliches Zutun vollzieht und dabei zunehmend beschleunigt, ist nicht neu. Nick Bostrom etwa, Philosoph am Future of Humanity Institute in Oxford, stellte die Möglichkeit eines solchen Kontrollverlusts ins Zentrum seines 2014 erschienenen Bestsellers "Superintelligence". Shanahan versteht sein Buch, etwas bescheidener, als Einführung in das Thema. Er möchte die technischen Herausforderungen auf dem Weg zur Realisierung der technologischen Singularität aufzeigen und die philosophischen Fragen sondieren, die diese Möglichkeit aufwirft.

In einigen Bereichen sind Computerprogramme Menschen längst überlegen. Doch in der Regel sind es hoch spezialisierte Programme, die uns in eng umgrenzten Kontexten bezwingen: Sie rechnen effizienter, finden zuverlässiger den Weg durch den Feierabendverkehr, setzen uns schachmatt. Der Mensch dagegen ist, wie Shanahan schreibt, "ein Generalist, ein Alleskönner", "anpassungs- und lernfähig". Um als Akteur grundlegend in die Welt einzugreifen und sich selbständig zu verbessern, müsste eine Maschine ähnlich vielseitig begabt sein.

Shanahan konzentriert sich daher auf die Entwicklung einer allgemeinen KI, und er sieht dabei zwei zentrale Herausforderungen. Zum einen müsste eine solche Maschine die Zusammenhänge der Welt durchschauen, also über eine Art "Common Sense" verfügen. Zum anderen müsste sie in der Lage sein, Probleme zu überwinden, indem sie eigenständig neuartige Lösungen entwickelt, also "Kreativität" besitzen.

Shanahan glaubt, dass es zwei fundamental verschiedene Ansätze zur Realisierung einer allgemeinen KI gibt. Beim biologischen Ansatz der Gehirnemulation besteht das Ziel darin, sämtliche Vorgänge im menschlichen Gehirn, oder im erweiterten Nervensystem, in einem nichtbiologischen Substrat wie Silizium abzubilden. Dafür müssten die Abläufe im Gehirn zunächst exakt kartiert werden; anschließend könnten sie in Echtzeit simuliert werden, wobei die Simulation wiederum mit der externen Umgebung verknüpft werden müsste. Doch selbst bei dem um mehrere Größenordnungen weniger komplexen Gehirn der Maus ergeben sich grundlegende Schwierigkeiten. So gibt es bisher zum Beispiel keine Möglichkeit, die biochemischen Vorgänge in annähernd hinreichender Auflösung zu erfassen. Doch Shanahan meint, die Hindernisse für "die Erstellung eines Bauplans für das Mäusegehirn" seien letztlich allein "technischer und nicht konzeptueller Natur". Früher oder später, so glaubt er, werden wir sie überwinden. Und dann wäre der Übergang zur KI auf übermenschlichem Niveau "wohl nahezu unvermeidlich" - einfach, weil sich Experimente zur Leistungssteigerung dann sehr leicht realisieren ließen.

Der zweite, rein technische Ansatz verfolgt die Realisierung einer Künstlichen Intelligenz auf Grundlage selbstlernender Algorithmen, wie sie bereits heute zum Einsatz kommen. Der Trick besteht darin, dass zwei Prozesse ineinandergreifen. Erstens entwickelt das Programm auf Grundlage großer Datensätze ein Modell der Welt, das Aussagen über die Wahrscheinlichkeit zukünftiger Ereignisse erlaubt. Zweitens experimentiert das Programm vor dem Hintergrund dieser Prognosen mit verschiedenen Strategien, um eigenständig herauszufinden, auf welche Art sich das Ergebnis entsprechend einer extern festgelegten Belohnungsfunktion maximieren lässt. Das Programm lernt also selbständig dazu. Doch während wir Menschen über ein weitreichendes intuitives Wissen verfügen und unvorhergesehene Ereignisse daher oft leicht in Zusammenhänge stellen können, ist es schwierig, einer Maschine ein umfassendes Modell der Welt zu vermitteln. Dass sich menschliche Körper anders verhalten als leblose Gegenstände, ist für eine Maschine keineswegs offensichtlich.

Mit einer konkreten Prognose, wann wir eine allgemeine KI auf menschlichem Niveau erschaffen, hält sich Shanahan wohlweislich zurück. Doch er ist überzeugt, dass es uns irgendwann gelingen wird - und ob es nun fünfzig oder dreihundert Jahre dauert, spielt in seinen Augen eigentlich keine große Rolle. In einigen Punkten ist Shanahan wohl zu optimistisch: Seine Überlegungen zur Emulation des menschlichen Gehirns etwa setzen voraus, dass wir die zentralen biochemischen Mechanismen des Gehirns bereits erfasst haben. Und dennoch ist davon auszugehen, dass es in der Neurowissenschaft, vor allem aber in der KI-Forschung, in den kommenden Jahrzehnten bedeutende Fortschritte geben wird.

Die Entwicklung einer allgemeinen Intelligenz auf menschlichem Niveau erscheint vielen Experten heute auf lange Sicht zumindest möglich. Da sie eine beispiellose Zäsur bedeuten würde, ist es sinnvoll, über diese Möglichkeit frühzeitig nachzudenken. Auf absehbare Zeit jedoch dürften näherliegende Fragen dominieren. Wie sollten wir zum Beispiel mit Programmen umgehen, die zwar keine allgemeine Intelligenz besitzen, aber immer genauere Prognosen zum menschlichen Verhalten treffen? Shanahan prognostiziert die Entwicklung einer künstlichen "Umgebungsintelligenz", die verschiedene Körper wie Autos und Staubsauger gleichzeitig bewohnen und uns als eine Art persönlicher Assistent auf Schritt und Tritt begleiten wird. Die Frage aber, wie wir eine solche Intelligenz regulieren sollten, tritt im Text in den Hintergrund.

Ein Defizit ist, dass das Buch die zahlreichen philosophischen Fragen - etwa zur personalen Identität und dem moralischen Status Künstlicher Intelligenzen - nur recht oberflächlich abhandelt. Und in der Diskussion der schwer absehbaren Folgen der Entwicklung einer allgemeinen KI auf übermenschlichem Niveau referiert Shanahan vor allem Bostroms Überlegungen. Trotz dieser Schwächen: Jenen, die sich mit dem Thema bisher wenig auseinandergesetzt haben, gibt Shanahan eine aufschlussreiche und zugängliche Einführung an die Hand.

FRIEDEMANN BIEBER

Murray Shanahan:

"Die technologische

Singularität".

Aus dem Englischen von Nadine Miller.

Matthes & Seitz Verlag, Berlin 2021. 253 S., geb.