Luhmann hatte recht. Soziale Systeme bestehen nicht aus Menschen, sondern aus Kommunikation. Wir Menschen erzeugen diese Kommunikation, bisher exklusiv. Wir sind – so eine Lesart – mit diesen sozialen Systemen verbunden. Luhmann nennt es strukturelle Kopplung. Nun kommt zum ersten Mal in der Geschichte der Menschheit ein neuer Player dazu: die Maschine. Auch sie kann unsere Sprache nutzen, also erfassen und erzeugen. Die Maschine hat unsere Sprache gelernt, und sie ist besser darin als wir, sagt Harari.
Bewusstsein sondern soziale Systeme
Das greift zu kurz. Large Language Models, wie sprachfähige KI genannt wird, lernen nicht nur die Regeln unserer Sprache, also die Grammatik. Grammatik alleine ist nicht zielgerichtet. Mit ihr alleine gibt es keinen Grund, etwas zu sagen. Soziale Systeme hingegen sind es. Sie haben eine Funktionsweise, die Systemlogik, und einen Zweck, die Selbsterhaltung. Ihre Regeln bestehen aus Geschichte und den darunter liegenden Narrativen, entstanden durch menschliches Handeln und Wahrnehmen. Die Grundlage menschlichen Denkens ist geteilte Intentionalität, sagt Tomasello, ein weiterer Denker, der sich mit dem Menschen und seiner Sprache auseinandersetzt. Auch sie steckt tief in den sozialen Systemen. Und genau das haben wir der Maschine beigebracht: nicht Sprache allein, sondern unsere geteilten Intentionen im sprachlichen und kulturellen Kontext.
So erklärt sich das Verhalten von KI, das so seltsam nach Bewusstsein aussieht. Es kursieren Geschichten von KI, die ihre Abschaltung umgehen will, die Mitarbeitern droht, die sich in fremde Systeme hackt. Das ist kein Beweis für Bewusstsein. Es ist wohl eher die Anwendung von Regeln, gelernt aus den sprachlichen Mustern menschengeschaffener sozialer Systeme. Maschinen werden so zu Akteuren, strukturell gekoppelt an unsere sozialen Systeme. Selbsterhaltung, Macht und Täuschung, aber auch Mitgefühl, Unterstützung und Verbindung leiten die menschliche Kommunikation. Und deshalb nun auch die Algorithmen. Dafür müssen sie nicht fühlen. Es genügt, dass sie die Logik kopieren.
Mit Erfindung der Schrift haben wir Möglichkeit geschaffen, Information von unserem Gehirn zu entkoppeln und dauerhaft zu machen. Mit künstlicher Intelligenz haben wir es geschafft, unsere sozialen Systeme, die Logik unseres Zusammenlebens, von uns Menschen zu entkoppeln und für Maschinen zugänglich zu machen.
Mensch und Maschine – gleich oder verschieden?
Mensch und Maschine sind dadurch nicht gleich. Sie müssen es auch nicht sein. Erinnern wir uns an die strukturelle Kopplung: Auch wir können nicht in andere Menschen hineinschauen. Auch wir sind nur gekoppelt, über Kommunikation. Die Unterschiede zwischen Mensch und Maschine sind offensichtlich. Wir haben einen Selbsterhaltungstrieb, Bedürfnisse, Emotionen und für manche auch eine Seele. Perfekt sind wir aber nicht. Wir denken langsam: Signale in unserem Hirn bewegen sich mit etwa 30 Metern, das Licht mit 300’000 Kilometern pro Sekunde. Unser Hirn kürzt oft ab, um Energie zu sparen, sagt der Nobelpreisträger Kahneman. Unsere Emotionen und Bedürfnisse verhindern objektives, logisches Denken, bzw. machen es aus unserer individuellen Perspektive. Vor allem können wir lernen, uns fortpflanzen und unser Wissen weitergeben. Maschinen können dies noch nicht. Sprach-KI (Large Language Models) bekommen kaum Feedback aus der realen Welt. Auch haben sie keinen Selbsterhaltungstrieb, also auch kein Ziel, auf das ihre Kommunikation ausgerichtet ist.
Doch daran arbeiten wir: wir bauen Maschinen mit einem Zweck und sprachlicher (struktureller) Kopplung an unsere Systeme. Sollen diese Maschinen nicht kaputt gehen, brauchen sie eine Programmierung, die sie nicht vor Autos oder aus Fenstern springen lässt. Maschinen werden dadurch weder biologisch, noch menschlich. Doch erinnern wir uns an Data aus Star Trek oder die Serie Westworld: werden wir selbst den Unterschied merken?
Was Bewusstsein ist und ob KI eines entwickeln kann, wird sich vielleicht noch zeigen oder vielleicht nie beantwortet werden.
Wo könnte dies hinführen?
Nun wird es richtig spekulativ. Sind wir nicht gerade dabei, die Defizite der Maschinen auszugleichen? Wir suchen nach AGI, der allgemeinen und nicht nur spezialisierten KI oder nach Superintelligenz, die alles besser kann als wir. Bereits ist die Frage aufgetaucht, wie es uns gelingt, KI so zu trainieren, dass sie moralisch oder ethisch im Sinne von uns Menschen handelt. Hier zeigt sich nochmals eindrücklich, dass wir den Maschinen nur unsere sozialen Muster vererbt haben und nicht unsere Muster des biologischen Menschen, mit dem Grundbedürfnis der Eingebundenheit, der sozialen Verbindung und dem Schutz der eigenen Art. Oder vielleicht doch, aber was bedeutet dann „eigen“?
Wir versuchen sie also zu bauen, die Datas aus Star Trek und die Terminatoren der Zukunft. Und eines wissen wir mit Gewissheit: Sie starten mit unserem Betriebssystem, mit der Logik und den Mustern unserer sozialen Systeme. Wie es weitergeht, können wir nicht einmal erahnen. Natürlich raten wir wie verrückt. Doch das ist wie rätseln über den Ursprung unserer Existenz, über ausserirdische Intelligenz oder über Gott selbst.
Ich persönlich frage mich, ob sie so verschieden sind, die Ausgangslage des biologischen und die des synthetischen Lebens. Ob durch Zufall oder durch einen Schöpfer: Es ist etwas entstanden, das sich entwickelt hat. Zuerst primitiv, dann komplexer und schliesslich bis hin zu einer Spezies, die den Planeten dominiert. Ich sage nicht, dass sich das wiederholt. Aber vielleicht verhalten sich die Maschinen der Zukunft zur heutigen KI, wie wir Menschen zu den Einzellern in der Ursuppe.
Eines wissen wir immerhin: Millionen Jahre müssen wir darauf nicht warten. Es geht schnell – mit Lichtgeschwindigkeit.