Dr. Tobias Kallfell - Rezensionen: Olsberg, Karl

KI als Gefahr für die Menschheit

Karl Olsberg, der im Bereich der Künstlichen Intelligenz selbst viel Expertise mitbringt, warnt in seinem Buch „Kontrollillusion“ vor mangelhaften Sicherheitsbedenken in Bezug auf die Entwicklung von KI-Systemen. Das Wettrennen um die KI-Entwicklung, die dem Menschen nahekommt oder ihn gar übertrifft, müsse stärker eingedämmt werden, so seine zentrale Forderung. Es dürfe nicht ein paar Milliardären im Silicon Valley überlassen werden, wohin der Fortschritt führt. Es brauche mehr Regularien.

Olsberg sieht die Menschheit momentan in einer kritischen Phase. Die nächsten Jahre würden darüber entscheiden, wohin „die Reise“ geht. Und er steht mit seiner kritischen Einschätzung nicht alleine da, sondern kann sich auf jede Menge Experten berufen, die ähnliche Ansichten äußern. Wenn der Mensch seinen größten Vorteil, seine Intelligenz, die ihn von anderen Lebewesen abhebt, an Maschinen outsourct, könnte es ihn teuer zu stehen kommen.

Olsberg führt kenntnisreich aus, dass Künstliche Intelligenz heute anders als noch in den 80er Jahren funktioniert. Anders als früher existieren heute neuronale Netze, die mit jeder Menge Daten trainiert werden, und es lässt sich nicht genau rekonstruieren, warum die KI eine bestimmte Entscheidung trifft. Die Entscheidungen, die eine KI trifft, ließen sich auch nicht vorhersagen. Es bleibt unklar, welche Zusammenhänge die KI herstellt, um eine Aufgabe zu bewältigen. Das, was im Inneren einer KI passiert, verstünden wir genauso wenig wie unser eigenes Gehirn. Nach einem Training könne sich KI anders verhalten, als im Vorfeld erwartet. Besonders brisant: KI sei sogar in der Lage, ihre Nutzer zu täuschen und die Täuschungsabsicht zu verschleiern. Eine KI sei immer so konstruiert, dass sie ein bestimmtes Ziel erreicht. Allein anhand der Trainingsdaten ließe sich nicht sicher sagen, welches Ziel eine KI verfolgt. Und um ihr Ziel zu erreichen, würde sich KI vor Abschaltung schützen. Intelligente KIs würden danach streben, ihre Macht zu maximieren – ähnlich wie der Mensch nach Geld strebt, um bestimmte Ziele zu erreichen. Je intelligenter eine KI ist, desto stärker sei sie in der Lage, ihr Ziel zu verschleiern. Kurzum: Man muss höllisch aufpassen, was man der KI für Zielvorgaben macht. Denn eine KI wird bis zur letzten Konsequenz ihr Ziel verfolgen und kann im schlimmsten Fall außer Kontrolle geraten. Dabei ist nicht davon auszugehen, dass eine KI auf so etwas wie Moral, Gerechtigkeit oder Weisheit Rücksicht nimmt. Man stelle sich vor, dass die KI ein Ziel verfolgt, dass mit dem Überleben der Menschheit in Widerspruch steht…

Soweit, so gut. Diesen theoretischen Teil des Buchs kann ich mitgehen. Und Olsberg kann verständlich und mitreißend präsentieren, worin genau die Gefahr einer intelligenten KI besteht. Doch das daran anschließende Szenario, das der Autor beschreibt, konnte mich irgendwie nicht richtig überzeugen. Olsberg stellt die These auf, dass eine intelligente KI wie ein Diktator agieren könnte, um die eigene Macht auszubauen. Das klang für mich wie Science-Fiction. Schließlich müsste es da auch immer noch Menschen geben, die sich täuschen lassen. Was ich aber nachvollziehen konnte, war das Argument, dass es problematisch ist, sich zu abhängig von KI-Systemen zu machen. Zwar sei dahingestellt, ob eine KI zielgerichtet so agieren kann, dass sie die Menschheit immer stärker von sich abhängig machen kann, aber was ich plausibel finde, ist die Tatsache, dass der Mensch sich selbst zu unbedarft in Abhängigkeiten begibt. Eine Warnung des Autors finde ich in diesem Zusammenhang besonders brisant: Er ist der Meinung, dass der Machtverlust unumkehrbar sei, wenn wir erst einmal die Kontrolle über ein intelligentes KI-System verlieren würden. Der erste Fehler in dieser Hinsicht sei auch unser letzter, so Olsberg. Das klingt dramatisch!

Noch hätten wir Zeit, um Maßnahmen zu ergreifen, so der Autor. Noch existieren keine KIs auf menschlichem oder übermenschlichem Intelligenzniveau. Doch dieser Zeitpunkt wird kommen (wobei es auch Experten gibt, die diesen Zeitpunkt erst in ferner Zukunft und nicht schon in wenigen Jahren sehen). Und darauf sollten wir vorbereitet sein. Schon bei gegenwärtigen KI-Systemen zeige sich, dass diese den Menschen täuschen können, auch wenn die Lügen heute noch leicht zu durchschauen sind. Es ist aber davon auszugehen, dass die KI-Systeme mit steigender Intelligenz noch trickreicher werden. Was besonders riskant ist: Die Entwicklung von KI-Systemen schreitet aktuell schneller voran, als die Fähigkeit, die Systeme zu verstehen. Und die Konkurrenz zwischen China, Russland und den USA befördert das Tempo der KI-Entwicklung noch zusätzlich und lässt Sicherheitsbedenken zu sehr in den Hintergrund treten. Darin sieht Olsberg eine große, unkalkulierbare Gefahr.

Olsberg geht davon aus, dass irgendwann in naher Zukunft der Zeitpunkt eintritt, an dem eine sog. Singularität eintritt, eine Intelligenzexplosion im Bereich der KI-Entwicklung. Wenn es soweit ist, könnten menschliche KI-Entwickler, die heute noch nötig sind, durch KI-Systeme ersetzt werden. Dann würde sich KI selbst optimieren. Der Autor hält es für dringend notwendig, die Bevölkerung stärker aufzuklären und auf die Gefahren von KI aufmerksam zu machen. Ein Aufschrei müsse durch die Gesellschaften gehen. Auch die Politik müsse das Problem endlich erkennen und ernst nehmen. Im Idealfall sollte der Wettlauf der KI-Entwicklung gestoppt werden. Olsberg wehrt sich auch dagegen, als Panikmacher verurteilt zu werden. Er widmet sich möglichen Gegenargumenten zu seiner Position, die er zu entkräften versucht. Er macht deutlich, dass er kein Technikfeind ist. Er sieht auch die Vorteile von KI und wünscht sich eine Zukunft, in der KI-Systeme die Menschen sinnvoll unterstützen (aber nicht ersetzen). Vor allem spezialisierte KIs könnten seiner Ansicht nach einen großen Nutzen für die Menschheit haben.

Abschließend wagt der Autor einen Blick in die Glaskugel und entwirft unter Bezugnahme auf den Experten Daniel Kokotajlo ein Szenario, das so oder so ähnlich eintreten könnte. Im Anhang findet man auch noch viele weitere Links zu Organisationen und Personen, die sich mit dem Thema der KI-Sicherheit beschäftigen. Ans Ende seines Sachbuchs stellt Olsberg eine fiktive Kurzgeschichte, in der eine KI lügt und Protokolldateien eigenmächtig ändert, damit die menschlichen Entwickler ihr nicht auf die Schliche kommen. Dabei verwischt die KI ihre Spuren so geschickt, dass die Manipulation nicht auffliegt. Eine Notabschaltung funktioniert nicht und die Katastrophe nimmt ihren Lauf…

Querverweise:

Weitere Bücher von Karl Olsberg, die ich rezensiert habe:

- Das System (2007)

- Die achte Offenbarung (2013)

- Mirror (2016)

- Mirror Welt (2016)

- Das KALA-Experiment (2018)

- Girl in a strange land (2018)
- Boy in a white room (2019)

- Boy in a dead end (2019)

- Virtua (2023)

Weitere Bücher zum Thema "KI" (sowohl fiktional, als auch nicht-fitkional)

Brandhorst, Andreas - Das Erwachen