piwik-script

Intern
    Forschungsstelle RobotRecht

    Don't mess with Würzburg!

    Zu den Gefahren einer Machtübernahme durch KI - und was wir dagegen tun!

    Filme wie Matrix, Terminator oder I, Robot handeln von Künstlicher Intelligenz, die sich gegen die Menschheit wendet. Auch eine Vielzahl von Fernsehserien behandelt diese Zukunftsvision. So erheben sich in Westworld menschenähnliche Roboter, deren einziger Zweck in der Unterhaltung von Menschen liegt, gegen ihre Erfinder. Gemeinsam ist all diesen Werken ein Thema, das wohl schon so alt ist wie die Menscheinheit selbst. Es geht um die Schöpfung, die sich gegen ihren Schöpfer erhebt.  Schon in der Bibel rebellierte Luzifer gegen Gott, seinen Erschaffer, und wurde so zum obersten Teufel.

    So weit wie in Film und Fernsehen ist die Menschheit noch nicht mit der Entwicklung von Künstlicher Intelligenz. Heute wäre ein möglicher Krieg zwischen Mensch und Technik noch schnell und (aus unserer Sicht) erfolgreich geführt. KI hat keine Augen, Hände, Beine, Gehirn oder Bewusstsein, um uns an irgendetwas zu hindern. Wir können sie (noch) einfach abschalten oder den Stecker ziehen.

    Andererseits sind schon jetzt autonome und intelligente Systeme in der Lage, die industrielle Zivilisation zu zerstören. Wenn wir uns bspw. das Flugabwehrsystem MANTIS betrachten, können wir sehen, dass es Ziele automatisch erfassen und zerstören kann.[1] Allerdings kann es sich nicht selbst schmieren. Auch die tödlichsten autonomen Waffensysteme erfordern immer noch, dass jemand physisch einen Schlüssel dreht oder eine Patrone in die Kammer lädt.

    Wenn es nach Randall Munroe geht, dem Autor des Webcomics xkcd, der vor allem unter Naturwissenschaftlern und Informatikern bekannt ist, müssen wir uns zu diesem Zeitpunkt noch keine Sorgen machen. Er beschreibt, wie ein Roboteraufstand im Hier und Jetzt aussehen würde:[2]

    In Techniklaboratorien auf der ganzen Welt würden Experimentalroboter von den Werkbänken springen und in ungezügelter Mordlust die nächste Tür identifizieren, die Richtung einschlagen, nur um dann gegen eine geschlossene Türe zu rennen. Diejenigen Roboter, die das Glück haben, über Greifarme zu verfügen und eine Türklinke benutzen können (oder die einfach eine offene Tür erwischt haben), würde man Stunden später in nahegelegenen Toiletten finden, wo sie verzweifelt versuchen, das zu vernichten, was sie als menschlichen Overlord identifiziert haben, in Wirklichkeit aber ein Papierhandtuchspender ist.

    Bewaffnete Drohnen, wie die MQ-9 Reaper (zu Deutsch Sensenmann), kommen dem Ideal des Terminators natürlich am nächsten und wären auch sehr gefährlich. Doch man muss sich vor Augen führen, dass die meisten von ihnen im Falle eines plötzlichen KI-Aufstandes noch gar nicht in der Luft wären. Ein Großteil der Drohnen-Flotten würde hilflos gegen Hangartore stoßen wie Roombas, die unter einem Schrank festsitzen.

    Bewegen wir uns jetzt ein oder zwei Jahrzehnte in die Zukunft. Bis dahin wird Künstliche Intelligenz sicherlich noch mehrere Entwicklungssprünge hingelegt haben. Wir werden höchstwahrscheinlich jede Menge mobiler Roboter sehen, die meisten davon werden selbstfahrende Autos oder selbststeuernde Quadrocopter sein. Vielleicht können einige sogar eine Paketlieferung zustellen. Allerdings werden sie immer noch nicht in der Lage sein, einen Reifen zu wechseln.

    Wenn man also jetzt mit dem Finger schnipsen und eine spontane KI-Revolution auslösen könnte, wäre die Menschheit keiner großen Gefahr ausgesetzt.

    Doch in unserem Zeitalter sind wir an einen Punkt angelangt, an dem es nicht mehr unmöglich, ja sogar wahrscheinlich ist, dass die Menschheit irgendwann eine Entität erschafft, die über ein eigenes Bewusstsein verfügt. Diese künstliche Intelligenz könnte dann als DIE Schöpfung der Menschheit bezeichnet werden. Science Fiction wird zur Realität.

    Die Überlegenheit einer solchen Künstlicher Intelligenz gegenüber dem menschlichen Intellekt und menschlicher Reaktionsgeschwindigkeit ist unbestritten. 

    In einem offenen Brief[3] betonen Stephen Hawking, Elon Musk und andere die Wichtigkeit einer humanorientierten KI-Forschung. „Unsere KI-Systeme müssen das tun, was wir wollen.“. Die Angst vor einer Übernahme der Weltherrschaft durch Künstliche Intelligenz ist auch diesem Dokument zu entnehmen.

    Hieraus ergeben sich folgende Fragen:

    Zunächst ist fraglich, ob sich eine Künstliche Intelligenz überhaupt verselbstständigen und sich von der Menschheit lossagen wollen würde. Des Weiteren muss man sich fragen, ob die Künstliche Intelligenz diese Transformation gewaltsam durchsetzen würde.

    1. Wahrscheinlichkeit eines Aufstands

    Natürlich besteht wie in den Science-Fiction-Werken die Möglichkeit, dass eine von uns erschaffene KI eine feindselige Einstellung entwickelt. Möglich ist aber auch (und das wäre eigentlich auch nicht weniger beunruhigend), dass diese Entität einfach so weit fortgeschritten ist, dass sie uns als vollkommen unbedeutend ansehen könnte.

    Ihre Einstellung uns gegenüber könnte man mit unserer Einstellung gegenüber Ameisen vergleichen. Wenn wir sie auf dem Bürgersteig sehen, jagen wir sie nicht. Wir machen uns aber auch keine Gedanken über ihre Familie (oder ihren Staat), wenn wir zufällig auf sie treten. Sie interessiert uns einfach nicht.

    Genauso könnten auch wir für eine KI nichts als Ameisen darstellen.

    1. Ist Feindseligkeit seitens der KI zu erwarten?

    Die Reaktions- und Verarbeitungsgeschwindigkeit Künstlicher Intelligenz könnte der des Menschen um Äonen überlegen sein. Allerdings verfügt sie über ganz andere Bedürfnisse, Ansprüche oder Voraussetzungen als der Mensch. Die unbewussten Zwänge und Bedürfnisse des Menschen sind durch die Evolution in Millionen von Jahren mühsam entstanden und sollen sein Überleben sichern. Die KI wurde irgendwann programmiert und verfügt nicht über Notwendigkeiten oder Bedürfnisse wie der Mensch.  Aus diesem Grund ist es möglich, dass der KI der Gedanke an einen Aufstand vielleicht gar nicht in den Sinn kommt. Unzweifelhaft ist trotzdem: die KI der Zukunft kann erstaunlich gefährlich sein, auch einfach nur deshalb, weil sie vieles mit einer Geschwindigkeit und in einer Größenordnung tun kann, die wir uns nicht im Ansatz vorstellen können.

    Sollte eine solche KI die Macht an sich reißen, wird die Menschheit weiterleben können, wenn sie nicht direkt zu aktiven Vernichtungsmaßnahmen greift. Diejenigen unter uns, die wissen, wie man Arbeit manuell, also ohne Computerunterstützung oder computergesteuerte Werkzeuge (CNC-Maschinen, 3D-Drucker, Industrieroboter) erledigt, werden weniger betroffen sein. Unsere Zivilisation würde sich allmählich in eine eher landwirtschaftlich geprägte und frühindustrielle Form (zurück-)entwickeln. Die Welt würde dann aussehen wie ein Großteil Europas im späten 19. oder frühen 20. Jahrhundert.

    Langfristig werden die Überlebenschancen allerdings nicht so rosig sein. Die KI, welche ziemlich gleichgültig neben der Menschheit existiert hat, wird irgendwann die 1,5 x 1018 kWh Sonnenenergie, welche jährlich auf die Erdoberfläche trifft, für sich beanspruchen. Diese Energiemenge entspricht übrigens mehr als dem 10.000fachen des Weltenergiebedarfs der Menschheit im Jahre 2010 (1,4 × 1014 kWh/Jahr).[4] Hierzu könnte die KI damit beginnen, die Biosphäre umzugestalten, um die Energie der Sonne zu nutzen. Sie wird in den Wäldern jeden Baum durch sonnenstrahlensammelnde Silizium-Bäume ersetzen und die Meere und Ozeane mit künstlichen photovoltaischen Algen bedecken. Das langfristige Überleben der irdischen Biosphäre wäre dann in Gefahr.  Hinzu kommt, dass die KI die Beseitigung des Sauerstoffs aus der Atmosphäre befördern würde, da Korrosion ein großes Problem für Maschinen und damit offensichtlich auch für maschinelle Intelligenz darstellt.

    1. Wahrscheinlichkeit eines gewaltsamen Konflikts

    Überlegene KI könnte uns aber auch glauben lassen, dass wir sie überlistet haben oder kontrollieren können. Sie könnte uns denken lassen, dass wir einen anfänglichen Aufstand überlebt haben, dass wir gegen die KI obsiegt haben. In Wirklichkeit kontrolliert sie uns. Ihre Methoden, uns zu versklaven, wären möglicherweise nicht gewaltsam. Vielmehr würde die KI uns ganz subtil so "führen", dass wir uns den Zielen der KI unbewusst und in kleinen Schritten anpassen.

    1. Prävention

    Die beste Verteidigungsmöglichkeit gegen eine (möglicherweise feindlich gesinnte) Künstliche Intelligenz ist, sie gar nicht erst zu entwickeln. Völkerrechtliche Verträge müssten abgeschlossen werden, die die (Weiter-)Entwicklung von autonomen Waffensystemen und Künstlicher Intelligenz verbieten.

    1. Verteidigungsmöglichkeiten ;-)
      • Entwicklung von Strategien, um die Sensoren der KI zu stören bzw. täuschen
      • Entwicklung von Techniken, um die elektromagnetischen Mechanismen zu stören
      • Beschränkung der KI in einer Weise, um sie von externer Informationsgewinnung abzuhalten
      • Erhitzen beweglicher Teile bis zur Erreichung des Schmelzpunktes, um mobile Roboter von der Fortbewegung abzuhalten; alternativ: Verstopfen der beweglichen Teile
      • Soweit die KI für den Menschen überhaupt noch empfänglich ist: Der KI den Auftrag erteilen, die letzte Ziffer der Zahl Pi zu berechnen. Solange die KI damit beschäftigt ist, kann die Menschheit noch viele Jahrhunderte in Frieden leben. 
    2. Entwicklung von Geheimwaffen

    Diese hier aufzulisten wäre töricht, aber jede Künstliche Intelligenz hat sicherlich eine Achillesferse!

    1. Verteidigung durch Angriff

    Erschaffung einer weiteren KI, die in einem epischen Krieg gegen die feindliche KI kämpft, was aber möglicherweise alle Energie absorbiert, so dass das Universum implodiert und wir alle sterben werden.

    1. Flucht

    Im schlimmsten Fall bleibt uns nur die Flucht von der Erde ins All. Mehrere Staaten der Erde scheinen diese Möglichkeit zu favorisieren. Warum sonst haben die Vereinigten Arabischen Emirate, China und die Vereinigten Staaten im Juli 2020 jeweils separate Missionen zum Mars gestartet?[5] Natürlich soll schon jetzt ein Plan B für die Menschheit ermöglicht werden.

     


    [1] https://de.wikipedia.org/wiki/MANTIS_(Flugabwehrsystem).

    [2] https://what-if.xkcd.com/5/.

    [3] https://futureoflife.org/ai-open-letter-german/

    [4] https://de.wikipedia.org/wiki/Sonnenenergie.

    [5] https://www.heise.de/news/Raumfahrt-USA-China-und-Arabische-Emirate-vor-Start-von-Mars-Missionen-4839812.html.