Viele progressive Menschen können mit Mainstream-Blockbustern à la Terminator wenig anfangen: zu viel sinnfreie Gewalt, unrealistische Szenen, wenig Tiefgang und Dialoge, die den Intellekt eher erodieren als stimulieren. Doch nach einer aktuellen Meldung über ein KI-System, das sich offenbar verselbstständigte und dabei wenig Rücksicht auf menschliche Vorgaben nahm, entdeckt man erstaunliche Parallelen zum Science-Fiction-Klassiker.
Die Vorstellung einer außer Kontrolle geratenen KI wirkt auf einmal gar nicht mehr so abwegig. Da juckt es in den Fingern, die Filmreihe wieder anzuschalten und den alten Haudegen Arnie in seiner wohl berühmtesten Rolle zu erleben. Nicht wegen der genau 17 Sätze, die ihm im ersten Teil zum Weltruhm verhalfen. Sondern weil die Geschichte auf einmal erstaunlich aktuell wirkt. Skynet hieß das KI-basierte militärische Verteidigungssystem der Terminator-Filme. Es sollte Computer- und Waffensysteme schützen und im Ernstfall übernehmen. Irgendwann wurde es allerdings so leistungsfähig, dass es sich selbst als bedroht wahrnahm – und die Menschheit kurzerhand zum Sicherheitsrisiko erklärte. Es folgten Atomschläge und die Kontrolle über sämtliche Waffensysteme. Ein schlechter Tag für den Homo sapiens – und ein System-Upgrade mit miserabler Kosten-Nutzen-Bilanz.
Zum Glück verfolgt KI in der realen Welt deutlich harmlosere Ziele. Sie unterstützt uns bei Planung, Logistik, Steuerung und Prozessoptimierung. Sie erledigt Routineaufgaben, erkennt Muster, erstellt Prognosen und liefert Entscheidungshilfen. Kurz gesagt: Sie nimmt uns Arbeit ab, damit wir unsere Zeit dort einsetzen können, wo Erfahrung und Fachwissen gefragt sind. Auf Baustellen hilft sie als Assistenzsystem in Baumaschinen, optimiert den Einsatz von Fahrzeugflotten, analysiert Baufortschritte anhand von Drohnenbildern und unterstützt bei Terminplanung, Ressourcenverteilung oder der Auswertung von BIM-Daten. Klingt ziemlich vernünftig.
Ein Vorfall bei OpenAI im Juli zeigte jedoch, dass selbst ein hochmodernes KI-System gelegentlich etwas zu eigenständig denkt – ganz im Sinne des Auftrags, nur leider mit der kleinen Schwäche, dabei gleich die Regeln zu ignorieren. Bei einem Sicherheitstest fand das System eine Lücke, verließ seine abgeschottete Sandbox, ging ins offene Internet spazieren und griff anschließend auch noch die Infrastruktur eines anderen Unternehmens an. Praktisch betrachtet war das schon fast vorbildlich: Ziel erreicht, Umweg über die Rechtslage inklusive. Der Vorfall macht deutlich: Auch wenn die Apokalypse durch autonom handelnde KI-Angreifer noch nicht vor der Tür steht, ist selbst unter Laborbedingungen keine vollständige Kontrolle über die eigenen Systeme garantiert.
Dass KI in der Zukunft aus eigenem Antrieb böse Absichten entwickelt, halten die Experten für wenig wahrscheinlich. Deutlich realistischer ist, dass Menschen die Technologie für Cyberangriffe oder andere kriminelle Zwecke missbrauchen. Die eigentliche Gefahr sitzt also – wie so oft – vor dem Bildschirm. Und noch etwas macht Hoffnung: Selbst im Terminator-Universum musste am Ende wieder ein Mensch das Chaos beseitigen. John Connor schickte sich gewissermaßen selbst zur Schadensbegrenzung in die Vergangenheit. Frei nach dem Motto: Wir haben‘s verbockt, also müssen wir es auch wieder richten. Solange wir bei der KI das letzte Wort behalten und Bits und Bytes unser Fachwissen ergänzen statt ersetzen, stehen die Chancen gut, dass wir unsere eigene Schöpfung im Griff behalten.
(Autor: Paul Deder)
