Hat niemand „WarGames“ gesehen?
Der Kultfilm von 1983 über einen Supercomputer, der Thermonuklearkrieg „spielt“, ist heute relevanter denn je – und niemand im Pentagon scheint ihn gesehen zu haben.
Vielleicht haben Sie in der letzten Woche oder so verfolgt, was sich als Nachrichten ausgibt. Die Regierung will, dass Maschinen das Kommando übernehmen, bald die Kontrolle über die US-Militäroperationen erhalten – und wir alle draufgehen.
Einen Schritt zurück. Das Technologieunternehmen Anthropic, vor allem bekannt als das Frontier Lab hinter dem freundlicheren, weniger rassistischen Chatbot Claude, liegt derzeit im Clinch mit dem US-Verteidigungsministerium (Department of Defense). Es gibt, sagen wir mal, gewisse Meinungsverschiedenheiten darüber, wie die aktuelle Regierung Anthropics KI-System nutzen könnte – und sollte. Konkret: CEO Dario Amodei macht sich Sorgen über fehlende Leitplanken, sobald das System einmal übergeben ist.
Amodei veröffentlichte ein Statement, in dem er festhielt, dass das Unternehmen, das einen Vertrag mit der US-Regierung hat und seine KI-Modelle in mehreren klassifizierten Bundesnetzwerken betreibt, niemals Einwände gegen bestimmte Militäroperationen erhoben oder versucht hat, die Nutzung unserer Technologie auf ad hoc-Basis einzuschränken. In einer begrenzten Zahl von Fällen sind wir jedoch der Überzeugung, dass KI demokratische Werte untergraben, statt sie zu verteidigen. Einige Anwendungen liegen schlicht außerhalb dessen, was die heutige Technologie sicher und zuverlässig leisten kann.“
Diese Anwendungen betreffen laut Amodei die Massenüberwachung von US-Bürgerinnen und -Bürgern – in einem Ausmaß, das weit über das Aufspüren vermisster Haustiere hinausgeht – sowie vollständig autonome Waffen. Im Klartext: KI-Systeme, die vollständige Kontrolle über die Zielerfassung und den Einsatz des gesamten Militärarsenals übernehmen, einschließlich thermonuklearer Waffen – und dabei Menschen aus der Gleichung streichen.
Vollständig autonome Waffen können nicht zuverlässig das kritische Urteilsvermögen ausüben, das unsere hochqualifizierten, professionellen Soldaten täglich unter Beweis stellen, heißt es in dem Memo. Wir werden wissentlich kein Produkt bereitstellen, das amerikanische Soldaten und Zivilisten gefährdet. Wir haben angeboten, direkt mit dem Kriegsministerium an Forschungs- und Entwicklungsarbeit zu arbeiten, um die Zuverlässigkeit dieser Systeme zu verbessern – dieses Angebot wurde jedoch nicht angenommen.“
Anthropic gegen das Pentagon
Diese letzten sechs Wörter erklären, wo wir gerade stehen. Anthropic will seine bestehenden Verträge anpassen, um eine mögliche Mecha-Apokalypse zu verhindern. Verteidigungsminister Pete Hegseth hat erklärt, die US-Regierung solle mit Anthropics Software auf dem Schlachtfeld machen können, was zum Teufel sie wolle – Armageddon hin oder her. Er ist bereit, das Unternehmen zu einem Lieferkettenrisiko zu erklären und sämtliche Verträge zu kündigen. Der Präsident meldete sich erwartungsgemäß ebenfalls zu Wort. Zahlreiche Kritiker, politische Kommentatoren und Spötter fragten, mehr oder weniger rhetorisch, ob irgendjemand in der Regierung noch weiß, wie es ausging, als man in den Terminator-Filmen die Verantwortung für nukleare Waffen an Maschinen übergab.
Was uns jedoch interessiert: Erinnert sich die Regierung noch an einen anderen populären Film aus derselben Ära – WarGames?
Wie jeder eingefleischte Fan des Reagan-Kinos weiß, dreht sich der Hit von 1983 um einen Computer-Nerd aus Seattle namens David Lightman, gespielt von Matthew Broderick – nerdig, aber auf eine irgendwie süße Art, noch vor Ferris Bueller. Er ist das freche Schlitzohr im Unterricht und ein Ass darin, sich ins Schulnetzwerk zu hacken und seine Noten zu verbessern. Als er auch seiner Mitschülerin Jennifer (Ally Sheedy) helfen will, indem er ihr F in ein A ändert, zögert sie zunächst. Doch die junge Frau ist beeindruckt von Davids Grips und seinen cojones. Man riecht die Pheromone dieser beiden Teenager förmlich.
WOPR: Der Supercomputer, der alles entscheidet
Währenddessen dreht man beim Hauptquartier des North American Aerospace Defense Command (NORAD) am Rad wegen einer kürzlich abgehaltenen Übung. Wir haben bereits gesehen, wie ein Mitarbeiter sich weigert, während dieser Übung ICBMs aus einem US-Raketensilos freizugeben; nicht einmal sein Partner, der ihm eine Waffe an den Kopf hält, kann ihn dazu bringen, potenziell Millionen Menschen zu töten. (Ja, der Typ, der die Pistole hält und Turn your key, sir! brüllt, ist tatsächlich ein babygesichtiger Michael Madsen. Selbst damals schon war der spätere Mr. Blonde durch und durch kaltblütig.) Offenbar war dieser widerstrebende Massenmörder nicht der Einzige, der nicht mitspielte. Fast ein Viertel der Männer an diesen Fernkontrollzentren weigerte sich ebenfalls, ihre Schlüssel zu drehen.
Zum Glück – zum Glück – hat einer eine Lösung. Dr. John McKittrick; da er vom Jahrzehnt-Arschloch schlechthin Dabney Coleman gespielt wird, sieht man sofort, dass mit dem Typen nicht zu spaßen ist. McKittrick will die Kontrolle über das US-Nukleararsenal an einen Supercomputer namens War Operation Plan Response, kurz WOPR, auslagern. Diese Maschine tut rund um die Uhr nichts anderes als simulierte Angriffs- und Gegenpläne durchzurechnen. Sie verbringt ihre gesamte Zeit damit, über den Dritten Weltkrieg nachzudenken, prahlt er – was wahrscheinlich auch eine akkurate Beschreibung von Hegseth ist. McKittrick weiß zwar, dass technisch gesehen der Oberbefehlshaber bei internationalen Konflikten die Strategie vorgibt, ist aber überzeugt: Der Präsident wird diesem Kriegsplan wahrscheinlich folgen… sobald er diese Entscheidung getroffen hat.“
Ein Teenager hackt den Atomkrieg
Kurzfassung: David hackt versehentlich in WOPRs Netzwerk ein und wählt aus einem Menü voller Spiele – darunter Schach, Dame, Poker, Luftkampf, Luft-Boden-Operationen und biotoxische und chemische Kriegsführung – den verlockendsten Titel: Thermonuclear Warfare. Der findige Jüngling startet ein Kriegsspiel, das der Computer auch nach seinem Logout weiter spielt – mit sehr realen Konsequenzen. Er und Jennifer müssen auf der Flucht vor den Feds bleiben und WOPR schließlich zu einem Unentschieden zwingen, bevor alles in die Luft geht.
Die Geschichte zwischen Broderick und Sheedy war Regisseur John Badham ein besonderes Anliegen. (Badham übernahm das Projekt, nachdem der ursprüngliche Regisseur Martin Brest gefeuert worden war; die Entlassung befreite Brest immerhin dazu, einen neuen Film anzugehen – irgendeine Geschichte über einen Fremden in der Großstadt namens Beverly Hills Cop.)
Und obwohl die meisten Kinogänger eines bestimmten Jahrgangs bei der Erwähnung von WarGames sofort die computerisierte Stimme von WOPR hören, die fragt Shall we play a game?, wurde der Film weniger wegen seiner Aktualität zum Megahit, sondern weil er eine stetig wachsende Zielgruppe von jugendlichen Zuschauern ansprach. Das Ganze spielt sich wie eine Kreuzung aus einem Verschwörungsthriller der 1970er Jahre und dem Typ Film ab, der kurz darauf John Hughes‘ Spezialität werden sollte. Man könnte es Teen Days of the Condor nennen.
Doch das Konzept, dass ein computergesteuertes System, das US-Militäroperationen kontrolliert, kompromittiert werden könnte, hatte die Mächtigen aufgeschreckt. Kurz nachdem WarGames im Juni 1983 im Weißen Haus vorgeführt worden war, fragte Ronald Reagan in einer Sitzung des Nationalen Sicherheitsrates, ob diese Art von ausgefallener Idee möglich sei. Mehrere Berater nahmen die Bitte des Präsidenten an, der Sache nachzugehen. General John W. Vessey Jr., damals Vorsitzender der Joint Chiefs of Staff, kam eine Woche später zurück und sagte Reagan: Mr. President, das Problem ist viel schlimmer, als Sie denken.“
Reagan, NORAD und die realen Folgen
Es stellte sich heraus, dass eine Reihe von Wissenschaftlern und Policy-Experten diese Frage schon viele Jahre vor WarGames untersucht hatte – doch erst der Film brachte Reagan dazu, nachzufragen, und hob damit Nischen-Hypothesen in die breite politische Debatte. Dieser Teenager-Film sollte beeinflussen, wie die US-Regierung über Generationen hinweg mit Cybersicherheit und dem Konzept der Cyberkriegsführung umging. Mit einem fiktiven Worst-Case-Szenario konfrontiert, begannen die realen Verantwortlichen beim Militär und bei NORAD, Schutzmaßnahmen ernsthaft zu prüfen.
Sie erkannten, wie WOPR im Film, dass sie ein Nullsummenspiel spielten. Ebenso das breite Publikum: In einem der Bonus-Features auf der DVD-Ausgabe von WarGames berichtete Badham, dass das Publikum aufsprang und jubelte, als der Supercomputer am Ende verkündete: The only winning move is not to play. Es ist vielleicht eine schöne Geschichte – aber wir nehmen Apokalyph jederzeit über Apokalyptisch.
Was uns zurück zu Anthropic, Hegseth und unserer aktuellen Lage bringt. Das KI-Unternehmen besteht darauf, dass grundlegende Moral und Verantwortlichkeit bei jeder Nutzung ihrer Software eine Rolle spielen müssen – sonst verweigern sie die Lizenzierung. Hegseth konterte, niemand könne ihm oder der Regierung vorschreiben, was zu tun sei; er werde alle Verträge kündigen und einfach ein anderes KI-Unternehmen ohne moralischen Kompass finden, das keinen Aufstand macht. Der Starrkampf geht weiter, während sich die Regierung gleichzeitig in einen Krieg hineinziehen lässt.
Die Lektion, die niemand zieht
Hat man nichts aus WarGames gelernt? Haben wir nichts aus dem Film gelernt? Man hat das Gefühl, dass Hegseth und sein Umfeld, wenn sie den Film überhaupt gesehen haben, nach den ersten 15 Minuten aufgehört haben zu schauen. Das wäre gerade lang genug gewesen, um Dabney Colemans Figur sagen zu hören, dass das Zögern oder das Bereuen von Millionen von Toten Headshrinkerscheiß sei; um zu hören, wie jemand anmerkt, diese Billion-Dollar-Hardware liegt diesen Männern mit den kleinen Messsingschlüsseln zu Füßen, worauf Coleman antwortet: …deren einziges Problem ist, dass sie Menschen sind; und um mitzuerleben, wie er schließlich zum Schluss kommt, dass der einzige Weg zum Sieg im Krieg laute: Ich denke, wir sollten die Menschen aus der Gleichung nehmen.
Angesichts dessen, was wir derzeit im Pentagon sehen, haben diese Leute den letzten Akt nie erreicht – in dem Coleman erkennt, dass die Eliminierung des menschlichen Faktors in der Kriegsführung potenziell die Eliminierung des menschlichen Faktors bedeutet. Punkt. Sie haben den ganzen Teil verpasst, in dem es heißt: Der einzige Gewinnerzug ist, dieses gefährliche Spiel gar nicht erst zu spielen.
