Leitartikel ••• Von Sabine Bretschneider
STOPP. Die Warnungen werden schärfer – und kommen längst nicht mehr nur von KI-Kritikern. OpenAI nennt Cyberangriffe, die Entwicklung biologischer oder chemischer Waffen und den völligen Kontrollverlust als zentrale Risiken fortgeschrittener Systeme; Anthropic warnt vor „katastrophalen Risiken“ durch die zunehmende Autonomie der selbstgestrickten Maschinenintelligenz. Man möge die Stopptaste drücken.
Die radikalste Formulierung stammt aus der schon im Jahr 2023 veröffentlichten Erklärung des Center for AI Safety, die von führenden Köpfen der Branche unterzeichnet wurde: „Das Risiko einer Auslöschung der Menschheit durch KI einzudämmen, sollte weltweit höchste Priorität haben.“ Absolut, die Menschheit vor KI retten – höchste Priorität! Gleich nach dem Vorsprung vor China, der Marktführerschaft und der Milliardenbewertung bei einem Börsengang. Die Richtung stimmt, um eine ehemalige SPÖ-Chefin zu zitieren.
Wie aber sähe es aus, wenn wir die Sachlage im Lichte eines Gleichgewichts des Schreckens betrachten? Funktioniert nicht, sagen Experten. Im Wettlauf zwischen konkurrierenden Systemen beziehungsweise zwischen USA und China ließe sich ein verlässliches Patt kaum herstellen.
KI droht zudem auch das historische Prinzip der nuklearen Abschreckung grundlegend auszuhebeln. Während im Kalten Krieg das Konzept der „gegenseitig gesicherten Zerstörung“ (Mutual Assured Destruction) – ein hübscher technokratischer Euphemismus – einen atomaren Weltkrieg bis jetzt erfolgreich verhindert hat, verändert die Integration von KI in moderne Militärsysteme auch diese strategische Logik radikal.
Wenn immer leistungsfähigere Systeme Aufklärung, Zielerfassung und Entscheidungsprozesse auf Minuten und Sekunden beschleunigen, verliert die so hochgeschätzte Zweitschlagsfähigkeit an Glaubwürdigkeit. Was tun also? Die Ironie der Geschichte wäre, wenn ausgerechnet die intelligenteste Technologie daran scheitert, dass ihre Entwickler zu wenig Zeit zum Nachdenken haben.
