Allwissende Müllhalden

Leitartikel  ••• Von Sabine Bretschneider

KOMPROMISSE. Hunderte Wissenschaftler warnen vor der Entwicklung einer (KI)-„Superintelligenz“ – darunter finden sich auch etliche Experten, die wirklich wissen, wovor wir uns in Acht nehmen sollten. Weil sie selbst an deren Entwicklung partizipiert haben – oder das immer noch tun. Denn: Ein bissl Marketing hat noch nie geschadet. Diese Superintelligenz müsse verboten werden, „bis diese Technologie zuverlässig sicher und kontrollierbar ist“, fordern die Unterstützer der Initiative in einer am Mittwoch veröffentlichten Erklärung.

Zur Definition: Laut IBM – sie haben mit „Watson“ schon Vorarbeit geleistet –, ist Künstliche Superintelligenz (Artificial Superintelligence, ASI) ein „hypothetisches softwarebasiertes System der Künstlichen Intelligenz, dessen intellektuelle Fähigkeiten die menschliche Intelligenz übertreffen“. Die Vorboten der drohenden Superintelligenz erreichen uns schon jetzt: Die KI-Assistenz, die inzwischen vom begeisterten Publikum als Suchmaschine genutzt wird, leidet beim Nachrichtencontent unter gravierenden intellektuellen Einschränkungen. 45% aller Antworten enthalten erhebliche Fehler. Zählt man weniger schwerwiegende Probleme dazu, erhöht sich der Anteil auf 81%. Watson hatte 2006 zumindest noch die US-Quizshow Jeopardy gewonnen.

Zwei inzwischen identifizierte Defizite der aktuell eingesetzten Large Language Models: Das uralte Informatikproblem des „Garbage in – garbage out“ und ein hochgradiges Problem mit Ironie und Satire. Der Mega-Müllhaufen an Netzcontent, teils mithilfe von Millionen ideologisch konkurrierender Chatbots produziert, ergibt, kombiniert mit autistisch anmutender Humorlosigkeit, ein Mischmasch an Halbwahrheiten. Bedeutungsrauschen statt Faktentreue.

Wer mit generativer KI arbeitet, weiß jedoch auch, dass sie jeden Fehler charmant und höflich eingesteht, den Nutzer sogar ob dessen Klugheit lobt. Vielleicht sollte die psychische Ausgeglichenheit, die heitere Harmonie, die die Beschäftigung mit ihr erzeugt, die eventuellen empirischen Ungenauigkeiten aufwiegen. Korrekt?