Leitartikel ••• Von Sabine Bretschneider
FESTSTELLUNGEN. Eine aktuelle Studie von Microsoft und Carnegie Mellon University legt nahe, dass die Abhängigkeit von generativer KI das kritische Denkvermögen schwächt. If you don’t use it, you lose it.
Die Forscher beobachteten und untersuchten 319 Wissensarbeiter bei 936 KI-gestützten Aufgaben und stellten einen besorgniserregenden Trend fest: Je mehr Vertrauen Nutzer in KI-generierte Ergebnisse hatten, desto weniger geistige Anstrengung investierten sie selbst. Kurz: Das Auslagern kognitiver Aufgaben an KI, die gedankliche Monokultur, korreliert mit einer „Verdummung” der sie umgebenden „Humanressourcen”. Eine Neuauflage des Automatisierungsparadoxons: Dachte man, dass die Automatisierung dazu führt, dass Prozesse und Abläufe einfacher und effizienter werden, griff man damit oft daneben. Häufig führt sie zu einer wachsenden Komplexität in Unternehmen und Organisationen.
Natürlich ist die Angst, dass Technologie uns „dümmer” macht, nicht neu – auch Eisenbahn und Taschenrechner wurden einst skeptisch betrachtet. Die Forscher schlagen vor, KI-Tools so zu gestalten, dass sie kritisches Denken fördern, indem sie Erklärungen liefern, zur Verfeinerung anregen, Skepsis und Kritik ermöglichen. Könnten sie, werden sie aber nicht. Denn: Der User liebt Usability.
Ohrenbetäubend laute Minderheiten
Aus einer anderen Perspektive betrachtet: Observer-Chef Florian Laszlo beschreibt in seinem Kommentar auf Seite 18 dieser Ausgabe die Folgen der neuen „Freiheit” in den Sozialen Medien – und den Verlust der Aussagekraft des Social Listenings. Trolle und extremismusaffine KI-Algorithmen verunmöglichen die Einschätzung jeglicher repräsentativer Meinungslage. Die Folgen dessen beobachten wir Tag für Tag. Je verrückter und kontroverser die Aussage, desto lauter das Echo in den Newsfeeds. Der Meinungsbildungsprozess wird bis zur Unkenntlichkeit verzerrt.
