Weil sie vergnügt lügt und betrügt
MARKETING & MEDIA Redaktion 31.05.2024

Weil sie vergnügt lügt und betrügt

Generative KI hat erhebliche Charakterdefizite; seriöse Tools scheitern oft an Schlampereien.

Leitartikel ••• Von Sabine Bretschneider

ARTIFIZIELL. Für die Wirtschaft berge KI enormes Potenzial, orakelt Deloitte in einer aktuellen Aussendung. Um eine flächendeckende Implementierung voranzutreiben, brauche es personelle Ressourcen, regulatorische Rahmenbedingungen und Investitionen seitens Unternehmen und Politik. Auf jeden Fall. Was wir allerdings noch brauchen werden, ist ein kritischer Blick darauf, was KI kann und was nicht.

Derzeit kursieren die originellen Ideen von Googles KI Gemini durch den Äther: Pizzakäse etwa hafte besser mittels Klebstoff, in die Sonne zu starren, sei gesund, täglich einen Stein zu essen auch. Dass KI-Tools enthusiastisch lügen und betrügen, um ans Ziel zu kommen, belegt eine Studie von Forschern am Massachusetts Institute of Technology (MIT) in Cambridge (US-Bundesstaat Massachusetts), die in der Fachzeitschrift Patterns veröffentlicht wurde. Analysiert wurde auch Metas KI Cicero, die im Strategiespiel Diplomacy gegen menschliche Mitspieler antrat. Wiewohl darauf trainiert, so Meta, „ehrlich und hilfsbereit” zu sein, hinterging Cicero die Mitspieler mit viel Verve. Fazit der Studienautoren: „Wir fanden heraus, dass die KI von Meta gelernt hatte, ein Meister der Täuschung zu sein.” Oder: In einem Inhouse-Test des Entwicklers Open AI beauftragte GPT-4 über die Dienstleistungsplattform TaskRabbit einen Menschen, ein Bilderrätsel (Captcha, „Ich bin kein Roboter”) zu lösen – unter dem Vorwand einer „Sehbehinderung”.

Solange der KI-Einsatz vorrangig Mähroboter, kreativ genutzte generative KI und Online-Spiele betrifft, ist das nicht dramatisch. Aber wollen Sie Ihr Kundenservice einer bauernschlauen Artificial Intelligence übergeben, die nur ungern als Verlierer aus einer Diskussion aussteigt?
Faktisch und abseits skurriler Chatbots betrachtet, scheitert der KI-Einsatz meist am Risikomanagement, an der Implementierung und Integration in bestehende Systeme, hohen Kosten und mangelhafter Qualität der Datenbestände in den Unternehmen. Um schlecht strukturierte Datenberge kümmert sich KI nicht. Noch nicht.

BEWERTEN SIE DIESEN ARTIKEL

TEILEN SIE DIESEN ARTIKEL