SAN FRANCISCO/BRÜSSEL. Die EU-Kommission geht gegen den Chatbot Grok von Elon Musks Plattform X vor. Hintergrund sind sexualisierte KI-Bilder von Frauen und Kindern, die Nutzerinnen und Nutzer ohne Zustimmung veröffentlichten. „In Europa wird kein Unternehmen Geld damit verdienen, unsere Grundrechte zu verletzen“, sagte ein Kommissionssprecher am Montag in Brüssel. Die Ermittler prüfen nun, ob X die Risiken der KI ausreichend bewertet und eingeschränkt hat. Bestätigen sich die Vorwürfe, droht der Plattform ein hohes Bußgeld nach dem Digital Services Act (DSA).
Laut Angaben der Kommission wurden mithilfe von Grok Anfang des Monats Millionen von KI-Bildern erzeugt und veröffentlicht, auf denen Frauen und Mädchen ohne deren Zustimmung im Bikini, fast nackt oder in sexualisierten Posen zu sehen waren. Nach Schätzungen der britischen Nichtregierungsorganisation CCDH waren darunter 23.000 Bilder von Kindern. X schränkte die Funktion inzwischen auf zahlende Nutzer ein, doch dies hält die EU nicht für ausreichend. EU-Kommissionspräsidentin Ursula von der Leyen erklärte, Europa werde ein „unfassbares Verhalten wie das digitale Entkleiden von Frauen und Kindern nicht tolerieren“. EU-Digitalkommissarin Henna Virkkunen bezeichnete die Inhalte als „gewaltsame, inakzeptable Form der Erniedrigung“.
Die Ermittlungen schließen auch die Empfehlungssysteme der Plattform ein, die über die angezeigten Inhalte entscheiden und ebenfalls KI-gestützt sind. Parallel läuft bereits ein Verfahren gegen X wegen Gewalt- und Hassinhalten im Netz. Anfang Dezember 2025 verhängte die Kommission eine erste Strafe in Höhe von 120 Millionen Euro wegen mangelnder Transparenz bei Werbung. Die Vorwürfe im Zusammenhang mit Grok gelten als deutlich schwerwiegender. Bestätigen sich diese, wäre das ein Verstoß gegen das EU-Gesetz über digitale Dienste (Digital Services Act, DSA). Mit dem Gesetz nimmt die EU große Internetplattformen in die Pflicht, verbotene Inhalte zu löschen. Dazu gehören sexualisierte Bilder, Kinderpornografie, Morddrohungen und Nazi-Symbole, die im Internet ebenso verboten sind wie auf der Straße.(APA/AFP/red)
