WIEN. Die KommAustria unterstützt als österreichische Koordinatorin für digitale Dienste ein förmliches Verfahren der Europäischen Kommission gegen die Plattform X. Ziel des Verfahrens ist es, auf Basis des Digital Services Act mögliche Sorgfaltsverstöße im Zusammenhang mit der KI-Anwendung Grok zu prüfen und gegen die Erstellung sowie Verbreitung rechtswidriger, KI-generierter Inhalte vorzugehen.
Hintergrund des Verfahrens
In den vergangenen Wochen wurden vermehrt Fälle bekannt, in denen über die Plattform X mithilfe von Grok sexualisierte Deepfakes ohne Zustimmung der abgebildeten Personen erstellt und verbreitet wurden. Laut einer Studie der Organisation AI Forensics seien zu 80 Prozent Frauen von solchen Deepfakes betroffen. Die Europäische Kommission verweist dabei auf die Risiken, die von nicht ausreichend überwachten KI-Tools ausgehen.
Rechtliche Bewertung und Information
Die betreffenden Inhalte können gegen verschiedene Bestimmungen des österreichischen Rechts verstoßen. Die KommAustria wird die Plattform X über die geltende Rechtslage informieren. Anlass ist die Ankündigung des Unternehmens, entsprechende Funktionen nur in jenen Regionen zu deaktivieren, in denen solche Inhalte ausdrücklich verboten sind.
Aufruf zur Meldung von Inhalten
Betroffene sollen entsprechende Inhalte zunächst direkt bei X unter der Kategorie „illegale Inhalte“ melden. Zusätzlich ersucht die KommAustria um Einbringung von Beschwerden über das Beschwerdeportal der RTR. Diese Meldungen werden an die Europäische Kommission weitergeleitet und fließen in die Beurteilung möglicher Rechtsverletzungen im laufenden Verfahren ein.
Ergänzend können Betroffene Unterstützung durch zertifizierte Trusted Flagger in Anspruch nehmen, die über prioritäre Meldewege verfügen. Bei Verdacht auf Kindesmissbrauch oder Wiederbetätigung steht zusätzlich die Stopline der ISPA zur Verfügung. (red)
