mediadome pressclub: KI-Kennzeichnung: „Entscheidend bleibt die redaktionelle Verantwortung“

Seit 2. August gelten im Rahmen des EU AI Acts neue Transparenzpflichten für bestimmte KI-generierte Inhalte. Was das für Medienhäuser bedeutet und warum Kennzeichnung allein noch kein Vertrauen schafft, erläuterte Verena Krawarik, Head of Innovation und Leiterin des APA-medialab der APA – Austria Presse Agentur eGen., im „mediadome pressclub“ von medianet-Herausgeber Chris Radda.

Die konkreten Anforderungen hängen laut Verena Krawarik wesentlich von der Art des Mediums ab. Für journalistische Texte gebe es deutliche Erleichterungen: „Wenn ein Mensch die redaktionelle Verantwortung trägt, dann ist dem AI Act Genüge getan.“ Der Einsatz einer KI für das Korrektorat müsse daher nicht eigens ausgewiesen werden. Medienunternehmen sollten jedoch intern klar regeln, wer verantwortlich ist, und dokumentieren, welche KI-generierten oder KI-bearbeiteten Inhalte das Haus verlassen.
Strenger sind die Vorgaben bei Bildern, Videos und Audiodateien. Die Europäische Kommission lege den Begriff „Deepfake“ weiter aus, als dies in der Medienbranche bisher üblich gewesen sei. Eine Täuschungsabsicht sei nicht zwingend erforderlich. Entscheidend sei, ob Menschen einen synthetisch erzeugten Inhalt für echt halten könnten. Auch im Kontakt mit KI-Chatbots müsse offengelegt werden, dass Nutzer mit einem automatisierten System kommunizieren.

Viele Medien gingen bereits freiwillig über die gesetzlichen Anforderungen hinaus, berichtete Krawarik. So würden etwa KI-generierte Illustrationen gekennzeichnet, obwohl dies nicht in jedem Fall verpflichtend sei. Jedes Medienhaus müsse deshalb definieren, „was unser Maß ist und was wir darüber hinaus leisten wollen“.
Die APA hat ihre bestehenden KI-Leitlinien um die neuen Kennzeichnungspflichten ergänzt. In der Redaktion werde KI-generiertes Bild- und Videomaterial auch von externen Anbietern grundsätzlich nicht angenommen. Für APA-OTS entwickelt die Nachrichtenagentur hingegen Hilfestellungen, mit denen Unternehmen KI-Anteile in ihren Aussendungen transparent ausweisen können.

Aus Sicht Krawariks greift die Debatte über Kennzeichnung jedoch zu kurz. In einem Branchenworkshop des Projekts Austrian Lab for AI Trust (ALAIT) sei daher auch die Idee eines „Trusted Content“-Labels diskutiert worden. Mediennutzer interessiere letztlich vor allem, ob Informationen faktisch richtig, überprüfbar und journalistisch verantwortet seien. Ein bloß selbst verliehenes Gütesiegel reiche allerdings nicht: „Ein self-proclaimed Label, das sich jeder draufkleben kann, wird genauso wertlos sein wie irgendein beliebiges anderes Label.“ Notwendig wären gemeinsame Branchenstandards und ein unabhängiger Vergabeprozess.

Eine weitere Herausforderung entsteht, weil journalistische Inhalte künftig nicht mehr ausschließlich für Menschen produziert werden. Zunehmend werden KI-Systeme zu den ersten Abnehmern und Verarbeitern von Nachrichten. Mit ihrer Strategie „APA to AI“ arbeitet die Agentur deshalb an modular aufgebautem „Liquid Content“, der maschinell besser verarbeitet werden kann.

Technisch lasse sich bereits relativ eindeutig markieren, ob Inhalte mit KI erzeugt wurden. Ob eine Information dagegen journalistisch geprüft, verifiziert und aus einer vertrauenswürdigen Quelle stammt, sei für Maschinen bislang kaum erkennbar. Genau darin sieht Krawarik eine der nächsten zentralen Aufgaben der Medienbranche.

Auch auf die äußere Form sei kein Verlass mehr. KI-Systeme hätten journalistische Darstellungsformen wie das Interview längst übernommen. Ein von einer Maschine in Frage-und-Antwort-Form umgewandelter Text könne zwar wie ein Gespräch wirken – „aber es war kein Interview“. Für Medien werde es daher entscheidend sein, redaktionelle Qualität nicht nur zu praktizieren, sondern sie auch für Menschen und Maschinen nachvollziehbar zu machen.