„Für Rundfunkveranstalter sind vor allem die Deepfakes praxisrelevant"

WIEN. Wann liegt ein kennzeichnungspflichtiger Deepfake vor, und wie lassen sich akustische Hinweise in das Radioprogramm integrieren? Für private Rundfunkveranstalter bleiben wichtige Fragen zur praktischen Anwendung offen. Corinna Drumm, Geschäftsführerin des VÖP – Verein Österreichischer Privatsender, erläutert im medianet-Interview die Bedeutung des Nutzungskontexts und warnt vor einer pauschalen Kennzeichnung, die das Vertrauen in redaktionelle Inhalte beeinträchtigen könnte.

medianet: Welche Empfehlungen gibt der VÖP seinen Mitgliedern für die praktische Umsetzung der neuen KI-Kennzeichnungspflichten? Wo braucht es aus Ihrer Sicht noch klarere Vorgaben oder praxistaugliche Lösungen?
Corinna Drumm: Der VÖP hat für seine Mitglieder einen Praxisleitfaden zur KI-Kennzeichnung entwickelt. Darin wird insbesondere erläutert, wer für die Kennzeichnung verantwortlich ist, welche Inhalte kennzeichnungspflichtig sind und wie die Kennzeichnung praktisch erfolgen kann. Ergänzend haben wir ein Prüfschema entwickelt, das die Beurteilung erleichtern soll.
Wichtig ist dabei aber auch: Rundfunkveranstalter unterliegen unabhängig von der KI-Verordnung umfangreichen Anforderungen aufgrund der Rundfunkgesetzte, etwa hinsichtlich redaktioneller Kontrolle, journalistischer Sorgfalt, Faktentreue von Nachrichten oder Objektivität. Diese Verpflichtungen sind selbstverständlich einzuhalten.
Jede Art von KI-Verwendung zu kennzeichnen, auch wenn kein „Deepfake“ vorliegt, ist aus unserer Sicht nicht notwendig, und vor allem auch nicht sinnvoll: Gerade bei redaktionellen Inhalten kann eine pauschale, überschießende Kennzeichnung sogar den falschen Eindruck erwecken, ein Inhalt sei weniger verlässlich, obwohl er einer umfassenden redaktionellen Kontrolle unterliegt.
In Bezug auf die Frage, wann ein „Deepfake“ vorliegt, gibt es noch zahlreichen offene Fragen. Für diese Fragen wird die Auslegung und Entscheidungspraxis der zuständigen Regulierungsbehörde entscheidend sein. Wir wünschen uns eine möglichst klare, praxistaugliche und mediengerechte Auslegung, die Rechtssicherheit schafft, ohne unnötige Kennzeichnungspflichten zu erzeugen.

medianet: Welche Unterschiede gibt es bei der Umsetzung zwischen redaktionellen Inhalten und Werbung beziehungsweise Marketing?
Drumm: Für die Programminhalte von Rundfunkveranstaltern ist vor allem die Kennzeichnungspflicht für die sogenannten „Deepfakes“ praxisrelevant. Gemeint sind damit KI-generierte oder KI-manipulierte Audio-, Video- oder Bildinhalte, die realen Personen, Gegenständen, Orten oder Ereignissen stark ähneln und insoweit dem Publikum fälschlicherweise als echt oder wahrheitsgemäß erscheinen können.
Bei der Beurteilung kommt es auf eine Gesamtbetrachtung von Inhalt und Umständen an, und darauf, welche Erwartungshaltung das Publikum in Bezug auf Authentizität und Wahrhaftigkeit hat. Der Nutzungskontext spielt dabei eine wesentliche Rolle: Eine synthetische Stimme in fiktionalen Inhalten oder Werbespots wird vom Publikum anders eingeordnet werden als eine synthetische Stimme in der Berichterstattung. Die Erwartungshaltung des Publikums in Bezug auf Echtheit und wahrheitsgemäße Wiedergabe wird bei Nachrichtensendungen naturgemäß eine andere sein, als etwa bei Unterhaltungsformaten.
Werbung muss in Rundfunksendungen ohnehin immer kenntlich gemacht werden. Im Fall von Werbung sollte es daher für das Publikum erkennbar sein, dass es sich um eine gestaltete, kommerzielle Kommunikation handelt. Die Erwartungshaltung des Publikums dahingehend, dass in Werbesendungen Ereignisse, die real stattgefunden haben, wiedergegeben werden, wird ein andere sein, als etwa in Nachrichtensendungen. Mit anderen Worten: Die Frage der Authentizität und Wahrhaftigkeit stellt sich in Werbesendungen anders als z.B. in Rundfunkinformationsformaten.

medianet: Wo stellt die Kennzeichnungspflicht private Radio- und Fernsehveranstalter im Arbeitsalltag vor besondere Herausforderungen?
Drumm: Eine besondere Herausforderung besteht für Radio und andere auditive Medien, weil hier die visuelle Ebene für eine Kennzeichnung fehlt. Während im Fernsehen beispielsweise eine visuelle Einblendung in Form eines KI-Symbols möglich ist, müssen entsprechende Hinweise im Radio grundsätzlich akustisch erfolgen. Das kann den laufenden Programmfluss erheblich beeinträchtigen.
Die praktische Frage lautet daher für Radiosender nicht nur, ob synthetische Stimmen oder andere KI-generierte oder KI-bearbeitete Audioinhalte gekennzeichnet werden müssen, sondern auch, wie die Kennzeichnung umgesetzt werden kann, sodass sie verständlich und rechtssicher, gleichzeitig aber auch programmverträglich ist.

medianet: Wo sieht der VÖP derzeit noch die größten Unsicherheiten?
Drumm: Unsicherheiten gibt es sicherlich noch in der Abgrenzung zwischen einer bloßen KI-Unterstützung bei der Produktion und dem Vorliegen eines tatsächlich kennzeichnungspflichtigen KI-Inhalts. Nicht jeder Einsatz von KI verändert einen Inhalt in einer Weise, die für das Publikum relevant ist. Hier muss klar sein, wo die Schwelle zur Kennzeichnung liegt. Deshalb braucht es klare und praxistaugliche Regeln für die Abgrenzung, wann ein Inhalt tatsächlich unter eine Kennzeichnungspflicht fällt.
Bei der Frage der Verantwortlichkeit ist der AI Act dagegen aus unserer Sicht vergleichsweise klar: Die Kennzeichnungspflicht trifft nur den „Betreiber“ des KI-Systems, mit dem der entsprechende Inhalt hergestellt wurde. Andere Beteiligte in der Wertschöpfungskette, die keine Entscheidungshoheit über die KI-Verwendung haben, sind nicht verantwortlich und auch nicht haftbar.
Über allen diesen Fragen steht aus unserer Sicht ein Grundsatz: KI-Kennzeichnung darf keinesfalls dazu führen, dass das Vertrauen des Publikums in redaktionell bereitgestellte Radio- und TV-Inhalte aufgrund der KI-Kennzeichnung leidet. Eine „Überkennzeichnung“, also KI-Hinweise in Fällen, in denen kein „Deepfake“ vorliegt, halte ich für ebenso gefährlich wie fehlende Kennzeichnung bei echten „Deepfakes“.