In Österreich zählt Verena Krawarik, Head of Innovation und Leiterin des medialabs der APA – Austria Presse Agentur, zu den Expertinnen, wenn es um das Thema KI geht. Seit vielen Jahren arbeitet die gelernte Historikerin und Lektorin innerhalb Österreichs Nachrichtenagentur an Guidelines, Prozessen und Re-Checks für den Umgang mit sogenanntem automatisiertem Content, KI, Desinformationsbekämpfung und Fake Detection.
Krawarik wurde in das im Frühjahr 2024 von Bundeskanzleramt und Finanzministerium neu präsentierte AI Advisory Board berufen. Als Mitglied des Gremiums berät die Innovationsstrategin gemeinsam mit zehn weiteren international anerkannten KI-Expertinnen und -Experten aus den Bereichen Forschung, Ethik, Recht und Technik die Bundesregierung bei aktuellen Entwicklungen im Bereich Künstlicher Intelligenz, insbesondere bei der Umsetzung des AI Acts.
Seit einiger Zeit stellt die APA allen Interessierten ihre KI-Expertise in Form von Unternehmensconsulting zur Verfügung. Im Rahmen von APA-Campus bietet sie außerdem einen umfassenden Lehrgang für erfolgreiches KI-Management. medianet bat Verena Krawarik in den medianet mediadome zum Talk.
medianet: Frau Krawarik, die Austria Presse Agentur (APA) war in Österreich eine Vorreiterin beim Einsatz von Künstlicher Intelligenz. Wie hat diese Entwicklung bei Ihnen begonnen? Können Sie uns Einblicke in die ersten Schritte geben?
Verena Krawarik: Die APA beschäftigt sich schon seit vielen Jahren mit Themen rund um Künstliche Intelligenz, auch wenn wir es früher noch nicht so genannt haben. Bereits im Jahr 2022 haben wir uns intensiv mit dem Thema auseinandergesetzt, da sich erste regulatorische Ansätze wie der European AI Act abzeichneten. Damals haben wir ein spannendes Projekt gestartet, bei dem wir KI-Technologien zur Erkennung von 5.000 bekannten österreichischen Persönlichkeiten in Bildern entwickelt haben.
Ein wichtiger Aspekt war dabei der Umgang mit biometrischen Daten – ein durchaus sensibler Bereich. Dieses Projekt war der Ausgangspunkt für unsere erste KI-Leitlinie, die wir 2022 verabschiedet haben. Darin haben wir auch die neue Rolle des ‚Visual Trust Officer' geschaffen, der die Entwicklung und den verantwortungsvollen Einsatz von KI im Bildbereich überwacht. Dieser Schritt war für uns essenziell, um einen ethischen Rahmen für den Einsatz dieser Technologien zu schaffen. Seither wurde die KI-Leitlinie bereits mehrmals an die aktuellen Entwicklungen angepasst.
medianet: Wie hat sich der Einsatz von KI seitdem weiterentwickelt? Welche neuen Tools und Ansätze kamen hinzu?
Krawarik: Im November 2022, mit dem Aufkommen von generativen KI-Systemen, wurde uns klar, dass wir uns anpassen und weiterentwickeln müssen. Wir haben Helfer-Tools wie den ‚KI-Text-Assistenten' eingeführt, der nicht nur in unserem Newsroom, sondern auch in anderen Redaktionen verwendet wird. Diese KI-unterstützten Tools assistieren Journalistinnen und Journalisten, indem sie Textvarianten generieren, Daten analysieren oder Rechercheprozesse beschleunigen.
Dabei war es uns wichtig, von Anfang an transparent mit dem Einsatz dieser Technologien umzugehen und das Prinzip ‚human in the loop' – also die abschließende menschliche Kontrolle – konsequent anzuwenden
Schon lange vor Aufkommen von ChatGPT und Co. stand in unseren automatisierten Wahlberichten ein Hinweis, dass diese Inhalte maschinell erstellt wurden. Diese Transparenz bleibt ein zentraler Grundsatz unserer Arbeit.
Zusätzlich haben wir KI-Systeme implementiert, die uns helfen, Inhalte zu kategorisieren und zielgerichtet zu verbreiten. Die Erfahrungen der letzten Jahre haben gezeigt, dass diese Technologien unsere journalistischen Prozesse erheblich effizienter machen können.
medianet: Die APA ist auch international aktiv, etwa im TEMS-Projekt und im G39-Verbund. Können Sie uns diese Initiativen genauer erläutern?
Krawarik: Beide Projekte zielen auf Vertrauen in die Medien und die verantwortungsvolle Nutzung von Daten ab. Das TEMS-Projekt (‚Trusted European Media Data Space') verfolgt das Ziel, einen sicheren und dezentralen Datenraum für europäische Medien zu schaffen.
Dabei bleibt die Hoheit über die Daten bei den jeweiligen Unternehmen, sie werden aber über Metadaten zugänglich gemacht. Es geht darum, gemeinsame Standards und eine einheitliche Sprache zwischen verschiedenen Akteuren wie Broadcastern, Nachrichtenagenturen und Online-Medien zu entwickeln.
Im G39-Verbund arbeiten unabhängige europäische Nachrichtenagenturen zusammen, um KI auf Basis qualitativ hochwertiger Daten zu trainieren. Diese Zusammenarbeit ermöglicht es uns, sowohl individuell als auch kollektiv von den Ergebnissen zu profitieren.
Ein wesentliches Ziel ist es, die europäische Medienlandschaft zu stärken. Gerade in einem globalen Markt ist es wichtig, dass europäische Medien ihre eigene Identität und ihre Standards bewahren können.
medianet: Die APA hat auch ein Faktencheck-Team ins Leben gerufen. Was sind dessen Aufgaben und wie geht es mit der zunehmenden Verbreitung von Desinformation um?
Krawarik: Faktenchecks und Desinformationsbekämpfung sind zentrale Aufgaben für die APA. Desinformation gab es zwar schon vor den aktuellen Entwicklungen rund um KI, aber neue Technologien wie Deepfakes haben das Problem verstärkt und neue Herausforderungen geschaffen.
2023 haben wir eine Task Force gegründet, um unter anderem Schulungen anzubieten, die unseren Mitarbeitenden und auch anderen Journalistinnen und Journalisten helfen, KI-generierte Fakes zu erkennen.
Unser Ziel ist es, diese Fähigkeiten kontinuierlich weiterzuentwickeln und Tools zu schaffen, die uns dabei unterstützen. So arbeiten wir beispielsweise an einer ‚Factbase', die unsere journalistischen Archive nutzt, um Desinformation im Textbereich besser identifizieren zu können. Zusätzlich setzen wir Technologien ein, die Bild- und Video-Inhalte analysieren, um deren Authentizität zu überprüfen. Unser Ansatz basiert auf der Philosophie, dass Medienunternehmen ihren Nutzerinnen und Nutzern qualitativ hochwertige und vertrauenswürdige Informationen bieten sollen. Deshalb investieren wir nicht nur in technische Lösungen, sondern auch gezielt in die Ausbildung unserer Teams.
medianet: Ein weiteres großes Thema ist Datennutzung. Wie gewährleisten Sie, dass der KI-Einsatz mit den Datenschutzbestimmungen vereinbar ist?
Krawarik: Datenschutz hat für uns oberste Priorität. Wir arbeiten eng mit unserer Rechtsabteilung zusammen, um sicherzustellen, dass alle Daten, die für KI-Anwendungen verwendet werden, sicher verarbeitet werden. Zudem halten wir uns strikt an die Vorgaben der DSGVO.
medianet: Frage zum Schluss – wie sehen Sie die Zukunft von KI in der Medienbranche? Welche Chancen und Risiken sehen sie hier auf uns zukommen?
Krawarik: KI bietet enorme Chancen, sowohl für die interne Effizienz als auch für die Nutzererfahrung. Einerseits können wir durch KI-Prozesse wie die Analyse großer Datenmengen die Personalisierung von Inhalten und die Automatisierung von Routineaufgaben beschleunigen. Andererseits sind klare ethische Richtlinien und Transparenz unverzichtbar, um das Vertrauen der Nutzerinnen und Nutzer zu erhalten.
Projekte wie der europäische Datenraum zeigen, dass wir in Europa eigene Lösungen entwickeln können, die qualitativ hochwertige Ergebnisse liefern und Vertrauen schaffen. Der Fokus muss darauf liegen, KI verantwortungsvoll einzusetzen, um die Integrität der Medien zu bewahren und gleichzeitig Innovation voranzutreiben. Ich sehe eine Zukunft, in der KI eine unterstützende Rolle einnimmt, die Kreativität und Qualität in der Medienbranche fördert, ohne den journalistischen Kern zu ersetzen. Gleichzeitig dürfen wir die Risiken, wie den Missbrauch von KI-Technologien, nicht unterschätzen und müssen proaktiv dagegen vorgehen. (mab/cr)
Hier geht’s zum TV-Interview:
tv.medianet.at