„Wir schaffen damit Vertrauen“

WIEN. Mit der rasanten Verbreitung von KI-Anwendungen wächst auch die Unsicherheit aufseiten der Nutzer. Fragen nach Transparenz, Sicherheit und Vertrauenswürdigkeit ­rücken damit zunehmend in den Fokus. Genau hier setzt „Trustworthy AI – by Know Center“ an: Als erstes Gütesiegel prüft es konkrete KI-Anwendungen nach definierten Kriterien.

Vergangene Woche wurde Trustworthy AI in Wien vorgestellt – gemeinsam mit einem ersten Leuchtturmprojekt, dem das Gütesiegel in offiziellem Rahmen verliehen wurde. Entwickelt wurde das Siegel vom Comet-Kompetenzzentrum Know Center. „Wir beschäftigen uns mit über 100 Mitarbeiter ausschließlich damit, wie man KI vertrauenswürdig machen kann, wie man diese Vertrauenswürdigkeit auch messen kann und wie man diese gemessenen Daten dann zu einem Nutzen führen kann“, erklärte Oliver Bernecker, CEO des Know Centers, bei der Präsentation.

Klare Kriterien
Als Basis zur Bewertung dieser Vertrauenswürdigkeit von KI-Tools, -Services, -Modellen und -Systemen dienen sieben Bereiche, wie Cathrin von Hesler, Verantwortliche für das Gütesiegel erklärte: „Dazu zählen zum einen „Datenschutz und Sicherheit“, „Transparenz, Erklärbarkeit und Fairness“, außerdem „menschliche Aufsicht und Entscheidung“, sowie „digitale Souveränität“, „Ökonomie“, „Nachhaltigkeit“ und „digitaler Humanismus“.“ All diese Bereiche seien entweder quantitativ messbar oder anhand von Kriterienkatalogen bewertbar, so Bernecker.

Der Qualifizierungsprozess für das Gütesiegel starte mit einem Antrag beim Know Center, das im Anschluss zunächst untersucht, ob das eingereichte KI-Tool den Kriterien entspricht. „Wir prüfen konkrete Anwendungen anhand klar definierter Kriterien“, so Cathrin von Hesler. „Dabei schauen wir uns an, welche Daten vorhanden sind, wo diese gespeichert und verarbeitet werden, welche Prozesse dahinterstehen und wie zentrale Anforderungen in der Praxis umgesetzt werden. Die Bewertung zeigt, wo eine Anwendung die Anforderungen erfüllt und wo Handlungsbedarf besteht.“

Konzept & Eigenüberwachung
Danach müsse das antragstellende Unternehmen ein Konzept vorlegen, das beschreibt, wie die Anforderungen auch künftig eingehalten werden. Weitere Voraussetzung für das Gütesiegel ist die Eigenüberwachung aufseiten des Unternehmens, zudem wird dessen KI-Kompetenz berücksichtigt. Werden die Vergabebestimmungen erfüllt, verleiht das Know Center das Gütesiegel und vergibt eine individuelle Gütesiegel-ID.

Ausgezeichnetes Projekt
Als erstes mit dem Gütesiegel ausgezeichnetes Leuchtturmprojekt wurde im Anschluss der „Kommunale KI-Assistent“ des Österreichischen Städtebundes präsentiert. Entwickelt wurde das Tool von der IT-Kommunal GmbH für die Mitgliedsstädte des Städtebundes; es befindet sich derzeit noch in der Testphase. Der „KI-Assistent“ stellt vier Module zur Verfügung, mit denen grundlegende Verwaltungsaufgaben erledigt werden können: ein klassischer Chatbot, ein Recherche-Tool, ein Zusammenfassungs-Tool und ein Transkriptions-Tool. Aktuell testen ihn rund 300 Gemeindebedienstete.

„Bei einer KI-Anwendung für Städte zählt, dass sie absolut vertrauenswürdig ist (…). Der Qualifizierungsprozess gab uns dafür einen klaren Blick auf die notwendigen Qualitätskriterien und zeigte uns, wo wir nachschärfen mussten“, so Ronald Sallmann, CDO des Österreichischen Städtebunds und strategischer Geschäftsführer der IT-Kommunal GmbH. „Die Zertifizierung hat die Qualität des Service also mit Sicherheit noch gesteigert.“ Die Dauer des Zertifizierungsprozesses sei abhängig vom eingereichten Projekt – hier unterscheidet das Know Center zwischen „leichten“, „mittleren“ und „schwierigen Anwendungen“. Im Fall des Österreichischen Städtebunds hatte der Prozess rund fünf Monate in Anspruch genommen. (esc)