LINZ / WIEN. Künstliche Intelligenz gehört zu den am schnellsten wachsenden Themenfeldern – und Machine Learning ist die treibende Kraft dieser Technologierevolution. Ob Bilderkennung, Empfehlungssysteme, Chatbots, Diagnostik oder Prognosen – mit großen Datenmengen ‚trainierte' Machine Learning-Modelle finden sich bereits heute in einer Vielzahl von Anwendungen des Alltags wieder und verleihen diesen ‚Intelligenz'.
Dafür braucht es entsprechende Zertifizierungsmethoden, um Hersteller bei der Entwicklung sicherer, verlässlicher und qualitativ hochwertiger Machine Learning-Modelle zu unterstützen und Nutzern ein Qualitätssiegel für vertrauenswürdige KI-Systeme zu bieten.
Prüfung auf Herz und Nieren
Sepp Hochreiter, Vorstand des Instituts für Machine Learning an der JKU, gilt weltweit als KI-Pionier und rief vor zwei Jahren Österreichs erstes KI-Studium an der JKU Linz ins Leben. Er ist Vorstandsmitglied von ELLIS, dem Exzellenznetzwerk der besten europäischen Wissenschaftler im Bereich des Machine Learnings und dessen Anwendungen.
Die erste Erfolgsstufe wurde erreicht: Sogenannte Supervised Learning-Anwendungen im niedrigen bis mittelhohen Risikobereich werden heute schon zertifiziert.
„Wir führen bereits erste Zertifizierungsprojekte durch, wobei sich die Anwendungen vor im industriellen Umfeld und auch im Consumer-Bereich wiederfinden”, erläutert Stefan Haas, CEO der TÜV Austria Group.
„In den nächsten Phasen der Entwicklungskooperation werden die jetzigen Ansätze erweitert, um auch sicherheitskritischere Anwendungen, basierend auf einem breiteren Spektrum von Machine Learning-Methoden, zertifizieren zu können.”
Im Rahmen der Zertifizierung werden die Machine Learning- Modelle und deren Entwicklungsprozess in mehreren Dimensionen im Detail überprüft.
Dabei wird nicht nur die eigentliche Funktion und Verlässlichkeit der trainierten Modelle untersucht, sondern auch die Sicherheit der Software und ob diese den Anforderungen ihres Einsatzgebiets entsprechend angemessen entwickelt wurde.
Hinzu kommt eine Prüfung, ob mit persönlichen Daten vertraulich umgegangen wird und mögliche ethische Fragestellungen ausreichend berücksichtigt werden. (pj)
