Künstliche Intelligenz gehört zu den am schnellsten wachsenden Themenfeldern. Machine Learning ist die treibende Kraft dieser Technologierevolution. Ob Bilderkennung, Empfehlungssysteme, Chatbots, Diagnostik oder Prognosen – mit großen Datenmengen trainierte Machine Learning Modelle finden sich bereits heute in einer Vielzahl von Anwendungen des Alltags wieder und verleihen diesen „Intelligenz“.

Kann ich dir vertrauen?
Doch gerade dieser Anschein von Intelligenz verunsichert und wirft Fragen auf: Ist diese künstliche Intelligenz vertrauenswürdig und sicher? Erfüllt die KI die von ihr erwartete Funktion? Sind die im Training verwendeten Daten korrekt? Wird mit der großen Menge an sensiblen Daten sorgsam umgegangen? TÜV AUSTRIA arbeitet gemeinsam mit dem Institut für Machine Learning der Johannes Kepler Universität an entsprechenden Zertifizierungsmethoden, um Hersteller bei der Entwicklung sicherer, verlässlicher und qualitativ hochwertiger Machine Learning Modelle zu unterstützen und Nutzern ein Qualitätssiegel für vertrauenswürdige KI-Systeme zu bieten.

Institutsvorstand Prof. Sepp Hochreiter sieht KI richtungsweisend für die Zukunft: „Machine Learning ist die derzeit wichtigste Grundlagentechnologie und wird langfristig unser technisches Umfeld und unser ganzes Leben massiv beeinflussen. Umso wichtiger ist es, mit der Zertifizierung von Machine Learning Anwendungen das Vertrauen der Konsumenten in diese Technologie zu stärken. Daher arbeiten wir gerne daran mit, die notwendigen Qualitätskriterien maßgeblich mitzugestalten.“ Prof. Hochreiter gilt weltweit als Pionier der modernen Künstlichen Intelligenz und rief vor zwei Jahren Österreichs erstes KI Studium an der JKU Linz ins Leben. Er ist Vorstandsmitglied von ELLIS, dem Exzellenznetzwerk der besten europäischen Wissenschaftler im Bereich des Machine Learnings und dessen Anwendungen. Hochreiter leitet das LIT AI Lab und die ELLIS Unit Linz.

Prüfung auf Herz und Nieren
Die erste Erfolgsstufe wurde erreicht: Sogenannte Supervised Learning Anwendungen im niedrigen bis mittelhohen Risikobereich werden heute schon zertifiziert. „Wir führen bereits erste Zertifizierungsprojekte durch, wobei sich die Anwendungen vor allem im industriellen Umfeld aber auch im Consumer Bereich wiederfinden. In den nächsten Phasen der Entwicklungskooperation werden die jetzigen Ansätze erweitert, um auch sicherheitskritischere Anwendungen basierend auf einem breiteren Spektrum von Machine Learning Methoden zertifizieren zu können“, sagt Dr. Stefan Haas, CEO der TÜV AUSTRIA Group und ergänzt: „Besonders freut es uns, für dieses herausfordernde Unterfangen das Machine Learning Institut der JKU als hochkompetenten und international anerkannten Partner an unserer Seite zu wissen.“                                            

Im Rahmen der Zertifizierung werden die Machine Learning Modelle und deren Entwicklungsprozess in mehreren Dimensionen im Detail überprüft. Dabei wird nicht nur die eigentliche Funktion und Verlässlichkeit der trainierten Modelle untersucht, sondern auch die Sicherheit der Software und ob diese den Anforderungen ihres Einsatzgebiets entsprechend angemessen entwickelt wurde. Hinzu kommt eine Prüfung, ob mit persönlichen Daten vertraulich umgegangen wird und mögliche ethische Fragestellungen ausreichend berücksichtigt werden.

Neu erschienen: White Paper (publiziert von TÜV AUSTRIA und JKU):

www.tuv.at/loesungen/digital-services/trusted-ai/, öffnet eine externe URL in einem neuen Fenster