Ein neues Software-Framework soll es Unternehmen erleichtern, Anwendungen auf Basis von Künstlicher Intelligenz (KI) zu genehmigen oder zu prüfen. Der Rahmen wird vom Fraunhofer IPA gemeinsam mit dem Institut für Industrielle Fertigung und Management IFF der Universität Stuttgart im Rahmen des Forschungsprojekts „AIQualify" der Deutschen Gesellschaft für Qualität (DGQ) entwickelt.
KI-basierte Anwendungen gewinnen vor allem in den Bereichen industrielle Bildverarbeitung und Qualitätskontrolle an Boden. Solche Anwendungen können nun sehr zuverlässig monotone und zeitraubende manuelle Prozesse automatisieren und bieten insbesondere für kleine und mittlere Unternehmen (KMU) einen erheblichen Wettbewerbsvorteil. Dies ist insbesondere dann der Fall, wenn die Prüfteile oder mögliche Defekte variabel sind und somit herkömmliche regelbasierte Systeme an ihre Grenzen stoßen könnten.
Ein Mangel an Transparenz und Verständnis dafür, wie diese Anwendungen tatsächlich funktionieren, führt jedoch zu Unsicherheit beim Einsatz von KI. Die Anwendungen basieren hauptsächlich auf maschinellen Lernprozessen (ML). Die hier verwendeten künstlichen neuronalen Netze lernen unabhängig von großen Datenmengen. Selbst KI-Experten sind jedoch selten in der Lage zu erklären, wie genau ein Ergebnis – und im schlimmsten Fall ein falsches Ergebnis – auf Basis dieses Lernprozesses erzeugt wird. Genau diese Situation führt dazu, dass Unternehmen bei der Einführung solcher Technologien auf der Seite der Vorsicht irren. Darüber hinaus könnten rechtliche Probleme auftreten, wenn Unternehmen in Zukunft gezwungen sind, zusätzliche Vorschriften für den Einsatz von KI-Technologien im Rahmen des EU-KI-Gesetzes einzuhalten.
Vereinfachung und Unterstützung von AI-Audits
Um hier Abhilfe zu schaffen und mehr Sicherheit zu bieten, insbesondere für Unternehmen mit wenig Erfahrung im Umgang mit KI, sind geeignete Standards und Entwicklungsmethoden erforderlich. Diese würden es leichter machen, die Eignung oder Qualifizierung von ML-basierten KI-Anwendungen zu überprüfen, auch ohne das bisher notwendige Fachwissen.
Genau dieses Ziel verfolgt das Forschungsprojekt „AIQualify" mit Hilfe eines entstehenden Software-Frameworks. Ein softwarebasiertes Assistenzsystem unterstützt Anwender bei der Definition und Formulierung von Test- und Bewertungskriterien. Diese werden in einem sogenannten Assurance Case zentral gebündelt, bevor sie anschließend auf Basis dieser Kriterien zur Freigabe des KI-Antrags genutzt werden. Grundlage dafür ist eine Audit-Plattform, die für jede Entwicklungsphase der ML-Komponenten der KI-Anwendung spezifische Audit-Module bereitstellt. Für die Plattform soll ein modularer Aufbau verwendet werden, mit dem Ziel, Testmodule einfach zu integrieren oder zu erweitern. Neben der isolierten Qualifizierung kann das Framework auch iterativ als Element in den Entwicklungsprozess eines KI-Systems integriert werden.
Berücksichtigung des gesamten Entwicklungsprozesses
Prof. Marco Huber, der das Projekt leitet, unterstreicht den innovativen Charakter des daraus resultierenden Ansatzes: „Anstatt nur die fertige Anwendung zu berücksichtigen, gehen wir viel weiter zurück – bis ganz am Anfang. Jede Entwicklungsphase für eine KI-Anwendung erfordert Entscheidungen, die alle das Ergebnis beeinflussen können. Aus diesem Grund achten wir auch auf Aspekte wie Datenauswahl, Vorverarbeitung, Qualitätskriterien und Modellauswahl.
Das Software-Framework ermöglicht somit drei Arten der Qualifizierung:
- durch das Unternehmen selbst,
- durch einen Kunden, Lieferanten oder Partner und schließlich
- durch unabhängige Institutionen.
Dadurch entstehen drei verschiedene Zielgruppen: Erstens, Dienstleister für ML-basierte Qualitätskontrolle und -management, zweitens, produzierende Unternehmen und drittens, Dienstleister für Konformitätsprüfung und Auditierung. Insbesondere kleine und mittlere Unternehmen (KMU) werden in der Lage sein, KI-Systeme von Drittanbietern zu qualifizieren. Auf diese Weise sollen solche Unternehmen die Leistung eines KI-Systems auch ohne eigene KI-Spezialisten bewerten können.
Bewertung des Frameworks anhand typischer Anwendungen
Zwei Anwendungsfälle dienen dazu, das Software-Framework in der Praxis zu testen. Der erste Anwendungsfall bezieht sich auf den Forschungskontext der Projektpartner, bei dem KI zur kamerabasierten Detektion defekter Lochscheiben eingesetzt wird. Das Besondere daran ist, dass neben realen Kamerabildern auch synthetische Defektbilder erstellt und verwendet werden können. Dadurch können unterschiedliche Schweregrade der Prüfaufgabe bei der Beurteilung der Eignung der ML-Komponenten berücksichtigt werden. Der zweite Use Case kommt direkt aus der industriellen Praxis. Zusätzlich zur Unterstützung des Projekts als Ganzes wird ein Projektkomitee, das unter anderem aus produzierenden Unternehmen besteht, diesen Anwendungsfall in das Projekt einbringen.
< Zurück zu Automatisierung, KI, Robotik
> Hier ist einer der Orte, an denen der Emittent der Veröffentlichung gebranded wird.
> Tippen Sie auf die Schaltflächen oder Logos, um zu den Profilen oder Seiten des Emittenten weitergeleitet zu werden.
