Framework zur Qualifizierung von KI-Systemen in der industriellen Qualitätsprüfung (AIQualify)

Bei kleinen und mittelständischen Unternehmen (KMU) ist der manuelle Anteil bei der Qualitätsprüfung in der industriellen Produktion sehr hoch. Durch den Einsatz von Künstlicher Intelligenz (KI) versprechen sich die Unternehmen eine Automatisierung der Qualitätsprüfung und wirtschaftliche Vorteile. Dabei rücken Methoden des maschinellen Lernens (ML) wie etwa künstliche neuronale Netze in den Vordergrund. Diese versprechen eine hohe Leistungsfähigkeit und werden vollständig auf Daten trainiert; ohne Vorgabe von expliziten, menschgemachten Regeln. Allerdings ist es gerade die selbstlernende Eigenschaft, welche bei den Unternehmen zu Bedenken hinsichtlich Zuverlässigkeit oder Akzeptanz führt sowie die Bewertung von ML-Methoden erschwert, ganz im Gegensatz zu herkömmlicher Software und regelbasierten KI-Sytemen. Zudem fehlen bei KMU vielfach die personellen Ressourcen und Fachkenntnisse, um die Eignung von fremdbezogenen KI-Systemen zu prüfen. Ziel des Projekts ist daher die Entwicklung eines Software-Frameworks für die vereinfachte Qualifizierung bzw. Auditierung von ML-basierten KI-Systemen in der industriellen Qualitätsprüfung. Das Framework besteht aus einem Vorgehensmodell samt software-gestützter Methoden und Werkzeuge. Da bei der Entwicklung von KI-Systemen mehrere Phasen durchlaufen und in jeder Phase Entwicklungsentscheidungen mit Einfluss auf das Ergebnis getroffen werden, umfasst die Qualifizierung sämtliche Phasen. Dazu unterstützt das Framework bei der Ermittlung und Formulierung von Prüf- und Bewertungskriterien entlang aller Phasen. Diese Kriterien werden in einer sogenannten Argumentationsstruktur erfasst, welche vom Framework zur Unterstützung der Auditierung des KI-System genutzt wird. Das Framework ist modular gestaltet, so dass eine einfache Integration und Erweiterung von Prüf- bzw. Auditierungsmodulen möglich wird. Mit dem Framework sollen insbesondere KMU dazu befähigt werden, auch ohne eigene KI-Fachkräfte die Leistungsfähigkeit von KI-Systemen bewerten zu können.

Der EU AI Act ist offiziell in Kraft getreten – ein wegweisendes Regelwerk, das die Nutzung und Entwicklung von Künstlicher Intelligenz in Europa nachhaltig prägen wird. Mit ihm greift die EU regulierend ein, um Transparenz, Sicherheit und ethische Standards in der KI-Technologie gewährleisten zu können. Die Anforderungen des Gesetzes, darunter auch Artikel 4, treten schrittweise zu festgelegten Terminen in Kraft. Dieser Artikel fordert Anbieter und Betreiber von KI-Systemen auf, Maßnahmen zu ergreifen, um sicherzustellen, dass ihr Personal über ausreichende KI-Kenntnisse verfügt.

Artikel 4:

• Tritt am 2. Februar 2025 in Kraft
• Fordert Maßnahmen zur Sicherstellung von KI-Kenntnissen
• Stellt Unternehmen / Organisation hinsichtlich der Umsetzung vor Herausforderungen

Wir sind an Ihrer Einschätzung zu Artikel 4 und dessen Auswirkungen auf Ihr Unternehmen / Ihre Organisation interessiert. Die Erkenntnisse der Umfrage sollen dazu beitragen, die Umsetzung von Artikel 4 des EU AI Acts zu erleichtern, indem erfasst wird, wie Betreiber und Anbieter von KI-Systemen aufgestellt sind.

Teilen Sie uns Ihre Meinung mit und nehmen Sie an unserer Umfrage teil.

Die Teilnahme an der anonymen Umfrage ist freiwillig, beansprucht in etwa 10 Minuten ihrer Zeit und kann jederzeit ohne Angabe von Gründen abgebrochen werden.

Die Umfrage ist im Zeitraum vom 6. November 2024 bis zum 29. November 2024 aktiv.

Am 11.12. und 12.12.2023 fand der AI Quality Summit in Frankfurt statt. Im Rahmen eines Deep Dives hatten wir die Möglichkeit, das Projekt AIQualify vorzustellen und uns mit vielen nationalen und internationalen Vertretern aus Forschungseinrichtungen und namhaften Unternehmen aus dem Bereich der KI-Entwicklung auszutauschen. Dadurch konnten wir unser fachliches Netzwerk erweitern und an der europäischen Debatte über die Qualität von Künstlicher Intelligenz teilnehmen. Es gab interessante Vorträge im Plenum und aufschlussreiche Diskussionen, von denen wir für unser Projekt profitieren konnten. Der AI Quality Summit 2023 war eine bereichernde Veranstaltung, die uns wertvolle Erkenntnisse und neue Kontakte im Bereich der Qualität und Regulierung von künstlicher Intelligenz gebracht hat.