KI, die Kreative Intelligenz jetzt in der neuesten Folge SMART&nerdy! Podcastfolge #23.
Dirk Eilers und Karsten Roscher, Fraunhofer-Institut für Kognitive Systeme IKS
(Titelbild: © Adobe Stock | 694779263 | svetazi )
Für industrielle KI reicht eine hohe Modellgenauigkeit allein nicht aus. Entscheidend ist, ob Systeme auch unter veränderten Produktionsbedingungen robust und zuverlässig arbeiten und ihre eigenen Grenzen erkennen. Dateneffiziente Evaluierung ermöglicht es, Potenziale und Risiken bereits mit kleinen Datenmengen zu bewerten. Kontrollierte Teilautomatisierung überträgt nur ausreichend sichere Fälle an die KI, während unsichere Entscheidungen bei Fachkräften verbleiben. So werden Robustheit und ein bewusster Umgang mit Unsicherheit zu entscheidenden Faktoren für den produktiven KI-Einsatz.
Im Labor überzeugt das KI-Modell, in der Produktion bringt schon ein alterndes Leuchtmittel seine Entscheidungen ins Wanken. Zwischen erfolgreichem Prototyp und verlässlichem Einsatz liegt eine entscheidende Frage: Wo liegen die Grenzen eines Systems? Für industrielle KI wird genau dieses Wissen zum Schlüssel, denn erfolgreiche Automatisierung bedeutet nicht zwangsläufig, der Maschine jede Entscheidung zu überlassen.
Die Digitalisierung industrieller Prozesse hat in den vergangenen Jahren enorme Fortschritte gemacht. Maschinen liefern kontinuierlich Daten, Produktionsanlagen sind vernetzt und immer mehr Entscheidungen werden softwaregestützt getroffen. Mit leistungsfähigen Verfahren des Maschinellen Lernens vollzieht sich nun die nächste Stufe dieser Entwicklung.
Insbesondere in der Qualitätsinspektion gelten KI-basierte Verfahren als vielversprechend. Bilddaten können automatisiert ausgewertet werden, wobei Defekte erkannt und Qualitätsentscheidungen unterstützt werden. Gleichzeitig nehmen die Erwartungen an Flexibilität und Geschwindigkeit zu: Fertigungsanlagen müssen immer häufiger neue Produktvarianten herstellen, und gleichzeitig höchste Qualitätsanforderungen erfüllen.
In vielen Unternehmen entsteht dadurch eine zentrale Frage: Wie kann sichergestellt werden, dass KI-Systeme unter realen Bedingungen zuverlässig funktionieren? Die Antwort entscheidet zunehmend darüber, ob aus einem Prototyp ein produktives System wird.
Die öffentliche Diskussion über Künstliche Intelligenz ist häufig von spektakulären Erfolgsbeispielen geprägt. Große Sprachmodelle und Bildgeneratoren demonstrieren eindrucksvoll die Leistungsfähigkeit moderner Algorithmen. Die industrielle Praxis ist jedoch deutlich anspruchsvoller.
Ein Produktionsunternehmen kann es sich nicht leisten, dass eine Qualitätsentscheidung nur „meistens richtig“ ist. Fehlerhafte Bewertungen können Ausschuss verursachen, Nacharbeit erzeugen oder im ungünstigsten Fall Auswirkungen auf Sicherheit und Kundenzufriedenheit haben.
Hinzu kommt, dass industrielle Anwendungen meist unter Randbedingungen arbeiten, die sich erheblich von öffentlich verfügbaren Datensätzen unterscheiden. Fehlerbilder treten selten auf, neue Produkte besitzen nur geringe Datenhistorien und Veränderungen in Beleuchtung, Material oder Umgebung wirken sich unmittelbar auf die Leistungsfähigkeit eines Modells aus [1].
Die eigentliche Herausforderung liegt deshalb nicht allein in der Erstellung eines KI-Modells, sondern in der Bewertung seiner Belastbarkeit. Nur so können Unternehmen verstehen, ob ein Modell unter realen Bedingungen tatsächlich die erwartete Leistung erbringt und an welchen Stellen Risiken bestehen.
Lange Zeit wurde die Qualität eines KI-Modells hauptsächlich anhand seiner Genauigkeit bewertet. Für industrielle Anwendungen reicht dieser Ansatz jedoch nicht mehr aus.
Heute rückt zunehmend die Frage in den Vordergrund, wie robust ein System auf Veränderungen reagiert. Kann das Modell Unsicherheiten erkennen? Reagiert es stabil auf bislang unbekannte Situationen? Ist nachvollziehbar, warum eine Entscheidung getroffen wurde? Werden kritische Fehler rechtzeitig erkannt? So muss beispielsweise zur Laufzeit sichergestellt werden, dass ein Modell auch weiterhin zur Umgebung passt. Schon alternde Leuchtmittel können die Performanz eines Modells erheblich beeinträchtigen.
Diese Fragestellungen gewinnen auch durch regulatorische Entwicklungen an Bedeutung. Der europäische Artificial Intelligence Act (EU AI Act) sieht für Hochrisiko-Systeme ein Risikomanagementsystem vor, das über den gesamten Lebenszyklus eines Systems als kontinuierlicher und iterativer Prozess verstanden wird [2]. Auch wenn KI-gestützte Qualitätsinspektionssysteme meist nicht nach dem EU AI Act als Hochrisikosysteme eingestuft werden, können sich Veränderungen im Produktionsumfeld dennoch negativ auf deren Zuverlässigkeit auswirken und sollten daher im Rahmen einer kontinuierlichen Lebenszyklus-Überwachung berücksichtigt werden. Unternehmen benötigen Verfahren, mit denen sich die Leistungsfähigkeit und Zuverlässigkeit von KI-Systemen strukturiert bewerten lassen.
Klar ist: Vertrauenswürdige KI entsteht nicht zufällig. Sie basiert auf einer nachvollziehbaren Entwicklung, einer strukturierten Evaluierung und einem kontrollierten Umgang mit Unsicherheiten. Robustheit wird damit vom technischen Qualitätsmerkmal zu einem strategischen Erfolgsfaktor.
Genau hier setzt eine neue Generation von Evaluierungsverfahren an. Ziel ist es nicht nur, die Leistungsfähigkeit eines Modells zu analysieren, sondern sein tatsächliches Verhalten unter realitätsnahen Bedingungen zu verstehen.
Ein Beispiel hierfür ist Robuscope, ein Analysewerkzeug des Fraunhofer-Instituts für Kognitive Systeme IKS. Der Ansatz verfolgt eine einfache, aber zentrale Fragestellung: Wie belastbar ist ein KI-Modell im späteren Einsatz? Dabei werden Vorhersagen eines Modells systematisch untersucht und typische Schwachstellen sichtbar gemacht. Analysiert werden unter anderem Fehlermuster, Verwechslungen einzelner Klassen, die Stabilität von Entscheidungen und die Kalibrierung der vom Modell ausgegebenen Wahrscheinlichkeiten [1].
Interessant ist dabei insbesondere die Perspektive. Statt ausschließlich zu fragen, wie genau ein Modell arbeitet, wird untersucht, unter welchen Bedingungen dem Modell tatsächlich vertraut werden kann. Für Unternehmen entstehen dadurch neue Möglichkeiten, Risiken frühzeitig zu erkennen und Entwicklungsaufwände gezielter zu steuern.
Die Frage „Kann diese Aufgabe mit KI automatisiert werden?“ lässt sich dadurch deutlich früher und belastbarer beantworten als mit klassischen Entwicklungsansätzen. Die Evaluierung wird damit selbst zu einem Innovationswerkzeug.
Eine weit verbreitete Annahme lautet, dass erfolgreiche KI-Projekte riesige Datenmengen benötigen. Tatsächlich scheitern viele industrielle Anwendungen gerade daran, dass die Daten über reale Defekte, wie Material- oder Fertigungsfehler, oft nicht ausreichend verfügbar sind. Die Defekte treten dabei seltener auf. Zudem werden neue Produktvarianten zunächst nur in kleinen Stückzahlen hergestellt.
Zusätzlich verursacht die Annotation der Daten durch Fachpersonal, d.h. die manuelle Ausweisung von Fehlerinformation am Objektbild, erheblichen Aufwand. Gerade in der Qualitätsinspektion stehen Unternehmen deshalb häufig vor der Situation, dass hochwertige Daten wertvoll, aber knapp sind.
Die entscheidende Frage lautet jedoch nicht, wie viele Daten vorhanden sind, sondern wie aussagekräftig sie sind.
Dateneffiziente Ansätze erlauben es, vorhandene Informationen gezielt auszuwerten und bereits mit kleinen Datenmengen Aussagen über die Machbarkeit einer Automatisierung zu treffen. Statt zunächst über einen längeren Zeitraum Daten zu sammeln, können Potenziale und Risiken bereits frühzeitig bewertet werden. Dies reduziert Investitionsrisiken und beschleunigt die Entscheidungsfindung erheblich.
Um Unternehmen entlang dieses Weges zu unterstützen, entstand am Fraunhofer IKS die Machine-Learning-Toolkette DEEP (Data Efficient Evaluation Platform). DEEP verfolgt das Ziel, das Potenzial vorhandener Daten systematisch zu bewerten und gleichzeitig geeignete Modellansätze für eine zuverlässige Automatisierung zu identifizieren [1].
Die Plattform kombiniert verschiedene technologische Bausteine. Robuscope analysiert die Robustheit von Modellen. Der Fraunhofer-IKS-Ansatz Feedback-guided Automation of Sub-Tasks (FAST) ermöglicht eine sichere Teilautomatisierung durch die Konzentration auf jene Bereiche, in denen ausreichende Zuverlässigkeit erreicht wird. Konzeptbasierte Modelle unterstützen die Wiederverwendung von Wissen über verschiedene Anwendungen hinweg und reduzieren dadurch den Bedarf an Training und Daten und somit den Entwicklungsaufwand.
Entscheidend ist dabei weniger das einzelne Werkzeug als das zugrunde liegende Prinzip: Datenqualität, Modellrobustheit und Automatisierungsgrad müssen gemeinsam betrachtet werden. Ein weiterer Paradigmenwechsel betrifft den Automatisierungsgrad.
Lange Zeit wurde KI als Technologie verstanden, die menschliche Entscheidungen vollständig ersetzt. In industriellen Anwendungen zeigt sich jedoch häufig, dass hybride Ansätze erfolgreicher sind.
Dabei automatisiert die KI nur jene Fälle, für die ausreichende Sicherheit besteht. Unsichere Fälle werden an Expert:innen weitergeleitet. Dieses Vorgehen reduziert Risiken erheblich und ermöglicht gleichzeitig einen frühen produktiven Einsatz der Technologie.
Ein Beispiel ist die Qualitätsprüfung von Schrauben. Sind bestimmte Varianten, Aufnahmesituationen oder Defektarten ausreichend repräsentiert, kann die KI diese zuverlässig bewerten. Seltene Randfälle verbleiben zunächst bei menschlichen Fachkräften. Mit zunehmender Datenbasis wächst der automatisierbare Bereich schrittweise an.
Diese kontrollierte Form der Automatisierung entspricht deutlich stärker den Anforderungen vertrauenswürdiger KI als ein kompromissloser Vollautomatisierungsansatz.
Vertrauenswürdigkeit bedeutet damit nicht, Unsicherheit vollständig zu beseitigen, sondern ihre Grenzen zu kennen und den Automatisierungsgrad entsprechend anzupassen. Eine zusätzliche Herausforderung moderner Produktionsumgebungen besteht darin, dass sich Produkte und Prozesse kontinuierlich verändern.
Klassische Machine-Learning-Modelle müssen bei solchen Änderungen häufig vollständig neu trainiert werden. Dies verursacht Aufwand, verlängert Innovationszyklen und erhöht die Kosten.
Modulare Konzeptmodelle verfolgen einen anderen Ansatz. Komplexe Inspektionsaufgaben werden in einzelne Konzeptbausteine zerlegt, die bestimmte Merkmale oder Defekte erkennen. Diese Bausteine können flexibel kombiniert und wiederverwendet werden [1].
Bei Anwendungen wie der Qualitätsprüfung thermoplastischer Spritzgussteile entstehen dadurch erhebliche Vorteile. Typische Defekte wie Gratbildung, Einfallstellen oder unvollständig gefüllte Bauteile können als wiederverwendbare Konzepte modelliert werden. Wird eine neue Produktvariante eingeführt, bleibt ein großer Teil des vorhandenen Wissens weiterhin nutzbar.
Die Folge sind kürzere Entwicklungszeiten, geringere Kosten und eine höhere Flexibilität bei der Einführung neuer Produkte.
Die Diskussion um Künstliche Intelligenz befindet sich gegenwärtig an einem Wendepunkt. Während bisher häufig die technologische Leistungsfähigkeit im Mittelpunkt stand, gewinnen nun Fragen der Verlässlichkeit, Sicherheit und Governance an Bedeutung.
Vertrauenswürdigkeit allein genügt jedoch nicht, wenn der Aufbau und Betrieb solcher Systeme hoch spezialisiertes Fachwissen voraussetzen. Neben der technischen Absicherung rückt deshalb zunehmend die Frage in den Fokus, wie sich verlässliche KI-Systeme einfacher in bestehende Produktionsprozesse integrieren und durch Fachkräfte bedienen lassen. Zukünftig werden dabei zunehmend Methoden mit geringer Eintrittshürde eine Rolle spielen, die es ermöglichen, KI auch ohne sehr spezialisierte Facharbeiter innerhalb der laufenden Prozesse zu nutzen. Ein vielversprechender Ansatz, den auch Fraunhofer hier verfolgt, ist der sichere und zuverlässige Einsatz von Agentic AI. Also beispielsweise ein Einsatz von Agentic AI mit Beschränkung auf Integration, Konfiguration und den Betrieb von KI mittels natürlicher Spracheingabe. Hierbei konzentrieren sich die Expertinnen und Experten vom Fraunhofer IKS darauf, dass die Fachleute mit dem domänenspezifischen Wissen in den Unternehmen die KI-basierten Prüfsysteme eigenständig aufsetzen und konfigurieren können. Und zwar ohne, dass hierfür spezialisierte Computer-Vision- und KI-Fachleute zum Einsatz kommen müssen.
Der Einsatz von Agentic AI bezieht sich dabei vor allem auf die Auswahl von Bausteinen, das Setup und die Parametrierung. Es ist dabei klar zu trennen zwischen dem System, das mit vertrauenswürdigen Komponenten des Fraunhofer IKS an der Produktionslinie läuft und dem Agentic-AI-System, welches ersteres aufsetzt und konfiguriert.
Für Unternehmen bedeutet dies einen Perspektivwechsel. Der Erfolg eines KI-Projektes wird künftig nicht allein daran gemessen werden, wie leistungsfähig ein Modell ist. Entscheidend wird sein, wie nachvollziehbar, robust und vertrauenswürdig das Gesamtsystem arbeitet. Aber auch, wie nahtlos und einfach in der Bedienung sich neue Methoden in die bestehenden Abläufe integrieren und nutzen lassen.
Künstliche Intelligenz besitzt das Potenzial, industrielle Qualitätsinspektionen grundlegend zu verändern. Der eigentliche Wettbewerbsvorteil entsteht jedoch nicht durch immer größere Modelle, sondern durch deren kontrollierten und verlässlichen Einsatz.
Das systematische Testen von KI-Modellen auf Robustheit entwickelt sich daher von einer technischen Detailfrage zu einer strategischen Managementaufgabe. Unternehmen müssen verstehen, wo die Grenzen ihrer Modelle liegen, welche Risiken bestehen und wie Unsicherheiten beherrscht werden können.
Werkzeuge wie Robuscope, Entwicklungsansätze wie DEEP und der Einsatz von Agentic AI zeigen, wie sich diese Herausforderungen adressieren lassen. Sie stehen stellvertretend für einen grundlegenden Wandel im industriellen Einsatz von KI: weg von der reinen Leistungsoptimierung, hin zu Robustheit, Transparenz und Vertrauen sowie Flexibilität und Einfachheit im Einsatz. Wer diese Faktoren frühzeitig berücksichtigt, schafft die Voraussetzungen für erfolgreiche KI-Projekte und nachhaltige Wettbewerbsfähigkeit in der nächsten Phase der industriellen Transformation.
