Wettbewerbsvorteil durch Engineering

Mario Trapp, Fraunhofer-Institut für Kognitive Systeme IKS

(Titelbild: Adobe Stock | | 838494271 | Alexander Berdugin)

Das führt zur spannenden Frage, was genau denn nun eigentlich das Risiko, die Gefahr der Künstlichen Intelligenz darstellt. Die Übernahme der Weltherrschaft durch eine Künstliche Intelligenz können wir bei dieser Überlegung sehr beruhigt in der Schublade der dystopischen Fiktion ruhen lassen.

Die wirkliche Bedrohung geht von etwas viel Banalerem aus: der künstlichen Dummheit. Bei der ganzen Fülle von Beispielen, in denen KI beeindruckend gut funktioniert hat, darf man nicht vergessen, dass es auch genügend Fälle gibt, in denen sie erschreckend kläglich scheitert. Das kann fatale Folgen haben, vor allem in Bereichen wie dem autonomen Fahren oder der Medizin, wo ein Fehler Leben kosten kann. Aber auch in anderen Branchen kann die KI uns teuer zu stehen kommen. Die Besorgnis sollte sich also gar nicht in erster Linie auf die Künstliche Intelligenz, sondern auf die Künstliche Dummheit richten.

Während viele die KI mit Besorgnis betrachten, gibt es aber auch viele, die sich fragen, wo genau eigentlich das Problem liegt. Schließlich nutzen wir Software seit vielen Jahrzehnten sehr erfolgreich in fast allen, auch sicherheitskritischen, Anwendungen. Warum ist es also eine so gewaltige Herausforderung, die Qualität von Künstlicher Intelligenz zu gewährleisten? Um dies zu beantworten, muss man zunächst einmal den Überbegriff der Künstlichen Intelligenz feiner untergliedern und definieren: Während viele KI-Verfahren durchaus mit hoher Qualität aufwarten können, sorgt zurzeit vor allem das sogenannte Maschinelle Lernen mit seiner speziellen Ausprägung als Tiefe Neuronale Netze, die beispielsweise in der Bilderkennung oder bei Sprachmodellen zum Einsatz kommen, für Furore. Solche Neuronalen Netze werden nicht mehr über explizite Befehlsketten programmiert, sondern anhand von Daten trainiert. Sie imitieren dabei das menschliche Gehirn, indem viele Neuronen miteinander verbunden werden. Stark vereinfacht gesagt, werden während des Trainings die Verbindungen zwischen den Neuronen in Form von Gewichten gestärkt oder geschwächt. Das Verhalten ergibt sich dadurch sehr implizit aus der Gewichtung der Neuronenverbindungen und es ist in den meisten Fällen unmöglich, genau nachzuvollziehen, warum ein künstliches neuronales Netz so reagiert, wie es reagiert. Wollen wir nun also die Ansätze zur Qualitätssicherung, die von expliziten Befehlsketten ausgehen, auf neuronale Netze anwenden, ist das in etwa so, als würden wir eine meisterhafte Uhrmacherin für mechanische Uhren vor die Herausforderung stellen, eine Smartwatch zu reparieren. In beiden Situationen prallen völlig verschiedene Paradigmen und gänzlich unterschiedliche, unvereinbare Technologien aufeinander. Und auch wenn es natürlich intensive Forschungsbestrebungen in verschiedensten Richtungen gibt: Von Maschinellem Lernen mit der belastbaren Qualität klassischer Software sind wir noch weit entfernt.
Auch abseits der sicherheitskritischen Anwendungsfälle wie dem autonomen Fahren haben viele Unternehmen ähnliche negative Erfahrungen mit der Zuverlässigkeit von KI-Lösungen gemacht. Nach anfänglicher Begeisterung ist vielerorts schnell Ernüchterung eingekehrt, und der Nutzen der KI wird aufgrund ihrer geringen Verlässlichkeit in vielen Firmen und Branchen erneut in Frage gestellt. In klassischen IT-Anwendungen erweist sich die KI oft als wenig produktivitätssteigernd, wenn alle Ergebnisse dennoch überprüft und möglicherweise aufwendig korrigiert werden müssen. Ein noch größeres Risiko geht beispielsweise von Fehlern der KI in der Qualitätssicherung der Produktion aus, die schnell zu erheblichen finanziellen Schäden führen können. Für viele Unternehmen steht der potenzielle Nutzen daher in keinem Verhältnis zu den Risiken.

Richtet man den Blick, typisch deutsch, nur auf die Risiken, wird man eine lange Liste an Bedenken zusammentragen können. Doch trotz all dieser Risiken gilt: Das größte wirtschaftliche Risiko der KI liegt letztlich darin, sie nicht zu nutzen oder gar zu ignorieren. Die Entwicklung der Künstlichen Intelligenz hat bereits die Phase des exponentiellen Wachstums erreicht. Mit jedem Tag, den Unternehmen zögern, vergrößert sich der technologische Abstand, bis er in kürzester Zeit kaum mehr aufzuholen ist. Tech-Giganten haben im Kerngeschäft der Künstlichen Intelligenz bereits heute einen nahezu uneinholbaren Vorsprung. Für die deutsche Wirtschaft geht es nun vor allem darum, KI in den teils hochspezialisierten Branchen anzuwenden. Viele Unternehmen fühlen sich dabei in ihrer Nische sicher und geschützt. Dabei übersehen sie, dass KI über viele Jahre angesammeltes Expertenwissen innerhalb kürzester Zeit ersetzen kann. Startups und Tech-Unternehmen können durch den Zugriff auf Daten die bisherigen Eintrittsbarrieren spielend unterlaufen und die Marktregeln innerhalb kürzester Zeit völlig neu definieren.

Das mag auf den ersten Blick widersprüchlich wirken, bei all den zuvor genannten Risiken so klar für einen Einsatz der KI zu plädieren. Dieser Widerspruch lässt sich allerdings sehr leicht auflösen, wenn man für einen Moment die Perspektive wechselt: Künstliche Intelligenz um ihrer selbst willen einzusetzen, bringt an sich noch keinen Nutzen; sie ist nur eine Technologie. Geld verdienen lässt sich hingegen nur mit dem Nutzen von Produkten auf höchstem Qualitätsniveau. Anstatt sich vom Star-Hype der KI blenden zu lassen, sollte der Fokus auf dem Engineering als Stärke der deutschen Wirtschaft liegen. Dann kann man KI als neuen Technologiebaustein verstehen, als neue Option, aber mehr als Teil des großen Ganzen, denn als der isolierte Solo-Star, als der sie inszeniert wird.

Die überhöhten Versprechungen, die allein mit dem Namen „Künstliche Intelligenz“ suggeriert werden, waren für die KI letztlich nie erreichbar. Sie ist kein Wundermittel, dem man einfach nur ein paar willkürliche Daten gibt, damit sie daraus die Lösung aller Probleme zaubert. Der Misserfolg, den viele Unternehmen erfahren haben, liegt daher oft nicht in der KI selbst begründet, sondern in falschen Erwartungen darüber, was KI leisten kann und wie sie zu verwenden ist: Ihre Fähigkeiten wurden überschätzt, während die notwendige Expertise für die Anwendung von KI unterschätzt wurde. Darüber hinaus darf die KI in ihrem angestammten Anwendungsfeld zwar gerne als Solistin auftreten, doch die Probleme für komplexe Systeme – von der Produktion bis zum autonomen Fahren – sind zu vielschichtig, um allein durch eine KI gelöst zu werden. Auch hier wurden die Möglichkeiten der KI überschätzt und die Bedeutung der – im Vergleich zugegeben angestaubt bieder anmutenden – klassischen Software unterschätzt. Letztlich mag die KI in manchen Bereichen die Klarinette im Klarinettenkonzert sein, aber es braucht das gesamte Orchester, um eine Sinfonie zu schaffen. Wenn die Sinfonie der Nutzen für die Kunden ist, dann ist die Technologie KI eines der vielen Instrumente, die es zu einem Gesamtwerk zu orchestrieren gilt. Diese Orchestrierung nennt man Engineering – eine der größten Stärken deutscher Unternehmen.

Möchte man das enorme Potenzial der KI heben, sollte man also die Reise bei seinem Engineering starten. Es geht nicht um die KI, sondern um Kognitive Systeme, sprich Systeme, die durch die Ergänzung um KI als Teil des Ganzen einen Wettbewerbsvorteil erreichen. Das Engineering Kognitiver Systeme ist das Ziel, um weiterhin vom Nutzen, von Wettbewerbsvorteilen aus zu denken und zugleich auf die Verwendung von KI, auf ihre positiven wie negativen Besonderheiten vorbereitet zu sein.

Experten erwarten, dass im Ökosystem generativer KI drei Schichten erwachsen [7]. Auf der untersten Schicht existieren vortrainierte, text-, bild- oder codebasierte, Fundamentalmodelle. Diese bilden die Basis für die zweite Schicht an für jeweils eine bestimmte Domäne verfeinerte, industrie- und funktionsspezifische Modelle. Diese können auf den Gesundheitssektor, die Bildungsindustrie oder die chemische Produktion ausgerichtet sein. Auf der letzten Schicht werden Unternehmen diese Modelle nutzen, um mit Daten und Fachexpertise eigene, proprietäre Modelle zu entwickeln. In der sich ergebenden „model as a service“-Ära müssen Unternehmen keine eigenen KI-Modelle „von Grund auf neu“ entwickeln, sondern können bestehende Modelle gegen Lizenzgebühr nutzen und sich auf die Entwicklung passender Anwendungsfälle mit Hilfe dieser Modelle konzentrieren.