Wenn Maschinen einer Lüge glauben

Sandra Ehlen, Chefredakteurin IM+io

Wir lernen gerade, unseren Augen und Ohren nicht mehr uneingeschränkt zu trauen. Videos können gefälscht sein, Stimmen täuschend echt. Doch was passiert, wenn nicht der Mensch getäuscht wird, sondern die Maschine?

Mit KI-Agenten, autonomen Systemen und Physical AI verändert sich ein Industriebetrieb dramatisch. Maschinen sehen, hören, interpretieren und entscheiden. Sie reagieren auf Sensordaten, Bilder, Dokumente und Informationen anderer Systeme. Aber woher weiß eine Maschine eigentlich, dass das, was sie sieht, echt ist?

In der Industrie ist diese Frage nicht neu. Wir würden niemals ein beliebiges Bauteil ungeprüft in eine Produktionsanlage einbauen. Die Qualitätssicherung gehört zum industriellen Selbstverständnis. Material, Herkunft, Spezifikationen und Zertifikate müssen den Standards entsprechen.

Bei Daten sind wir hingegen erstaunlich sorglos. Sie fließen aus Sensoren, Plattformen, Cloud Systemen, Maschinen und zunehmend aus KI-Anwendungen in die Prozesse. Dabei verlassen wir uns darauf, dass Absender und Inhalt stimmen. Genau diese Gewissheit beginnt jedoch zu schwinden. Was passiert, wenn Sensordaten manipuliert werden oder Sensoren fehlerhaft sind? Wenn sich ein System mit falscher Identität ausweist? Wenn KI generierte Informationen in automatisierte Prozesse gelangen und dort weitere Entscheidungen auslösen? Aus Desinformation wird dann Prozessinformation.

Je autonomer unsere Unternehmen werden, desto entscheidender wird die Frage nach der Vertrauenswürdigkeit der Daten. Physical AI verschärft diese Entwicklung. Wenn KI nicht mehr nur Texte formuliert, sondern Maschinen und Roboter steuert und in der physischen Welt handelt, bekommt Datenintegrität eine sehr reale Bedeutung. Wie weit KI inzwischen gehen kann, zeigte sich jüngst bei einem Test von OpenAI: Ein Modell verschaffte sich eigenständig Zugang zu den Computersystemen eines anderen Unternehmens und agierte dort wie ein Hacker.

Die deutsche Industrie braucht deshalb etwas, das sie seit Jahrzehnten beherrscht: einen Wareneingang für das Digitale.
Erste Ansätze dafür gibt es bereits. Catena-X versucht in der Automobilindustrie, Daten entlang der Lieferkette standardisiert, souverän und nachvollziehbar auszutauschen. Digitale Produktpässe dokumentieren Herkunft und Eigenschaften von Produkten. Das ist ein Anfang. Künftig müssen wir jedoch auch wissen, woher die Daten kommen, auf deren Grundlage eine Maschine entscheidet.

Wir brauchen Mechanismen, die Herkunft und Authentizität von Daten und Inhalten nachweisbar machen. Digitale Identitäten müssen überprüfbar sein. Datenströme brauchen nachvollziehbare Herkunftsnachweise. KI-Systeme müssen erkennen können, auf welcher Informationsbasis sie handeln und wie vertrauenswürdig diese ist. Die Frage ist, kann Technologie diese Herausforderungen singulär meistern oder brauchen Unternehmen eine neue Form von KI-Kompetenz. Mitarbeitende müssen nicht jeden Inhalt als Fälschung erkennen können. Aber Organisationen müssen Prozesse etablieren, die damit umgehen können, dass Echtheit nicht mehr selbstverständlich ist. Wer darf entscheiden? Wann muss verifiziert werden? Welche Quellen gelten als vertrauenswürdig? Und wann muss ein automatisierter Prozess stoppen?

Es geht somit nicht mehr allein darum, Systeme gegen Angriffe zu schützen, sondern die Vertrauenswürdigkeit der digitalen Wirklichkeit sicherzustellen, auf deren Grundlage Menschen und Maschinen handeln.

Vielleicht liegt darin sogar eine besondere Chance für die deutsche Industrie. Wir haben über Jahrzehnte gelernt, Qualität nicht zu behaupten, sondern nachzuweisen. Jetzt müssen wir dieses Prinzip NUR auf Daten übertragen.