“I accept” or maybe not?

Roman Muth, Scheer IMC

(Titelbild:  © Bild erstellt mit ChatGPT )

Der EU AI Act ist weit mehr als ein juristisches Regelwerk. Er markiert einen kulturellen Wendepunkt. Erstmals verpflichtet ein Gesetz Unternehmen dazu, KI nicht nur effizient, sondern erklärbar, fair und nachvollziehbar zu gestalten. Mit seinen vier Risikokategorien – von minimal bis unvertretbar sendet die EU ein Signal: Nicht alles, was technisch möglich ist, ist gesellschaftlich vertretbar.

Doch entscheidend ist nicht, was der AI Act verbietet, sondern was er ermöglicht: eine neue Rahmenbedingung für das Verhältnis zwischen dem Nutzer und der verarbeitenden Maschine. „Der AI Act ist ein regulatorischer Meilenstein – vergleichbar mit der DSGVO“, so Muth. „Aber er wird nur dann zum Erfolg, wenn Unternehmen ihn nicht als Pflicht, sondern als Lernprozess begreifen.“

Der AI Act ist kein Regelwerk von außen, sondern ein Impuls, der die eigene Produktentwicklung prägt. Er fordert dazu auf, Verantwortung nicht zu delegieren, sondern in folgenden Prinzipien zu gestalten:

• Lokal zuerst: Verarbeitung erfolgt, wo immer möglich, direkt auf dem Gerät der Nutzenden.
• Datensparsamkeit: Nur minimal und anonymisiert werden Daten in die Cloud übertragen, wenn es technisch notwendig ist.
• Transparenz: Jede Datenübertragung ist nachvollziehbar und protokolliert. Wer, was, wann und warum?
• Selbstbestimmung: Entscheidungen liegen bei den Nutzenden. Klar, umkehrbar und kontextbezogen.
• Vertrauen durch Offenheit: Datenschutz ist kein verstecktes Feature, sondern sichtbarer Teil des Erlebnisses.

Statt rein auf Geschwindigkeit und Skalierung zu setzen, versucht Europa diese mit Stabilität, Nachvollziehbarkeit und sozialer Balance zu vereinen und entwickelt daraus seine eigene Antwort auf die Zukunft der KI, ein europäischer USP.

Im Zentrum des AI Act steht Artikel 4, der Organisationen verpflichtet, Kompetenzen im Umgang mit KI aufzubauen – kurz: AI Literacy, also die Fähigkeit, Künstliche Intelligenz nicht nur anzuwenden, sondern auch kritisch zu verstehen. Sie ist mehr als nur technisches Wissen. Sie umfasst die Fähigkeit, Systeme zu verstehen, zu hinterfragen und bewusst zu nutzen. Muth beschreibt diese als Dreiklang:

• Wissen: wie Modelle funktionieren, welche Daten sie nutzen und wo ihre Grenzen liegen
• Fähigkeiten: wie Ergebnisse interpretiert und bei Bedarf korrigiert werden müssen, da ein menschliches Urteil vonnöten ist
• Verständnis: wie die ethischen, gesellschaftlichen und rechtlichen Implikationen zu bewerten sind

„KI-Kompetenz heißt, nicht blind auf Automatisierung zu vertrauen, sondern sie reflektiert einzusetzen“, so Muth. Denn Vertrauen entsteht nicht rein durch Kontrolle, sondern auch durch Verständnis. Damit wird Lernen selbst zur Voraussetzung von Regulierung und Bildung zum strategischen Motor organisationaler Verantwortung.

Eine Möglichkeit zur Vertrauensbildung kann im Rahmen der Einführung eines Model Context Protocol (MCP) Servers erfolgen, einer Art Kommunikationsschnittstelle, die verschiedene KI-Systeme miteinander verbindet und sicherstellt, dass sie Informationen im richtigen Kontext austauschen. Er bildet die zentrale Verbindung zwischen verschiedenen KI-Modellen und Anwendungen und sorgt dafür, dass Kontext, Datenflüsse und Zugriffsrechte standardisiert und sicher verwaltet werden.

Damit wird eine Grundlage geschaffen, die technologische Innovation mit europäischem Werteverständnis verbindet. Datenschutz, Transparenz und Selbstbestimmung werden zu zentralen Bestandteilen der KI-Erfahrung. So entsteht, laut Muth, ein System, das Vertrauen nicht voraussetzt, sondern aktiv gestaltet.

Diese Schnittstelle ist kein fertiges Produkt, sondern ein offener Entwurfsrahmen. Sie stellt Fragen, die tiefer reichen als klassische Compliance-Konzepte: Wie werden KI-Interaktionen sichtbar und steuerbar, ohne Transparenz zur Überforderung werden zu lassen? Wie lässt sich Datenweitergabe erklären statt nur abfragen? Wie können Verantwortung und Kontrolle sinnvoll zwischen Menschen und Maschine geteilt werden? Aus diesen Überlegungen entsteht ein Wertekompass mit fünf Leitprinzipien:

• Transparenz: Jede Interaktion muss sichtbar und nachvollziehbar sein.
• Granularität: Zustimmung sollte kontextbezogen und reversibel sein. Gemeint ist damit der Grad an Feinheit, mit dem Nutzende selbst bestimmen können, welche Daten sie für welchen Zweck freigeben. Vertrauen wächst dort, wo Wahlfreiheit existiert.
• Nachvollziehbarkeit: Systeme müssen zeigen, wie Entscheidungen entstehen.
• Auditierbarkeit: Jede Aktion ist prüfbar. Vertrauen entsteht nicht durch Kontrolle nach Fehlern, sondern durch Einsicht vorher.
• Rückholbarkeit: Menschen müssen in der Lage bleiben, Entscheidungen zu korrigieren oder zu revidieren.

Diese Prinzipien sind kein technischer Blueprint, sondern eine kulturelle Architektur des Vertrauens. Sie bilden den Rahmen für eine KI, die nicht blind agiert, sondern Orientierung und Verständnis ermöglicht. Diese Prinzipien können als Grundlage für neue Prototypen, Partnerschaften und Designprinzipien dienen und als eine Einladung, Vertrauen als Systemeigenschaft zu denken, nicht als Restgefühl.

Wie viel wissen wir eigentlich über das, was wir akzeptieren? Wie oft klicken wir auf „I Accept“, ohne zu lesen, was dahintersteht: aus Gewohnheit, aus Zeitmangel, aus Vertrauen, das wir nie bewusst gegeben haben? Und was sagt das über die Beziehung zwischen Mensch und Maschine, Nutzer und Organisation?

Diese scheinbar kleine Geste – ein Klick – ist zum Symbol unserer digitalen Gegenwart geworden: Wir stimmen zu, um weitermachen zu können, nicht, weil wir verstehen, was geschieht. Damit verlagert sich Verantwortung unmerklich – vom System auf den Menschen, vom Anbieter auf den Nutzer, vom Kollektiv auf das Individuum.

Für Muth ist das der Kern des Problems: Ein System, das Akzeptanz durch Erschöpfung erzeugt, produziert kein Vertrauen, sondern Resignation. Die Praxis der Einwilligung, wie sie heute in Datenschutzrichtlinien oder Plattformarchitekturen verankert ist, schützt kaum jemanden. Sie verschiebt Verantwortung dorthin, wo sie nicht getragen werden kann.

Er schlägt eine Neuausrichtung vor: vom Reflex zur bewussten Interaktion. Zustimmung soll nicht länger ein Pflichtakt sein, sondern ein Gestaltungsmoment – eine bewusste Entscheidung im Spannungsfeld von Kontrolle, Komfort und Kooperation.

Reflektierte Zustimmung bedeutet: nicht alles auf einmal freigeben, sondern kontextbezogen verstehen; nicht pauschal „Ja“ sagen, sondern situativ entscheiden, wofür und warum; nicht blind vertrauen, sondern Vertrauen als Prozess erleben. Damit verändert sich Datenschutz grundlegend: vom statischen Regelwerk zum dynamischen Aushandlungsraum.
„Verantwortung darf nicht am Endnutzer hängenbleiben“, betont Muth. „Wir brauchen Entscheidungsräume auf mehreren Ebenen von der strategischen Governance bis zur individuellen Handlung.“

• Unternehmen setzen Leitplanken, die definieren, was technisch und ethisch vertretbar ist.
• Individuen behalten das Recht, über ihre Daten zu bestimmen – als gelebten Standard, nicht als Ausnahme.

So entsteht kein binäres System aus Zustimmung und Ablehnung, sondern ein Netzwerk von Vertrauen als kontinuierlicher Aushandlungsprozess.

Doch Muth warnt: Dieser Weg ist anspruchsvoll. Er kostet Zeit, Ressourcen und birgt das Risiko, dass Benutzer ohne Zustimmung auf Funktionalität und damit auf Anwendungen verzichten.„Wer Wahlfreiheit nicht anbietet, verliert Vertrauen“, sagt Muth. „Aber wer sie anbietet, muss sie auch aushalten können.“ Denn reflektierte Zustimmung ist kein Komfortkonzept, sondern ein Reifegradtest für Anwendungen.

Am Ende steht eine kulturelle Einsicht: Zustimmung ist kein Klick, sondern ein Dialog. Datenschutz ist keine Barriere, sondern eine Form der Beziehungspflege. Und wer Vertrauen gestalten will, muss lernen, Kontrolle zuzulassen für alle, die Teil der Anwendung sind.

Kaum ein Bereich zeigt deutlicher, wie eng Technologie, Vertrauen und Kompetenz verknüpft sind, als das Corporate Learning. Hier entscheidet sich, ob Regulierung zur Bremse oder zum Motor wird.

Viele KI-gestützte Lernsysteme gelten als begrenztes Risiko und unterliegen daher Transparenzpflichten. Komplexer wird es, wenn KI über Prüfungen oder Zertifikate entscheidet, dann wird sie hochriskant und muss Entscheidungslogiken offenlegen, menschliche Aufsicht gewährleisten und regelmäßig auf Bias geprüft werden.

„Im Corporate Learning müssen wir sicherstellen, dass Systeme den höchsten Maßstäben an Transparenz und Fairness genügen“, betont Muth. Lernplattformen vermitteln dabei nicht nur Wissen, sondern auch ein Bewusstsein für Verantwortung im Umgang mit KI.