KI, die Kreative Intelligenz jetzt in der neuesten Folge SMART&nerdy! Podcastfolge #23.
Jörg Heidrich, Heidrich Rechtsanwälte
(Titelbild: © Adobe Stock | 1886430285 | MUHAMMAD )
Seit dem 2. August 2026 gelten die Transparenzpflichten des AI Act für KI-generierte und manipulierte Inhalte. Dabei unterscheiden sich die Aufgaben entlang der Veröffentlichungskette: Anbietende müssen bestimmte KI-Ausgaben technisch erkennbar machen, während Unternehmen als Betreibende insbesondere bei Deepfakes und bestimmten KI-Texten für eine sichtbare Kennzeichnung sorgen müssen. Für die Praxis bedeutet das, klare Verantwortlichkeiten, einheitliche Labels und verbindliche Prozesse für den Umgang mit KI-Inhalten zu etablieren.
Ein KI-Sonnenuntergang in der Reisereportage, ein synthetisches Symbolbild oder eine vollautomatisierte Nachricht: Seit August 2026 kann aus solchen Veröffentlichungen eine Compliance-Frage werden. Der AI Act zieht neue Grenzen für den Einsatz generativer KI und macht Transparenz zur Aufgabe der veröffentlichenden Unternehmen. Wer KI-Inhalte professionell einsetzt, muss deshalb nicht nur wissen, dass gekennzeichnet werden muss, sondern auch wann, wo und durch wen.
Ab dem 2. August 2026 gelten die Transparenzregeln des europäischen AI Act. Wer KI-generierte Bilder, Texte, Videos oder Audios veröffentlicht, muss das unter bestimmten Voraussetzungen sichtbar offenlegen. Was Medien, Plattformen und Unternehmen jetzt konkret tun müssen, und wo rechtliche Fallstricke lauern, erklärt der nachfolgende Artikel.
Die digitale Manipulation der Realität ist längst Alltag geworden. Und die vornehmlich über Social Media veröffentlichten Inhalte sind teilweise kaum noch von authentischen Bildern oder Videos zu unterscheiden. Im Rahmen einer Studie des Biometrieanbieters iProov ordneten nur 0,1 Prozent der 2.000 befragten Verbraucher sämtliche vorgelegten Inhalte richtig zu, und das selbst dann, als sie ausdrücklich nach Fälschungen suchen sollten. Viele Bilder, Stimmen und Videos, die täuschend echt wirken, aber frei erfunden sind, untergraben das Vertrauen in das, was wir sehen und hören. Die EU antwortet darauf mit einem Kernprinzip: Was künstlich erzeugt ist und für echt gehalten werden kann, soll als solches erkennbar sein.
Der AI Act, auch KI-Verordnung genannt, enthält gestaffelte Regeln. Die vieldiskutierten Pflichten für Hochrisiko-Anwendungen sind durch eine Reform teils in die Jahre 2027 und 2028 verschoben worden. Die Transparenzpflichten für KI-Inhalte dagegen bleiben für die Nutzende von KI unverändert und greifen ab dem 2. August 2026.
Zur Auslegung hat die EU-Kommission erst am 20. Juli 2026 finale Leitlinien vorgelegt, ergänzt um einen freiwilligen Verhaltenskodex zur Transparenz von KI-Inhalten. Wichtig zu wissen: Beide Dokumente sind rechtlich unverbindlich. Eine letztverbindliche Auslegung kann nur der Europäische Gerichtshof liefern, und das kann noch Jahre dauern. In der Praxis werden sich Behörden an diesen Papieren orientieren. Wer den Verhaltenskodex befolgt, kann das zudem gegenüber den Marktüberwachungsbehörden als Nachweis der Pflichterfüllung anführen. Wer eigene Wege wählt, muss deren Angemessenheit selbst belegen.
Um den AI Act zu verstehen, muss man zwei Rollen unterscheiden. Anbietende sind, wer ein KI-System entwickelt und auf den Markt bringt, also etwa OpenAI, Midjourney oder Anthropic. Betreibende sind, wer ein solches System unter eigener Verantwortung beruflich einsetzt, also ein Verlag, eine Marketingabteilung oder ein beliebiges Unternehmen. Entscheidend: Betreibende sind immer das Unternehmen, nicht einzelne Mitarbeitende.
Vereinfacht gesagt: Anbietende müssen die technische Erkennbarkeit ermöglichen, Betreibende müssen in bestimmten Fällen für die sichtbare Offenlegung gegenüber dem Publikum sorgen. Anbietende und Betreibende treffen einander ergänzende, aber unterschiedliche Pflichten. Erstere müssen die Ausgaben in ChatGPT & Co. maschinenlesbar markieren, sodass eine Software erkennen kann, dass ein Inhalt künstlich erzeugt oder verändert wurde. Der Verhaltenskodex empfiehlt dafür meist zwei Markierungsebenen, etwa digital signierte Metadaten nach einem Industriestandard plus ein unsichtbares Wasserzeichen. Bei frei erzeugtem Text genügt eine Ebene, weil reiner Text keine Metadaten mit sich trägt. Der Verhaltenskodex erwartet von Anbietenden zusätzlich, kostenlose Werkzeuge zur Erkennung bereitzustellen.
Die Betreibenden als Nutzende von KI müssen für die sichtbare Kennzeichnung sorgen. Das Wasserzeichen des Tools ersetzt diese sichtbare Kennzeichnung nicht. Herkunftsdaten in der Datei sollen nach den Leitlinien zudem nicht absichtlich entfernt werden. Sie ergänzen den sichtbaren Hinweis, ersetzen ihn aber nie.
Bei Bildern, Ton und Video gilt das strengere Regime, das „Deepfake-Recht“. Maßstab ist allein, ob der Inhalt echt wirken kann. Ein Deepfake ist nach Art. 3 Nr. 60 KI-VO ein KI-erzeugter oder veränderter Inhalt, der realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlich authentisch erscheint. Nur solche Inhalte müssen gekennzeichnet werden. Die Unterscheidung ist allerdings nicht ganz einfach.
Zwei Prüffragen helfen Betreibenden weiter. Erstens: Wirkt das Bild wie eine echte Aufnahme? Ein Comic, eine Cartoon-Zeichnung oder eine erkennbar stilisierte Illustration braucht keine Kennzeichnung. Zweitens: Könnte das Gezeigte real existieren? Auch eine erfundene, aber real wirkende Person fällt darunter. Frei bleibt nur offensichtlich Unmögliches wie Fabelwesen oder fliegende Menschen. Auf eine Täuschungsabsicht kommt es nicht an. Maßstab ist das tatsächlich erreichte Publikum, einschließlich Menschen mit geringerer Digitalkompetenz. Halten diese den Inhalt für potenziell real, ist er zu kennzeichnen.
Bei der Bearbeitung echter Fotos gilt eine klare Grenze. Rein technische Optimierung bleibt frei, also Farbe, Kontrast, Schärfe, Rauschunterdrückung, Zuschnitt ohne hinzugerechnete Bildteile oder das Verpixeln zum Schutz von Betroffenen. Kennzeichnungspflichtig wird es, sobald Inhalte verändert werden: Objekte oder Personen einfügen, entfernen oder austauschen, Gesichter tauschen, eine leere Wohnung per KI möblieren. Der Merksatz lautet: Zeigt das Bild nach der Bearbeitung etwas anderes, als die Kamera gesehen hat, wird gekennzeichnet.
In der Praxis heißt das: Ein fotorealistisches KI-Symbolbild zur Wohnungsnot muss gekennzeichnet werden, eine comicartige Illustration nicht. Kennzeichnungspflichtig sind ebenso die per KI aus einem Pressefoto entfernte Mülltonne und der nachträglich eingefügte KI-Sonnenuntergang in einer Reisereportage.
Bei Texten ist der Kreis der Pflichten deutlich enger. Ein KI-Text muss nur gekennzeichnet werden, wenn beides zusammentrifft: Er informiert die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse, und niemand hat ihn inhaltlich geprüft und verantwortet ihn redaktionell. Der Begriff des öffentlichen Interesses ist weit. Klassischer journalistischer Stoff fällt praktisch immer darunter, aber auch ein Infotext auf einer Unternehmenswebsite.
Weiterhin muss eine fachkundige Person den Text bewusst inhaltlich geprüft haben, mit Faktenprüfung als Mindestmaß. Eine Einzeldokumentation je Artikel ist nicht nötig. Nicht ausreichend sind dagegen eine reine Rechtschreibkorrektur, das bloße Vorhandensein einer Redaktionsrichtlinie, eine automatisierte Prüfung, bei der KI wieder KI prüft, oder eine flüchtige Freigabe ohne echte Lektüre. Grundsätzlich ist es wohl auch möglich, wenn der Autor seinen eigenen Text gründlich prüft und für ihn die Verantwortung übernimmt.
Immer gekennzeichnet werden müssen im Umkehrschluss vollautomatisierte Nachrichtenmeldungen und KI-Newsfeeds, Börsen-, Sport-, Wetter- und Verkehrsticker ohne Einzelprüfung, direkt ausgespielte KI-Zusammenfassungen sowie automatisch erzeugte Produktbeschreibungen. Keine Pflicht besteht dagegen bei reinen Werbetexten und Unternehmenskommunikation, bei internen Dokumenten, privaten Nachrichten und bei Chatbot-Antworten, die nur die fragende Person sieht. Davon zu trennen sind KI-Systeme, die direkt mit Menschen interagieren. Diese müssen von ihren Anbietenden so gestaltet sein, dass Nutzer erkennen, dass sie mit einer Maschine sprechen. Nicht der Inhalt der Antwort ist also zu kennzeichnen, wohl aber die Interaktion als solche offenzulegen.
Die Kennzeichnung muss beim ersten Kontakt wahrnehmbar sein, nicht erst nach einem Klick oder in den Nutzungsbedingungen. Bei Texten steht der Hinweis am Anfang, nahe der Überschrift, in einfacher Sprache, etwa mit der Formulierung, dass ein Beitrag automatisiert mit KI erstellt wurde. Bei Bildern gehört das Label auf oder direkt an das Bild, gut sichtbar und nicht überlagert. Im Print reicht ein gut lesbares Label im Bild oder in der Bildzeile. Für Screenreader gehört der Hinweis zusätzlich in den Alternativtext, denn die Kennzeichnung muss auch barrierefrei sein. Bei Video steht das Label am Anfang und nach Unterbrechungen, bei reinem Audio genügt ein hörbarer Hinweis zu Beginn.
Das EU-KI-Büro stellt kostenlose Icons bereit, eines für vollständig KI-erzeugte Inhalte, eines für teilweise veränderte und ein Basissymbol. Ihre Verwendung ist freiwillig und ohne Namensnennung erlaubt, begründet für sich aber noch keine Rechtskonformität. Es dürfte in der Praxis auch ausreichen, nur das „AI“-Symbol zu verwenden oder dieses verständlicher „KI“ zu nennen.
Für Kunst, Satire und fiktionale Werke gilt eine abgeschwächte Offenlegung, die den Werkgenuss nicht stört, etwa ein Hinweis im Begleittext oder im Abspann. Diese Differenzierung ist allerdings kompliziert und bietet reichlich Möglichkeiten für fehlerhafte Kennzeichnung. Immerhin: Vor dem 2. August 2026 veröffentlichte oder erzeugte Bilder müssen nicht nachträglich gekennzeichnet werden. Vieles spricht allerdings dafür, dass bei einer erneuten Veröffentlichung in neuem Kontext etwas anderes gilt; ausdrücklich geregelt ist das nicht.
Verantwortlich sind die Betreibenden, also das Unternehmen, nicht die einzelnen Beschäftigten. Das gilt auch, wenn Freie oder Dienstleister unter Verantwortung und Kontrolle des Unternehmens arbeiten. Bei Verstößen drohen nach Art. 99 Abs. 4 KI-VO Bußgelder bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gilt der jeweils niedrigere Betrag. Die behördliche Zuständigkeit richtet sich nach dem jeweiligen Anwendungsbereich; neben der Bundesnetzagentur können auch andere zuständige Stellen eine Rolle spielen. Für Presse und Online-Medien bleiben die Landesmedienanstalten zuständig, für den Finanzsektor die BaFin.
Neben dem Bußgeld droht ein zweites Risiko: Abmahnungen. Vieles spricht dafür, dass die Kennzeichnungspflicht eine Marktverhaltensregel im Sinne des Wettbewerbsrechts ist. Dann könnten Mitbewerber und Verbände Verstöße kostenpflichtig abmahnen. Höchstrichterlich geklärt ist das noch nicht. Unabhängig davon kann ein täuschend echtes, nicht gekennzeichnetes Bild als wettbewerbsrechtliche Irreführung angegriffen werden. Für Unternehmen folgt daraus vor allem eines: KI-Kennzeichnung ist keine Einzelfallfrage für Beschäftigte, sondern eine organisatorische Compliance-Aufgabe.
Der wichtigste Schritt ist ein klarer Prozess. Unternehmen sollten festlegen, wo KI-Inhalte veröffentlicht werden und nach welchen Kriterien gekennzeichnet wird. Dafür sollte ein einheitliches Label etabliert werden, das über alle Kanäle hinweg gleich aussieht. In Verträgen mit Agenturen, Freien und Dienstleistende gehört die Kennzeichnung ausdrücklich geregelt, denn die Verantwortung bleibt beim veröffentlichenden Unternehmen. Mitarbeitende sollten geschult werden, damit sie die Faustregeln kennen. Und wo Zweifel bleiben, gilt der einfachste und sicherste Grundsatz: im Zweifel kennzeichnen. Das kostet wenig, schafft Vertrauen und schützt vor Bußgeld und Abmahnung zugleich.
