Ein Deepfake taucht auf, verbreitet sich innerhalb kürzester Zeit und erreicht Tausende, bevor eine fundierte Prüfung überhaupt abgeschlossen ist. Genau dieses Wettrennen verändert den Faktencheck. Denn während Menschen Zeit brauchen, kann KI große Mengen an Texten, Bildern und Videos parallel nach Auffälligkeiten durchsuchen. Sie wird damit nicht zur Schiedsrichterin über Wahrheit und Falschinformation, aber zu einer möglichen Frühwarninstanz. Der entscheidende Perspektivwechsel: Nicht die Maschine soll das Urteil übernehmen, sondern dabei helfen, menschliche Aufmerksamkeit dort einzusetzen, wo sie am dringendsten gebraucht wird.

Im August 2025 warnte das österreichische Bundeskriminalamt vor einer neuen Betrugsmasche1: Kriminelle hatten mithilfe von Deep-fake-Technologie mehrfach versucht, in Live-Videochats die Identität von Innenminister Gerhard Karner vorzutäuschen und unter dem Vorwand angeblicher Lösegeldforderungen um Geld gebeten. Das Cybercrime-Competence-Center des Bundeskriminalamts ermittelt seither gemeinsam mit internationalen Partnerdiensten. Der Fall zeigt, welche Dimensionen technologisch gestützte Täuschungen inzwischen erreichen können. Nicht mehr nur vorproduzierte Videos, sondern Videochats mit in Echtzeit kommunizierenden Personen, lassen sich überzeugend fälschen. Laut einer Studie der KPMG hat sich die Menge an Deepfakes in Österreich allein von 2023 auf 2024 verdoppelt.

Ähnliche Vorfälle finden sich täglich: manipulierte Statistiken, aus dem Kontext gerissene Zitate, künstlich erzeugte Bilder oder Videos. Desinformation und Fake News sind keine Randphänomene mehr, sondern ein strukturelles Problem digitaler Öffentlichkeit. Dennoch könnte die Technologie, die dieses Problem mitverursacht, nämlich generative Künstliche Intelligenz (KI), auch Teil der Lösung sein.

Warum klassische Faktenchecks an ihre Grenzen stoßen?

Menschliche Faktenprüfung ist gründlich, aber zeitaufwendig. Während eine Behauptung geprüft wird, kann sie sich bereits millionenfach verbreiten. Gleichzeitig lassen sich realistische Bilder, geklonte Stimmen und Videos mit frei verfügbaren KI-Werkzeugen immer schneller erzeugen. Die Menge digitaler Inhalte übersteigt damit die Kapazitäten rein menschlicher Prüfung.

Wie KI zur Erkennung eingesetzt werden kann

Generative KI kann Desinformation nicht nur erzeugen, sondern auch erkennen. Sprachliche Musteranalysen identifizieren stilistische Auffälligkeiten wie übermäßig emotionale Formulierungen oder propagandatypische Rhetorik. Bild- und Videoforensik deckt für das menschliche Auge unsichtbare Manipulationsspuren auf, wie etwa unnatürliches Bildrauschen oder asynchrone Lippenbewegungen. Netzwerkanalysen betrachten nicht den Inhalt, sondern das Verbreitungsmuster – etwa gleichzeitig postende, neu angelegte Konten als Hinweis auf koordinierte Kampagnen. Und Quellenabgleich prüft Behauptungen in Echtzeit gegen verifizierte Fakten, allerdings nur als Hinweis zur weiteren Prüfung, nicht als endgültiges Urteil. Gemeinsam liefern diese Methoden kein hundertprozentiges Urteil, wohl aber wertvolle Anhaltspunkte, wo genauer hingesehen werden sollte.

Grenzen und Risiken

Auch KI-basierte Erkennung bleibt fehleranfällig: Systeme können legitime Inhalte wie Satire fälschlich markieren oder neuartige Manipulationen übersehen. Hinzu kommt, dass sich Fälschungs- und Erkennungstechnologien kontinuierlich weiterentwickeln. Ein dauerhaft zuverlässiges Erkennungsverfahren ist deshalb nicht zu erwarten.

Darüber hinaus stellt sich eine grundsätzliche Frage: „Wer entscheidet, was als Fake-News oder Desinformation gilt?“ Beispielsweise bergen zentral kontrollierte Systeme das Risiko, zu Zensurinstrumenten zu werden, besonders bei Themen ohne eindeutige Faktenlage. Die Einstufung einer Information als Fake-News oder Desinformation ist nur dann zulässig, wenn sie transparent begründet wird; doch selbst dann bleibt sie für Einzelne schwer überprüfbar.

Auch Empfehlungsalgorithmen in sozialen Medien können zum Problem beitragen und unbeabsichtigt Schaden anrichten: TikToks Algorithmus geriet in die Kritik, weil er Jugendlichen mit Essstörungen vermehrt einschlägige Inhalte vorschlug und damit bestehende Symptome und einseitige Körperwahrnehmungen verstärken konnte. Solche Fälle zeigen, dass Verzerrungen nicht nur in Systemen zur Erkennung von Desinformation, sondern auch in den Empfehlungsalgorithmen selbst auftreten können, die durch einseitige Perspektiven den Nährboden für Desinformation erst schaffen.

Was bedeutet nun vertrauenswürdige KI in diesem Kontext?

Damit eine KI als vertrauenswürdig gilt, müssen zumindest sieben Kernanforderungen beachtet werden: i) Menschliche Entscheidungsfreiheit und Aufsicht, ii) Technische Robustheit und Sicherheit, iii) Datenschutz und Daten-Governance, iv) Transparenz, v) Vielfalt, Nichtdiskriminierung und Fairness, vi) Gesellschaftliches und ökologisches Wohlergehen sowie vii) Rechenschaftspflicht.
In der Praxis bedeutet das unter anderem: Bewertungen müssen nachvollziehbar sein, KI-Entscheidungen erklärbar bleiben und bei Grenzfällen braucht es menschliche Aufsicht. KI sollte deshalb nicht als autonome Entscheidungsinstanz dienen, sondern menschliche Urteilskraft unterstützen.
Alle sieben Anforderungen gleichzeitig zu erfüllen ist in der Praxis selten realistisch. Umso wichtiger ist es, KI nicht als autonome Entscheidungsinstanz einzusetzen, sondern als Werkzeug, das menschliche Urteilskraft unterstützt.

Der menschliche Faktor: AI Literacy als zweite Hälfte der Lösung

KI-Systeme entfalten ihren Nutzen nur, wenn die Menschen, die mit ihnen arbeiten, ihre Möglichkeiten und Grenzen verstehen. Diese Fähigkeit, KI-Systeme und ihre Ergebnisse kompetent einzuordnen und zu bedienen, wird als „AI Literacy“ bezeichnet.

AI Literacy umfasst „ein Bündel an Kompetenzen, das Individuen dazu befähigt, KI-Technologien kritisch zu bewerten, effektiv mit KI zu kommunizieren und zusammenzuarbeiten, sowie KI als Werkzeug online, zu Hause und am Arbeitsplatz zu nutzen“. Dazu gehört das Verständnis, dass KI-Systeme mit Wahrscheinlichkeiten arbeiten statt mit absoluten Wahrheiten, dass Trainingsdaten Verzerrungen enthalten können und dass KI-Einschätzungen eher als Hinweise, denn Wahrheiten zu verstehen sind. Darauf baut „AI Fluency“ auf: die Fähigkeit, aktiv und reflektiert mit KI-Werkzeugen zu arbeiten und Ergebnisse mit eigenem Fachwissen abzugleichen – in vielen informationsschweren Arbeitsbereichen Voraussetzung für verantwortungsvollen KI-Einsatz. Ein breiterer Aspekt wird mit „Digitale Literacy“ abgedeckt und benennt die Fähigkeit, Quellen einzuordnen, Manipulation zu erkennen und eine gesunde Skepsis gegenüber digitalen Inhalten zu entwickeln.

Diese drei Kompetenzebenen bauen aufeinander auf: Digitale Literacy schafft die gesellschaftliche Basis, AI Literacy das notwendige Systemverständnis, AI Fluency die praktische Anwendungskompetenz im Berufsalltag. Fehlt eine dieser Ebenen, bleibt das Potenzial vieler KI-Systeme unausgeschöpft.

Eine Studie der TU Graz und des Know Centers, die Digital Literacy mit rund 90 Oberstufenschüler:innen untersucht, zeigt wie groß die Wissenslücke in der Praxis ist: 49-mal hielten Schüler:innen eine Information für glaubwürdig, weil sie zu ihrem bestehenden Weltbild passte, nicht, weil sie geprüft war; 58-mal wurde eine Information als unglaubwürdig verworfen, weil sie dem eigenen Weltbild widersprach. Nur ein Bruchteil nannte Quellenangaben als Vertrauenskriterium. Ein begleitendes Online-Experiment zeigt zudem: Wer nur nach Bestätigung suchte, wurde schnell fündig und driftete stärker in extreme Positionen ab; ein sozialer Austausch mit anderen Schüler:innen milderte jedoch diesen Effekt.

Genau hier setzt Aus- und Weiterbildung an. Mitarbeitende, die mit digitalen Systemen arbeiten, brauchen Schulung nicht nur in der Bedienung, sondern im kritischen Umgang mit den Ergebnissen. Auch in Bildungseinrichtungen gewinnt Digital und AI Literacy als Querschnittskompetenz an Bedeutung und wird als besonders essenziell gesehen für all jene, die täglich mit Nachrichten und KI-generierten Inhalten in Berührung kommen. Ein einfaches, erprobtes Werkzeug zur Evaluierung von Information ist McGrews Drei-Fragen-Modell3: Wer steht hinter dieser Information? Welche Belege werden angeführt? Was sagen andere Quellen dazu? – niedrigschwellig genug für Schule, Unternehmen und Redaktionsalltag gleichermaßen.

KI-Systeme und menschliche Urteilsfähigkeit sind keine Alternativen, sondern ergänzen sich. Erst die Kombination aus verlässlichen Werkzeugen und geschulten, kritisch denkenden Menschen macht den Unterschied.

Ausblick: Unterstützung statt Wahrheitsmaschine

KI wird Fake-News und Desinformation nicht verschwinden lassen. Wer das erwartet, überschätzt die Technologie und unterschätzt die Anreize hinter gezielter Falschinformation. Realistischer ist ein anderes Bild: KI als Frühwarnsystem, das verdächtige Muster sichtbar macht, Ressourcen von Faktenprüfer:innen gezielter lenkt und zusätzliche Einordnungshilfen bietet.

Entscheidend wird sein, wie diese Systeme gestaltet werden: transparent statt undurchsichtig, unterstützend statt bevormundend, eingebettet in eine Kultur der AI Literacy statt als technischer Ersatz für sie. Kritisches Hinterfragen bleibt eine menschliche Kompetenz. KI kann sie unterstützen, aber nicht ersetzen. Investitionen in Aus- und Weiterbildung sind deshalb ebenso wichtig wie Investitionen in die Technologie selbst.

Quellen und Nachweise