KI, die Kreative Intelligenz jetzt in der neuesten Folge SMART&nerdy! Podcastfolge #23.
Tom Wannenmacher, Mimikama – Verein zur Aufklärung über Internetmissbrauch
(Titelbild: © Adobe Stock | 786179172 | Anton Salnikow )
Täuschungen müssen nicht perfekt sein, um zu funktionieren. Oft genügen wenige Sekunden, ein plausibler Anlass und eine vertraute Quelle. Generative KI erhöht Tempo und Masse solcher Fälschungen, verändert aber nicht deren Grundmechanik. Wirksamer Schutz beginnt deshalb nicht erst bei der technischen Erkennung, sondern bei Aufmerksamkeit im entscheidenden Moment, niedrigschwelligen Rückfragen und festen Routinen in Organisationen.
Das Logo sitzt schief, der Text enthält Fehler und trotzdem wird geklickt. Denn über den Erfolg einer Fälschung entscheidet nicht allein ihre Qualität, sondern der Moment, in dem sie auf einen Menschen trifft. Eine Paketnachricht wirkt plötzlich plausibel, wenn tatsächlich eine Lieferung erwartet wird; eine ungewöhnliche Anweisung glaubwürdig, wenn sie vermeintlich aus vertrauter Quelle kommt. Nach 15 Jahren Faktencheck-Arbeit zeigt sich deshalb: Gegen immer bessere Täuschungen helfen nicht nur bessere Prüfwerkzeuge, sondern vor allem Routinen, die genau dann greifen, wenn zum Nachdenken kaum Zeit bleibt.
Das meiste, was bei uns landet, ist handwerklich schwach. Unscharfe Screenshots. Logos, die um ein paar Grad verdreht sitzen. Angebliche Behördenbriefe mit Tippfehlern in der eigenen Absenderzeile. Dafür braucht es keine besondere Expertise, und es funktioniert trotzdem. Nach fünfzehn Jahren Mimikama ist das der Befund, der mich am meisten beschäftigt. In die aktuelle Debatte passt er schlecht, weil die fast nur noch über Deepfakes und generative KI geführt wird. Der Grund dafür ist unangenehm einfach. Eine Täuschung muss keiner Prüfung standhalten. Sie muss die zwei, drei Sekunden überstehen, die sie tatsächlich bekommt.
Niemand begegnet einer Falschmeldung unter Laborbedingungen. Sie steht zwischen Urlaubsfotos, einer Terminbestätigung und der Frage, wer heute die Kinder abholt. Und sie kommt selten von einem anonymen Kanal, sondern aus dem Familienkreis, aus dem Kollegium oder der Elterngruppe. Damit erbt der Inhalt ein Vertrauen, das er sich nie verdient hat.
Deshalb greift der Ratschlag, man müsse eben besser aufpassen, zu kurz. Wer eine Nachricht von einem vertrauten Menschen bekommt, prüft sie anders. Das ist kein Defekt. Dieses Nachlassen der Kontrolle macht Beziehungen erst praktikabel, weil wir sonst jeden Satz unserer Umgebung verifizieren müssten. Betrugsmaschen setzen genau hier an, und nicht bei einer Wissenslücke.
Dazu kommt der zeitliche Zufall. Eine gefälschte Paketbenachrichtigung ist ein plumper Text, solange man nichts bestellt hat, und die plausible Fortsetzung des eigenen Tages, sobald man auf eine Lieferung wartet. An der Fälschung ändert sich dabei nichts.
Lisa Fazio und ihr Team zeigten 2015, dass wiederholte Falschaussagen selbst dann glaubwürdiger wirken können, wenn die Testpersonen die richtige Antwort kennen. Vertrautheit kann vorhandenes Wissen im entscheidenden Moment überlagern. Für unsere Arbeit heißt das: Auch ein Faktencheck wiederholt die Behauptung, die er widerlegen will. Deshalb beginnen wir mit der richtigen Information und halten die falsche möglichst knapp.
Unter einem Beitrag stehen zweihundert Kommentare, die alle in dieselbe Richtung gehen. Beim Nachsehen stammen viele davon von wenigen sehr aktiven Konten, die mehrfach kommentieren und auf jeden Widerspruch antworten. Was entsteht, sieht aus wie eine überwältigende Mehrheit, ist aber eine Handvoll Leute mit Zeit. Plattformen zeigen Aktivität an, nicht Repräsentativität. Diese Verwechslung ist keine Nebensache, denn sie verschiebt, was Menschen in ihrem Umfeld für normal halten.
Vosoughi, Roy und Aral zeigten 2018 für Twitter, dass sich Falschmeldungen weiter und schneller verbreiteten als zutreffende Meldungen. Automatisierte Konten beschleunigten beide gleichermaßen – den Unterschied machten Menschen.
In der täglichen Arbeit lässt sich kaum noch trennen, was politische Desinformation ist und was schlicht Betrug. Ein manipuliertes Behördenschreiben etwa arbeitet mit politischem Misstrauen und fragt danach persönliche Daten ab. Die Inhalte wechseln, der Aufbau bleibt. Zuerst wird Aufmerksamkeit erzeugt, meistens über Empörung oder Angst. Dann leiht sich der Absender eine Rolle, der man üblicherweise glaubt. Am Ende steht die Handlungsaufforderung, so formuliert, dass Nachdenken wie Zögern wirkt.
Für Unternehmen ist vor allem die mittlere Stufe interessant. Wer eine Marke betreibt, betreibt auch eine Rolle, die sich ausleihen lässt, und das ist keine reine IT-Frage. Ob eine gefälschte Rechnung im eigenen Namen funktioniert, hängt auch davon ab, wie berechenbar die eigene Kommunikation nach außen ist. Häuser, die selbst permanent mit Dringlichkeit und knappen Fristen arbeiten, machen es Fälschungen leichter, weil deren Tonfall dann nicht mehr auffällt.
Generative Systeme haben die Lage verändert, allerdings anders, als es in den meisten Diskussionen klingt. Gefälschte Gewinnspiele und manipulierte Bilder gab es lange davor. KI macht Täuschungen damit skalierbarer und überzeugender – sie ändert aber nichts an dem Grundprinzip, dass eine Fälschung vor allem im richtigen Moment plausibel genug sein muss.
Die eigentliche Verschiebung liegt woanders, und über die wird zu wenig geredet. Wenn Fälschungen billig werden, verliert nicht nur das Falsche an Wirkung, sondern auch das Echte an Beweiskraft. Eine Aufnahme ist dann kein Beleg mehr, sondern ein Angebot. Wer etwas dokumentiert hat, muss künftig damit rechnen, dass die Echtheit selbst zum Streitpunkt wird, und diese Ausrede steht inzwischen jedem offen. Trotzdem halte ich es für einen Fehler, jede Täuschung als technisches Problem zu behandeln. Erkennungsmerkmale für Deepfakes veralten mit dem nächsten Modell. Was bleibt, sind Routinen, die auch dann noch greifen, wenn an einer Fälschung nichts mehr zu erkennen ist.
Bei uns beginnt eine Recherche meistens damit, dass jemand etwas schickt, weil ihm ein Detail komisch vorkommt. Dieser Zweifel ist das eigentliche Kapital, und er ist empfindlich. Wer einmal dafür ausgelacht wurde, dass er auf eine gut gemachte Täuschung hereingefallen ist, fragt beim nächsten Mal niemanden mehr. Er löscht die Nachricht und schweigt. Daraus entsteht ein Teil jener Dunkelziffer, über die dann alle rätseln.
Der entscheidende Moment ist ohnehin nicht jener, in dem jemand recherchiert. Es ist der, in dem jemand kurz stutzt und dann weiterscrollt. Für diesen Moment ist ein ausführlicher Faktencheck das falsche Werkzeug. Er kommt zu spät, er ist zu lang, und er setzt voraus, dass man bereits weiß, wonach man suchen soll. Viele wissen das nicht. Sie haben eine Nachricht am Bildschirm und eine einzige Frage: Muss ich jetzt irgendetwas tun?
Daraus ergibt sich eine Arbeitsteilung zwischen den Formaten. Eine kurze Warnung muss binnen Stunden draußen sein, auch wenn noch nicht jedes Detail geklärt ist. Der ausführliche Faktencheck liefert anschließend die Nachvollziehbarkeit samt offener Fragen. Eine dritte Ebene erklärt nicht mehr den Einzelfall, sondern die Mechanik dahinter und zahlt sich langfristig aus.
Genauso wichtig wie das Format ist der Kanal. Ein erklärendes Bild im Messenger-Status erreicht Menschen, die nie eine Fachpublikation aufschlagen würden. Eine Antwort auf eine zugeschickte Sprachnachricht erreicht jemanden, der öffentlich niemals nachfragen würde. Wer Aufklärung außerhalb der Redaktionen betreibt, arbeitet deshalb nicht gegen den Journalismus, sondern in den Lücken, die dieser strukturell offen lässt, und die liegen fast alle im Privaten.
Bei Betrugsfällen gehört dazu auch, was in der nächsten halben Stunde zu tun ist. Für jemanden, der bereits geklickt hat, ist die Feststellung, dass etwas falsch war, ohne Wert.
Ein Teil der Lösung ist erstaunlich unspektakulär. Pennycook und Kollegen haben 2021 gezeigt, dass schon eine kurze Erinnerung an die Frage nach der Richtigkeit die Qualität von Entscheidungen darüber verbessern kann, welche Inhalte geteilt werden. Man muss dazusagen, wie klein dieser Effekt ausfällt. Es geht um wenige Prozentpunkte, gemessen in Onlineexperimenten, und über die Übertragbarkeit auf den Alltag wird gestritten. Wer daraus ein Gegenmittel macht, verkauft zu viel. Interessant bleibt die Richtung, in die der Befund zeigt: Es fehlt seltener an Wissen als an Aufmerksamkeit im richtigen Moment.
Im privaten Umfeld hat sich bei mir eine einzige Frage bewährt. Nicht: Wie kannst du das glauben? Sondern: Weißt du, woher das ursprünglich kommt? Der erste Satz greift die Person an, der zweite die Quelle. Danach ist es ein anderes Gespräch.
Für Organisationen lässt sich daraus etwas Konkretes ableiten. Eine Rückfrage bei einem ungewöhnlichen Zahlungswunsch muss normal sein und darf niemandem peinlich sein. Für angebliche Anweisungen der Geschäftsführung braucht es einen zweiten, vorher festgelegten Kanal. Medienkompetenz wirkt, wenn sie in Abläufen steckt. Als Jahresschulung verpufft sie.
Der digitale Angriff auf die Realität wird weitergehen, und die Werkzeuge dafür werden billiger. Die Antwort kann trotzdem nicht sein, grundsätzlich allem zu misstrauen. Wer nichts mehr glaubt, ist am Ende genauso leicht zu steuern, man muss ihn nur in eine andere Richtung schubsen.
Was stattdessen hilft, klingt kleiner. Menschen sollten wissen, wo sie nachfragen können, ohne sich dabei blöd vorzukommen, und sie sollten nachvollziehen können, wie eine Organisation zu ihrem Ergebnis gekommen ist. Vor allem aber, was passiert, wenn sie sich irrt. Wir korrigieren Fehler sichtbar, und eine Korrektur erreicht in aller Regel nur einen Bruchteil jener Menschen, die die ursprüngliche Meldung gesehen haben.
Ob das reicht, weiß ich nicht. Es ist deutlich weniger, als der große Kampf gegen Desinformation verspricht. Aber es ist das, worauf wir uns nach all den Jahren am ehesten verlassen.
