Kategorie: #Digitalisierung

Tom Wannenmacher, Mimikama – Verein zur Aufklärung über Internetmissbrauch
Täuschungen müssen nicht perfekt sein, um Menschen in die Irre zu führen. Oft reichen ein plausibler Anlass, eine vertraute Quelle und der richtige Moment. Generative KI erhöht dabei die Geschwindigkeit und Menge gefälschter Inhalte. Technische Prüfwerkzeuge allein bieten deshalb keinen ausreichenden Schutz. Entscheidend sind Aufmerksamkeit, einfache Rückfragemöglichkeiten und feste Routinen, die auch unter Zeitdruck funktionieren.

Michael Born, PXL Vision AG
Beim digitalen Onboarding reicht die Übereinstimmung zwischen Gesicht und Ausweisfoto nicht mehr aus. Kriminelle können biometrische Daten und Dokumente gemeinsam manipulieren und so eine scheinbar glaubwürdige Identität erzeugen. Eine sichere Identitätsprüfung erfordert deshalb mehrere unabhängige Schutzmechanismen. Dazu gehören kryptografische Echtheitsnachweise, Deepfake-Erkennung und die Absicherung des Kamerastroms. In Zweifelsfällen ergänzt die menschliche Prüfung die technische Verifikation.

Angela Fessl und Simone Kopeinik, Know Center Research GmbH
KI kann die Geschwindigkeit und Reichweite menschlicher Faktenprüfung deutlich erweitern. Große Mengen an Texten, Bildern und Videos lassen sich automatisiert nach verdächtigen Mustern durchsuchen. Die Maschine übernimmt dabei nicht das Urteil über Wahrheit oder Falschinformation, sondern unterstützt als Frühwarninstanz. Entscheidend bleibt die kritische Einordnung der Ergebnisse durch den Menschen. Digital Literacy, AI Literacy und AI Fluency werden damit zu zentralen Voraussetzungen für einen verantwortungsvollen Umgang mit KI-gestützter Faktenprüfung.

Florian-Tobias Klaus, pressrelations GmbH
Desinformation erreicht längst nicht mehr nur ein menschliches Publikum. Auch Suchmaschinen, Retrieval-Systeme und Sprachmodelle können gezielt mit fragwürdigen Quellen und Narrativen beeinflusst werden. Klassische Reichweitenmetriken reichen deshalb für die Bewertung von Desinformationskampagnen nicht mehr aus. Entscheidend wird zunehmend, welche Inhalte für Maschinen sichtbar sind und in KI-generierte Antworten einfließen. Künftige Analysen müssen daher menschliche Reichweite und maschinelle Sichtbarkeit gemeinsam betrachten.

Ariane Scheer-Danielsson, TrustNXT GmbH
Physical AI verbindet digitale Daten unmittelbar mit Handlungen in der physischen Welt. Manipulierte oder falsch verarbeitete Sensorwerte können dadurch reale Fehlentscheidungen autonomer Systeme auslösen. Sicherheit muss deshalb bereits bei der digitalen Wahrnehmung der Maschine beginnen. Kryptografische Nachweise können Herkunft und Veränderungen von Daten entlang der Verarbeitung nachvollziehbar machen. So lassen sich Manipulationen und Fehlerursachen besser erkennen und industrielle KI-Systeme robuster absichern.

Friederike Beckh, Bundesdruckerei GmbH
Digitale Signaturen können Herkunft und Veränderungen digitaler Medien nachvollziehbar machen. Vertrauen entsteht jedoch erst durch die Institutionen und Zertifikate hinter diesen Signaturen. C2PA macht Medien-Provenienz damit nicht nur zu einer technischen, sondern auch zu einer Governance-Frage. Für Europa bietet sich die Chance, Herkunftsnachweise mit bestehenden digitalen Identitäten und Vertrauensdiensten zu verbinden. So könnte eine souveräne Vertrauensarchitektur für digitale Medien entstehen.

Henry Schütze und Julian Schweizer, Nect GmbH
Deepfakes eröffnen neue Möglichkeiten für den Missbrauch gestohlener Identitäten. Kriminelle können Identitätsdaten mit synthetisch erzeugten Live-Aufnahmen kombinieren, um biometrische Prüfungen anzugreifen. Ein einzelner Deepfake-Detektor bietet dabei keinen ausreichenden Schutz. Entscheidend ist das Zusammenspiel aus Detektion, randomisierten Live-Challenges, begrenzten Angriffsversuchen und sicheren Datenwegen. So lässt sich der Aufwand für Identitätsbetrug deutlich erhöhen und die digitale Identitätsprüfung widerstandsfähiger gestalten.

Jakob Tesch, Gretchen AI
KI-generierte Inhalte erschweren zunehmend die Unterscheidung zwischen echten und manipulierten Medien. Gleichzeitig kann bereits die Möglichkeit einer Fälschung das Vertrauen in authentische Inhalte schwächen. Multimodale Verifikation kombiniert deshalb Herkunftsprüfung, digitale Forensik und Claim-Checking. Keine dieser Methoden kann für sich allein vollständige Gewissheit schaffen. Gemeinsam ermöglichen sie jedoch eine belastbarere und skalierbare Prüfung digitaler Inhalte.