Die Synapse des Fortschritts

Antonio Krüger und Christian Müller, Deutsches Forschungszentrum für Künstliche Intelligenz

(Titelbild: © AdobeStock |604429116| AlainAlexander)

Die Betrachtung der Sicherheit von KI-Systemen erfordert ein ganzheitliches Verständnis sowohl der potenziellen funktionalen Fehler als auch der Sicherheitsbedrohungen und Angriffe. Funktionale Sicherheitsexperten, die normalerweise Fehlerwahrscheinlichkeiten und Zuverlässigkeit betrachten, tauschen nun Ideen und Konzepte von Adversarial Attacks aus, während sich Sicherheitsexperten aus dem Bereich der Cybersicherheit verstärkt mit der Robustheit von KI-Systemen gegenüber Perturbationen und Angriffen auseinandersetzen.

Im Zuge dieser konvergierenden Entwicklungen treten unterschiedliche Formen von KI-Security-Angriffen besonders ins Blickfeld. Poisoning Attacks sind Angriffe auf KI-Systeme, bei denen die Trainingsdaten manipuliert werden, um die Leistung zu beeinträchtigen oder Sicherheitslücken einzuführen. Der Angreifer fügt bösartige Beispiele in den Trainingsdatensatz ein, um das System dazu zu bringen, falsche Muster zu erlernen. Eine Herausforderung besteht darin, dass die bösartigen Daten den legitimen Daten ähneln müssen, um die Erkennung zu erschweren. Evasion Attacks sind Angriffe, bei denen die Eingabe während der Inferenzphase manipuliert wird, um unerwünschte Entscheidungen zu erzwingen. Im Gegensatz zu Poisoning Attacks ähneln die manipulierten Eingaben den legitimen Eingaben, um die Erkennung zu erschweren. Backdoor Evasion Attacks sind besonders gefährlich, da sie Poisoning und Evasion kombinieren. Dabei wird zunächst ein Poisoning-Angriff durchgeführt, um eine Hintertür im System zu platzieren. Diese Hintertür ermöglicht es, das System während der Inferenzphase zu manipulieren und vordefinierte Fehlentscheidungen zu erzwingen. Privacy Attacks, insbesondere Membership Inference Attacks, zielen darauf ab, vertrauliche Informationen über die Teilnehmenden eines Trainingsdatensatzes zu erlangen. Solche Angriffe verletzen die Privatsphäre der Teilnehmenden und können Geschäftsgeheimnisse enthüllen. Model Stealing-Angriffe haben das Ziel, geistiges Eigentum von Modellen zu extrahieren oder zu replizieren. Diese Angriffe können wertvolles Knowhow stehlen um Wettbewerbsvorteile zu erlangen. Die Erkennung von Model Stealing-Angriffen ist schwierig, da sie Schwachstellen ausnutzen, um einer Entdeckung zu entgehen.

Angesichts der zunehmend komplexen Herausforderungen im Bereich der KI-Sicherheit rücken neuro-explizite Methoden als vielversprechender Lösungsansatz in den Fokus. Sie versprechen eine signifikante Verbesserung des Verständnisses und der Robustheit von KI-Systemen durch die Integration eines erweiterten Kenntnisspektrums. Dies spielt eine entscheidende Rolle im Bereich der KI-Sicherheit.

Symbolische KI basiert auf der Verarbeitung von Symbolen und Regeln, um intelligentes Verhalten zu modellieren und zu generieren. Sie war historisch betrachtet ein wichtiger Ansatz in der KI-Forschung, wurde aber durch den Aufstieg von Deep Learning und neuronalen Netzen in den Hintergrund gedrängt. Symbolische KI kann Wissen in Form von logischen Aussagen und Regeln repräsentieren und ermöglicht somit transparente Schlussfolgerungen. Obwohl sie weniger präsent ist, wird symbolische KI weiterhin in Bereichen eingesetzt, in denen logisches Denken und Wissensmodellierung von entscheidender Bedeutung sind. Neuro-symbolische KI ist ein interdisziplinäres Forschungsfeld, das neuronale Netze und symbolische KI kombiniert. Es nutzt die Stärken von neuronalen Netzen bei der Verarbeitung großer Datenmengen und Mustererkennung und die Erklärbarkeit und logische Schlussfolgerungsfähigkeit der symbolischen KI. Neuro-symbolische KI ermöglicht eine tiefere Analyse und Interpretation von Daten, indem sie neuronale Netze mit symbolischem Wissen integriert.
Obgleich der Begriff „neuro-symbolisch“ bereits eine Reihe von explizitem Wissen beinhaltet, bleibt er in seiner Ausdehnung begrenzt und kann nicht sämtliche Wissensformen erfassen. Hier erweist sich der Terminus „neuro-explizit“ als vorteilhafter, da er ein umfassenderes Verständnis ermöglicht. Dieser beschreibt nicht nur die Kombination von neuronalen Netzen und symbolischem Wissen, sondern erweitert den Horizont um andere Formen des expliziten Wissens einschließlich physikalischer Gesetze oder mathematischer Modelle. Diese zusätzlichen Wissensformen können verwendet werden, um das Verständnis und die Entscheidungsfindung von KI-Systemen weiter zu verbessern. Neuro-explizite Ansätze werden derzeit noch aktiv erforscht, bieten jedoch vielversprechende Möglichkeiten, um die Leistungsfähigkeit, Erklärbarkeit und Robustheit von KI-Systemen zu verbessern. Sie können in verschiedenen Anwendungsbereichen wie Gesundheitswesen, Robotik, autonomen Fahrzeugen und in der Sprachverarbeitung eingesetzt werden.

Neuro-explizite KI bietet darüber hinaus effektive Werkzeuge zur Verbesserung der KI-Sicherheit sowohl im Kontext von KI-Safety als auch Security. Die Integration von explizitem Wissen dient als „grounding“ oder Verankerung der neuronalen Netze in einer gesicherten Wissensgrundlage. Dadurch werden Perturbationen, sei es in Form von adversarialen Angriffen oder natürlichen Veränderungen der Daten, unplausibler und somit einfacher zu entdecken. Durch die Einbeziehung von explizitem Wissen in die KI-Modelle wird die Robustheit gegenüber Angriffen und Störungen erhöht. Die Verankerung der neuronalen Netze in einem symbolischen Wissensmodell ermöglicht die Überprüfung der Konsistenz und Plausibilität der Ergebnisse. Wenn die Ausgabe eines neuronalen Netzes mit dem symbolischen Wissensmodell nicht übereinstimmt oder unplausible Ergebnisse erzeugt werden, kann dies auf eine Perturbation oder einen Angriff hinweisen.
Adversariale Angriffe, bei denen bewusst manipulierte Eingabedaten verwendet werden, um die Leistung eines neuronalen Netzes zu beeinträchtigen, sind ein bekanntes Sicherheitsrisiko. Durch die Einbindung expliziten Wissens können solche Angriffe erschwert werden. Das symbolische Wissensmodell kann kausale Zusammenhänge und domänenspezifisches Wissen repräsentieren, um die Verarbeitung der Daten zu lenken und unplausible Ergebnisse zu erkennen. Dies kann beispielsweise dazu beitragen, falsche Klassifizierungen von Bildern zu verhindern, indem manipulierte Eingaben mit dem symbolischen Wissensmodell als inkonsistenz erkannt werden.

Auch natürliche Veränderungen der Daten, die in realen Anwendungsszenarien auftreten können, werden durch die Integration von explizitem Wissen leichter handhabbar. Das symbolische Wissensmodell kann als Referenz dienen, um Veränderungen in den Eingabedaten zu bewerten und zu überwachen. Wenn beispielsweise ein autonomes Fahrzeug mit veränderten Verkehrsbedingungen konfrontiert wird, kann das symbolische Wissensmodell helfen, die Plausibilität der vom neuronalen Netz vorgeschlagenen Entscheidungen zu bewerten. Wenn die Veränderungen in den Daten zu inkonsistenten Ergebnissen führen, kann dies auf potenzielle Gefahren hinweisen und eine Warnung auslösen. Ein weiterer Vorteil der neuro-expliziten KI im Kontext der Sicherheit ist die Möglichkeit der formalen Verifikation. Da das symbolische Wissensmodell eine explizite Darstellung von Regeln und Zusammenhängen ermöglicht, können formale Methoden zur Verifikation und Konsistenzprüfung angewendet werden. Dadurch können potenzielle Schwachstellen und Inkonsistenzen im Modell frühzeitig erkannt und behoben werden.

Es ist jedoch wichtig anzumerken, dass die Integration von explizitem Wissen in KI-Modellen zusätzlichen Aufwand erfordert. Es müssen geeignete Methoden entwickelt werden, um das Wissen zu erfassen, zu modellieren und in die neuronalen Netze zu integrieren. Zudem müssen Sicherheitsüberlegungen in den Entwicklungsprozess einbezogen werden, um potenzielle Angriffsvektoren zu identifizieren und zu adressieren.
Die Zukunft der neuro-expliziten KI verspricht spannende Entwicklungen und Chancen für die Sicherheit von KI-Systemen. Mit der kontinuierlichen Weiterentwicklung im Bereich des maschinellen Lernens und der Künstlichen Intelligenz werden wir immer fortschrittlichere und komplexere Modelle sehen, die auf einer Kombination aus neuronalen Netzen und explizitem Wissen basieren. In den kommenden Jahren werden wir Zeuge einer verstärkten Integration von neuro-expliziter KI in eine Vielzahl von Anwendungen sein. Besonders in sicherheitskritischen Bereichen wie autonomes Fahren, medizinische Diagnose oder Finanzdienstleistungen wird die Notwendigkeit einer robusten und sicheren KI immer wichtiger. Neuro-explizite KI-Modelle werden dazu beitragen, die Vertrauenswürdigkeit und Sicherheit dieser Systeme zu erhöhen, indem sie die Fähigkeit zur Plausibilitätsprüfung und Verifikation in Echtzeit bieten.

Mit fortschreitender Forschung und Entwicklung werden wir auch Zeuge einer breiteren Anwendung von formalen Methoden zur Verifikation und Validierung von neuro-expliziten KI-Systemen sein. Durch die Nutzung formaler Modelle und Methoden können potenzielle Schwachstellen frühzeitig erkannt und behoben werden, was zu noch sichereren und zuverlässigeren KI-Systemen führt.

Neben der direkten Anwendung in Sicherheitslösungen wird die neuro-explizite KI auch zur Weiterentwicklung von ethischen Standards und Richtlinien beitragen. Die Fähigkeit, transparente und nachvollziehbare Entscheidungen zu treffen, wird zu einer erhöhten Verantwortlichkeit und Vertrauenswürdigkeit von KI-Systemen führen. Dies wird dazu beitragen, das Vertrauen der Nutzer zu stärken und Bedenken hinsichtlich der Sicherheit und des Missbrauchs von KI-Technologien zu minimieren.