Gemeinsame globale Standards:

Jeannine Hausmann, Deutsche UNESCO-Kommission

(Titelbild: © AdobStock | 1712492431 | MohamadFaizal )

Künstliche Intelligenz (KI) hat ein enormes Potenzial – für die Gesellschaft und in besonderem Maße für die Wirtschaft. KI-Anwendungen erleichtern bereits heute den Zugang zu Informationen, übernehmen Routineaufgaben und optimieren Abläufe. Für Unternehmen liegen hierin enorme Chancen zur Umsatzsteigerung. Der unregulierte Einsatz von KI kann jedoch auch großen Schaden auf individueller und gesellschaftlicher Ebene anrichten, zum Beispiel durch die systematische Diskriminierung bestimmter Bevölkerungsgruppen oder die Erstellung von Deepfakes zur gezielten Manipulation. Die ethischen Herausforderungen liegen dabei auf ganz verschiedenen Ebenen:

Auf der Ebene der Trainingsdaten können diese beispielsweise verzerrt, unvollständig oder für die gewünschte Anwendung ungeeignet sein. Auf der Ebene des Codes bzw. der Zielformulierung können zentrale ethische Implikationen des vorgegebenen Ziels unbeachtet bleiben (beispielsweise, wenn dadurch bestimmte Gruppen strukturell diskriminiert werden). Auf der Ebene des Kontexts können KI-Systeme zur Lösung komplexer sozialer Probleme eingesetzt werden, wofür sie in der Regel (noch) nicht geeignet sind. Schließlich liegen ethische Risiken natürlich auch in der Anwendung selbst, wenn KI-Systeme als „lernende Systeme“ durch Nutzende „korrumpiert“ werden (so beispielsweise geschehen bei Chat-Bots, denen rassistische und antisemitische Antworten „antrainiert“ wurden).

Gleichzeitig lassen sich die mittel- und langfristigen direkten und indirekten gesellschaftlichen Folgen und ethischen Implikationen des flächendeckenden KI-Einsatzes noch kaum abschätzen (auch bei anderen technologischen Entwicklungen, wie beispielsweise Social Media, ließen sich einige der heute offenkundigen negativen gesellschaftlichen Folgen zu Beginn noch nicht absehen). Dies gewinnt besondere Brisanz dadurch, dass KI-Systeme nicht nur in einigen, sondern inzwischen in fast allen Lebensbereichen eingesetzt werden.

Alle Staaten weltweit sehen sich mit der Frage konfrontiert, wie sich die Potenziale von KI bestmöglich nutzen und gleichzeitig die Risiken minimieren lassen. Während große, wirtschaftlich starke Staaten wie Deutschland über die nötigen Strukturen verfügen, um sich angemessen mit dieser Frage auseinanderzusetzen, fehlt es vielen kleineren, ärmeren Staaten hieran. Hinzu kommt, dass viele KI-Systeme weltweit eingesetzt werden können, sodass eine rein nationale Steuerung von KI zu kurz greift. Wir benötigen daher eine grenzübergreifende Perspektive und einen gemeinsamen Rahmen für die ethische Entwicklung und Nutzung von KI. Innerhalb des UN-Systems ist die UNESCO (United Nations Educational, Scientific and Cultural Organization / Organisation der Vereinten Nationen für Bildung, Wissenschaft und Kultur) für ethische Fragen zuständig, die sich aus neuen Technologien ergeben. Im November 2019 beschlossen ihre 193 Mitgliedstaaten, dass die UNESCO den ersten globalen völkerrechtlichen Text für eine menschenorientierte KI-Entwicklung und -Nutzung erarbeiten solle. Nach einem zweijährigen Erarbeitungsprozess und intensiven zwischenstaatlichen Verhandlungen verabschiedeten die Mitgliedstaaten bei der Generalkonferenz im November 2021 im Konsens die UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz. Sie ist bis heute die einzige ethische Richtschnur zu KI mit weltweiter Gültigkeit. Bei den Vereinten Nationen in New York nimmt ein Beirat erst in diesen Tagen die Arbeit auf.

Eine Empfehlung ist ein Rechtstext mit nur weicher Bindungswirkung, das heißt, die Mitgliedstaaten müssen die Inhalte nicht unmittelbar anwenden oder in nationales Recht umsetzen. Sie gilt also nicht als Gesetz, sondern vielmehr als moralischer und politischer Orientierungsrahmen. In diesem Nachteil liegt auch ein Vorteil, denn den Staaten fällt es im Allgemeinen leichter, bei der Verhandlung von Empfehlungstexten auch bei divergierenden Interessen Kompromisse zu finden. Empfehlungen entfalten ihre Wirkung in der Regel als Referenzdokumente für die Entwicklung politischer Maßnahmen auf nationaler Ebene. Sie können außerdem die normative Grundlage für spätere, bindende Vereinbarungen zwischen den Staaten bilden oder auch zu Völkergewohnheitsrecht werden. Zudem müssen die Staaten im Fall der UNESCO-Empfehlung alle vier Jahre in Form eines sogenannten Staatenberichts Rechenschaft ablegen, welche Fortschritte sie bei der Umsetzung der Empfehlung gemacht haben. Bei der UNESCO-Empfehlung zur Ethik der Künstlichen Intelligenz bot der Vorbereitungsprozess einen Rahmen dafür, dass alle Staaten überhaupt erstmals in einen gemeinsamen Dialog darüber eintraten, welche ethischen Leitplanken global konsensfähig sind und was unter einer menschenzentrierten KI-Entwicklung und -Nutzung in den verschiedenen Weltregionen verstanden wird. Da gerade weniger entwickelte Staaten aus dem sogenannten Globalen Süden in anderen internationalen Foren zur Steuerung von KI nicht eingebunden waren, ist es ein Alleinstellungsmerkmal der UNESCO-Empfehlung, dass sich auch Gesellschaften außerhalb westlicher Industriestaaten mit ihren Werten darin wiederfinden.

Die UNESCO-Empfehlung zielt nicht darauf ab, technologischen Fortschritt und Innovation zu verhindern. Vielmehr fordert sie die Staaten dazu auf, die Vorteile, die sich durch die technologischen Entwicklungen unter anderem in den Bereichen Bildung, Gesundheit, Kultur und Forschung ergeben, aktiv zu nutzen, zu fördern und ihren Gesellschaften breit zugänglich zu machen. Gleichzeitig werden Risiken klar benannt und die Staaten dazu aufgefordert, diese zu minimieren. Zentraler Bezugspunkt durch den ganzen Text sind die international anerkannten Menschenrechte. Die Empfehlung macht deutlich, dass jede Regulierung von KI darauf ausgerichtet sein muss, die Menschenrechte zu respektieren, zu schützen und zu fördern.

Der Ansatz der Empfehlung ist jedoch nicht primär regulatorisch, sondern deutlich weiter gefasst: Die Steuerung der KI-Entwicklung wird als eine gesamtgesellschaftliche Aufgabe verstanden, wovon die rechtliche Regulierung nur ein Baustein ist. Damit ist gemeint, dass die Staaten auch dazu angehalten sind, gesellschaftliche Diskurse darüber zu ermöglichen, wie wir in Zukunft mit KI leben möchten und welche Rolle KI in unseren Gesellschaften spielen soll. Solche Dialogprozesse können von Bürgerräten über Bildungsinitiativen bis hin zu öffentlichen Konsultationen reichen und sollen sicherstellen, dass KI-Strategien nicht allein von Regierungen oder Konzernen bestimmt werden. Zudem sollen Anreize für eine positive KI-Entwicklung gesetzt werden. Die Bevölkerung soll die Möglichkeit erhalten, die Spielregeln mitzuentwickeln.

Neben den unmittelbaren Auswirkungen nimmt die UNESCO-Empfehlung auch mittelbare ethische Implikationen von KI in den Blick (zum Beispiel die Frage, wie sich die regelmäßige Interaktion mit KI-Systemen auf unsere psychische Gesundheit auswirkt). Die Empfehlung konzentriert sich dabei nicht ausschließlich auf ethische Aspekte rund um die Anwendung von KI-Systemen, sondern macht deutlich, dass sich in allen Phasen des Lebenszyklus solcher Systeme ethische Fragen stellen: von der Forschung, dem Design und ihrer Entwicklung über die Einführung und Nutzung – einschließlich Wartung, Betrieb, Überwachung und Evaluierung – bis hin zur Beendigung ihres Einsatzes. Dieser ganzheitliche Ansatz spiegelt sich auch in der Struktur des Textes wider: Die UNESCO-Empfehlung geht von fundamentalen, globalen Werten wie Menschenwürde, Gerechtigkeit und Frieden aus und „übersetzt” diese in für den KI-Kontext relevante, handlungsleitende Prinzipien wie zum Beispiel die Grundsätze der Schadensverhütung oder der Fairness und Nichtdiskriminierung sowie das Recht auf Privatsphäre. In elf verschiedenen Politikfeldern – darunter Gesundheit, Bildung, Wirtschaft und Arbeitswelt, Kultur und Umwelt – werden diese abstrakten Prinzipien auf den jeweiligen Anwendungsbereich heruntergebrochen und die UNESCO-Mitgliedstaaten aufgefordert, konkrete Maßnahmen zu ergreifen. Dabei werden auch Aspekte berücksichtigt, die in der Diskussion um KI bis dato vernachlässigt worden waren, wie die unterschiedlichen Entwicklungsstufen von Ländern, die Bedürfnisse marginalisierter und gefährdeter Gruppen, geschlechterspezifische Vorurteile und Diskriminierung, Fragen der Nachhaltigkeit und die Interessen des Globalen Südens.

Das Ziel der UNESCO-Empfehlung besteht darin, die Entwicklung von KI zum Nutzen der Menschen und der Gesellschaft zu fördern. Mit ihrem ganzheitlichen, inklusiven Ansatz steht sie dabei nicht in Konkurrenz zu stärker regulierenden Initiativen wie der EU-Verordnung über Künstliche Intelligenz („EU AI Act“). Vielmehr soll die Empfehlung der UNESCO als Grundlage und ethischer Rahmen für die Ausgestaltung nationaler und supranationaler KI-Steuerung dienen. In mehreren Dutzend Staaten, insbesondere in ärmeren Ländern, in denen die KI-Governance noch nicht stark ausgeprägt ist, ist die UNESCO hierzu inzwischen intensiv unterstützend und beratend tätig. Mit „KI-Governance“ ist die Gesamtheit der politischen, rechtlichen und organisatorischen Strukturen gemeint, mit denen der Einsatz und die Entwicklung von KI gesteuert werden – also so etwas wie das Regelwerk hinter der Technologie. Dazu gehören unter anderem Schulungsprogramme, nationale Workshops und Leitfäden, die Regierungen dabei helfen sollen, ethische Leitlinien und politische Strategien im Umgang mit KI zu entwickeln.

Auch in Deutschland bleibt noch viel zu tun. Zwar setzt die Europäische Union auf regulativer Ebene Maßstäbe, doch bis zu einem gesellschaftlichen Konsens darüber, wie wir unser Leben und Zusammenleben mit KI gestalten wollen, ist es noch ein weiter Weg. Für diesen gesellschaftlichen Aushandlungsprozess bietet die KI-Empfehlung eine wertvolle Grundlage.