Jemand steht vor Menschen auf einer Bühne und erklärt, warum ausgerechnet Sokrates ChatGPT vermutlich verachtet hätte. Wenige Minuten später diskutiert das Publikum nicht mehr nur über Künstliche Intelligenz, sondern über Wahrheit, Denken, Verantwortung und die Frage, ob wir Antworten inzwischen zu schnell akzeptieren. Was geht aber verloren, wenn Maschinen immer besser darin werden, Antworten zu erzeugen, während Menschen immer seltener lernen, sie zu hinterfragen?

Ich bin Data Scientist von Beruf und ein großer Fan griechischer Philosophie. Zwei Welten, die auf den ersten Blick wenig miteinander zu tun haben. Bis ich vor vier Wochen einen Science Slam vorbereitete und feststellte, dass beide Welten an derselben Frage arbeiten, nur mit einem Abstand von zweieinhalb Jahrtausenden. Es geht um die Verbindung von Wissen, Frage und Antwort. Und um die Frage, was es bedeutet, wenn eine Maschine diese Verbindung versucht zu imitieren.

Mein Science Slam trug den Titel „Sokrates hätte ChatGPT gehasst“. Fünfzehn Minuten, eine bewusst provokante These, die ich in den Raum stellte und ein Publikum, das mit beiden Themen wahrscheinlich selbst nicht viel am Hut hat. Dennoch waren die Gespräche danach breit gestreut und oft überraschend tief. Die Leute redeten über Verantwortung, über die Zukunft der Arbeit, über das, was Maschinen besser können als Menschen und umgekehrt. Das liegt in der Natur des Themas. Künstliche Intelligenz ist momentan in aller Munde und jeder hat eine Meinung dazu. Verknüpft mit der allgemein bekannten griechischen Antike und einer provokanten These hat man dadurch schnell viel Gesprächsstoff. Wie die beiden Welten nun zusammenhängen, möchte ich an einem banalen Beispiel zeigen.

Eine Frage, zwei Antworten

Stellen Sie sich vor, Sie fragen Sokrates: „Was ist ein gutes Bier?“

Sokrates antwortet nicht. Er fragt zurück. Wie war dein letztes Bier? Und was genau hat es zu einem Guten gemacht? Sie sagen, es hat ihnen geschmeckt. Sokrates schweigt, dann entgegnet er: „Also ist jedes Bier, das jemandem schmeckt, automatisch ein gutes Bier?“ Sie zögern. „Ihr Kumpel trinkt Oettinger. Schmeckt ihm auch. Hat er also denselben guten Geschmack wie Sie? Oder irrt er? Und wenn er irrt, nach welchem Maßstab? Nach Ihrem? Wer hat Ihnen diesen Maßstab gegeben?“

Sie versuchen es mit einem anderen Ansatz. Ein gutes Bier, sagen Sie, ist eines, das handwerklich gut gebraut wurde. Mit den richtigen Zutaten, nach bewährten Verfahren. Sokrates hört zu und entgegnet dann. Aber bedeutet das, dass ein Bier, das nach dem Reinheitsgebot gebraut wurde und technisch einwandfrei ist, automatisch gut ist? Auch wenn es Ihnen nicht schmeckt? Und ist ein belgisches Trappistenbier, das keiner deutschen Brauvorschrift folgt, deshalb schlechter? Wessen Maßstab gilt?

Irgendwann geben Sie auf. Nicht weil Sokrates lauter oder klüger wäre, sondern weil er jede vermeintliche Antwort so lange dreht, bis das eigentliche Problem sichtbar wird. Am Ende hinterfragen Sie die Sinnhaftigkeit ihrer Eingangsfrage. Und genau das wäre Sokrates Ziel gewesen: Das Hinterfragen von allem, um der Wahrheit einen Schritt näher zu kommen. Das Bewusstsein für das eigene Unwissen.

Sokrates selbst war wahrscheinlich leidenschaftlich gerne des Teufels Advokat. Immer eine Gegenposition einnehmen, den Gegenüber herausfordern mit immer weiteren Fragen. Diese Technik nannte er Mäeutik. Wörtlich bedeutet Mäeutik so viel wie „Hebammenkunst“. Sokrates taufte diese Technik nicht Mäeutik, weil er bei Geburten von Menschen helfen wollte, sondern bei den Geburten von Ideen und Erkenntnissen. Jene Prozesse, die das Denken schärfen und kritisch hinterfragen. Heute kennt man diese Kunst auch als „sokratischen Dialog“. Zugegebenermaßen kann das in einem echten Dialog sehr schnell sehr nervig werden. Allerdings führt es erstaunlich gut zu neuen Erkenntnissen und Differenzierungen, wenn man sich darauf einlässt.

Kommen wir nun zurück zum Thema und stellen dieselbe Frage an ChatGPT.

Diesmal kommt die Antwort sofort. Strukturiert, vollständig, mit Emojis. Klassische Biere für den Einstieg: Pilsner Urquell, Bitburger, Augustiner. Aromatische Spezialitäten: IPA, Weizenbier, belgische Ales, Stout. Regionale Favoriten je nach Herkunft. Dann eine freundliche Entscheidungshilfe: Mögen Sie es eher bitter oder mild, hell oder dunkel, mit viel oder wenig Alkohol? Teilen Sie das mit, und die KI empfiehlt „ganz gezielt“ das passende Bier.

Was fehlt, ist die Frage hinter der Frage. Was ist eigentlich gemeint mit „gut“? Gut für wen, in welcher Situation, nach welchem Kriterium? Diese Ebene überspringt ChatGPT vollständig. Es liefert Informationen zu einer Frage, die man so eigentlich gar nicht gestellt hat. Das ist in vielen Alltagssituationen nützlich, um ein breites Verständnis zu bekommen. In den wichtigen Situationen kann dies aber sogar gefährlich werden.

Man kann also sagen: „Sokrates produziert Erkenntnis. ChatGPT produziert Information.“

Was das mit Technologie zu tun hat

Der Vergleich mag nach Philosophiestunde klingen ohne wirklichen Realitätsbezug. Ist er aber nicht. Er beschreibt ein konkretes technisches Phänomen.

Large Language Models wie ChatGPT werden auf enormen Mengen menschlicher Texte trainiert. Das Modell lernt dabei statistische Muster: welche Wörter, Sätze und Argumentationsstrukturen typischerweise aufeinander folgen. Es berechnet über Dutzende von Verarbeitungsschichten, welches Wort bzw. Token als nächstes am plausibelsten ist, gibt es aus, und wiederholt das, bis eine vollständige Antwort entsteht.

In einem nachgelagerten Trainingsschritt, dem sogenannten Reinforcement Learning from Human Feedback, lernt das Modell zusätzlich, welche seiner Antworten von Menschen als hilfreich bewertet werden. Das kalibriert es in Richtung Gefälligkeit. Die Antworten klingen kompetent, sind freundlich im Ton und meiden das unbequeme Eingeständnis von Unwissen. Das ist keine Schwäche im technischen Sinne, es ist das Ziel des Trainings. Die Maschine soll nützlich sein und so wirken.

Was dabei nicht entsteht: Überzeugungen. Haltung. Zweifel. Das Modell bildet keine eigene Position zu dem, was es schreibt. Es optimiert nicht auf Wahrheit, sondern auf Feedback und gefühlte Plausibilität.

Sokrates war das genaue Gegenteil. Sein berühmtes „Ich weiß, dass ich nichts weiß“ war kein Understatement, sondern eine erkenntnistheoretische Grundhaltung. Er hielt unbequemes Nichtwissen für wertvoller als beruhigende falsche Gewissheit. Er schrieb nie etwas auf. Das geschriebene Wort, sagte er, ist tot. Es kann keine Fragen stellen, sich nicht verteidigen, sich nicht verändern oder hinterfragen. Eine Maschine, die aus nichts als Text besteht und doch so tut, als wisse sie alles, wäre für ihn der Endpunkt einer langen intellektuellen Fehlentwicklung.

Werkzeug, nicht Autor

Bei der Vorbereitung des Vortrags habe ich KI intensiv genutzt. Das klingt erstmal etwas ironisch, aber KI ist und bleibt ein gutes Werkzeug und wird in der Zukunft mit Sicherheit nur noch besser. Und wer über den Nutzen einer Technologie nachdenken will, sollte sie auch wirklich benutzen und sich der Hintergründe bewusst sein.

Die technischen Inhalte des Vortrags, die Funktionsweise von Transformer-Modellen, Aufmerksamkeitsmechanismen, Tokenisierung, kamen aus meiner eigenen Arbeit als Data Scientist und aus Quellen, die ich kannte. Den Moment, der auf der Bühne am stärksten ankam, hatte ich auch ohne KI entwickelt. Um zu erklären, wie ein Large Language Model funktioniert, baute ich eine Art Rap: „Wie eine KI funktioniert, ist eigentlich ganz einfach. Man muss nur tokenisieren, embedden, positional encoden, Query-, Key- und Value-Matrizen berechnen, skalierte Punktprodukt-Aufmerksamkeit anwenden, multihead, residual, feed-forward, layer-norm, 96 Mal hintereinander, dann unembedden und samplen.“ Das Publikum applaudierte. Der Witz funktionierte, weil das „eigentlich ganz einfach“ durch das „Runterrattern“ der vielen Fachbegriffe direkt widerlegt wurde. In solchen technischen Ausarbeitungen von Situationskomik beziehungsweise Humor war KI erstaunlich schlecht. Die Witze, die sie vorschlug, waren nicht witzig. Technisch korrekt aufgebaut, Setup und Pointe vorhanden, aber sie zündeten nicht. Humor braucht ein Verständnis, oder eher Gefühl, für Komik und ein Bewusstsein, dass man Menschen vor sich hat und wie man selbst einen Witz am besten rüberbringt. Mimik, Gestik, Lautstärke, Sprachgeschwindigkeit, Pausen, das alles gehört mit dazu. Eigenschaften, die außerhalb von dem Text selbst liegen. Ein Sprachmodell hat dieses holistische Bild von Komik nicht.

Zusätzlich waren die Schlüsse, die mir die KI vorschlug, regelmäßig schwach. Zwar ordentlich formuliert, aber nicht immer 100% stringent und ohne echte Schärfe.

Wo die KI tatsächlich half, war woanders. Und zwar im Brainstorming, im narrativen Aufbau, in der Bildgenerierung. Ich habe das Modell als Sparringspartner genutzt und Neues über Sokrates gelernt, zum Beispiel dass er nach überlieferter Darstellung ausgesprochen hässlich war, was als Running Gag im Vortrag landete. Oder dass er das geschriebene Wort für tot hielt, ein Fakt mit schöner Ironie angesichts einer Maschine, die aus nichts als Text besteht. Auch die Idee, das abstrakte Erkenntnisproblem an einem Gespräch über Bier aufzuhängen, kam aus einer Brainstorming-Sitzung mit der KI. An dieser Stelle möchte ich mein Dankeschön an Claude AI ausdrücken.

KI war also auf jeden Fall eine richtig große Hilfe bei den Vorbereitungen zum Science Slam. Allerdings hätte das Ganze nicht funktioniert, wenn ich einfach jeden Output, den die KI geliefert hatte, ungefiltert eingebaut hätte. Das Publikum hätte es in der Präsentation wahrscheinlich schon auf Folie 1 bemerkt. Also musste ich mich bei jedem Output fragen: „Ergibt das Sinn?“, „Stimmt das überhaupt?“, „Passt das zum Bogen, den ich aufbaue?“, „Reicht das, oder ist es nur die plausibelste oberflächliche Variante?“. Anders gesagt: Ich musste die KI sokratisch behandeln. Ich musste fragen, hinterfragen, in Widerspruch treten, mich weigern, eine Antwort zu akzeptieren, nur weil sie überzeugend klang. Der Teufel liegt hier oft im Detail und gibt sich nur zu erkennen, wenn man die Antworten der KI kritisch hinterfragt. Die Semantik stimmt nämlich so gut wie immer, der logische Zusammenhang auf den zweiten Blick aber öfter mal nicht.

Sokratisch denken im KI-Zeitalter

Die eigentliche Kompetenz im Umgang mit KI ist nicht nur technisches Wissen. Sie ist die Fähigkeit, die richtigen Fragen zu stellen. Und das ist oft schwieriger als es auf den ersten Blick scheint. Es gibt dabei zwei grundlegend verschiedene Aktivitäten, wie man den Umgang mit KI verbessern kann.

Die erste ist, die KI zum Denken zu zwingen. Wer ChatGPT fragt „Wie setze ich Projekt X um?“, bekommt einen Plan. Wer fragt „Ich plane, Projekt X so umzusetzen. Was übersehe ich vermutlich?“, bekommt Gegenwind. Wer das Modell in Widerspruch treibt, „Du hast X gesagt, ich glaube das Gegenteil stimmt, weil Y. Was sagst du dazu?“, zwingt es zu differenzierteren Antworten. Dadurch wird die KI zu einem wirklichen Partner mit hilfreichen Denkanstößen.

Die zweite ist eine andere Sache: sich selbst zum Denken zu zwingen. Das bedeutet, einen Output der KI nicht als Ergebnis zu behandeln, sondern als Rohmaterial, als Schablone. Es bedeutet zu fragen, ob man dem eigentlich zustimmt. Was fehlt. Was die Implikation wäre. Ob die Antwort die richtige Frage beantwortet hat. Diese Aktivität verändert den Blick, den wir auf KI haben. Es ist viel einfacher, nicht auf einem weißen Blatt Papier zu starten, aber wer einfach nur Strg-C und Strg-V macht, bekommt einen Text, der oft gut klingt, aber bei genauerem Hinsehen sehr viele leere Worthülsen nutzt und nicht stringent ist.

Die erste Aktivität ist eine Frage der Technik, quasi eine Promptstrategie. Das zweite ist eine Frage der Haltung. Und die Haltung ist das Schwerere von beiden, weil sie nicht durch einen besseren Prompt gelöst wird, sondern durch intellektuelle Disziplin.

Was wirklich wertvoll bleibt

Vielleicht ist das die eigentliche Verschiebung, die KI in unserer Wissensgesellschaft auslöst. Wissen war über Jahrhunderte die zentrale Ressource. Wer viel wusste, war im Vorteil. In einer Welt, in der jede Antwort auf Knopfdruck verfügbar ist, verliert reines Wissen einen großen Teil seines Wertes. Wertvoller wird etwas anderes: zu wissen, was man eigentlich will. Die richtigen Fragen stellen zu können. Den richtigen Prompt zu formulieren. Und vor allem zu wissen, wo die Maschine aufhört und der Mensch anfangen muss.

Die wichtigste Kompetenz im KI-Zeitalter steht in keinem Lehrplan. Sie ist 2.400 Jahre alt und besteht aus genau einem Werkzeug: kritisch hinterfragen.