ki
Im Vergleich zu wem? Die Halluzinationen, die wir „Konversation“ nennen
Wir kritisieren KI gerne für ihre Halluzinationen, aber ein Blick auf menschliche Gespräche zeigt, dass wir genau dasselbe tun. Wer erfüllt hier eigentlich den höheren Standard?
Die Wahrheit beim Abendessen
Jeder bezeichnet KI als unzuverlässig, weil sie halluziniert. Sie tun das auch. Sie haben es erst letzte Woche getan und es „Konversation“ genannt.
Vor einer Weile habe ich einen ganzen Abend damit verbracht, Freunden zu erklären, warum das Hochdeutsche dem um Hannover gesprochenen Dialekt so nahe ist. Ich hatte die Geschichte parat: ein Kurfürst von Sachsen, ein Schloss praktischerweise in der Nähe von Hannover, vorgetragen mit dem selbstbewussten Auftreten von jemandem, der ein bisschen was gelesen hat. Niemand fragte nach einer Quelle. Wir bestellten eine neue Runde und machten weiter.
Die Anatomie einer menschlichen Halluzination
Als ich diesen Beitrag schrieb, wollte ich die Geschichte überprüfen – und das meiste davon fiel stillschweigend in sich zusammen. Es gab tatsächlich einen Kurfürsten von Sachsen, Friedrich den Weisen, dessen Kanzleideutsch (verbreitet durch Luthers Bibel und den Buchdruck) zum Rückgrat des modernen Hochdeutschs wurde. Aber das Schloss in der Nähe von Hannover? Das hatte ich frei erfunden. Die Kanzlei befand sich in Wirklichkeit in Wittenberg und auf der Wartburg in Thüringen, beide weit über 200 Kilometer entfernt. Ich hatte eine reale Tatsache genommen und eine plausible Brücke daran geschweißt – und die Brücke war der Teil, den ich erfunden hatte.
Aufgedeckt hat das kein Historiker. Es war eine KI – genau die Art von Modell, die man gerne als unzuverlässig bezeichnet. Der Unterschied? Ich hatte ihr befohlen, jede Behauptung mit einer Quelle zu belegen und niemals einen Namen, ein Gesetz oder ein Datum zu erfinden. Also tat sie es nicht. Sie legte ihre Arbeit offen, was mehr ist, als ich an jenem Abend geschafft habe.
Dem System den Spiegel vorhalten
Das ist die stille Heuchelei unserer aktuellen Beziehung zur Technologie. Wir legen an die Maschine einen Zitierstandard an, den wir selbst nie erfüllen, und sind dann überrascht, wenn sie die Messlatte überspringt, über die wir ständig stolpern. Sie ist zuverlässiger. Nicht perfekt, aber zuverlässiger.
Bevor wir das Modell also als unzuverlässig abstempeln, müssen wir uns fragen: Im Vergleich zu wem?