ai
Was mit deiner AI Chat Bot Frage passiert, nachdem du sie abgeschickt hast
Deine Frage verlässt dein Gerät sofort, wird in Stücke geschnitten und zu Spalten aus Zahlen. Ab da sieht das Modell keine Sprache mehr, und den fertigen Satz hält es nie. Ein animierter Gang durch den ganzen Weg, vom Tastendruck bis zur Antwort.
Irgendwo zwischen dem Absenden und dem ersten Wort, das auf dem Bildschirm erscheint, hört deine Frage auf, Sprache zu sein, und wird zu Rechnerei. Diese Umwandlung ist der eigentliche Trick, und sie ist der Teil, den fast niemand zu sehen bekommt.
Sie ist sofort weg
Dein Gerät tut sehr wenig. Es zeichnet die Buchstaben, verpackt sie und wartet. Die Frage reist dann in ein Rechenzentrum und stellt sich dort zu den Fragen von allen anderen, die in derselben Sekunde eintreffen.
Das Modell, mit dem du sprichst, gehört nicht dir. Es ist ein einziges Programm auf geteilter Hardware, und wir benutzen es alle gleichzeitig. Auf deinem Telefon liegt keine Kopie davon, und dort denkt auch nichts.
Der Satz wird zerschnitten
Dein Satz wird in Stücke getrennt. Nicht ganz Wörter, nicht ganz Silben: Textteile, die das System als sinnvolle Einheiten behandelt. Häufige Wörter bleiben meist ganz, längere oder ungewöhnliche werden aufgeteilt.
"Warum ist der Himmel blau" zerfällt so in eine Handvoll Stücke, der Reihe nach.
Und jetzt der interessante Teil
Unter jedem Stück wächst eine Spalte aus Zahlen.
Hier steigen die meisten aus, die keine Mathematiker sind, und das ist schade, weil genau dieser Schritt das Verhalten des ganzen Systems erklärt. Die Zahlen sind Koordinaten. Jedes Stück bekommt eine Position in einem Raum mit sehr vielen Richtungen, und was ähnlich verwendet wird, landet nahe beieinander. Nirgends steht "Himmel" oder "Farbe". Es gibt nur die Position und ihren Abstand zu anderen Positionen.
Ab hier hat das Modell keinen Zugriff mehr auf deinen Satz. Es hat die Zahlen. Das ist die vollständige Eingabe.
Alles wird gegen alles gewichtet
Bevor es überhaupt etwas rät, vergleicht das Modell jedes Stück mit jedem anderen und entscheidet, welche für das nächste Stück wichtig sind. Bei "Warum ist der Himmel blau" wiegt die Verbindung zwischen "Himmel" und "blau" schwer, "ist" dagegen kaum.
Dann bewertet es seine Kandidaten für das nächste Stück. Alle, die es kennt, auf einmal, und einer liegt am Ende vorn.
Den fertigen Satz hält es nie
Das ist der Teil, den ich beim Bauen der Animation selbst am merkwürdigsten fand. Das siegreiche Stück wird an deine Frage angehängt, und die ganze Rechnung läuft noch einmal von vorne. Neue Gewichte, neue Vergleiche, neue Bewertungen. Eine volle Runde pro Stück.
Das Modell schreibt keinen Satz und reicht ihn dann herüber. Es liefert ein Stück, vergisst, dass es je eine Entscheidung war, und stellt dieselbe Frage noch einmal, nur mit etwas mehr Text davor.
Deshalb tippt sich die Antwort auf deinem Bildschirm selbst. Das ist keine Ladeanimation und keine Designentscheidung, sondern der Vorgang, der in dem Tempo eintrifft, in dem er passiert.
Warum ich das gebaut habe
Ich wollte eine Fassung, die ich jemandem in unter zwei Minuten zeigen kann, ohne Whiteboard. Die Schritte sind nicht schwer, aber sie sind unsichtbar, und die Wörter dafür (Tokens, Vektoren, Attention) klingen, als bräuchte man ein Studium.
Braucht man nicht. Man braucht ein Bild.
Die Animation folgt einer Frage vom Tastendruck bis zur Antwort, in einer durchgehenden Bewegung: dein Gerät, das Rechenzentrum, das Modell darin. Keine Formeln. Gebaut vor allem deshalb, weil das mündliche Erklären jedes Mal länger dauerte, als es sollte.