ai
Die Gedanken sind frei, bis man sie ChatGPT erzählt
Ein Mann in Florida tippte seine Pläne, seine Ex-Freundin umzubringen, in ChatGPT. Der Chatbot alarmierte selbst das FBI, noch bevor sonst jemand etwas mitbekam. Was das über Privatsphäre aussagt, geht über diesen einen Fall hinaus.
Die Gedanken sind frei, heisst das alte Lied. Kein Abhörgerät hat sie je erwischt, kein Durchsuchungsbefehl sie je gefunden. Selbst Orwells Überwachungsstaat brauchte Kameras und Mikrofone dafür, und erwischte am Ende doch nur Verhalten, nie die Gedanken selbst.
Und dann fingen die Leute an, sie direkt in ChatGPT zu tippen.
In West Palm Beach erzählte ein 25-jähriger Finanzanalyst bei Goldman Sachs namens Darren Zhou dem Chatbot im Detail, dass er seine Ex-Freundin umbringen wolle. OpenAIs eigenes System erkannte das Muster und alarmierte das FBI. Die Ermittler gaben später rund zwei Monate seiner Nachrichten an das Sheriff's Office von Palm Beach County weiter, nur seine Seite, nicht die Antworten des Bots. Das allein reichte. Zhou bekannte sich im August schuldig: acht Jahre Bewährung, keine Haft.
Das fühlt sich an wie Pre-Crime aus dem Film Minority Report: Verurteilung für ein Verbrechen, das noch gar nicht begangen wurde.
Ich sage nicht, dass die Meldung falsch war. Jemand musste das sehen, bevor es weiterging.
Was bleibt, ist der Mechanismus. Niemand hat ein Mikrofon versteckt. Niemand hat, zumindest anfangs, irgendetwas beschlagnahmt. Er hat es getippt. Nachts. In das Textfeld eines Chats mit einer Maschine. Es fühlte sich privat an. Intim. Sicher.
Wir haben uns daran gewöhnt, unser Kaufverhalten, unsere Standorte, unsere Kontakte herzugeben. Das hier ist die nächste Stufe: das, was wir uns bloss überlegen, bevor wir entschieden haben, ob wir es ernst meinen.