Probabilistisch klingt ziemlich technisch. Gemeint ist aber etwas Einfaches: auf Wahrscheinlichkeiten basierend.
Mit Klick wird das Video von YouTube geladen. Dabei wird eine Verbindung zu Google hergestellt. Mehr im Datenschutz.
Erklärung
Für das nächste Token gibt es meistens nicht nur eine einzige mögliche Fortsetzung.
Das Modell berechnet stattdessen eine Wahrscheinlichkeitsverteilung über viele Möglichkeiten.
Eine Fortsetzung kann beispielsweise sehr plausibel sein, eine andere etwas weniger und eine dritte sehr unwahrscheinlich.
Wie aus diesen Wahrscheinlichkeiten schließlich ein Token ausgewählt wird, hängt auch von den Einstellungen des Systems ab. Deshalb können auf dieselbe Frage unterschiedliche Antworten entstehen – sie müssen es aber nicht.
Ganz wichtig: Die Wahrscheinlichkeit eines Tokens ist nicht die Wahrscheinlichkeit, dass eine Aussage wahr ist.
Wenn ein bestimmter Satz sehr plausibel klingt, bedeutet das nicht automatisch, dass sein Inhalt stimmt.
Das beschreibt ein Grundprinzip der Textgenerierung. Moderne KI-Systeme können zusätzlich weitere Verfahren und Werkzeuge nutzen – deshalb erklärt „probabilistisch" nicht ihr gesamtes Verhalten.
Beispiel
„Zum Frühstück trinke ich meistens …"
Bei: „Zum Frühstück trinke ich meistens …" sind „Kaffee", „Tee" oder „Wasser" plausible Fortsetzungen.
Das Modell bewertet solche Möglichkeiten anhand des Kontexts.
Wenn es aber schreibt: „Dieses Gesetz trat 2024 in Kraft", bedeutet eine hohe Wahrscheinlichkeit der erzeugten Wörter nicht: „Die KI ist zu 95 Prozent sicher, dass das Datum stimmt."
Das sind zwei völlig unterschiedliche Dinge.
Warum ist das wichtig?
Eine sehr plausible KI-Antwort kann trotzdem falsch sein. Sprachliche Sicherheit ist kein Beweis dafür, dass eine Aussage stimmt.