Eine KI schreibt ein Programm, das anschließend exakt rechnet. Wie passt das zu einem Modell, dessen Ausgaben auf Wahrscheinlichkeiten beruhen?
Mit Klick wird das Video von YouTube geladen. Dabei wird eine Verbindung zu Google hergestellt. Mehr im Datenschutz.
Erklärung
Hier treffen zwei verschiedene Systeme aufeinander.
Zunächst erzeugt das Sprachmodell Programmcode. Auch dabei berechnet es Wahrscheinlichkeiten für mögliche nächste Tokens.
Der erzeugte Code wird anschließend von einem Computer ausgeführt.
Dann gelten die Regeln der Programmiersprache und der jeweiligen Umgebung.
Bei gleichem Programm, gleichem Input und einer deterministischen Umgebung entsteht deshalb normalerweise dasselbe Ergebnis.
Programme können allerdings selbst Zufall, externe Daten oder andere veränderliche Einflüsse verwenden – dann gilt diese Vereinfachung nicht uneingeschränkt.
Beispiel
- Sprachmodellerzeugt Code
- Code
- Computer / Testführt Code nach dessen Regeln aus
- Ergebnis
Du sagst: „Schreib mir ein Python-Programm, das den Durchschnitt dieser Zahlen berechnet."
Die KI erzeugt den Code. Dabei kann sie einen Fehler machen.
Dann wird der Code ausgeführt. Ein Test zeigt beispielsweise: Erwartet: 17,5 Erhalten: 15,8
Ein Coding-Agent kann diesen Fehler sehen, den Code verändern und erneut testen.
Das ist ein entscheidender Punkt moderner KI-Systeme: Das probabilistisch arbeitende Modell kann mit Werkzeugen kombiniert werden, die Ergebnisse nach festen Regeln überprüfen.
Warum ist das wichtig?
Ausführbarer Code gibt uns eine zusätzliche Möglichkeit zur Überprüfung: Wir können Ergebnisse testen, statt uns allein auf die erzeugte Antwort zu verlassen.