Du gibst einer KI einen Auftrag. Einige Minuten später sagt sie: „Ich habe die Datei geöffnet, die Daten geprüft, drei Fehler gefunden, sie korrigiert und anschließend die Tests ausgeführt." Das ist mehr als eine einzelne Chatantwort.
Mit Klick wird das Video von YouTube geladen. Dabei wird eine Verbindung zu Google hergestellt. Mehr im Datenschutz.
Erklärung
Ein KI-Agent ist nicht einfach nur ein anderes Sprachmodell.
Er ist ein System rund um ein Modell.
Zu diesem System können gehören: – ein Ziel oder Auftrag, – Anweisungen und Regeln, – Werkzeuge, – Zugriff auf bestimmte Informationen, – ein Zustand oder Speicher, – und eine Schleife, in der Ergebnisse wieder zurück an das Modell gegeben werden.
Dadurch kann das System: planen beziehungsweise einen nächsten Schritt auswählen, handeln, das Ergebnis beobachten und danach einen weiteren Schritt wählen.
Beispiel
- Auftrag
- Modell
- Tool / Aktion
- Ergebnis
- zurück zuModell
Ein Agent soll Rechnungen sortieren.
Er kann: eine Datei öffnen, Daten auslesen, eine Kategorie auswählen, die Datei verschieben und anschließend prüfen, ob der Vorgang erfolgreich war.
Die Entscheidung des Sprachmodells basiert weiterhin auf seinen Wahrscheinlichkeitsberechnungen.
Die verwendeten Werkzeuge funktionieren dagegen nach ihren eigenen Regeln.
Genau deshalb werden Berechtigungen wichtig: Darf der Agent nur eine Datei lesen? Darf er sie verschieben? Darf er sie löschen? Was passiert bei einem Fehler?
Warum ist das wichtig?
Sobald ein KI-System selbst Aktionen ausführen darf, haben Fehler reale Folgen. Deshalb werden Berechtigungen, Kontrollen und Grenzen besonders wichtig.