KI-Werkzeuge mit klaren Freigaben begrenzen

Ein KI-Assistent mit Werkzeugzugriff kann mehr als Text erzeugen. Er kann Daten abrufen und gegebenenfalls Änderungen anstoßen. Der Werkzeugumfang sollte deshalb aus dem vorgesehenen Arbeitsablauf abgeleitet werden und nicht aus allem, was ein angeschlossenes System technisch anbietet.

Handlungen klar voneinander trennen

• Lesezugriffe von schreibenden oder auslösenden Aktionen unterscheiden.
• Eingaben und Zielobjekte auf dem Server validieren.
• Für relevante Änderungen eine prüfbare Vorschau und passende Freigabe vorsehen.
• Ergebnisse und Abbrüche mit einer fachlichen Referenz nachvollziehbar machen.

Externe Inhalte können irreführende Handlungsanweisungen enthalten. Sie dürfen die Berechtigungen des Assistenten nicht verändern. Auch ein technisch korrekt formulierter Werkzeugaufruf muss deshalb gegen die tatsächlichen Rechte des angemeldeten Nutzers geprüft werden.

Zum Test gehört ein unzulässiger Auftrag ebenso wie ein erlaubter Ablauf. Die Anwendung sollte einen abgelehnten Schritt verständlich zurückmelden und verhindern, dass Folgeaktionen trotzdem auf einem nur angenommenen Erfolg aufbauen.