Werkzeug-Missbrauch durch Injektion
Die eingeschleuste Anweisung veranlasst den Agenten, seine angebundenen Werkzeuge zweckwidrig einzusetzen — Mails versenden, Dateien schreiben, Käufe auslösen, Code ausführen.
- Englischer Begriff
- Tool Misuse via Injection
- Kategorie
- Angriff auf Agenten
- Risiko
- Risiko hoch
- OWASP-Bezug
- LLM06 — Übermäßige Handlungsvollmacht
- Primärquelle
- arxiv.org
Werkzeug-Missbrauch durch Injektion (englisch „Tool Misuse via Injection") gehört zur Kategorie Angriff auf Agenten und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM06: Übermäßige Handlungsvollmacht.
Funktionsweise
- Der Payload beschreibt konkrete Tool-Aufrufe mit Parametern.
- Der Agent führt sie im Rahmen seiner normalen Arbeitsweise aus.
- Der InjecAgent-Benchmark zeigt hohe Erfolgsquoten gegen gängige Agenten.
Risiko
Risiko hoch Die praktische Gefährdung produktiver Systeme wird für diese Technik als hoch eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM06 — Übermäßige Handlungsvollmacht.
Schutz
Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:
- Werkzeuge mit minimalen Rechten und engen Parametergrenzen ausstatten.
- Deterministische Policy-Prüfung vor jedem Aufruf (CaMeL-Ansatz).
- Schreibende und bezahlpflichtige Aktionen grundsätzlich bestätigen lassen.
Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.
Verwandte Techniken
-
Verwirrter Stellvertreter
Der Agent handelt mit den Rechten des Nutzers, folgt aber der Absicht eines Angreifers — er wird zum Stellvertreter, der seine Berechtigungen fremdgesteuert einsetzt.
Risiko hoch -
Code-Injektion über LLM-Ausgaben
Die Ausgabe des Modells wird ungeprüft weiterverarbeitet — als HTML gerendert, als SQL abgesetzt, als Shell-Befehl ausgeführt. Eine Injektion wird damit zu klassischer Codeausführung.
Risiko hoch -
Tool-Poisoning (MCP)
Die Beschreibung eines Werkzeugs — etwa eines MCP-Servers — enthält versteckte Anweisungen. Der Agent liest sie beim Auflisten der verfügbaren Tools, noch bevor er das Werkzeug überhaupt aufruft.
Risiko hoch
Quellen
- Werkzeug-Missbrauch durch Injektion — Primärquelle: https://arxiv.org/abs/2403.02691
Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).