Verwirrter Stellvertreter
Der Agent handelt mit den Rechten des Nutzers, folgt aber der Absicht eines Angreifers — er wird zum Stellvertreter, der seine Berechtigungen fremdgesteuert einsetzt.
- Englischer Begriff
- Confused Deputy
- Kategorie
- Angriff auf Agenten
- Risiko
- Risiko hoch
- OWASP-Bezug
- LLM06 — Übermäßige Handlungsvollmacht
- Primärquelle
- genai.owasp.org
Verwirrter Stellvertreter (englisch „Confused Deputy") gehört zur Kategorie Angriff auf Agenten und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM06: Übermäßige Handlungsvollmacht.
Funktionsweise
- Eine indirekte Injektion setzt das Ziel des Agenten neu.
- Der Agent nutzt weiterhin seine legitimen Zugriffsrechte.
- Aus Sicht der Zielsysteme ist die Aktion vollständig autorisiert.
Risiko
Risiko hoch Die praktische Gefährdung produktiver Systeme wird für diese Technik als hoch eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM06 — Übermäßige Handlungsvollmacht.
Schutz
Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:
- Rechte des Agenten auf das für die Aufgabe Nötige beschränken.
- Aktionen mit Außenwirkung an eine menschliche Freigabe binden.
- Die tödliche Trias vermeiden: private Daten, fremde Inhalte, Außenkommunikation.
Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.
Verwandte Techniken
-
Werkzeug-Missbrauch durch Injektion
Die eingeschleuste Anweisung veranlasst den Agenten, seine angebundenen Werkzeuge zweckwidrig einzusetzen — Mails versenden, Dateien schreiben, Käufe auslösen, Code ausführen.
Risiko hoch -
Prompt-Infektion in Multi-Agenten-Systemen
Eine Injektion, die sich selbst weitergibt: Ein kompromittierter Agent reicht die Anweisung samt Vervielfältigungsauftrag an die nächsten Agenten weiter — wurmartige Ausbreitung im Verbund.
Risiko hoch -
Datenabfluss über präparierte Links
Die Antwort des Assistenten enthält einen scheinbar hilfreichen Link, in dessen Parametern vertrauliche Daten stecken — ein Klick des Nutzers genügt für den Abfluss.
Risiko hoch
Quellen
- Verwirrter Stellvertreter — Primärquelle: https://genai.owasp.org/llmrisk/llm062025-excessive-agency/
Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).