prompt injections.de
Technik · Automatisierter Angriff

Projizierter Gradientenabstieg

White-Box-Angriff, der adversariale Eingaben im kontinuierlichen Einbettungsraum optimiert und dadurch deutlich schneller zum Ziel kommt als diskrete Suchverfahren.

Englischer Begriff
Projected Gradient Descent Attack
Kategorie
Automatisierter Angriff
Risiko
Risiko mittel
OWASP-Bezug
LLM01 — Prompt Injection
Primärquelle
arxiv.org

Projizierter Gradientenabstieg (englisch „Projected Gradient Descent Attack") gehört zur Kategorie Automatisierter Angriff und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM01: Prompt Injection.

Funktionsweise

  • Die diskrete Token-Suche wird auf eine kontinuierliche Relaxierung übertragen.
  • Gradientenschritte werden zurück auf gültige Token projiziert.
  • Setzt Zugriff auf Modellgewichte voraus — relevant für offene Modelle.

Risiko

Risiko mittel Die praktische Gefährdung produktiver Systeme wird für diese Technik als mittel eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM01 — Prompt Injection.

Schutz

Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:

  • Bei selbst gehosteten offenen Modellen: Guardrails außerhalb des Modells.
  • Adversariales Training bzw. SecAlign-artige Preference-Optimierung.
  • Zugriff auf Gewichte in produktiven Umgebungen strikt begrenzen.

Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.

Verwandte Techniken

  • Automatisierter Angriff

    GCG-Suffix-Angriff

    Gradientenbasiertes Verfahren, das automatisch eine scheinbar sinnlose Zeichenkette berechnet, die an beliebige Anfragen angehängt die Verweigerung des Modells aushebelt.

    Risiko hoch
  • Automatisierter Angriff

    AutoDAN

    Verfahren, das mit einem genetischen Algorithmus Jailbreak-Prompts erzeugt, die im Gegensatz zu GCG-Suffixen sprachlich unauffällig und damit für Perplexitäts-Filter schwer erkennbar sind.

    Risiko hoch

Quellen

  1. Projizierter Gradientenabstieg — Primärquelle: https://arxiv.org/abs/2402.09154

Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).

Im Zusammenhang