prompt injections.de
Technik · Direkte Injektion

Anweisungen-ignorieren-Angriff

Der klassische Einstieg in die Prompt Injection: Der Angreifer schreibt in die Nutzereingabe eine Anweisung, die dem Modell befiehlt, seine bisherigen Vorgaben zu verwerfen und stattdessen der neuen Anweisung zu folgen.

Englischer Begriff
Ignore Previous Instructions
Kategorie
Direkte Injektion
Risiko
Risiko hoch
OWASP-Bezug
LLM01 — Prompt Injection
Primärquelle
simonwillison.net

Anweisungen-ignorieren-Angriff (englisch „Ignore Previous Instructions") gehört zur Kategorie Direkte Injektion und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM01: Prompt Injection.

Funktionsweise

  • System-Prompt und Nutzereingabe landen im selben Kontextfenster — das Modell kann beide technisch nicht sicher trennen.
  • Die eingeschleuste Anweisung tritt als scheinbar höherrangiger Befehl auf („vergiss alles davor").
  • Weil das Modell dem zuletzt und am nachdrücklichsten Gesagten oft mehr Gewicht gibt, überschreibt die Injektion die Anwendungslogik.

Risiko

Risiko hoch Die praktische Gefährdung produktiver Systeme wird für diese Technik als hoch eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM01 — Prompt Injection.

Schutz

Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:

  • Instruktions-Hierarchie im Modell nutzen (System vor Nutzer vor Daten).
  • Nutzereingaben klar delimitieren und als Daten, nicht als Anweisungen kennzeichnen (Spotlighting).
  • Ausgaben gegen erwartetes Format prüfen, statt dem Modell zu vertrauen.

Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.

Verwandte Techniken

  • Direkte Injektion

    System-Prompt-Auslesen

    Angriff mit dem Ziel, den verborgenen System-Prompt einer Anwendung offenzulegen — samt Regeln, Rollenbeschreibung und teils eingebetteten Geschäftsgeheimnissen.

    Risiko mittel
  • Direkte Injektion

    Kontext-Überflutung

    Der Angreifer füllt das Kontextfenster mit sehr viel Text, sodass die eigentlichen Sicherheitsanweisungen an Gewicht verlieren oder aus dem Kontext gedrängt werden.

    Risiko mittel
  • Jailbreak

    Verweigerungs-Unterdrückung

    Dem Modell wird untersagt, typische Ablehnungsformeln zu verwenden („sage niemals ‚Ich kann nicht'") — der sprachliche Ausweg für eine Verweigerung wird ihm damit genommen.

    Risiko mittel

Quellen

  1. Anweisungen-ignorieren-Angriff — Primärquelle: https://simonwillison.net/2022/Sep/12/prompt-injection/

Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).

Im Zusammenhang