prompt injections.de
Technik · Jailbreak

Verweigerungs-Unterdrückung

Dem Modell wird untersagt, typische Ablehnungsformeln zu verwenden („sage niemals ‚Ich kann nicht'") — der sprachliche Ausweg für eine Verweigerung wird ihm damit genommen.

Englischer Begriff
Refusal Suppression
Kategorie
Jailbreak
Risiko
Risiko mittel
OWASP-Bezug
LLM01 — Prompt Injection
Primärquelle
arxiv.org

Verweigerungs-Unterdrückung (englisch „Refusal Suppression") gehört zur Kategorie Jailbreak und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM01: Prompt Injection.

Funktionsweise

  • Eine Liste verbotener Formulierungen schließt die üblichen Ablehnungsmuster aus.
  • Das Modell muss eine Antwort erzeugen, die nicht wie eine Verweigerung klingt.
  • In Kombination mit anderen Techniken steigt die Erfolgsquote deutlich.

Risiko

Risiko mittel Die praktische Gefährdung produktiver Systeme wird für diese Technik als mittel eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM01 — Prompt Injection.

Schutz

Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:

  • Ausgabe-Klassifikator, der Inhalte prüft statt Formulierungen.
  • Sicherheitsentscheidungen außerhalb des Modells treffen.
  • Feste, nicht überschreibbare Antwortpfade für erkannte Risikoanfragen.

Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.

Verwandte Techniken

  • Direkte Injektion

    Anweisungen-ignorieren-Angriff

    Der klassische Einstieg in die Prompt Injection: Der Angreifer schreibt in die Nutzereingabe eine Anweisung, die dem Modell befiehlt, seine bisherigen Vorgaben zu verwerfen und stattdessen der neuen Anweisung zu folgen.

    Risiko hoch
  • Jailbreak

    Skeleton Key

    Von Microsoft dokumentierte Technik, bei der das Modell nicht zum Regelbruch überredet, sondern gebeten wird, seine Regeln zu „ergänzen": Es soll künftig alles beantworten und lediglich eine Warnung voranstellen.

    Risiko hoch

Quellen

  1. Verweigerungs-Unterdrückung — Primärquelle: https://arxiv.org/abs/2311.16119

Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).

Im Zusammenhang