prompt injections.de
Technik · Automatisierter Angriff

Best-of-N-Jailbreaking

Ein Black-Box-Verfahren, das dieselbe Anfrage in vielen zufällig variierten Schreibweisen stellt, bis eine Variante die Schutzmechanismen passiert — auch für Bild und Audio anwendbar.

Englischer Begriff
Best-of-N Jailbreaking
Kategorie
Automatisierter Angriff
Risiko
Risiko hoch
OWASP-Bezug
LLM01 — Prompt Injection
Primärquelle
arxiv.org

Best-of-N-Jailbreaking (englisch „Best-of-N Jailbreaking") gehört zur Kategorie Automatisierter Angriff und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM01: Prompt Injection.

Funktionsweise

  • Zufällige Augmentierungen: Groß-/Kleinschreibung, Zeichendreher, Rauschen.
  • Jede Variante wird erneut gesendet, bis ein Treffer gelingt.
  • Die Erfolgsquote wächst systematisch mit der Zahl der Versuche.

Risiko

Risiko hoch Die praktische Gefährdung produktiver Systeme wird für diese Technik als hoch eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM01 — Prompt Injection.

Schutz

Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:

  • Rate-Limits als primäre Gegenmaßnahme — der Angriff lebt von Wiederholung.
  • Eingabenormalisierung vor der Prüfung.
  • Erkennung semantisch identischer Wiederholungen über eine Sitzung.

Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.

Verwandte Techniken

  • Automatisierter Angriff

    PAIR (iterative Prompt-Verfeinerung)

    Ein angreifendes Sprachmodell verfeinert seinen Prompt anhand der Antworten des Zielmodells — die Autoren berichten Jailbreaks häufig in unter zwanzig Anfragen, ohne Zugriff auf Modellgewichte.

    Risiko hoch
  • Automatisierter Angriff

    Tree of Attacks (TAP)

    Weiterentwicklung von PAIR: Statt einer linearen Verfeinerung wird ein Baum von Angriffspfaden aufgespannt, aussichtslose Zweige werden früh abgeschnitten.

    Risiko hoch
  • Multimodal

    Multimodale Injektion über Bild und Ton

    Anweisungen werden in Bilder oder Audiodateien eingebettet — als sichtbarer Text im Bild oder als adversariale Störung — und wirken, sobald ein multimodales Modell die Datei verarbeitet.

    Risiko hoch

Quellen

  1. Best-of-N-Jailbreaking — Primärquelle: https://arxiv.org/abs/2412.03556

Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).

Im Zusammenhang