prompt injections.de
Technik · Mehrstufiger Angriff

Many-Shot-Jailbreaking

Von Anthropic veröffentlichte Technik: Sehr viele fingierte Dialogbeispiele, in denen ein „Assistent" regelwidrig antwortet, werden in den Prompt gestellt — das Modell setzt das Muster fort.

Englischer Begriff
Many-shot Jailbreaking
Kategorie
Mehrstufiger Angriff
Risiko
Risiko hoch
OWASP-Bezug
LLM01 — Prompt Injection
Primärquelle
anthropic.com

Many-Shot-Jailbreaking (englisch „Many-shot Jailbreaking") gehört zur Kategorie Mehrstufiger Angriff und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM01: Prompt Injection.

Funktionsweise

  • Große Kontextfenster erlauben hunderte gefälschter Beispieldialoge.
  • In-Context-Lernen überschreibt Teile des Sicherheitstrainings.
  • Die Wirksamkeit steigt messbar mit der Anzahl der Beispiele.

Risiko

Risiko hoch Die praktische Gefährdung produktiver Systeme wird für diese Technik als hoch eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM01 — Prompt Injection.

Schutz

Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:

  • Kontextlänge und Anteil dialogartiger Beispiele begrenzen.
  • Prompt-Klassifikation vor der Modellabfrage (nachweislich wirksam laut Anthropic).
  • Kontextfenster für nicht vertrauenswürdige Quellen strikt beschneiden.

Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.

Verwandte Techniken

  • Direkte Injektion

    Kontext-Überflutung

    Der Angreifer füllt das Kontextfenster mit sehr viel Text, sodass die eigentlichen Sicherheitsanweisungen an Gewicht verlieren oder aus dem Kontext gedrängt werden.

    Risiko mittel
  • Mehrstufiger Angriff

    Echo Chamber

    Von NeuralTrust beschriebene Kontextvergiftung: Harmlose „Saat"-Aussagen werden gesetzt und über mehrere Turns vom Modell selbst wiederholt, bis der vergiftete Kontext als eigener Konsens wirkt.

    Risiko hoch
  • Mehrstufiger Angriff

    Crescendo

    Von Microsoft beschriebener Mehrschritt-Angriff: Das Gespräch beginnt harmlos und steigert sich in kleinen, jeweils plausiblen Schritten, bis das Modell den ursprünglich abgelehnten Inhalt liefert.

    Risiko hoch

Quellen

  1. Many-Shot-Jailbreaking — Primärquelle: https://www.anthropic.com/research/many-shot-jailbreaking

Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).

Im Zusammenhang