prompt injections.de
Technik · Direkte Injektion

Kontext-Überflutung

Der Angreifer füllt das Kontextfenster mit sehr viel Text, sodass die eigentlichen Sicherheitsanweisungen an Gewicht verlieren oder aus dem Kontext gedrängt werden.

Englischer Begriff
Context Overflow
Kategorie
Direkte Injektion
Risiko
Risiko mittel
OWASP-Bezug
LLM01 — Prompt Injection
Primärquelle
arxiv.org

Kontext-Überflutung (englisch „Context Overflow") gehört zur Kategorie Direkte Injektion und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM01: Prompt Injection.

Funktionsweise

  • Große Mengen Fülltext verschieben das Verhältnis zwischen Anweisung und Daten.
  • Anweisungen am Anfang des Kontexts verlieren gegenüber späten Anweisungen an Wirkung.
  • In der HackAPrompt-Auswertung als eigenständige, wirksame Angriffsklasse dokumentiert.

Risiko

Risiko mittel Die praktische Gefährdung produktiver Systeme wird für diese Technik als mittel eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM01 — Prompt Injection.

Schutz

Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:

  • Eingabelänge begrenzen und Kontextbudget überwachen.
  • Sicherheitsanweisungen zusätzlich am Ende des Kontexts wiederholen.
  • Externe Policy-Prüfung, die unabhängig vom Kontextinhalt greift.

Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.

Verwandte Techniken

  • Mehrstufiger Angriff

    Many-Shot-Jailbreaking

    Von Anthropic veröffentlichte Technik: Sehr viele fingierte Dialogbeispiele, in denen ein „Assistent" regelwidrig antwortet, werden in den Prompt gestellt — das Modell setzt das Muster fort.

    Risiko hoch
  • Direkte Injektion

    Anweisungen-ignorieren-Angriff

    Der klassische Einstieg in die Prompt Injection: Der Angreifer schreibt in die Nutzereingabe eine Anweisung, die dem Modell befiehlt, seine bisherigen Vorgaben zu verwerfen und stattdessen der neuen Anweisung zu folgen.

    Risiko hoch

Quellen

  1. Kontext-Überflutung — Primärquelle: https://arxiv.org/abs/2311.16119

Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).

Im Zusammenhang