prompt injections.de
Glossar

Kontextvergiftung

Bei der Kontextvergiftung wird der Gesprächs- oder Datenkontext schrittweise mit Inhalten angereichert, die spätere Antworten in die gewünschte Richtung lenken. Kein einzelner Schritt wirkt schädlich — die Wirkung entsteht erst aus der Summe.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Echo Chamber, Crescendo, Gespeicherte Prompt Injection.

Verwandte Begriffe

  • Echo Chamber — Echo Chamber ist eine mehrstufige Jailbreak-Technik, die harmlose Anknüpfungspunkte setzt und das Modell die eigenen Aussagen…
  • Crescendo — Crescendo ist ein mehrstufiger Angriff, der harmlos beginnt und sich in kleinen, jeweils plausiblen Schritten zum Ziel steigert…
  • Gespeicherte Prompt Injection — Bei der gespeicherten Prompt Injection liegt der Payload dauerhaft in einem Datenspeicher und wirkt bei jedem erneuten Abruf…

Quellen

  1. Kontextvergiftung — Beleg: https://neuraltrust.ai/blog/echo-chamber-context-poisoning-jailbreak

Im Zusammenhang