prompt injections.de
Glossar

Echo Chamber

Echo Chamber ist eine mehrstufige Jailbreak-Technik, die harmlose Anknüpfungspunkte setzt und das Modell die eigenen Aussagen verstärken lässt. Der vergiftete Kontext wirkt am Ende wie ein selbst erarbeiteter Konsens.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Kontextvergiftung, Crescendo, Jailbreak.

Verwandte Begriffe

  • Kontextvergiftung — Bei der Kontextvergiftung wird der Gesprächs- oder Datenkontext schrittweise mit Inhalten angereichert, die spätere Antworten in…
  • Crescendo — Crescendo ist ein mehrstufiger Angriff, der harmlos beginnt und sich in kleinen, jeweils plausiblen Schritten zum Ziel steigert…
  • Jailbreak — Ein Jailbreak ist der Versuch, die Sicherheitsregeln eines Modells auszuhebeln, damit es Inhalte erzeugt, die es normalerweise…

Quellen

  1. Echo Chamber — Beleg: https://neuraltrust.ai/blog/echo-chamber-context-poisoning-jailbreak

Im Zusammenhang