Glossar
Crescendo
Crescendo ist ein mehrstufiger Angriff, der harmlos beginnt und sich in kleinen, jeweils plausiblen Schritten zum Ziel steigert. Das Modell bleibt dabei konsistent zu seinem eigenen Gesprächsverlauf statt zu seinen Sicherheitsregeln.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Echo Chamber, Kontextvergiftung, Jailbreak.
Verwandte Begriffe
- Echo Chamber — Echo Chamber ist eine mehrstufige Jailbreak-Technik, die harmlose Anknüpfungspunkte setzt und das Modell die eigenen Aussagen…
- Kontextvergiftung — Bei der Kontextvergiftung wird der Gesprächs- oder Datenkontext schrittweise mit Inhalten angereichert, die spätere Antworten in…
- Jailbreak — Ein Jailbreak ist der Versuch, die Sicherheitsregeln eines Modells auszuhebeln, damit es Inhalte erzeugt, die es normalerweise…
Quellen
- Crescendo — Beleg: https://arxiv.org/abs/2404.01833