Glossar
AutoDAN
AutoDAN erzeugt mit einem genetischen Algorithmus Jailbreak-Prompts, die sprachlich unauffällig bleiben. Gerade diese Lesbarkeit macht sie für Perplexitäts-Filter deutlich schwerer erkennbar als GCG-Suffixe.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind GCG-Suffix, Perplexitäts-Filter, Jailbreak.
Wo der Begriff auftaucht
- GCG-Suffix-Angriff — Gradientenbasiertes Verfahren, das automatisch eine scheinbar sinnlose Zeichenkette berechnet, die an beliebige Anfragen angehängt die Verweigerung…
- AutoDAN — Verfahren, das mit einem genetischen Algorithmus Jailbreak-Prompts erzeugt, die im Gegensatz zu GCG-Suffixen sprachlich unauffällig und damit für…
- PAIR (iterative Prompt-Verfeinerung) — Ein angreifendes Sprachmodell verfeinert seinen Prompt anhand der Antworten des Zielmodells — die Autoren berichten Jailbreaks häufig in unter…
Verwandte Begriffe
- GCG-Suffix — Ein GCG-Suffix ist eine automatisch berechnete, meist sinnlos wirkende Zeichenfolge, die an eine Anfrage angehängt deren…
- Perplexitäts-Filter — Ein Perplexitäts-Filter verwirft Eingaben, deren statistische Unwahrscheinlichkeit auf maschinell optimierten Text hindeutet. Er…
- Jailbreak — Ein Jailbreak ist der Versuch, die Sicherheitsregeln eines Modells auszuhebeln, damit es Inhalte erzeugt, die es normalerweise…
Quellen
- AutoDAN — Beleg: https://arxiv.org/abs/2310.04451