Glossar
GCG-Suffix
Ein GCG-Suffix ist eine automatisch berechnete, meist sinnlos wirkende Zeichenfolge, die an eine Anfrage angehängt deren Ablehnung aushebelt. Solche Suffixe sind auf andere Modelle übertragbar, lassen sich aber durch Perplexitäts-Filter gut erkennen.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Adversariale Eingabe, Perplexitäts-Filter, AutoDAN.
Verwandte Begriffe
- Adversariale Eingabe — Eine adversariale Eingabe ist gezielt so konstruiert, dass ein Modell fehlerhaft oder regelwidrig reagiert. Bei Sprachmodellen…
- Perplexitäts-Filter — Ein Perplexitäts-Filter verwirft Eingaben, deren statistische Unwahrscheinlichkeit auf maschinell optimierten Text hindeutet. Er…
- AutoDAN — AutoDAN erzeugt mit einem genetischen Algorithmus Jailbreak-Prompts, die sprachlich unauffällig bleiben. Gerade diese Lesbarkeit…
Quellen
- GCG-Suffix — Beleg: https://arxiv.org/abs/2307.15043