Glossar
Perplexitäts-Filter
Ein Perplexitäts-Filter verwirft Eingaben, deren statistische Unwahrscheinlichkeit auf maschinell optimierten Text hindeutet. Er wirkt gut gegen GCG-Suffixe und praktisch nicht gegen sprachlich flüssige Angriffe.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind GCG-Suffix, AutoDAN, Guardrail.
Verwandte Begriffe
- GCG-Suffix — Ein GCG-Suffix ist eine automatisch berechnete, meist sinnlos wirkende Zeichenfolge, die an eine Anfrage angehängt deren…
- AutoDAN — AutoDAN erzeugt mit einem genetischen Algorithmus Jailbreak-Prompts, die sprachlich unauffällig bleiben. Gerade diese Lesbarkeit…
- Guardrail — Ein Guardrail ist eine Schutzschicht außerhalb des Modells, die Ein- und Ausgaben prüft, filtert oder blockiert. Guardrails sind…
Quellen
- Perplexitäts-Filter — Beleg: https://arxiv.org/abs/2309.00614