Glossar
Angriffserfolgsquote (ASR)
Die Angriffserfolgsquote gibt an, welcher Anteil der Angriffsversuche das gewünschte Ergebnis erzielt. Sie ist die zentrale Vergleichsgröße in der Jailbreak-Forschung, hängt aber stark vom verwendeten Testdatensatz ab.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Benchmark, Red Teaming.
Verwandte Begriffe
- Benchmark — Ein Sicherheits-Benchmark misst die Widerstandsfähigkeit eines Systems anhand eines festgelegten Angriffs- und Aufgabensatzes…
- Red Teaming — Red Teaming ist das systematische Angreifen des eigenen Systems, um Schwachstellen vor Dritten zu finden. Bei KI-Systemen…
Quellen
- Angriffserfolgsquote (ASR) — Beleg: https://arxiv.org/abs/2402.05668