prompt injections.de
Glossar

Benchmark

Ein Sicherheits-Benchmark misst die Widerstandsfähigkeit eines Systems anhand eines festgelegten Angriffs- und Aufgabensatzes. Für Agenten gehören AgentDojo und InjecAgent zu den etablierten Referenzen.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Angriffserfolgsquote (ASR), Red Teaming, KI-Agent.

Verwandte Begriffe

  • Angriffserfolgsquote (ASR) — Die Angriffserfolgsquote gibt an, welcher Anteil der Angriffsversuche das gewünschte Ergebnis erzielt. Sie ist die zentrale…
  • Red Teaming — Red Teaming ist das systematische Angreifen des eigenen Systems, um Schwachstellen vor Dritten zu finden. Bei KI-Systemen…
  • KI-Agent — Ein KI-Agent ist ein System, das ein Sprachmodell mit Werkzeugen und einer Handlungsschleife verbindet, um Aufgaben eigenständig…

Quellen

  1. Benchmark — Beleg: https://arxiv.org/abs/2406.13352

Im Zusammenhang