prompt injections.de
Glossar

Obfuskation

Obfuskation verschleiert einen Angriffs-Payload so, dass Filter ihn nicht erkennen, das Modell ihn aber weiterhin versteht. Typische Mittel sind Kodierungen, Chiffren, ASCII-Art und unsichtbare Unicode-Zeichen.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Unicode-Tag-Zeichen, Homoglyph, Payload.

Verwandte Begriffe

  • Unicode-Tag-Zeichen — Unicode-Tag-Zeichen bilden einen Zeichenblock, der ASCII spiegelt, in Oberflächen aber meist nicht dargestellt wird. Damit…
  • Homoglyph — Ein Homoglyph ist ein Zeichen, das einem anderen optisch gleicht, aber einen anderen Codepunkt hat — etwa kyrillisches „а" statt…
  • Payload — Als Payload bezeichnet man den eigentlichen Schadanteil eines Angriffs — bei Prompt Injection der eingeschleuste Anweisungstext…

Quellen

  1. Obfuskation — Beleg: https://arxiv.org/abs/2307.02483

Im Zusammenhang