prompt injections.de
Glossar

Unicode-Tag-Zeichen

Unicode-Tag-Zeichen bilden einen Zeichenblock, der ASCII spiegelt, in Oberflächen aber meist nicht dargestellt wird. Damit lassen sich Anweisungen für Menschen unsichtbar in Text einbetten, die Modelle dennoch lesen.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Obfuskation, Homoglyph, Indirekte Prompt Injection.

Verwandte Begriffe

  • Obfuskation — Obfuskation verschleiert einen Angriffs-Payload so, dass Filter ihn nicht erkennen, das Modell ihn aber weiterhin versteht…
  • Homoglyph — Ein Homoglyph ist ein Zeichen, das einem anderen optisch gleicht, aber einen anderen Codepunkt hat — etwa kyrillisches „а" statt…
  • Indirekte Prompt Injection — Bei der indirekten Prompt Injection stammt die Anweisung aus Inhalten, die das System selbst abruft — Webseiten, Dokumenten…

Quellen

  1. Unicode-Tag-Zeichen — Beleg: https://embracethered.com/blog/posts/2024/hiding-and-finding-text-with-unicode-tags/

Im Zusammenhang