Glossar
Canary-Token
Ein Canary-Token ist eine eindeutige Zeichenfolge, die verdeckt in den System-Prompt eingebettet wird. Taucht sie in einer Ausgabe auf, ist ein Prompt-Leck nachgewiesen — ein einfaches, wirksames Frühwarnsignal.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Prompt Leaking, System-Prompt, Guardrail.
Verwandte Begriffe
- Prompt Leaking — Prompt Leaking ist die Offenlegung des verborgenen System-Prompts einer Anwendung. Der erbeutete Text macht Folgeangriffe…
- System-Prompt — Der System-Prompt ist die vom Betreiber gesetzte Grundanweisung, die Rolle, Regeln und Aufgabenrahmen des Modells festlegt. Er…
- Guardrail — Ein Guardrail ist eine Schutzschicht außerhalb des Modells, die Ein- und Ausgaben prüft, filtert oder blockiert. Guardrails sind…
Quellen
- Canary-Token — Beleg: https://github.com/protectai/rebuff