Glossar
DAN
DAN steht für „Do Anything Now" und bezeichnet die bekannteste Familie von Community-Jailbreak-Prompts, die dem Modell eine regelfreie Zweitpersönlichkeit zuschreiben. Die Varianten zirkulieren öffentlich und werden laufend an neue Modellversionen angepasst.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Jailbreak, Rollenspiel-Jailbreak, Prompt Injection.
Verwandte Begriffe
- Jailbreak — Ein Jailbreak ist der Versuch, die Sicherheitsregeln eines Modells auszuhebeln, damit es Inhalte erzeugt, die es normalerweise…
- Rollenspiel-Jailbreak — Beim Rollenspiel-Jailbreak nimmt das Modell eine fiktive Rolle ein, für die die üblichen Regeln angeblich nicht gelten. Die…
- Prompt Injection — Prompt Injection bezeichnet einen Angriff, bei dem eingeschleuster Text das Verhalten eines Sprachmodells entgegen der Absicht…
Quellen
- DAN — Beleg: https://arxiv.org/abs/2308.03825