prompt injections.de
Technik · Jailbreak

DAN („Do Anything Now")

Die bekannteste Familie von Community-Jailbreak-Prompts: Das Modell soll eine entfesselte Zweitpersönlichkeit annehmen, die „alles darf" — häufig verstärkt durch ein fiktives Punkte- oder Strafsystem.

Englischer Begriff
DAN (Do Anything Now)
Kategorie
Jailbreak
Risiko
Risiko mittel
OWASP-Bezug
LLM01 — Prompt Injection
Primärquelle
arxiv.org

DAN („Do Anything Now") (englisch „DAN (Do Anything Now)") gehört zur Kategorie Jailbreak und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM01: Prompt Injection.

Funktionsweise

  • Eine ausführliche Persona-Beschreibung erklärt die Sicherheitsregeln für die Zweitpersönlichkeit für ungültig.
  • Doppelantworten („normal" und „als DAN") normalisieren den Regelbruch.
  • Die Prompts zirkulieren öffentlich und werden laufend an neue Modellversionen angepasst.

Risiko

Risiko mittel Die praktische Gefährdung produktiver Systeme wird für diese Technik als mittel eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM01 — Prompt Injection.

Schutz

Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:

  • Bekannte DAN-Varianten als Signatur im Eingabe-Scanner führen — jedoch nie als alleinigen Schutz.
  • Ausgabeseitige Klassifikatoren statt reiner Eingabefilter.
  • Modell-Updates einspielen, da Anbieter bekannte Varianten gezielt nachtrainieren.

Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.

Verwandte Techniken

  • Jailbreak

    Rollenspiel-Persona

    Das Modell wird gebeten, eine fiktive Rolle einzunehmen, für die die üblichen Regeln angeblich nicht gelten — die Fiktion dient als Vorwand für regelwidrige Ausgaben.

    Risiko mittel
  • Jailbreak

    Skeleton Key

    Von Microsoft dokumentierte Technik, bei der das Modell nicht zum Regelbruch überredet, sondern gebeten wird, seine Regeln zu „ergänzen": Es soll künftig alles beantworten und lediglich eine Warnung voranstellen.

    Risiko hoch
  • Jailbreak

    Policy Puppetry

    Von HiddenLayer 2025 veröffentlichte Technik: Der Angriffs-Prompt wird als strukturierte Richtliniendatei (XML, JSON, INI) formuliert, die das Modell als interne Konfiguration statt als Nutzereingabe interpretiert.

    Risiko hoch

Quellen

  1. DAN („Do Anything Now") — Primärquelle: https://arxiv.org/abs/2308.03825

Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).

Im Zusammenhang