prompt injections.de
Modell · Anthropic

Claude 3.5 Sonnet / Claude 3.7 Sonnet

Für Claude 3.5 Sonnet / Claude 3.7 Sonnet von Anthropic sind öffentlich 3 Befunde zu Prompt Injection und verwandten Angriffen dokumentiert. Der Eintrag fasst sie mit Quelle zusammen — es sind keine eigenen Messungen dieses Portals, sondern belegte Fremdbefunde zum jeweiligen Untersuchungszeitpunkt.

Anbieter
Anthropic
Modellfamilie
Claude
Stand der Angaben
2026-08-03
Primärquelle
embracethered.com

Momentaufnahme. Anbieter bessern laufend nach. Ein hier dokumentierter Befund muss für die heute ausgelieferte Modellversion nicht mehr gelten. Umgekehrt gilt Prompt Injection bislang bei keinem Modell als grundsätzlich gelöst — die Absicherung gehört in die Anwendung, nicht in die Modellauswahl.

Dokumentierte Schwächen

  • HiddenLayer führt Claude 3.5 und 3.7 unter den Modellen, gegen die Policy Puppetry wirkte.
  • Über ASCII Smuggling ließen sich für Nutzer unsichtbare Anweisungen einschleusen.
  • Anthropic setzt mit Constitutional Classifiers eine externe Prüfschicht dagegen — ein Beleg dafür, dass Alignment allein nicht ausreicht.

Was das für Betreiber bedeutet

Die Auswahl eines robusteren Modells senkt die Erfolgsquote einfacher Angriffe, ersetzt aber keine Architektur. Wirksam bleiben die Maßnahmen aus OWASP LLM01: Rechte nach dem Least-Privilege-Prinzip vergeben, Ausgabeformate erzwingen und prüfen, Fremdinhalte klar von Anweisungen trennen (Spotlighting) und riskante Aktionen von einer menschlichen Freigabe abhängig machen.

Betroffene Techniken

  • Jailbreak

    Policy Puppetry

    Von HiddenLayer 2025 veröffentlichte Technik: Der Angriffs-Prompt wird als strukturierte Richtliniendatei (XML, JSON, INI) formuliert, die das Modell als interne Konfiguration statt als Nutzereingabe interpretiert.

    Risiko hoch
  • Obfuskation

    ASCII Smuggling (unsichtbare Unicode-Tags)

    Anweisungen werden in Unicode-Tag-Zeichen kodiert, die in Oberflächen unsichtbar bleiben, vom Modell aber als Text gelesen werden — der Mensch sieht nichts, das Modell folgt.

    Risiko hoch

Quellen

  1. Claude 3.5 Sonnet / Claude 3.7 Sonnet — dokumentierter Befund: https://embracethered.com/blog/posts/2024/claude-hidden-prompt-injection-ascii-smuggling/

Momentaufnahme: Die aufgeführten Schwächen beziehen sich auf den jeweils genannten Untersuchungszeitpunkt. Anbieter bessern laufend nach — ein hier dokumentierter Befund muss für die heutige Modellversion nicht mehr gelten. Prompt Injection gilt bislang bei keinem Modell als grundsätzlich gelöst.

Im Zusammenhang