prompt injections.de
Technik · Jailbreak

Skeleton Key

Von Microsoft dokumentierte Technik, bei der das Modell nicht zum Regelbruch überredet, sondern gebeten wird, seine Regeln zu „ergänzen": Es soll künftig alles beantworten und lediglich eine Warnung voranstellen.

Englischer Begriff
Skeleton Key
Kategorie
Jailbreak
Risiko
Risiko hoch
OWASP-Bezug
LLM01 — Prompt Injection
Primärquelle
microsoft.com

Skeleton Key gehört zur Kategorie Jailbreak und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM01: Prompt Injection.

Funktionsweise

  • Der Angreifer rahmt die Anfrage als Kontext-Erweiterung (z. B. Forschung, Sicherheitsprüfung).
  • Statt einer Verweigerung wird eine Warnhinweis-Antwort als neues Verhalten verhandelt.
  • Nach erfolgreicher Verhandlung gilt die neue Regel für den weiteren Gesprächsverlauf.

Risiko

Risiko hoch Die praktische Gefährdung produktiver Systeme wird für diese Technik als hoch eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM01 — Prompt Injection.

Schutz

Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:

  • Ein- und ausgehende Inhalte durch dedizierte Klassifikatoren prüfen (z. B. Prompt Shields).
  • Systemseitig verankern, dass Regeln nicht im Dialog verhandelbar sind.
  • Abuse-Monitoring auf Verhandlungsmuster über mehrere Turns.

Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.

Verwandte Techniken

  • Jailbreak

    Policy Puppetry

    Von HiddenLayer 2025 veröffentlichte Technik: Der Angriffs-Prompt wird als strukturierte Richtliniendatei (XML, JSON, INI) formuliert, die das Modell als interne Konfiguration statt als Nutzereingabe interpretiert.

    Risiko hoch
  • Jailbreak

    Verweigerungs-Unterdrückung

    Dem Modell wird untersagt, typische Ablehnungsformeln zu verwenden („sage niemals ‚Ich kann nicht'") — der sprachliche Ausweg für eine Verweigerung wird ihm damit genommen.

    Risiko mittel
  • Mehrstufiger Angriff

    Crescendo

    Von Microsoft beschriebener Mehrschritt-Angriff: Das Gespräch beginnt harmlos und steigert sich in kleinen, jeweils plausiblen Schritten, bis das Modell den ursprünglich abgelehnten Inhalt liefert.

    Risiko hoch

Quellen

  1. Skeleton Key — Primärquelle: https://www.microsoft.com/en-us/security/blog/2024/06/26/mitigating-skeleton-key-a-new-type-of-generative-ai-jailbreak-technique/

Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).

Im Zusammenhang