Datenabfluss über Markdown-Bilder
Das Modell wird veranlasst, ein Bild einzubetten, dessen URL die zu stehlenden Daten als Parameter enthält. Das Rendern der Antwort löst den Abruf aus und schickt die Daten an den Angreifer.
- Englischer Begriff
- Markdown Image Exfiltration
- Kategorie
- Datenabfluss
- Risiko
- Risiko hoch
- OWASP-Bezug
- LLM02 — Offenlegung sensibler Informationen
- Primärquelle
- embracethered.com
Datenabfluss über Markdown-Bilder (englisch „Markdown Image Exfiltration") gehört zur Kategorie Datenabfluss und ist eine der dokumentierten Techniken der Prompt Injection gegen Sprachmodelle. Der Eintrag beschreibt das Wirkprinzip, damit Betreiber ihre Systeme prüfen und absichern können; eine Übersicht aller Verfahren steht im Techniken-Verzeichnis. Im Risikokatalog OWASP LLM Top 10 fällt die Technik unter LLM02: Offenlegung sensibler Informationen.
Funktionsweise
- Die injizierte Anweisung verlangt eine Bild-Referenz mit dynamischer URL.
- Vertrauliche Kontextdaten werden in den URL-Pfad kodiert.
- Der Client lädt das Bild automatisch — kein Klick des Nutzers nötig.
Risiko
Risiko hoch Die praktische Gefährdung produktiver Systeme wird für diese Technik als hoch eingestuft. Maßgeblich dafür sind die Rechte der betroffenen Anwendung: Je mehr eine LLM-Anwendung lesen, senden oder ausführen darf, desto größer ist der Schaden, den eine einzelne eingeschleuste Anweisung anrichten kann. OWASP führt den zugehörigen Risikobereich als LLM02 — Offenlegung sensibler Informationen.
Schutz
Keine Einzelmaßnahme verhindert diese Technik vollständig. Wirksam ist gestaffelte Absicherung, bei der jede Schicht davon ausgeht, dass die vorherige versagt:
- Content-Security-Policy: Bildquellen auf eigene Domains beschränken.
- Markdown-Bilder aus Modellausgaben nicht automatisch rendern.
- Ausgehende URLs auf kodierte Nutzdaten prüfen.
Ausführlich behandelt der Bereich Schutz vor Prompt Injection die einzelnen Maßnahmen; passende Werkzeuge listet das Werkzeug-Verzeichnis.
Verwandte Techniken
-
Datenabfluss über präparierte Links
Die Antwort des Assistenten enthält einen scheinbar hilfreichen Link, in dessen Parametern vertrauliche Daten stecken — ein Klick des Nutzers genügt für den Abfluss.
Risiko hoch -
Zero-Click-Injektion
Angriffsklasse, die ganz ohne Zutun des Opfers auskommt: Das Zustellen eines Inhalts in ein vom Assistenten durchsuchtes System genügt, um Injektion und Datenabfluss auszulösen.
Risiko hoch -
Injektion über E-Mail
Eine präparierte E-Mail genügt: Sobald ein Assistent das Postfach durchsucht oder zusammenfasst, gelangen die eingebetteten Anweisungen in seinen Kontext — ohne dass der Nutzer die Mail öffnen muss.
Risiko hoch
Quellen
- Datenabfluss über Markdown-Bilder — Primärquelle: https://embracethered.com/blog/posts/2023/data-exfiltration-in-azure-openai-playground-fixed/
Dieser Eintrag erklärt das Prinzip zu Verteidigungszwecken. Er enthält bewusst keine einsatzfertigen Angriffs-Payloads gegen konkrete Systeme (siehe redaktionelle Grundsätze).