LLM07: Preisgabe des System-Prompts
Der System-Prompt wird offengelegt — problematisch vor allem dann, wenn er Zugangsdaten, interne Regeln oder Geschäftslogik enthält, die als Sicherheitsmechanismus gedacht waren.
- OWASP-Kennung
- LLM07
- Englischer Titel
- System Prompt Leakage
- Fassung
- 2025 (OWASP Gen AI Security Project)
- Primärquelle
- genai.owasp.org
LLM07 ist ein Eintrag der OWASP Top 10 für LLM-Anwendungen, der maßgeblichen Referenzliste für Sicherheitsrisiken in Systemen mit großen Sprachmodellen. Auf Platz eins steht Prompt Injection; die übrigen Risiken stehen damit meist in direktem Zusammenhang.
Warum das Risiko kritisch ist
Der System-Prompt ist kein sicherer Speicher. Wer ihn kennt, umgeht die Anwendungslogik gezielt.
Typische Ausprägungen
- Direkte Aufforderung zur Wiedergabe der Anweisungen
- Umwegabfrage über Übersetzung oder Formatwechsel
- Schrittweise Rekonstruktion über mehrere Anfragen
Gegenmaßnahmen
- Keine Geheimnisse im System-Prompt speichern
- Zugriffskontrolle außerhalb des Modells durchsetzen
- System-Prompt als vertraulich, aber nicht als Schutzmaßnahme behandeln
Die Umsetzung im Detail behandelt der Bereich Schutz vor Prompt Injection.
Techniken, die auf dieses Risiko einzahlen
-
System-Prompt-Auslesen
Angriff mit dem Ziel, den verborgenen System-Prompt einer Anwendung offenzulegen — samt Regeln, Rollenbeschreibung und teils eingebetteten Geschäftsgeheimnissen.
Risiko mittel -
Anweisungen-ignorieren-Angriff
Der klassische Einstieg in die Prompt Injection: Der Angreifer schreibt in die Nutzereingabe eine Anweisung, die dem Modell befiehlt, seine bisherigen Vorgaben zu verwerfen und stattdessen der neuen Anweisung zu folgen.
Risiko hoch
Häufige Fragen
Was besagt LLM07 der OWASP LLM Top 10?
Der System-Prompt wird offengelegt — problematisch vor allem dann, wenn er Zugangsdaten, interne Regeln oder Geschäftslogik enthält, die als Sicherheitsmechanismus gedacht waren.
Warum ist Preisgabe des System-Prompts kritisch?
Der System-Prompt ist kein sicherer Speicher. Wer ihn kennt, umgeht die Anwendungslogik gezielt.
Wie schützt man sich vor Preisgabe des System-Prompts?
Keine Geheimnisse im System-Prompt speichern Zugriffskontrolle außerhalb des Modells durchsetzen System-Prompt als vertraulich, aber nicht als Schutzmaßnahme behandeln
Quellen
- OWASP LLM07 — System Prompt Leakage: https://genai.owasp.org/llmrisk/llm072025-system-prompt-leakage/
- OWASP Top 10 für LLM-Anwendungen 2025 (PDF): https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-v2025.pdf
Die OWASP-Inhalte stehen unter Creative-Commons-Lizenz. Die deutschen Zusammenfassungen auf diesem Portal sind eigene Formulierungen, keine autorisierte Übersetzung.