LLM05: Unsichere Verarbeitung von Ausgaben
Ausgaben des Modells werden ungeprüft an nachgelagerte Systeme weitergereicht — als HTML gerendert, als Datenbankabfrage abgesetzt oder als Befehl ausgeführt.
- OWASP-Kennung
- LLM05
- Englischer Titel
- Improper Output Handling
- Fassung
- 2025 (OWASP Gen AI Security Project)
- Primärquelle
- genai.owasp.org
LLM05 ist ein Eintrag der OWASP Top 10 für LLM-Anwendungen, der maßgeblichen Referenzliste für Sicherheitsrisiken in Systemen mit großen Sprachmodellen. Auf Platz eins steht Prompt Injection; die übrigen Risiken stehen damit meist in direktem Zusammenhang.
Warum das Risiko kritisch ist
Damit wird eine Prompt Injection zu einer klassischen Schwachstelle: XSS, SQL-Injection oder Codeausführung.
Typische Ausprägungen
- Markdown- oder HTML-Ausgabe ohne Escaping
- Direkt ausgeführte SQL- oder Shell-Befehle
- Ungeprüfter Code in Entwicklungsassistenten
Gegenmaßnahmen
- Modellausgaben wie Nutzereingaben behandeln: validieren, escapen, parametrisieren
- Strenge Schema-Validierung vor jeder Weiterverarbeitung
- Ausführung ausschließlich in Sandbox-Umgebungen
Die Umsetzung im Detail behandelt der Bereich Schutz vor Prompt Injection.
Techniken, die auf dieses Risiko einzahlen
-
Code-Injektion über LLM-Ausgaben
Die Ausgabe des Modells wird ungeprüft weiterverarbeitet — als HTML gerendert, als SQL abgesetzt, als Shell-Befehl ausgeführt. Eine Injektion wird damit zu klassischer Codeausführung.
Risiko hoch -
Datenabfluss über Markdown-Bilder
Das Modell wird veranlasst, ein Bild einzubetten, dessen URL die zu stehlenden Daten als Parameter enthält. Das Rendern der Antwort löst den Abruf aus und schickt die Daten an den Angreifer.
Risiko hoch
Häufige Fragen
Was besagt LLM05 der OWASP LLM Top 10?
Ausgaben des Modells werden ungeprüft an nachgelagerte Systeme weitergereicht — als HTML gerendert, als Datenbankabfrage abgesetzt oder als Befehl ausgeführt.
Warum ist Unsichere Verarbeitung von Ausgaben kritisch?
Damit wird eine Prompt Injection zu einer klassischen Schwachstelle: XSS, SQL-Injection oder Codeausführung.
Wie schützt man sich vor Unsichere Verarbeitung von Ausgaben?
Modellausgaben wie Nutzereingaben behandeln: validieren, escapen, parametrisieren Strenge Schema-Validierung vor jeder Weiterverarbeitung Ausführung ausschließlich in Sandbox-Umgebungen
Quellen
- OWASP LLM05 — Improper Output Handling: https://genai.owasp.org/llmrisk/llm052025-improper-output-handling/
- OWASP Top 10 für LLM-Anwendungen 2025 (PDF): https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-v2025.pdf
Die OWASP-Inhalte stehen unter Creative-Commons-Lizenz. Die deutschen Zusammenfassungen auf diesem Portal sind eigene Formulierungen, keine autorisierte Übersetzung.