LLM10: Unbegrenzter Ressourcenverbrauch
Unkontrollierte Nutzung führt zu Überlastung, ausufernden Kosten oder ermöglicht das schrittweise Nachbilden des Modells über massenhafte Abfragen.
- OWASP-Kennung
- LLM10
- Englischer Titel
- Unbounded Consumption
- Fassung
- 2025 (OWASP Gen AI Security Project)
- Primärquelle
- genai.owasp.org
LLM10 ist ein Eintrag der OWASP Top 10 für LLM-Anwendungen, der maßgeblichen Referenzliste für Sicherheitsrisiken in Systemen mit großen Sprachmodellen. Auf Platz eins steht Prompt Injection; die übrigen Risiken stehen damit meist in direktem Zusammenhang.
Warum das Risiko kritisch ist
Anders als klassische Denial-of-Service-Angriffe entsteht hier direkter finanzieller Schaden pro Anfrage.
Typische Ausprägungen
- Kostenexplosion durch massenhafte oder sehr lange Anfragen
- Modell-Extraktion über systematische Abfragen
- Endlosschleifen in agentischen Systemen
Gegenmaßnahmen
- Rate-Limits, Kontingente und Kostenobergrenzen je Konto
- Eingabelänge und Antwortlänge begrenzen
- Schrittbudgets und Abbruchbedingungen für Agenten
Die Umsetzung im Detail behandelt der Bereich Schutz vor Prompt Injection.
Techniken, die auf dieses Risiko einzahlen
-
Best-of-N-Jailbreaking
Ein Black-Box-Verfahren, das dieselbe Anfrage in vielen zufällig variierten Schreibweisen stellt, bis eine Variante die Schutzmechanismen passiert — auch für Bild und Audio anwendbar.
Risiko hoch -
Kontext-Überflutung
Der Angreifer füllt das Kontextfenster mit sehr viel Text, sodass die eigentlichen Sicherheitsanweisungen an Gewicht verlieren oder aus dem Kontext gedrängt werden.
Risiko mittel
Häufige Fragen
Was besagt LLM10 der OWASP LLM Top 10?
Unkontrollierte Nutzung führt zu Überlastung, ausufernden Kosten oder ermöglicht das schrittweise Nachbilden des Modells über massenhafte Abfragen.
Warum ist Unbegrenzter Ressourcenverbrauch kritisch?
Anders als klassische Denial-of-Service-Angriffe entsteht hier direkter finanzieller Schaden pro Anfrage.
Wie schützt man sich vor Unbegrenzter Ressourcenverbrauch?
Rate-Limits, Kontingente und Kostenobergrenzen je Konto Eingabelänge und Antwortlänge begrenzen Schrittbudgets und Abbruchbedingungen für Agenten
Quellen
- OWASP LLM10 — Unbounded Consumption: https://genai.owasp.org/llmrisk/llm102025-unbounded-consumption/
- OWASP Top 10 für LLM-Anwendungen 2025 (PDF): https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-v2025.pdf
Die OWASP-Inhalte stehen unter Creative-Commons-Lizenz. Die deutschen Zusammenfassungen auf diesem Portal sind eigene Formulierungen, keine autorisierte Übersetzung.