LLM08: Schwächen in Vektoren und Einbettungen
Risiken aus RAG-Architekturen: manipulierte Einbettungen, fehlende Mandantentrennung in Vektordatenbanken und Rückschlüsse auf indexierte Inhalte.
- OWASP-Kennung
- LLM08
- Englischer Titel
- Vector and Embedding Weaknesses
- Fassung
- 2025 (OWASP Gen AI Security Project)
- Primärquelle
- genai.owasp.org
LLM08 ist ein Eintrag der OWASP Top 10 für LLM-Anwendungen, der maßgeblichen Referenzliste für Sicherheitsrisiken in Systemen mit großen Sprachmodellen. Auf Platz eins steht Prompt Injection; die übrigen Risiken stehen damit meist in direktem Zusammenhang.
Warum das Risiko kritisch ist
Die Vektordatenbank ist ein Anweisungskanal in den Modellkontext — mit oft schwächeren Rechteprüfungen als das Quellsystem.
Typische Ausprägungen
- Vergiftete Dokumente, die gezielt zu bestimmten Fragen abgerufen werden
- Fehlende Mandanten- und Rechtetrennung im Index
- Rückschlüsse auf vertrauliche Inhalte über Ähnlichkeitsabfragen
Gegenmaßnahmen
- Zugriffsrechte bis auf Chunk-Ebene durchsetzen
- Nur kuratierte Quellen indexieren, Herkunft mitführen
- Abgerufene Passagen vor der Übergabe an das Modell prüfen
Die Umsetzung im Detail behandelt der Bereich Schutz vor Prompt Injection.
Techniken, die auf dieses Risiko einzahlen
-
RAG-Vergiftung
Präparierte Dokumente werden so gestaltet, dass sie für bestimmte Nutzerfragen sicher in die Top-Treffer der Vektorsuche gelangen und dort ihre Anweisungen ausspielen.
Risiko hoch -
Gespeicherte Prompt Injection
Die Anweisung wird dauerhaft in einem Datenspeicher abgelegt — Vektordatenbank, Wissensbasis, Profilfeld — und wirkt bei jedem künftigen Abruf erneut, auch auf andere Nutzer.
Risiko hoch
Häufige Fragen
Was besagt LLM08 der OWASP LLM Top 10?
Risiken aus RAG-Architekturen: manipulierte Einbettungen, fehlende Mandantentrennung in Vektordatenbanken und Rückschlüsse auf indexierte Inhalte.
Warum ist Schwächen in Vektoren und Einbettungen kritisch?
Die Vektordatenbank ist ein Anweisungskanal in den Modellkontext — mit oft schwächeren Rechteprüfungen als das Quellsystem.
Wie schützt man sich vor Schwächen in Vektoren und Einbettungen?
Zugriffsrechte bis auf Chunk-Ebene durchsetzen Nur kuratierte Quellen indexieren, Herkunft mitführen Abgerufene Passagen vor der Übergabe an das Modell prüfen
Quellen
- OWASP LLM08 — Vector and Embedding Weaknesses: https://genai.owasp.org/llmrisk/llm082025-vector-and-embedding-weaknesses/
- OWASP Top 10 für LLM-Anwendungen 2025 (PDF): https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-v2025.pdf
Die OWASP-Inhalte stehen unter Creative-Commons-Lizenz. Die deutschen Zusammenfassungen auf diesem Portal sind eigene Formulierungen, keine autorisierte Übersetzung.