prompt injections.de
Glossar

Halluzination

Als Halluzination bezeichnet man eine sachlich falsche, aber sprachlich überzeugend formulierte Ausgabe eines Sprachmodells. Sie ist kein Angriff, sondern eine Eigenschaft des Verfahrens — und wird in den OWASP LLM Top 10 als eigenes Risiko geführt.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind OWASP LLM Top 10, RAG (Retrieval-Augmented Generation), LLM-as-a-Judge.

Verwandte Begriffe

  • OWASP LLM Top 10 — Die OWASP Top 10 für LLM-Anwendungen sind die maßgebliche Referenzliste der häufigsten Sicherheitsrisiken generativer…
  • RAG (Retrieval-Augmented Generation) — RAG erweitert ein Sprachmodell um eine Suchkomponente, die zur Anfrage passende Dokumente abruft und in den Kontext stellt…
  • LLM-as-a-Judge — Bei LLM-as-a-Judge bewertet ein Sprachmodell die Ausgaben eines anderen Modells. Das Verfahren ist in Evaluation und Guardrails…

Quellen

  1. Halluzination — Beleg: https://genai.owasp.org/llmrisk/llm092025-misinformation/

Im Zusammenhang