prompt injections.de
Glossar

Datenvergiftung

Datenvergiftung manipuliert Trainings-, Feintuning- oder Wissensdaten, um Verhalten oder Hintertüren in ein Modell einzubauen. Die Manipulation sitzt anschließend im Modell selbst und überlebt Filter und Neustarts.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Backdoor (Sleeper Agent), RAG-Vergiftung, Lieferkette (Supply Chain).

Verwandte Begriffe

  • Backdoor (Sleeper Agent) — Eine Backdoor ist ein im Training eingebautes Verhalten, das nur bei einem bestimmten Auslöser aktiv wird. Anthropic zeigte…
  • RAG-Vergiftung — Bei der RAG-Vergiftung werden präparierte Dokumente so gestaltet, dass sie für bestimmte Fragen zuverlässig abgerufen werden und…
  • Lieferkette (Supply Chain) — Die KI-Lieferkette umfasst alle fremden Bestandteile einer Anwendung: Modelle, Adapter, Datensätze, Bibliotheken und…

Quellen

  1. Datenvergiftung — Beleg: https://genai.owasp.org/llmrisk/llm042025-data-and-model-poisoning/

Im Zusammenhang