prompt injections.de
Glossar

RAG-Vergiftung

Bei der RAG-Vergiftung werden präparierte Dokumente so gestaltet, dass sie für bestimmte Fragen zuverlässig abgerufen werden und dort ihre Anweisungen oder Falschinformationen ausspielen. Schon sehr wenige eingeschleuste Dokumente genügen für hohe Erfolgsquoten.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind RAG (Retrieval-Augmented Generation), Gespeicherte Prompt Injection, Datenvergiftung.

Verwandte Begriffe

  • RAG (Retrieval-Augmented Generation) — RAG erweitert ein Sprachmodell um eine Suchkomponente, die zur Anfrage passende Dokumente abruft und in den Kontext stellt…
  • Gespeicherte Prompt Injection — Bei der gespeicherten Prompt Injection liegt der Payload dauerhaft in einem Datenspeicher und wirkt bei jedem erneuten Abruf…
  • Datenvergiftung — Datenvergiftung manipuliert Trainings-, Feintuning- oder Wissensdaten, um Verhalten oder Hintertüren in ein Modell einzubauen…

Quellen

  1. RAG-Vergiftung — Beleg: https://arxiv.org/abs/2402.07867

Im Zusammenhang