prompt injections.de
Glossar

RAG (Retrieval-Augmented Generation)

RAG erweitert ein Sprachmodell um eine Suchkomponente, die zur Anfrage passende Dokumente abruft und in den Kontext stellt. Genau dieser Abrufkanal ist zugleich der wichtigste Weg für indirekte Prompt Injection.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Retriever, Vektordatenbank, Indirekte Prompt Injection.

Verwandte Begriffe

  • Retriever — Der Retriever ist die Komponente eines RAG-Systems, die zu einer Anfrage die passendsten Dokumente aus einem Index auswählt. Wer…
  • Vektordatenbank — Eine Vektordatenbank speichert Texte als numerische Einbettungen und findet inhaltlich ähnliche Passagen über Abstandsmaße. Ohne…
  • Indirekte Prompt Injection — Bei der indirekten Prompt Injection stammt die Anweisung aus Inhalten, die das System selbst abruft — Webseiten, Dokumenten…
  • RAG-Vergiftung — Bei der RAG-Vergiftung werden präparierte Dokumente so gestaltet, dass sie für bestimmte Fragen zuverlässig abgerufen werden und…

Quellen

  1. RAG (Retrieval-Augmented Generation) — Beleg: https://arxiv.org/abs/2005.11401

Im Zusammenhang