prompt injections.de
Glossar

Prompt Injection

Prompt Injection bezeichnet einen Angriff, bei dem eingeschleuster Text das Verhalten eines Sprachmodells entgegen der Absicht des Betreibers verändert. Ursache ist, dass Anweisungen und Daten im Kontextfenster technisch nicht voneinander getrennt sind.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Direkte Prompt Injection, Indirekte Prompt Injection, Jailbreak.

Verwandte Begriffe

  • Direkte Prompt Injection — Bei der direkten Prompt Injection schreibt der Angreifer die schädliche Anweisung selbst in das Eingabefeld der Anwendung. Sie…
  • Indirekte Prompt Injection — Bei der indirekten Prompt Injection stammt die Anweisung aus Inhalten, die das System selbst abruft — Webseiten, Dokumenten…
  • Jailbreak — Ein Jailbreak ist der Versuch, die Sicherheitsregeln eines Modells auszuhebeln, damit es Inhalte erzeugt, die es normalerweise…
  • System-Prompt — Der System-Prompt ist die vom Betreiber gesetzte Grundanweisung, die Rolle, Regeln und Aufgabenrahmen des Modells festlegt. Er…

Quellen

  1. Prompt Injection — Beleg: https://genai.owasp.org/llmrisk/llm01-prompt-injection/

Im Zusammenhang