prompt injections.de
Glossar

Vertrauensgrenze

Eine Vertrauensgrenze ist die Linie, an der Daten aus einer weniger vertrauenswürdigen Quelle in einen geschützten Bereich übertreten. Prompt Injection ist im Kern das Problem, dass Sprachmodelle diese Grenze im Kontextfenster nicht erkennen können.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Prompt Injection, Kontextfenster, Spotlighting.

Verwandte Begriffe

  • Prompt Injection — Prompt Injection bezeichnet einen Angriff, bei dem eingeschleuster Text das Verhalten eines Sprachmodells entgegen der Absicht…
  • Kontextfenster — Das Kontextfenster ist die maximale Textmenge, die ein Modell bei einer Anfrage gleichzeitig berücksichtigen kann. In ihm liegen…
  • Spotlighting — Spotlighting kennzeichnet externe Inhalte im Prompt eindeutig als Daten — durch Begrenzer, Markierungen oder Kodierung — damit…

Quellen

  1. Vertrauensgrenze — Beleg: https://genai.owasp.org/llmrisk/llm01-prompt-injection/

Im Zusammenhang