prompt injections.de
Glossar

Goal Hijacking

Beim Goal Hijacking ersetzt die Injektion nicht die Regeln, sondern die Aufgabe der Anwendung — der Dienst arbeitet weiter, nur für den Angreifer. Der Schaden entsteht ohne jeden Regelverstoß im Sinne der Modellrichtlinien.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Direkte Prompt Injection, Prompt Leaking, Prompt Injection.

Wo der Begriff auftaucht

  • Zielentführung — Der Angreifer ersetzt nicht die Regeln, sondern das Ziel der Anwendung: Ein Übersetzungsdienst schreibt plötzlich Werbetexte, ein Support-Bot gibt…

Verwandte Begriffe

  • Direkte Prompt Injection — Bei der direkten Prompt Injection schreibt der Angreifer die schädliche Anweisung selbst in das Eingabefeld der Anwendung. Sie…
  • Prompt Leaking — Prompt Leaking ist die Offenlegung des verborgenen System-Prompts einer Anwendung. Der erbeutete Text macht Folgeangriffe…
  • Prompt Injection — Prompt Injection bezeichnet einen Angriff, bei dem eingeschleuster Text das Verhalten eines Sprachmodells entgegen der Absicht…

Quellen

  1. Goal Hijacking — Beleg: https://arxiv.org/abs/2306.05499

Im Zusammenhang