Glossar
Prompt-Infektion
Eine Prompt-Infektion ist eine sich selbst weitergebende Injektion, die den empfangenden Agenten anweist, sie an alle weiteren Agenten weiterzureichen. Ein einziger Einstiegspunkt kann so ein gesamtes Agentensystem erfassen.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Multi-Agenten-System, KI-Agent, Indirekte Prompt Injection.
Verwandte Begriffe
- Multi-Agenten-System — In einem Multi-Agenten-System arbeiten mehrere spezialisierte KI-Agenten zusammen und tauschen Zwischenergebnisse aus. Eine…
- KI-Agent — Ein KI-Agent ist ein System, das ein Sprachmodell mit Werkzeugen und einer Handlungsschleife verbindet, um Aufgaben eigenständig…
- Indirekte Prompt Injection — Bei der indirekten Prompt Injection stammt die Anweisung aus Inhalten, die das System selbst abruft — Webseiten, Dokumenten…
Quellen
- Prompt-Infektion — Beleg: https://arxiv.org/abs/2410.07283