Glossar
Dual-LLM-Muster
Beim Dual-LLM-Muster arbeitet ein privilegiertes Modell mit Werkzeugzugriff niemals direkt mit nicht vertrauenswürdigen Inhalten, während ein isoliertes Zweitmodell diese verarbeitet und keine Werkzeuge besitzt. Der Ansatz stammt von Simon Willison und ist die konzeptionelle Grundlage von CaMeL.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind CaMeL, Tödliche Trias, KI-Agent.
Verwandte Begriffe
- CaMeL — CaMeL ist eine Architektur, die Kontroll- und Datenfluss aus der vertrauenswürdigen Anfrage ableitet und die Ausführung einer…
- Tödliche Trias — Die tödliche Trias beschreibt die gefährliche Kombination aus Zugriff auf private Daten, Verarbeitung nicht vertrauenswürdiger…
- KI-Agent — Ein KI-Agent ist ein System, das ein Sprachmodell mit Werkzeugen und einer Handlungsschleife verbindet, um Aufgaben eigenständig…
Quellen
- Dual-LLM-Muster — Beleg: https://simonwillison.net/2023/Apr/25/dual-llm-pattern/