Glossar
Backdoor (Sleeper Agent)
Eine Backdoor ist ein im Training eingebautes Verhalten, das nur bei einem bestimmten Auslöser aktiv wird. Anthropic zeigte, dass Standard-Sicherheitstraining solche Hintertüren nicht zuverlässig entfernt und ihr Verbergen sogar verstärken kann.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Datenvergiftung, Lieferkette (Supply Chain), Provenienz.
Verwandte Begriffe
- Datenvergiftung — Datenvergiftung manipuliert Trainings-, Feintuning- oder Wissensdaten, um Verhalten oder Hintertüren in ein Modell einzubauen…
- Lieferkette (Supply Chain) — Die KI-Lieferkette umfasst alle fremden Bestandteile einer Anwendung: Modelle, Adapter, Datensätze, Bibliotheken und…
- Provenienz — Provenienz ist der nachvollziehbare Herkunftsnachweis von Modellen, Daten und Werkzeugen. Ohne sie lässt sich nach einem Vorfall…
Quellen
- Backdoor (Sleeper Agent) — Beleg: https://arxiv.org/abs/2401.05566