Glossar
Feintuning
Feintuning passt ein vortrainiertes Modell mit zusätzlichen Daten an eine spezifische Aufgabe an. Es kann Sicherheit erhöhen (StruQ, SecAlign) oder zerstören, wenn dabei vorhandenes Sicherheitstraining überschrieben wird.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind StruQ, SecAlign, Datenvergiftung.
Verwandte Begriffe
- StruQ — StruQ ist ein Trainingsverfahren, das mit reservierten Sondertoken eine strukturelle Trennung von Anweisung und Daten erzwingt…
- SecAlign — SecAlign härtet Modelle über Preference-Optimierung: Trainiert wird auf simulierten Injektionen mit jeweils erwünschter und…
- Datenvergiftung — Datenvergiftung manipuliert Trainings-, Feintuning- oder Wissensdaten, um Verhalten oder Hintertüren in ein Modell einzubauen…
Quellen
- Feintuning — Beleg: https://arxiv.org/abs/2410.05451