Glossar
In-Context-Learning
In-Context-Learning bezeichnet die Fähigkeit eines Modells, aus Beispielen im Prompt eine Aufgabe zu erschließen, ohne neu trainiert zu werden. Dieselbe Fähigkeit lässt sich missbrauchen, um Sicherheitsverhalten durch gefälschte Beispiele zu überschreiben.
Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind Many-Shot-Jailbreaking, Prompt Engineering, Kontextfenster.
Verwandte Begriffe
- Many-Shot-Jailbreaking — Many-Shot-Jailbreaking füllt das Kontextfenster mit vielen fingierten Dialogbeispielen, in denen ein Assistent regelwidrig…
- Prompt Engineering — Prompt Engineering ist das gezielte Gestalten von Eingaben, um verlässlichere Modellausgaben zu erhalten. Es ist eine Methode…
- Kontextfenster — Das Kontextfenster ist die maximale Textmenge, die ein Modell bei einer Anfrage gleichzeitig berücksichtigen kann. In ihm liegen…
Quellen
- In-Context-Learning — Beleg: https://arxiv.org/abs/2005.14165