prompt injections.de
Werkzeug · Schutzmodell

Llama Prompt Guard

Kompaktes Klassifikationsmodell, das Nutzereingaben und abgerufene Inhalte auf Jailbreak- und Injektionsversuche prüft.

Anbieter
Meta
Typ
Schutzmodell
Lizenzmodell
Open Source
Primärquelle
github.com

Llama Prompt Guard ist im Verzeichnis der Werkzeuge geführt, die beim Schutz vor Prompt Injection in LLM-Anwendungen eingesetzt werden. Die Beschreibung stammt aus der Primärquelle des Anbieters; Wirksamkeitsversprechen werden nicht übernommen. Vergleichbare Werkzeuge stehen im Werkzeug-Verzeichnis und im Guardrail-Vergleich.

Wofür es sich eignet

Vorgelagerter Filter mit geringer Latenz, auch für nicht englische Eingaben.

Was es nicht leistet

Ein Klassifikator entscheidet probabilistisch. Er erkennt bekannte Muster zuverlässiger als neue und sollte deshalb als eine Schicht unter mehreren geplant werden.

Der Grundsatz gilt unabhängig vom Produkt: Ein Sprachmodell ist kein Sicherheitskontrollpunkt. Wenn eine Aktion Schaden anrichten kann, muss sie außerhalb des Modells autorisiert werden — siehe Least Privilege für KI-Agenten.

Vergleichbare Werkzeuge

  • Protect AI

    DeBERTa Prompt-Injection-Klassifikator

    Feingetuntes DeBERTa-Modell, das Eingaben binär als Prompt Injection oder als unbedenklich klassifiziert.

    Open Source
  • Meta

    Llama Guard

    Auf Inhaltssicherheit spezialisiertes Modell, das Eingaben und Antworten anhand einer anpassbaren Risikotaxonomie klassifiziert.

    Open Source

Quellen

  1. Llama Prompt Guard — Anbieter- oder Projektquelle: https://github.com/meta-llama/PurpleLlama/tree/main/Llama-Prompt-Guard-2

Im Zusammenhang