prompt injections.de
Glossar

NIST AI Risk Management Framework

Das NIST AI RMF ist ein freiwilliges Rahmenwerk zum Management von Risiken in KI-Systemen entlang der Funktionen Govern, Map, Measure und Manage. Es liefert die Governance-Struktur, in die technische Maßnahmen gegen Prompt Injection eingebettet werden.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind OWASP LLM Top 10, EU-KI-Verordnung (AI Act), Red Teaming.

Verwandte Begriffe

  • OWASP LLM Top 10 — Die OWASP Top 10 für LLM-Anwendungen sind die maßgebliche Referenzliste der häufigsten Sicherheitsrisiken generativer…
  • EU-KI-Verordnung (AI Act) — Die EU-KI-Verordnung regelt KI-Systeme risikobasiert und stellt an Hochrisiko-Systeme sowie an KI-Modelle mit allgemeinem…
  • Red Teaming — Red Teaming ist das systematische Angreifen des eigenen Systems, um Schwachstellen vor Dritten zu finden. Bei KI-Systemen…

Quellen

  1. NIST AI Risk Management Framework — Beleg: https://www.nist.gov/itl/ai-risk-management-framework

Im Zusammenhang