prompt injections.de
Glossar

MITRE ATLAS

MITRE ATLAS ist eine Wissensbasis realer Angriffstaktiken und -techniken gegen KI-Systeme, aufgebaut nach dem Vorbild von ATT&CK. Sie enthält dokumentierte Fallstudien, darunter mehrere Prompt-Injection-Vorfälle.

Der Begriff gehört zum Themenfeld Prompt Injection und LLM-Sicherheit. Das vollständige Nachschlagewerk mit 82 Einträgen steht im Glossar. Unmittelbar benachbart sind OWASP LLM Top 10, Red Teaming, CVE.

Verwandte Begriffe

  • OWASP LLM Top 10 — Die OWASP Top 10 für LLM-Anwendungen sind die maßgebliche Referenzliste der häufigsten Sicherheitsrisiken generativer…
  • Red Teaming — Red Teaming ist das systematische Angreifen des eigenen Systems, um Schwachstellen vor Dritten zu finden. Bei KI-Systemen…
  • CVE — Eine CVE-Nummer ist die eindeutige öffentliche Kennung einer konkreten Schwachstelle. Prompt-Injection-Befunde erhalten…

Quellen

  1. MITRE ATLAS — Beleg: https://atlas.mitre.org/

Im Zusammenhang