★ Begriff· Safety & Alignment
Prompt Injection
Sicherheitslücke: extern gefütterte Inhalte (Webseiten, Dokumente) enthalten versteckte Instruktionen, die das LLM ausführt — gefährlich bei agenten-basierten Systemen mit Tool-Zugriff.
Verwandte Tools
Auch bekannt als
prompt-injection · indirect prompt injection
Aktivität
7
Mentions in den letzten 7 Tagen
4 Wochen
⚡neu · 7×
Zuletzt erwähnt in
- Activation Consistency Training stärkt Robustheit von Reasoning-Modellen gegen Jailbreaks2026-05-28
- MIRAGE: Prompt-Injection-Angriffe auf mobile GUI-Agenten via nutzergenerierte Inhalte2026-05-28
- LACUNA: Typsicheres Programmiermodell für LLM-Agenten mit Runtime-Integration2026-05-28
- APD-Framework reduziert schädliche LLM-Outputs um über 85 %2026-05-28
- SkillSieve: Dreischichtiges Framework erkennt Schadcode in KI-Agent-Skills2026-05-27