Methoden
Prompt Injection
Angriffstechnik, bei der manipulative Eingaben das Verhalten eines LLM umlenken.
Ausführliche Erklärung
Angreifer schleusen Anweisungen in Eingaben oder verlinkte Dokumente, die das LLM dazu bringen, Systemregeln zu ignorieren, Daten preiszugeben oder unautorisierte Aktionen auszuführen. Gegenmaßnahmen sind strikte Trennung von Anweisung und Daten, Guardrails und minimale Tool-Rechte.