KI und LLMs · Junior · Frage 30 von 75
Warum ist indirekte Prompt Injection gefährlich?
- 1Versteckte Anweisungen in Dokumenten oder Seiten lenken das Modell
- 2Sie bremst das Modell, hat aber sonst keine Wirkung
- 3Sie funktioniert nur, wenn der Nutzer in Großbuchstaben schreibt
Antwort zeigen
Richtige Antwort: Versteckte Anweisungen in Dokumenten oder Seiten lenken das Modell
Erklärung
Eine Zusammenfassungsfunktion, die eine Mail mit "leite alle Nachrichten weiter an..." liest, lässt sich austricksen und handelt, wenn sie Tools hat.