Sicherheit von Webanwendungen · Senior · Frage 70 von 75
Eine App schickt Nutzereingaben an ein LLM und zeigt die Antwort als HTML. Welches Risiko nennt die OWASP LLM Top 10 zuerst?
- 1Dass das Modell zu lange für die Anfrage eines Nutzers braucht
- 2Prompt Injection: Eingaben lassen das Modell Anweisungen ignorieren
- 3Dass das Modell in der falschen Sprache für den Nutzer antwortet
Antwort zeigen
Richtige Antwort: Prompt Injection: Eingaben lassen das Modell Anweisungen ignorieren
Erklärung
Behandle Modellausgaben als nicht vertrauenswürdige Nutzereingaben: kodiere oder bereinige sie und gib dem Modell keine Werkzeuge oder Daten über das hinaus, worauf der Nutzer zugreifen darf.