KI und LLMs · Junior · Frage 62 von 75
Was ist ein Jailbreak?
- 1Ein Weg, das Modell ohne Internet zu betreiben
- 2Ein Fehler, der die Server des Anbieters abstürzen lässt
- 3Ein Prompt, der Sicherheitsregeln aushebelt
Antwort zeigen
Richtige Antwort: Ein Prompt, der Sicherheitsregeln aushebelt
Erklärung
Rollenspiele, Kodierungstricks oder lange manipulative Prompts können Sicherheitstraining umgehen. Apps brauchen mehrere Schutzschichten, nicht nur Modelltraining.