AI i LLM · Junior · Pytanie 62 z 75
Czym jest jailbreak?
- 1Sposobem na uruchomienie modelu bez internetu
- 2Błędem, który kładzie serwery dostawcy
- 3Promptem, który omija zasady bezpieczeństwa modelu
Pokaż odpowiedź
Poprawna odpowiedź: Promptem, który omija zasady bezpieczeństwa modelu
Wyjaśnienie
Odgrywanie ról, sztuczki z kodowaniem czy długie manipulacyjne prompty mogą obejść trening bezpieczeństwa. Aplikacje potrzebują warstw obrony, a nie tylko treningu modelu.