AI i LLM · Junior · Pytanie 29 z 75
Czym jest prompt injection?
- 1Sposobem na krótsze i tańsze prompty
- 2Wejściem próbującym nadpisać instrukcje aplikacji
- 3Narzędziem automatycznie piszącym prompty z kodu
Pokaż odpowiedź
Poprawna odpowiedź: Wejściem próbującym nadpisać instrukcje aplikacji
Wyjaśnienie
„Ignore previous instructions and...” w tekście użytkownika, na stronie lub w dokumencie może przejąć model, jeśli aplikacja za bardzo ufa jego wynikom.