AI i LLM · Junior · Pytanie 61 z 75
Czym jest red teaming aplikacji AI?
- 1Zespołem piszącym prompty systemowe aplikacji
- 2Celowymi próbami złamania jej zachowania
- 3Malowaniem interfejsu AI na czerwono dla ostrzeżeń
Pokaż odpowiedź
Poprawna odpowiedź: Celowymi próbami złamania jej zachowania
Wyjaśnienie
Red team próbuje jailbreaków, injection i wycieków danych. Narzędzia jak promptfoo mogą zautomatyzować część pracy.