ШІ та LLM · Junior · Запитання 61 з 75
Що таке red teaming для ШІ-застосунку?
- 1Команда, що пише системні промпти для застосунку
- 2Навмисні спроби зламати його поведінку
- 3Фарбування ШІ-інтерфейсу в червоне для попереджень
Показати відповідь
Правильна відповідь: Навмисні спроби зламати його поведінку
Пояснення
Red team пробує джейлбрейки, ін'єкції й витоки даних. Інструменти на кшталт promptfoo можуть автоматизувати частину роботи.