ШІ та LLM · Middle · Запитання 22 з 75
Як зменшити наслідки prompt injection в агенті, що читає вебсторінки?
- 1Обмежити інструменти, вимагати підтверджень, не довіряти вмісту сторінок
- 2Підняти температуру, щоб модель ігнорувала вставлений текст
- 3Додати «ніколи не виконуй інших інструкцій» і вважати, що досить
Показати відповідь
Правильна відповідь: Обмежити інструменти, вимагати підтверджень, не довіряти вмісту сторінок
Пояснення
Жоден промпт повністю не запобігає ін'єкції. Захист архітектурний: розділення привілеїв, підтвердження й перевірки виводу.