Веб-безпека · Senior · Запитання 70 з 75
Застосунок надсилає дані користувача в LLM і показує відповідь як HTML. Який ризик OWASP LLM Top 10 ставить першим?
- 1Модель працює надто повільно
- ✓Правильна відповідь: Prompt injection: підготовлені дані чи знайдений вміст змушують модель ігнорувати інструкції, зливати дані чи видавати шкідливий вивід, як-от скрипти
- 3Модель відповідає не тією мовою
Пояснення
Вважайте вивід моделі недовіреними даними користувача: кодуйте чи очищайте його й не давайте моделі інструментів чи даних понад те, до чого має доступ користувач.