ШІ та LLM · Junior · Запитання 50 з 75
З чим допомагає prompt caching?
- 1Перевикористовувати довгий спільний префікс, знижуючи ціну й затримку
- 2Безпечно зберігати паролі користувачів у промпті
- 3Зберігати кожну відповідь, щоб модель ніколи не запускалася двічі
Показати відповідь
Правильна відповідь: Перевикористовувати довгий спільний префікс, знижуючи ціну й затримку
Пояснення
Якщо багато запитів мають той самий системний промпт чи документи, провайдер може закешувати цей префікс і брати за нього менше.