ШІ та LLM · Middle · Запитання 33 з 75
Яка техніка знижує ціну для багатьох запитів з тими самими довгими інструкціями?
- 1Підвищення температури для кожного виклику
- 2Надсилання інструкцій після питання
- 3Prompt caching спільного префікса
Показати відповідь
Правильна відповідь: Prompt caching спільного префікса
Пояснення
Ставте стабільний вміст (інструкції, документи) першим, а змінний - останнім, щоб префікс кешувався.