ШІ та LLM · Middle · Запитання 34 з 75
Що таке маршрутизація моделей для контролю витрат?
- 1Вибирати випадкову модель для кожного запиту, щоб розподілити навантаження
- 2Легкі запити на дешевшу модель, складні - на сильнішу
- 3Пропускати всі запити через VPN заради нижчих цін
Показати відповідь
Правильна відповідь: Легкі запити на дешевшу модель, складні - на сильнішу
Пояснення
Вирішує класифікатор чи правила. Evals підтверджують, що дешевого шляху досить для кейсів, які туди йдуть.