ШІ та LLM · Middle · Запитання 46 з 75
Навіщо рахувати токени перед надсиланням запиту?
- 1Щоб уміститися в ліміти контексту й передбачити ціну
- 2Щоб відповідь моделі була точнішою
- 3Бо провайдери відхиляють запити з непарною кількістю токенів
Показати відповідь
Правильна відповідь: Щоб уміститися в ліміти контексту й передбачити ціну
Пояснення
Бібліотеки чи ендпоінт підрахунку токенів провайдера дають обрізати історію чи документи до досягнення лімітів.