ШІ та LLM · Middle · Запитання 36 з 75
Що міряє time to first token (TTFT)?
- 1Як швидко приходить перший токен відповіді
- 2Скільки триває вся відповідь до кінця
- 3Скільки часу користувач читає відповідь
Показати відповідь
Правильна відповідь: Як швидко приходить перший токен відповіді
Пояснення
TTFT визначає відчуття швидкості в чаті. Довгі промпти, великі моделі й холодні кеші його збільшують.