ШІ та LLM · Junior · Запитання 10 з 75
API чатів зазвичай не зберігають стан. Що це означає для застосунку?
- 1Модель сама пам'ятає кожного користувача впродовж доби
- 2Кожен запит може містити лише одне коротке речення
- 3Застосунок має надсилати історію розмови з кожним запитом
Показати відповідь
Правильна відповідь: Застосунок має надсилати історію розмови з кожним запитом
Пояснення
Модель бачить лише те, що є в поточному запиті. Довгі розмови ростуть у токенах, тож застосунки обрізають, підсумовують чи кешують історію.