AI i LLM · Junior · Pytanie 14 z 75
Dlaczego interfejsy czatu często pokazują odpowiedź strumieniowo, token po tokenie?
- 1To jedyny sposób przesłania tekstu przez HTTP
- 2Użytkownicy od razu widzą postęp zamiast czekać na całość
- 3Strumieniowanie sprawia, że odpowiedzi są dokładniejsze
Pokaż odpowiedź
Poprawna odpowiedź: Użytkownicy od razu widzą postęp zamiast czekać na całość
Wyjaśnienie
Czas do pierwszego tokenu decyduje o odczuwanej szybkości. Strumień wymaga w UI obsługi częściowego tekstu, błędów w trakcie i anulowania.