AI i LLM · Middle · Pytanie 46 z 75
Po co liczyć tokeny przed wysłaniem zapytania?
- 1By zmieścić się w limitach kontekstu i przewidzieć koszt
- 2By odpowiedź modelu była dokładniejsza
- 3Bo dostawcy odrzucają zapytania z nieparzystą liczbą tokenów
Pokaż odpowiedź
Poprawna odpowiedź: By zmieścić się w limitach kontekstu i przewidzieć koszt
Wyjaśnienie
Biblioteki lub endpoint liczenia tokenów dostawcy pozwalają przyciąć historię lub dokumenty, zanim osiągnie się limity.