AI i LLM · Middle · Pytanie 28 z 75
Jak testować jednostkowo kod wywołujący LLM bez płacenia za każde uruchomienie?
- 1Wywoływać prawdziwy model z najniższą temperaturą
- 2Nie testować tego kodu, bo się nie da
- 3Zamockować klienta modelu nagranymi odpowiedziami
Pokaż odpowiedź
Poprawna odpowiedź: Zamockować klienta modelu nagranymi odpowiedziami
Wyjaśnienie
Kod wokół modelu (parsowanie, ponowienia, wykonywanie narzędzi) można testować deterministycznie. Osobne ewaluacje testują jakość modelu.