AI i LLM · Senior · Pytanie 21 z 75
Co powinien rejestrować tracing funkcji LLM?
- 1Tylko kody HTTP zwracane przez dostawcę
- 2Tylko końcową odpowiedź dla użytkownika, bez metadanych
- 3Każde wywołanie modelu i narzędzia z tokenami i opóźnieniem
Pokaż odpowiedź
Poprawna odpowiedź: Każde wywołanie modelu i narzędzia z tokenami i opóźnieniem
Wyjaśnienie
Spany per krok czynią awarie agentów debugowalnymi i pokazują, gdzie idą czas i pieniądze. Maskuj wrażliwe dane w trace'ach.