KI und LLMs · Senior · Frage 58 von 75
Was ist ein sinnvoller Latenzbudget-Ansatz für einen Chat-Assistenten mit Tools?
- 1Jeden Fortschritt verbergen, bis die ganze Antwort fertig ist
- 2Latenz ignorieren, da Nutzer von KI Langsamkeit erwarten
- 3Ziele pro Schritt und Fortschritt an Nutzer streamen
Antwort zeigen
Richtige Antwort: Ziele pro Schritt und Fortschritt an Nutzer streamen
Erklärung
"Suche Bestellungen..." anzuzeigen, während Tools laufen, plus Timeouts pro Tool hält das Erlebnis reaktionsschnell.