AI i LLM · Middle · Pytanie 33 z 75
Która technika obniża koszt wielu zapytań z tymi samymi długimi instrukcjami?
- 1Podniesienie temperatury przy każdym wywołaniu
- 2Wysyłanie instrukcji po pytaniu
- 3Prompt caching wspólnego prefiksu
Pokaż odpowiedź
Poprawna odpowiedź: Prompt caching wspólnego prefiksu
Wyjaśnienie
Umieszczaj stałą treść (instrukcje, dokumenty) na początku, a zmienną na końcu, by prefiks dało się zcache'ować.