AI i LLM · Junior · Pytanie 50 z 75
W czym pomaga prompt caching?
- 1W ponownym użyciu długiego wspólnego prefiksu, by obniżyć koszt i opóźnienie
- 2W bezpiecznym przechowywaniu haseł użytkowników w prompcie
- 3W zapisywaniu każdej odpowiedzi, by model nigdy nie działał dwa razy
Pokaż odpowiedź
Poprawna odpowiedź: W ponownym użyciu długiego wspólnego prefiksu, by obniżyć koszt i opóźnienie
Wyjaśnienie
Jeśli wiele zapytań ma ten sam prompt systemowy lub dokumenty, dostawca może zcache'ować ten prefiks i brać za niego mniej.