KI und LLMs · Middle · Frage 33 von 75
Welche Technik senkt die Kosten vieler Requests mit denselben langen Anweisungen?
- 1Die Temperatur bei jedem Aufruf erhöhen
- 2Die Anweisungen nach der Frage senden
- 3Prompt Caching des gemeinsamen Präfixes
Antwort zeigen
Richtige Antwort: Prompt Caching des gemeinsamen Präfixes
Erklärung
Stabilen Inhalt (Anweisungen, Dokumente) an den Anfang und variablen ans Ende stellen, damit der Präfix gecacht werden kann.