KI und LLMs · Junior · Frage 50 von 75
Wobei hilft Prompt Caching?
- 1Einen langen gleichen Präfix wiederverwenden, für Kosten und Latenz
- 2Nutzerpasswörter sicher im Prompt abzulegen
- 3Jede Antwort zu speichern, damit das Modell nie zweimal läuft
Antwort zeigen
Richtige Antwort: Einen langen gleichen Präfix wiederverwenden, für Kosten und Latenz
Erklärung
Teilen viele Requests denselben Systemprompt oder dieselben Dokumente, kann der Anbieter diesen Präfix cachen und weniger dafür berechnen.