KI und LLMs · Middle · Frage 32 von 75
Was ist ein semantischer Cache für LLM-Aufrufe, und was ist sein Hauptrisiko?
- 1Tokens im Client cachen; er belegt zu viel Plattenplatz
- 2Antworten für ähnliche Anfragen nutzen; evtl. falsch
- 3Modellgewichte im RAM halten; er bremst den Server
Antwort zeigen
Richtige Antwort: Antworten für ähnliche Anfragen nutzen; evtl. falsch
Erklärung
"Storniere meine Bestellung" und "Kann ich eine Bestellung stornieren?" sind ähnlich, brauchen aber evtl. andere Antworten. Schwellen und Geltungsbereich sind entscheidend.