KI und LLMs · Middle · Frage 34 von 75
Was ist Model Routing zur Kostenkontrolle?
- 1Für jeden Request zufällig ein Modell wählen, um Last zu verteilen
- 2Einfache Anfragen an ein günstigeres Modell, schwere an ein stärkeres
- 3Alle Requests über ein VPN leiten, um günstigere Preise zu bekommen
Antwort zeigen
Richtige Antwort: Einfache Anfragen an ein günstigeres Modell, schwere an ein stärkeres
Erklärung
Ein Klassifikator oder Regeln entscheiden. Evals bestätigen, dass der günstige Pfad für die zugewiesenen Fälle reicht.