KI und LLMs · Senior · Frage 51 von 75
Welches Kapazitätsrisiko ist spezifisch für LLM-Features?
- 1LLM-Features nutzen keinerlei Serverressourcen
- 2Anbieterlimits können Traffic in Spitzen deckeln
- 3Modelle werden langsamer, je mehr Nutzer Konten haben
Antwort zeigen
Richtige Antwort: Anbieterlimits können Traffic in Spitzen deckeln
Erklärung
Kontingente mit dem Anbieter planen, nicht dringende Arbeit in Queues stellen und nahe am Limit sanft degradieren.