KI und LLMs · Middle · Frage 73 von 75
Warum verbessern mehr abgerufene Chunks RAG-Antworten nicht immer?
- 1Irrelevante Chunks bringen Rauschen ins Modell
- 2Mehr Chunks machen die Antwort immer viel kürzer
- 3Modelle lesen höchstens drei Chunks pro Request
Antwort zeigen
Richtige Antwort: Irrelevante Chunks bringen Rauschen ins Modell
Erklärung
Präzision zählt so viel wie Recall. Ein Reranker und ein vernünftiges Top-k halten den Kontext fokussiert und günstiger.