ШІ та LLM · Middle · Запитання 73 з 75
Чому більше знайдених чанків не завжди покращує відповіді RAG?
- 1Нерелевантні чанки додають шум і можуть збити модель
- 2Більше чанків завжди робить відповідь набагато коротшою
- 3Модель читає щонайбільше три чанки за один запит
Показати відповідь
Правильна відповідь: Нерелевантні чанки додають шум і можуть збити модель
Пояснення
Точність важить не менше за повноту. Reranker і розумний top-k тримають контекст сфокусованим і дешевшим.