ШІ та LLM · Junior · Запитання 41 з 75
Яка роль механізму attention у трансформері?
- 1Дати кожному токену зважити, наскільки важливі інші токени
- 2Вирішувати, чий запит обробити першим
- 3Виявляти, коли користувач перестає бути уважним
Показати відповідь
Правильна відповідь: Дати кожному токену зважити, наскільки важливі інші токени
Пояснення
Attention дає моделям використовувати контекст у довгому тексті, і це одна з ключових причин успіху архітектури трансформера.