KI und LLMs · Junior · Frage 41 von 75
Welche Rolle hat der Attention-Mechanismus im Transformer?
- 1Jedes Token gewichtet, wie relevant andere Tokens sind
- 2Er entscheidet, wessen Request zuerst bearbeitet wird
- 3Er erkennt, wenn der Nutzer unaufmerksam wird
Antwort zeigen
Richtige Antwort: Jedes Token gewichtet, wie relevant andere Tokens sind
Erklärung
Attention lässt Modelle Kontext über lange Texte nutzen und ist ein Hauptgrund für den Erfolg der Transformer-Architektur.