引用ジャングル

モデルはすべてのトークンのペア間の注意スコアを計算し、異なる単語の互いの重要度を評価できるようにします。たとえば、「川沿いの銀行は閉鎖されています」という文では、モデルはコンテキストを理解するために「銀行」と「川」の間に高い注意スコアを割り当てる可能性があります。