AI資格 G検定(予想問題) その10

問題 21 / 160

なぜ複数のヘッドがあると異なる位置やパターンを同時に捉えられるのか

各ヘッドが異なる入力サンプルを受け取るから
各ヘッドで学習率を変えているから
各ヘッドが独立したクエリ鍵値の射影行列を持ち異なる注意パターンを学習するから
ヘッドごとに異なる損失関数を用いているから

当サイトでは、ユーザー体験の向上を目的としてCookieを使用しています。サイトの利用を継続することで、Cookieの使用に同意したものとみなされます。