AI資格 G検定(予想問題) その10

問題 21 / 160

なぜ複数のヘッドがあると異なる位置やパターンを同時に捉えられるのか

①各ヘッドが異なる入力サンプルを受け取るから
②各ヘッドで学習率を変えているから
③各ヘッドが独立したクエリ鍵値の射影行列を持ち異なる注意パターンを学習するから
④ヘッドごとに異なる損失関数を用いているから

当サイトでは、ユーザー体験の向上を目的としてCookieを使用しています。サイトの利用を継続することで、Cookieの使用に同意したものとみなされます。