AI資格 G検定(予想問題) その6

問題 81 / 160

Scaled dot-product attention でスコアを sqrt(d_k) で割る主な目的は何か。

計算時間を短縮するため
出力の次元を変換するため
内積スコアの大きさを抑え softmax の勾配を安定化させるため
系列長に応じた正規化を行うため

当サイトでは、ユーザー体験の向上を目的としてCookieを使用しています。サイトの利用を継続することで、Cookieの使用に同意したものとみなされます。