AI資格 G検定(予想問題) その5

問題 117 / 160

Scaled Dot-Product Attention におけるスケーリング係数の目的は何か

内積をゼロにして計算を簡略化するため
注意重みを二値化するため
出力次元数を固定するため
クエリとキーの内積が大きくなりすぎるのを防ぐために sqrt(d_k) で割る

当サイトでは、ユーザー体験の向上を目的としてCookieを使用しています。サイトの利用を継続することで、Cookieの使用に同意したものとみなされます。