AWS認定試験 AI Practitioner(予想問題) その7

問題 44 / 65

ブラックフライデー等の突発的なアクセス増加に対応するためのリアルタイムチャット推論基盤で最優先すべき設計はどれか

すべての可能な応答を事前に計算してキャッシュする
頻繁にモデルをファインチューニングして最新化することを優先する
コンテナ化とオートスケーリングを導入して推論ノードを動的に増減する
応答ごとの最大トークン数を大幅に増やす
モデル精度を犠牲にして応答を短縮する方針を採る

当サイトでは、ユーザー体験の向上を目的としてCookieを使用しています。サイトの利用を継続することで、Cookieの使用に同意したものとみなされます。