スポンサーリンク

問題番号: No.3545 (しっかりモード)

自然言語処理タスクにおいてTransformerモデルを実装するエンジニアが、入力された文章内の単語の並び順をモデルに正しく認識させるため、単語の埋め込みベクトルに対して正弦波と余弦波を用いた特定の数式による値を足し合わせる前処理を行うこととした。この処理に該当する手法はどれか。

スポンサーリンク