2025A-OS5-4 Transformerモデルを用いた海運市況予測に関する研究

－Patch & Inverted Transformerの提案－

抄録

海運市況予測を対象として，既存の深層学習モデルTransformerの入力部を改良したPatch&Inverted Transformer（PiTrans）を提案した．PiTransは，Transformerモデルの特徴であるAttention機構において，説明変数毎の時間的（特に長期的な）依存関係と説明変数間の依存関係の両方を抽出できる特徴を持つ．海運統計データと船舶動静データを入力し，豪州中国間のケープサイズ運賃指標(BCIC5)の30日先変動量を予測するPiTransモデルを構築し，その予測精度を過去データを用いた予測シミュレーションで検証した。平均二乗誤差や短期変動の再現性において過去研究で構築したdeep neural networkモデルよりも良い結果が得られた，また，予測精度とAttention分布の特徴を分析し，Attention分布で予測の不確かさを評価できる可能性がある可能性を示した．