今日の出版物，ウェブサイト，電子媒体などで使用されているフォントは，拡大縮小しても画質が劣化しない性質を持つベクター形式を採用している．しかし，フォントの生成・変換・分類などのタスクに用いられる深層学習手法の多くはビットマップ形式に焦点を当てており，ベクターフォントの深層学習に関する研究はあまり進んでいない．本研究では，Transformer によるベクターフォントの分類タスクにおいてパッチ埋め込みを用いる手法を提案する．また，数値実験によりパッチ埋め込みにより性能が向上し学習が安定することを示す．ベクターフォントの文字の形状は描画コマンドの系列によって表現され，既存の手法では各描画コマンドをそれぞれひとつのトークンとして扱っていた．提案手法は，言語モデルにおけるトークナイゼーションやビットマップ形式の画像認識モデルにおけるパッチ分割に相当すると考えられる．

テニスにおける戦術分析のデータは現状人の手でアノテーションされており負担が大きい．よって本研究ではテニス動画からヒットした瞬間を正確に予測するヒット検出を行うことを目的とする． 先行研究では訓練データとテストデータで同じ環境のデータ使用しており，未知の環境の動画に対して適応されていない．したがって，本研究では実用性を考慮し，多様な環境の動画を訓練することで未知の環境のヒット検出の性能を向上させることを検討する． Transformerには大規模データを使用すると精度向上するという特徴があるため，これを用いることで上記の課題を解決できるという仮説を立てた．よって本研究ではTransformerを使用したActionFormerをモデルとして使用することを提案する． 実験ではテニスコートの手前と奥の選手それぞれでモデルを作成し，動画内ヒット検出の性能をF1値で評価した．先行研究では手前と奥それぞれの選手について0.636,0.538であったが，提案手法では0.762,0.738と精度が10%以上向上する結果となった．

ロボット制御におけるDecision Transformerのロバスト性を検証する．Decision Transformerは，Transformerを用いたオフライン強化学習モデルで，従来の強化学習と同等以上の性能を出すことが報告されている．本研究では，オフライン強化学習用の収集データに含まれていない故障現象に対して，3つのロボット（Half Cheetah，Hopper，Walker2D）を用いてDecision Transformerのロバスト性を評価する．ロバスト性評価では，3つのデータセット（Medium-Expert，Medium，Medium-Replay）に対して，アクチュエータが動作しない状況を模擬する．実験結果は，３つのデータセットのいずれの場合でも，すべてのロボットの報酬が低下する傾向が確認された．この結果は，Decision Transformerのロバスト化が必要であることを示している．

対話サービスではユーザーがテキストや音声を通じて要求を行い，コンピューターシステムが適切な応答を生成し要求に答える（受動的な）プロセスが基本とされている．一方で，ユーザーからの要求に応答するだけでなく，ユーザーのニーズや状況を推定し積極的に情報やサービスを提供する機会を創出する``能動的な対話サービス''もユーザの秘めたる欲求に対するサービス提供の機会を掘り起こすうえで重要である．能動的なサービス対話の１つの難しさは，その発話タイミングの決定である．ユーザーの活動を観察し，妨げず，気分を害さないことが望ましい．本研究では，対話中における能動的発話を含む発話タイミングを推定するモデルを構築することを目的とした．そのために，対話中という状況とその中における適切な発話タイミングについて考察し，それに基づいて推定モデルを作成し評価した．全体の精度は8割強の数字を示したが，能動的な発話のタイミングの精度は低く，検討すべき課題が明らかとなった．

主観的輪郭の形成は予測符号化によって説明されてきたが、その詳細メカニズムは未だ解明されていない。本研究では、順伝播型ネットワークである視覚トランスフォーマにおいてもカニッツァ錯視が生じることを明らかにし、従来の説明に一石を投じる。そして、その形成メカニズムの解明を目的として、機械論的解釈可能性の新たな手法を提案し、モデル内部でどのように予測が更新されていくか調査を行う。最後に、モデルと生物の間で明らかになってきているメカニズムの普遍性を議論し、本研究の知見が生体における主観的輪郭の理解に貢献する可能性について考察する。

ニューラル機械翻訳の翻訳性能を改善するため，原言語文と目的言語文の固有表現（NE）を活用する試みがなされている．NEを活用する代表的な方法として，これまで，文中のNEの前後に，NEの種類と開始／終了情報を含むNEタグを挿入する「タグ付け手法」と，エンコーダやデコーダの埋め込み層でNEの埋め込みベクトルを追加する「埋め込み手法」が提案され，それぞれの有効性が確認されている．しかし，この2種類の手法間の比較は行われていない．そこで本研究において，WMT2014の英独／独英翻訳タスク及びWMT2020の英日／日英翻訳タスクで両手法の性能を比較した結果，NEを含む文に対する翻訳性能はタグ付け手法の方が高いことを確認した．しかし，タグ付け手法の方がNEの湧き出しが多く，NEを含まない文に対する翻訳性能は埋め込み手法の方が高いことも確認した．この結果を鑑みて，原言語の入力文にNEを含む場合はタグ付け手法，含まない場合は埋め込み手法を用いることで，全体的な翻訳性能を改善できることを実験的に確認した．

2011年タイ国チャオプラヤー川流域において3か月以上にもわたる大規模な洪水が発生した。その後の検証において、洪水予測に基づくダム貯水の事前放流を行うことで。被害を若干軽減することが可能であると示させた。チャオプラヤー川流域における重要なダムの一つとしてタイ国北西部ナン川に位置するシリキットダムがあげられる。シリキットダムにおいて、物理モデルや機械学習モデルの一つであるLSTMを用いた、1月後の流入量予測はこれまでも行われてきたが、いまだ精度は完全ではない。そこで本研究では20017年に開発されたモデルであるTransformerを用いて、シリキットダムの月流入量予測を目的とする。Transformerは元々事前言語処理を目的として開発されたモデルであるが、従来のモデルよりも優れており、その汎用性の高さから時系列データ予測など様々な分野で活躍しているモデルとなる。

　流入量、海面水温、ダイポールモード指数、南方振動指数を入力データとし、正規化させトレーニング期間を1974－2003年までの29年間、テスト期間を2005-2014年までの10年間とした。これらのデータをTransformerのエンコーダに12か月分、デコーダにはエンコーダの最終月から始まる形で12か月分の合計23か月分のデータを入力し一月予測を行ったところ、ナッシュ係数0.59の予測を行うことができた。また流入量のlogをとってから正規化した値を入力したところ、ナッシュ係数は0.79へと改善が見られた。機械学習の初期値やパラメータの更新に乱数を使用する関係から、誤差が生じてしまうことや、流入量が多い場合に過小評価の傾向にあるなど課題の残る形となった。しかし、Transformerを用いることで、従来の予測と比較して精度よく予測することが可能となり、ダムの流入量予測においてもTransformerは有用であることが示せた。

広背筋皮弁は腹部皮弁に比べ侵襲が少なく, 体前面に瘢痕を作らないなどの利点があるが, 腹部に比べ皮下脂肪が少なく, これまで乳房部分切除後や比較的小さな乳房全摘後の再建にのみ用いられてきた。大きな乳房を再建しようと皮下脂肪を広く採取すると, 大きな脂肪弁の血行が不安定なだけでなく, 瘢痕周囲の陥凹変形が目立つことが多い。

これらの問題を解決し, インプラントや脂肪注入なしで自然で大きな乳房を再建するため, Twin Birds Transformer (TBT) 広背筋皮弁という新しい再建法を考案した。TBT広背筋皮弁は, 背部中央から側胸部まで細長いS字状皮弁を挙上し, それを分割, 再構成することで立体的な乳房を再建する。本法を48例で施行し, これまでより大きく, 立体的な乳房が再建でき, 背部瘢痕は長いが, 陥凹がなく, きれいで目立たなかった。

TBT広背筋皮弁は, 今後, 最も有力な自家組織再建材料の1つになりうると考える。

JPSJの最近の注目論文から

11月の編集委員会より