本論文では確率分布の鞍点が持つベクトル場としての性質を利用し，多変量確率分布列に関する法則収束の様子を調べる．鞍点ベクトル場の時間変動が3次元グラフにより可視化されるが，これを流体の収束と見做すことにより，漸近正規性とは接ベクトル空間が均一化していく現象であるという新しい解釈を得る．鞍点・逆鞍点を一般次元へ拡張するとd次元ユークリッド空間に含まれるリーマン多様体の構造を有し，接ベクトル空間は互いの双対ベクトル空間であることが示される．特に逆鞍点多様体は分散共分散行列を接ベクトル空間の基底行列とする自然な多様体であり，その各点に対し一意的に正規分布を対応させる連続写像が存在する．確率分布の形をノンパラメトリックに捉えるアプローチにおいて鞍点・逆鞍点多様体は魅力的な性質を持っている．

説明変数の候補がたくさんあるときの回帰分析手法として，今やスパース推定は標準手法となっている．一方，スパース推定における正則化パラメータの選択については，たとえスパース推定のためのAICがシンプルな形で得られていて，かつ目的が良い予測をしようというものであっても，必ずしもそのAICは用いられておらず，つまり標準手法は定まっていないように見受けられる．本稿では，そういった標準手法が定まっていないケース，正確には正規線形回帰分析でLASSOを用いるケースで，LASSOとAICを組み合わせて推定したモデルの性能評価を数値実験でおこなう．具体的には，LASSOとAICを組み合わせたとき，リッジ正則化法とAICを組み合わせたとき，最尤法と通常のAICを組み合わせてベストサブセット回帰を用いたとき，およびLASSOと交差検証法を組み合わせたときを，予測二乗誤差の評価を通じて比較する．また，その交差検証法で，データの分割の仕方で推定結果がどのくらい違ってくるのかを，予測二乗誤差や選ばれたモデルの自由度のばらつきを数値評価することで確認する．このLASSOのためのAICはSURE理論により導かれるが，それほど知られていないように見受けられるため，最後に僅かに一般化した設定で導出をおこなう．

特徴選択・変数選択の問題は，d次元の入力からm (m < d)次元の特徴を選択する問題であり，統計学，機械学習，データマイニングといった様々な分野において主要な研究テーマとなっている．このような特徴選択の問題においては，統計分野においてはスパース推定やSure independence screening (SIS)法に基づいた統計的手法が数多く提案されており主要な研究テーマとなっている．一方で，機械学習・データマイニングにおいても特徴選択は極めて重要な研究テーマであるが，理論的な裏付けのある方法だけではなく，理論的には裏付けが少ない特徴選択方法に関しても多くの研究成果がある．しかし，機械学習分野の特徴選択手法の中には実験的には高い予測精度を示すものの，統計分野においてはまだ認知されていない方法がある．そこで本論文では機械学習・データマイニング分野で開発されている特徴選択手法の一つであるHilbert-Schmidt Independence Criterio Lasso法 (HSIC Lasso法)の基盤技術を紹介することを目的とする．まず初めに，HSIC Lasso法がどのような思想で特徴選択を行っているかを紹介した後，凸最適化に基づいた最適化手法を導出し，HSIC Lasso 法の大規模データに適応するための手法であるBlock HSIC Lasso法や選択的推論アルゴリズムについて述べる．さらに，HSIC Lasso法は非負制約付きLasso法，HSICに基づいたSIS法と密接に関係していることを示すとともに，HSIC Lasso法の統計的性質を明らかにする．

スパース推定は，高次元データのためのパラメータ推定法として，データ科学の現場で広く用いられる．しかしながら，現実のデータと問題において，Lassoを始めとする基本的な手法では，精度や計算効率，安定性が十分でないことがある．そこで本稿では，特に欠測データ分析と転移学習を中心として，現実の複雑・困難な課題に対するスパース推定法の近年の展開について紹介する．

標本サイズに対して共変量の数が比較的大きな場合，Lassoのようなスパース正則化法は標準的な解析手法の1つとなっている．ところが，共変量が標本サイズより指数的に大きな超高次元データに対しては，パラメータの推定精度や計算負荷の観点から，スパース正則化法を直接適用するよりも，あらかじめ重要な変数をスクリーニングすることが有効である場合が多い．本稿では，そのような超高次元データに対するスクリーニング手法の1つを提案する．具体的には，まず，共変量の成分ごとにモデルを当てはめる周辺回帰モデルに対して，回帰係数をスパースに推定するためのLasso型の罰則を付加した正則化法が，共分散に基づくスクリーニング手法と等価であることを述べる．次に，この方法が高い確率でターゲットとなるモデルを含むという性質を持つことを示す．さらに，正則化法の調整パラメータを選択するために，仮説検定に基づく方法を考え，そのときに選択されるモデルがそれほど大きくはならないことを説明する．最後に，いくつかの数値実験と実データへの適用例について述べる．

本稿では，圧縮センシングにおける非凸スパース制約を用いた信号復元法について紹介する．ここではSmoothly Clipped Absolute Deviation (SCAD)，Minimax Concave Penalty (MCP)と呼ばれる非凸スパース制約の最小化法を扱う．これらの制約は，非凸性パラメータと呼ぶ正則化パラメータにより形が変化し，ある極限ではℓ₁制約と一致する．本稿では，近似確率伝搬法と呼ばれるアルゴリズムにより非凸制約最小化問題を解くことを考える．対応する理論解析から，非凸制約最小化法はℓ₁制約最小化法よりも高い復元性能を与え，非凸性パラメータが小さいほどその性能が高くなることが示される．しかし，非凸性パラメータが小さくなると近似確率伝搬法が収束しない問題が生じる．この問題の背景に，近似確率伝搬法の固定点への引き込み領域が消失するという現象があることを示し，この現象に由来する収束性の悪さを非凸性制御と呼ぶ方法により部分的に解決する (Sakata and Obuchi (2021))．

モデルが既知ではなく，モデル選択を行ってからパラメータに関する検定や区間推定を行う場合，選択的推論を考慮する必要がある．本稿では，スパース推定という文脈でその問題を検討する．まず，Lee et al. (2016)のLassoに関する選択的推論について述べてからForward Stepwise，LARSなどに適用する場合の多面体，切断分布を示す．最後に，Lockhart et al. (2014)のLassoに対するSignificance TestおよびTibshirani et al. (2016)のLARSに対するSpacing Testについて述べる．本稿は，レビュー論文である．

私が行ってきた研究の中で，タグチメソッドに関する仕事をレビューした．初めに混合系直交表における主効果と交互作用の交絡パターンとその大きさを述べた．L12，L18，L36のいずれにおいても，割り付ける列をうまく選べば，交絡が最小限に抑えられることを示し，タグチメソッドで混合系直交表が推奨される根拠を明らかにした．次に，信号因子と誤差因子の二元配置データにおいて比例式モデルに基づく新しい全2乗和の分解を述べた．この研究の動機付けとなった事例についても詳しく紹介した．最後に，SN比の比較に関する統計的検定を，信号因子と計測特性の様々な尺度構成により分類し，それぞれで統計学的に定式化し検定法を具体的に示した．

統計的推測の問題を予測の立場からとらえる予測分布の理論について考える．真の分布から予測分布へのKullback–Leiblerダイバージェンスで予測分布の性能を評価すると，多次元正規モデルや多次元Poissonモデルにおいては，Bayes推定の問題がBayes予測の問題の極限として定式化できる．Bayes推定を利用するには事前分布の選択が重要になるため，無情報事前分布あるいは縮小事前分布についての多くの研究がなされている．予測と推定の関係に着目することにより，Bayes推定についての様々な知見をBayes予測に応用すること，Bayes予測の立場からBayes推定について新たな理解をすることが可能になる．このような予測と推定の関係について，特に多次元のPoisson分布を例にとり説明する．

確率分割の基本的な確率分布の一つであるEwens抽出公式に関して，論文Tsukuda (2019, The Annals of Applied Probability 29, no. 2, 1188–1232)に基づいてポアソン近似の観点から性質を紹介する．Ewens抽出公式はパラメータn ∈ ℕとθ > 0をもつn-次元の離散分布である．Ewens抽出公式に従うn-次元確率変数Cⁿ = (C₁ⁿ, ..., C_nⁿ)を考え，2つのパラメータが同時に大きくなるような漸近レジームにおいて，Cⁿのb-次元マージナルC_bⁿ = (C₁ⁿ, ..., C_bⁿ) (b = 1, 2, ...)や和K_n = ∑_i=1ⁿC_iⁿに関する漸近的性質について扱う．

ベータ・ガンマモデルとは，各時点での周辺分布がガンマ分布となるようなマルコフ過程である．本稿ではその性質と応用を概観する．ガンマ分布は正規分布の精度およびポアソン分布の平均の事前分布として共役であるので，ベータ・ガンマモデルを正規またはポアソン型の状態空間モデルの状態方程式として用いることで，オンライン事後分布，回顧的事後分布および予測分布を解析的に短時間で計算することができる．この性質によって，ベータ・ガンマモデルはボラティリティや計数時系列データの逐次的分析に利用されている．