任意の二分木構造に対するTree Neural Tangent Kernel

抄録

Soft Treeは、勾配法を用いて分割規則を更新する決定木の変種である。Soft Tree Ensembleの挙動を理論的に解析するためにNeural Tangent Kernelを活用する枠組みが提案されてきたが、既存研究における理論は完全二分木に対してのみ適用可能であり、任意の構造をもった木に対しては適用ができなかった。本研究は、Soft Tree Ensembleが誘発するNeural Tangent Kernelに関する理論を任意の二分木構造へ対して拡張する。この結果を用いることで、各深さにおける葉の数が同じであれば、たとえ非同型の木であっても関数空間における学習挙動や汎化性能は全く同じになることを発見した。これにより、木構造に関する探索空間を大幅に削減することが可能となる。