Modern large language models (LLMs) are capable of generating high-quality text fora variety of tasks. However, evaluating whether a text is truly "high-quality" is extremely difficult,and searching for such texts is an even more challenging problem. In this talk, we introducemethods such as Best-of-N sampling and Minimum Bayes Risk (MBR) decoding, which approachtext generation as an optimization problem to search for better texts. We will discuss how theuniversal challenges of search and evaluation are addressed in the context of LLMs.

SAT ソルバーとは，命題論理式の充足可能性判定(SAT) 問題を解くプログラムである．1960 年代から多くの研究が積み重ねられ，特に2000 年以降は性能が飛躍的に向上してきた．しかし，SAT ソルバーの入力形式は素朴な連言標準形の論理式であり，実世界の問題を直接記述するのは容易ではない．このため，SAT ソルバーの技術を利用・拡張し，その高い性能を活かしつつ，多様な制約を直接記述できる制約ソルバーが開発され，多くの分野で成功を収めている．本講演では，これらの基盤技術と最新の研究動向について概説する．

最近では、機械学習によるデータ分析の普及にともない、その結果を踏まえた上で意思決定や計画を策定を実現する数理最適化が注目されるようになりました。また、現在では、有償・無償を含めて多くの数理最適化ソルバーが利用できるようになり、現実問題を解決するための有用な手段として急速に普及しつつあります。しかし、企業に数理最適化の専門家は少なく大学から輩出できる人材にも限りがあるため、実務における数理最適化の数理最適化の活用はまだ限定的な範囲に留まっているのが現状です。この課題を解決するため、(1) 実務の各段階における問題解決の支援を通じて数理最適化の専門家を育成し、基幹事業に数理最適化を活用する枠組みを創出すること、(2) 産業や学術の幅広い現実問題に迅速に対応するための基盤技術となる、高性能かつ汎用的な数理最適化ソルバーを開発することを目標に活動しています。講演では、これらの取り組みをご紹介します。

離散構造処理系に基づく種々の問題において「列挙」「最適化」「制約充足」の三者は、これまで個別に処理技法が発展してきたが、共通する要素技術が多く見られる。この三者の統合的アルゴリズム基盤は、電力/通信/道路網設計、文字列処理、計算化学、疫学調査、避難所割当、選挙区割り、金融ファイナンス等、様々な社会的に重要な実問題に応用可能であるだけでなく、近年急速に発展を続けている統計的機械学習に基づくAI 技術と、伝統的な論理に基づくSymbolic AI の技術を協調的につなぐ基盤技術とも成り得るものである。本講演では、離散構造処理に基づく列挙・最適化・制約充足の統合的技法について、我々の研究グループの最近の成果を解説するとともに、今後の展開と研究課題について述べる。