日本語におけるAIの民主化を目指した事前学習モデルの公開

抄録

AI技術の進歩に伴い，誰もが気軽にAIを使える世界を目指す「AIの民主化」という考えが普及し，多くの研究機関が研究成果を公開し技術の発展に貢献しています．特に最近のAI分野では，大規模な学習データから大量のパラメータを持つ事前学習モデルを利用する手法が主流であり，様々な事前学習モデルが公開されています．しかし，多くの事前学習モデルは英語に特化したモデルがほとんどであり，英語圏と比べ非英語圏では「AIの民主化」が進んでいない現状にあります．rinna株式会社では，英語圏の技術進歩に追随するために，日本語に特化した言語モデルであるGPT・BERT，言語画像モデルであるCLIP・Japanese Stable Diffusionを公開してきました．本発表では，これまでに公開してきた事前学習モデルについて紹介します．