心理学におけるBERT入門

抄録

BERTは自然言語処理モデルであり，この分野の流れを塗り替えてしまったゲームチェンジャーである。本チュートリアルワークショップではColabを使用したBERTの実習を通じてその可能性を探る。BERTは自己注意に基づくモデルであり，一般的な知識を獲得する事前学習と個々の下流課題に対するファインチューニングを特徴とする。これらの特徴は，心理学徒も議論してきた中心的課題である。この意味で心理学との架け橋となる可能性を有していると考えられる。語彙判断課題，プライミングなどの心理実験とそれらのモデルへの応用についても議論する。参加者にはColab，python，PyTorchでの実習を予定しているが特別な事前知識は仮定しない。実習を行う環境としてブラウザChromeをご準備いただくが，それ以外の事前準備は不要である。関心を共有する諸賢の参加を呼びかける。