平岡達也 / Tatsuya Hiraoka (富士通株式会社 [*前所属の東京工業大学での成果]) [Webサイト] 2022年4月より現職、富士通株式会社研究員。2022年東京工業大学博士課程修了、博士(工学)。 概要 本トークでは、主にCOLING2022で発表したMaxMatch-Dropoutという手法について紹介します。本手法はWordPieceのような最長一致法を用いたトークナイザー用のサブワード正則化手法です。通常の最長一致法による分割アルゴリズムを少し修正するだけで、サブワード分割のサンプリングが実現できることを説明します。また、「良い」Tokenizationとはそもそもどんなものなのか、どうやって見つけるとよいだろうか、といった話題にも触れる予定です。 ※トークは日本語です。 [動画] [スライド] [論文] (COLING 2022)