最長一致法のためのサブワード正則化手法（MaxMatch-Dropout）とその周辺の話

📝 最長一致法のためのサブワード正則化手法（MaxMatch-Dropout）とその周辺の話

概要：本トークでは、主にCOLING2022で発表したMaxMatch-Dropoutという手法について紹介します。本手法はWordPieceのような最長一致法を用いたトークナイザー用のサブワード正則化手法です。通常の最長一致法による分割アルゴリズムを少し修正するだけで、サブワード分割のサンプリングが実現できることを説明します。また、「良い」Tokenizationとはそもそもどんなものなのか、どうやって見つけるとよいだろうか、といった話題にも触れる予定です。
[動画] [スライド] [論文] (COLING 2022)

※トークは日本語です。