Optimal Transport for Sentence Similarity and Geometry of Word Embedding Space

2021/03/24 (Wed) 12:00 (JST)

横井祥 / Sho Yokoi (東北大学)

[Webサイト]

東北大学大学院情報科学研究科助教.2020年東北大学大学院情報科学研究科博士課程修了.理化学研究所AIPセンター数理統計学チーム客員研究員兼任.自然言語処理,機械学習に関する研究に従事.

概要

計算機がふたつの文の類似性を人間同様に推定できるようになれば,損失関数や自動評価尺度がより "正確な" 値を返せるようになり,結果として種々のNLPアプリケーションの性能向上が期待できる.中でも単語埋込のアラインメントに基づく文類似度尺度は構成性の理念に整合的でまた予測の可読性にも優れていることから大きな注目を集めており,計算効率の良いアルゴリズムもここ数年で一気に出揃ってきた.発表では,単語の持つ言語的な特徴,単語埋込の持つ幾何的な特徴,アルゴリズムの要求する特徴量の3つを適切に結びつけるだけで,既存手法の性能が著しく向上することを示す.また埋込空間のこうした幾何的特徴がどういった機序からなぜ生じているのかについて,最近の研究の発展を紹介する.

※トークは日本語です。

[論文] (EMNLP 2020)

メーリングリストへの登録: 参加用URLなどNLPコロキウムに関するお知らせを受け取りたい方はメーリングリストへのご登録をお願いします。

メーリングリスト登録フォーム

[トップページへ戻る]