埋め込み表現の意味適応による知識ベース語義曖昧性解消

2023/05/17 (Wed) 12:00 (JST)

水木栄 (東京工業大学/株式会社ホットリンク)

[Webサイト]

東京工業大学 情報理工学院 博士後期課程在籍中および,株式会社ホットリンクにてソーシャルメディアの研究開発に従事.表現学習に興味を持つ.

概要

辞書のような語彙資源を用いて文中の単語(文脈語)の語義を識別するタスクを,知識ベース語義曖昧性解消(WSD)といいます.辞書には単語の語義を説明したテキスト,いわゆる語釈文が書いてあります.そこで有望な方法論は,BERT埋め込みを用いて文脈語に最も近い語釈文を選ぶことです.しかし,もしも文脈語と正解語義の埋め込みを近付ける手段があれば,さらに性能が伸びるはずです.これをふまえて,本研究では埋め込み表現の意味適応を提案しました.提案手法は,自己学習および語彙資源に書かれている語義どうしのつながりを教師信号として,埋め込み間の近さ・遠さを変更します.これにより,知識ベースWSDの最高性能を更新できました.ところで近年は,GPTなどの大規模言語モデルが目を見張るような能力を見せています.このような時代に,語彙資源のような人間の知識を深層学習モデルに統合する意義についても触れたいと思います.

※トークは日本語です。

[動画] [スライド] [論文] (EACL 2023)

メーリングリストへの登録: 参加用URLなどNLPコロキウムに関するお知らせを受け取りたい方はメーリングリストへのご登録をお願いします。

メーリングリスト登録フォーム

[トップページへ戻る]