埋め込み表現の意味適応による知識ベース語義曖昧性解消

📝 埋め込み表現の意味適応による知識ベース語義曖昧性解消

概要：辞書のような語彙資源を用いて文中の単語（文脈語）の語義を識別するタスクを，知識ベース語義曖昧性解消（WSD）といいます．辞書には単語の語義を説明したテキスト，いわゆる語釈文が書いてあります．そこで有望な方法論は，BERT埋め込みを用いて文脈語に最も近い語釈文を選ぶことです．しかし，もしも文脈語と正解語義の埋め込みを近付ける手段があれば，さらに性能が伸びるはずです．これをふまえて，本研究では埋め込み表現の意味適応を提案しました．提案手法は，自己学習および語彙資源に書かれている語義どうしのつながりを教師信号として，埋め込み間の近さ・遠さを変更します．これにより，知識ベースWSDの最高性能を更新できました．ところで近年は，GPTなどの大規模言語モデルが目を見張るような能力を見せています．このような時代に，語彙資源のような人間の知識を深層学習モデルに統合する意義についても触れたいと思います．
[動画] [スライド] [論文] (EACL 2023)

※トークは日本語です。