下平英寿 / Hidetoshi Shimodaira (京都大学)
[Webサイト]京都大学大学院情報学研究科教授．1995年東京大学大学院工学系研究科計数工学専攻博士課程修了．統計数理研究所助手，東京工業大学准教授，大阪大学教授等を経て，2017年より現職．理化学研究所革新知能統合研究センター客員研究員を兼任．
概要
ACL 2025でOutstanding Paper Awardを受賞した論文「Mapping 1,000+ Language Models via the Log-Likelihood Vector」に関連する話題を紹介します．本研究では，対数尤度ベクトルを用いて1,000を超える言語モデルを確率分布空間にマッピングし，情報幾何の枠組みのもとでそのテキスト生成の特性をKLダイバージェンスにより定量化しました．一般に，生成AIをテキストや画像といった多様なコンテンツを出力する確率分布とみなすと，このようなマッピングによりモデル間の類似性を精密に測定でき，性能予測や学習過程の分析に応用できます．高性能な言語モデルのオープンソース化が進み，利用者がモデルを個別に調整する時代が近い将来到来すれば，本研究のような多数のモデルの特性を体系的に把握するための評価技術の重要性は一層高まると考えられます．
※トークは日本語です。
[論文] (ACL 2025)