神谷之康（かみや ゆきやす）。京都大学大学院情報学研究科教授、ATRフェロー。東京大学卒業、カリフォルニア工科大学にて Ph.D.（Computation and Neural Systems）取得。ハーバード大学医学部、プリンストン大学を経て、2004年より ATR、2015年より現職。脳情報解読（ブレイン・デコーディング）の研究を進め、ヒトの脳活動から見ている画像や心的イメージを再構成する手法を開発してきた。近年は脳と深層ニューラルネットワークの表現を比較する NeuroAI 的な研究に取り組んでいる。
[Webサイト]
概要：脳の活動も、AI のユニットの活動も、内容を表現する「潜在表現」とみなすことができます。本トークで考えたいのは、その潜在表現において何かを測ることには、どういう意味があるのかという問題です。対象は脳とことばで違っても、共通に立てられる問いだと思っています。潜在表現で測るというのは、突き詰めれば、特定の座標を恣意的に選んで、その上で数値を出しているにすぎません。座標を取り替えてよいのか、相関を測るときにどの変換まで大きさの違いを許すのか ― こうした仮定は、指標を選んだ時点で暗黙に置かれています。そのため、内容を何も変えないちょっとした変換で、類似度や予測精度の値が動き、モデルの優劣まで入れ替わってしまいます。手がかりは、その表現を誰が読むのか ― 消費者を宣言することだと考えています。消費者の側も、受け取った情報をどう使うのかを言わなければ、何を表現しているかは決まりません。言い換えれば、どういう違いを「同じ」とみなすかを決めることです。読み出しを一つ決めると、そのヤコビアンによって表現空間は像（下流に届く方向）と核（届かない方向）に割れます。この見方で、二つの試みを並べてみます。Anthropic の J-lens は、発話（語彙）という既存の読み手に向かって何が届くかを見る、いわば像の側の仕事です（彼らの報告では、その像は活性の分散の1割にも満たないとされています）。一方、私たちの readout representation は、表現に何が書き込まれているかを問い、それを取り出せる読み手を別に立てられるか ― 読み出しの可能性そのものを探ります。前者はモデルの中にすでにある読み出しを扱い、後者はその外に新しい読み出しの系を作る、という違いです。ただし、消費者を宣言するのは入口にすぎないとも考えています。その先には、どの変換で答えが変わらないのか ― 表現がもつ群（代数構造としての群）を同定するという道があります。色の測定が、感覚そのものを覗き込むのではなく、等色を与える変換の構造を押さえることで学問になったように、潜在表現も「何を同じとみなすか」の構造から捉え直せるはずです。当日は、この共通の問題を一緒に考える時間にできればと思っています。
[論文] (ICLR 2026) [書籍]
※トークは日本語です。
参加用のZoom URLはメーリングリストで配信しています。
ほかの宣伝投稿はありません。いつでも抜けられます。