NLPコロキウム | Stability AI Japanにおける大規模言語モデルの研究開発 (秋葉拓哉)

秋葉拓哉 / Takuya Akiba (Stability AI)

[Webサイト]

Stability AI シニアリサーチサイエンティスト。東京大学大学院情報理工学系研究科で博士号を取得後、国立情報学研究所で特任助教、PFN機械学習基盤担当VPを経て、現職。Stability AI 入社後は複数の生成基盤モデル構築プロジェクトを手掛ける。共著書に『Kaggleに挑む深層学習プログラミングの極意』（講談社）などがある。

概要

日本語言語モデル「Japanese StableLM Alpha」を中心に、Stability AIでの生成基盤モデルの開発について紹介します。モデルを作成する際の苦労、過程における各種の意思決定をどのように行ったか、学習したモデルの特徴、今課題だと思っていること、今後解明されることを期待しているトピックなどについて説明します。

※トークは日本語です。

[動画] [スライド] [関連記事]

メーリングリストへの登録: 参加用URLなどNLPコロキウムに関するお知らせを受け取りたい方はメーリングリストへのご登録をお願いします。