西川荘介の作品一覧
「西川荘介」の「大規模言語モデル入門Ⅱ～生成型LLMの実装と評価」ほか、ユーザーレビューをお届けします！
- 作者をフォローする
- フォローすると、この作者の新刊が配信された際に、お知らせします。
作品一覧
-
4.0※この商品はタブレットなど大きいディスプレイを備えた端末で読むことに適しています。また、文字だけを拡大することや、文字列のハイライト、検索、辞書の参照、引用などの機能が使用できません。 ◆コンピュータが言語を理解するしくみ◆ 「大規模言語モデル入門」の続編です。「大規模言語モデル入門」は理論と実装のバランスをとって構成しましたが、本書では実装部分で扱い切れなかった話題を取り上げ、特に大規模言語モデルの評価と生成LLMに関連する解説を充実させます。「大規模言語モデル入門」の9章に続き、10章から始まります。 10章では、後続する章で行う言語モデルの評価方法について解説します。自動評価と人手評価の2つの側面から、ベンチマーク、評価指標、具体的な評価ツールやデータセットなどを取り上げます。11～13章では、主に大規模言語モデルの性能を上げるためのトピックとして、指示チューニング、人間のフィードバックからの学習、RAGに焦点を当て、それぞれの実装方法、利用するデータセット、評価の方法について解説します。14章では大規模言語モデルの学習における並列・分散処理について詳しく解説します。大規模なデータを限られた計算資源で学習させるノウハウは多くのエンジニアにとって有益な情報となるでしょう。 大規模言語モデルの性能を高めるための各トピックの実装とともに、それぞれの評価について理解できる一冊です。 ■目次 ※第1章～第9章は前巻「大規模言語モデル入門」掲載。 ●第10章 性能評価 ・10.1 モデルの性能評価とは ・10.2 評価指標を用いた自動評価 ・10.3 LLM を用いた自動評価 ●第11章 指示チューニング ・11.1 指示チューニングとは ・11.2 指示チューニングの実装 ・11.3 指示チューニングしたモデルの評価 ●第12章 選好チューニング ・12.1 選好チューニングとは ・12.2 選好チューニングの実装 ・12.3 選好チューニングの評価 ●第13章 RAG ・13.1 RAGとは ・13.2 基本的なRAGのシステムの実装 ・13.3 RAG向けにLLMを指示チューニングする ・13.4 RAGの性能評価 ●第14章 分散並列学習 ・14.1 分散並列学習とは ・14.2 さまざまな分散並列学習手法 ・14.3 LLMの分散並列学習 ■著者プロフィール 山田 育矢（やまだ いくや）：株式会社Studio Ousia チーフサイエンティスト・名古屋大学 客員教授・理化学研究所革新知能統合研究センター客員研究員。2007年にStudio Ousiaを創業し、自然言語処理の技術開発に従事。2016年3月に慶應義塾大学大学院政策・メディア研究科博士後期課程を修了し、博士（学術）を取得。大規模言語モデルLUKEの開発者。全体の監修と12章の一部の執筆を担当。 鈴木 正敏（すずき まさとし）：株式会社Studio Ousia ソフトウェアエンジニア・東北大学データ駆動科学・AI教育研究センター学術研究員。2021年3月に東北大学大学院情報科学研究科博士後期課程を修了し、博士（情報科学）を取得。博士課程では質問応答の研究に従事。日本語質問応答のコンペティション「AI王」の実行委員。東北大学が公開している日本語BERTの開発者。第13章の執筆を担当。 西川 荘介（にしかわ そうすけ）：LINEヤフー株式会社 自然言語処理エンジニア。2022年3月に東京大学大学院情報理工学研究科修士課程を修了。現在は情報検索分野での言語処理に取り組む。第12章の執筆を担当。 藤井 一喜（ふじい かずき）：東京工業大学 情報工学系 修士１年・Turing株式会社嘱託研究員。学士、修士課程では大規模モデルの分散並列学習に従事。llm-jp、Swallow Projectにて日本語大規模言語モデルの事前学習を担当。第14章の執筆を担当。 山田 康輔（やまだ こうすけ）：株式会社サイバーエージェント AI Lab リサーチサイエンティスト・名古屋大学大学院情報学研究科協力研究員。2024年3月名古屋大学情報学研究科博士後期課程を修了し、博士（情報学）を取得。2024年4月より現職。博士後期課程では自然言語処理、特にフレーム意味論に関する研究に従事。第10章の執筆を担当。 李 凌寒（り りょうかん）：SB Intuitions株式会社 リサーチエンジニア。2023年3月に東京大学大学院情報理工学系研究科博士後期課程を修了し、博士（情報理工学）を取得。博士課程では言語モデルの解析や多言語応用の研究に従事。現在は日本語大規模言語モデルの開発に取り組む。第11章の執筆を担当。
ユーザーレビュー
