山田博啓のレビュー一覧
-
Posted by ブクログ
ネタバレF4.1.2 RAG が効果的なケース
RAG は、その仕組み自体は非常にシンプルでありながら、検索対象を変えるだけで幅広い用途に活用できる、汎用性の高さがあります。とはいえ、何でもかんでも
RAG を使えばよいというわけではありません。たとえば、「猫とは何か?」「System Integrator とは何か教えて」というような一般常識に関する質問であれば、LLM単体でも回答できます。こうしたケースでは、わざわざ
RAGの仕組みを取り入れるメリットは薄いでしょう。
では、RAG はどのような場面で効果を発揮するのでしょうか。ずばり、RAG が有効なケースは、大きく次の3つに分類されます。
●常に最新情報を参照する必要があるケース
17人がハイライト
●組織固有の情報を扱うケース
●裏取り(ファクトチェック)が必要なケース
1つ目は、常に最新情報を参照する必要があるケースです。ChatGPT の各モデルをはじめとして、代表的な
LLM は定期的(数ヵ月~1年程度)に再学習やバージョンアップが行われ、学習データを最新化します。それでも、LLM が学習するデータの断面(ナレッジカットオフと呼ぶ)は、典型的に半年から数年前の古い情報になっており、それ以降に発生した出来事は学習データに含まれていません。そのため、今日の天気予報や昨日の株価など、リアルタイムな情報を聞いても正確に答えられません。そこで、RAG の出番です。「今日の東京の天気は?」という人間の質問をLLM に入力する前に、この質問を用いてWeb検索を実行します。そうして得られた結果をもとの質問とセットで LLM に与えることで、リアルタイムの天気予報についても答えられるようになります。ChatGPT の裏側でも、まさにこの仕組みが取り入れられています。システムの仕様変更や日々更新されるマニュアルのように、ドキュメントの内容が頻繁に変更される場合も、RAGの仕組みを取り入れることで、常に最新情報を回答できます。ドキュメントが更新されるたびに LLM を再学習させると莫大な計算コストがかかりますが、RAGを使えば、ドキュメントさえ最新の状態に保っておけばよく、運用コストを大きくおさえられるメリットもあります。
2 つ目は、社内ルールや業務マニュアルなど、組織固有の情報を扱うケースです。LLM は膨大な一般知識を持つ反面、あなたが所属する会社独自のルールや用語をまったく知りません。ここでも、やはりRAG の出番です。たとえば、事務作業で社内規定を参照したり、問い合わせサポートで対応マニュアルや製品設計書を参照したり、システムを開発するために設計書を参照したり、企業活動のほとんどは、抽象的に見れば社内情報を参照するタスクです。実際、各企業では生成 AI をビジネスに適用しようと積極的に導入を進めていますが、そこではほぼ必ずRAGの仕組みが使われています。
3つ目は、裏取り(ファクトチェック)が必要なケースです。LLM は膨大な知識にもとづいて幅広い質問に回答できる反面、その回答には嘘の情報(ハルシネーション)が含まれます。そのため、特に重要な内容に関しては、最終的に人間がもとの文書をチェックする必要があります。RAGを使うことで、回答の根拠になった文書ファイルや記載箇所をピンポイントで示せるため、人間による確認作業が楽になります。たとえば、法律に関する質問では、膨大な法令や判例をすべて読む代わりに、LLMが着目した箇所に絞って読むだけで済み、最小限の手間で内容の妥当性をチェックできるようになります。また、RAGの仕組みを使って LLMに正しい文章を入力することは、実質的に 2.3で紹介した「入力情報
IV出力情報」のタスクを解かせることにもなり、結果的にLLM のハルシネーションそのものを抑制する効果も期待できます。 -
Posted by ブクログ
生成AIを仕事で使いこなしたいと思い読みました。
私の生成AIの認識は、文書を要約、翻訳、企画案出しに使うものと思っていました。
使い方には、間違いはないのですが、これでは生成AIの能力の10%も使えていないのではとこの本を読み思いました。
生成AIの活用に置いて重要なのは、会社ルールをどれだけ生成AIに取り込むかということです。
この取り込みにより、作り出される成果物は会社ルールに基づくこととなり、手直しが少なくなるのです。
課題とすれば、この会社ルールはどこまで取り込んでよいのか?というルールを設けることから始めないと業務の効率化は始まりません。
生成AIを導入するだけがかゴールではなくこれからどのように活用していくのかのビジョンが大切である。
キーワード
生成AIの精度は70%
100%を達成したいのであればプログラムを組むしかない。
生成AIにも得意不得意がある
生成AIは、包丁のような便利で危険な道具
-
Posted by ブクログ
生成AIの本は気になって何冊か眺めてみたものの、読みやすいけど内容が表面的だったり、逆に著者の理解が浅いまま用語や数式が多用されたり、なかなか「これなら読めそう」と思えるものに出会えませんでした。
そんな中で、この本は読みやすさと内容の深さが絶妙でした。
読みやすさについては群を抜いています。専門用語をただ並べるのではなく、一つひとつ丁寧な例えを交えて説明されており、豊富な図表のおかげで直感的に理解できます。
また、解説の端々に遊び心が散りばめられているため、堅苦しさを感じることなく最後まで楽しく読み進めることができました。
そして、読みやすいからといって決して内容が浅いわけではありません。
生成AIの基本はもちろん、名前だけは知っていた「RAG」や「AIエージェント」の裏側の仕組みまでしっかりと理解できました。
LLM(大規模言語モデル)が実際には入力情報を記憶しているわけではないというのも本書で初めて知りました。
さらに、著者の実務経験に基づく「技術選択のマインドセット」まで書かれている点が非常に素晴らしく、それぞれの技術手法のメリットを単なる暗記ではなく「理屈」として腹落ちさせることができます。
これから生成AIを扱うすべての人たちにとって、間違いなく業界の標準になる名著です。 -
匿名
購入済み理屈から学べるホンモノの一冊
生成AI本は数多くありますが、表面的な整理や機能紹介にとどまり、結局「何がどう違って、どう役立つのか」が見えないまま終わるものも少なくありません。その点、この本は各手法をきちんと比較しながら、性質や利点を理屈から解きほぐしてくれるのが素晴らしいです。知識を並べるだけではなく、理解できる形にまで落とし込んでくれるので、読むほどに頭の中が整理されます。本職の方が実務の経験を踏まえて書かれてあり、専門性のある内容をここまで平易に説明している本は珍しく、よくある入門書とは明らかに質が違うと感じました。図解も分かりやすく、これまで読んだ中でも特に納得感のある一冊でした。
-
Posted by ブクログ
話題の生成AI本は一通り読んだけどエンプラAI開発をまともに経験してないエンジニアかインフルエンサー本が多くて、表面的な整理やそれっぽい未来話で終わる。現場では最終的に投資価値まで説明しないといけないので、その選択が妥当な理由を技術面でも運用面でも説明できる必要がある。
本当に知りたいのはどの技術がなぜ重要で、どこで精度に効いて、どう運用に落ちるのかという話なのに、その肝心な説明の回答を出せてない。
この本はその辺を分かってるAIエンジニアが書いてるので、実際の使い分けと現実的な制約をかなり具体的に書いてて分かりやすい。間違いなく今出てる生成AIの本で一番オススメ。