【Azure×OpenAIでChatGPTシステムを構築！】 本書はLLM（大規模言語モデル）に興味があるITエンジニアを対象に、AzureからOpenAIモデルにアクセスできる「Azure OpenAI Service」を使い、ChatGPTを利用した社内AIシステムの開発と導入を実現してもらうのが目的です。 前半では、生成AIとChatGPTモデルの基本的な概念とその仕組みを解説します。また、Azure OpenAI Serviceの概要と具体的な利用方法を解説し、プロンプトエンジニアリングについても紹介します。後半ではChatGPTを利用する社内システムの開発手法について、実際にAzure OpenAI Serviceを使いながら学んでいきます。RAGを利用した社内文章検索システムの実装を経て、LLMを組み込んだアプリケーション（Copilot）の構築へとステップアップしていきます。また、ガバナンス実現に必要な共通基盤化と責任あるAIについても解説しています。 ■目次 ●第1部 Microsoft AzureでのChatGPT活用 ・第1章 生成AIとChatGPT ・第2章 プロンプトエンジニアリング ・第3章 Azure OpenAI Service ●第2部 RAGによる社内文章検索の実装 ・第4章 RAGの概要と設計 　　4.1 ChatGPTの問題点と解決手法 　　4.2 Retrieval-Augmented Generationとは 　　4.3 検索システム 　　4.4 Azure AI Search 　　4.5 オーケストレータ 　　4.6 Azure OpenAI on your data 　　4.7 Azure Machine Learningプロンプトフロー 　　4.8 大規模言語モデル 　　4.9 Azure OpenAI API 　　4.10 まとめ ・第5章 RAGの実装と評価 　　5.1 アーキテクチャ 　　5.2 社内文章検索の実装例 　　5.3 会話履歴の保持 　　5.4 検索機能 　　5.5 データインジェストの自動化 　　5.6 RAGの評価と改善 　　5.7 検索精度の評価 　　5.8 生成精度の評価 　　5.9 まとめ ●第3部 Copilot stackによるLLMアプリケーションの実装 ・第6章 AIオーケストレーション 　　6.1 Copilot stackとは 　　6.2 AIオーケストレーションとエージェント 　　6.3 独自Copilot開発のアーキテクチャと実装 　　6.4 まとめ ・第7章 基盤モデルとAIインフラストラクチャ 　　7.1 基盤モデルとAIインフラストラクチャとは 　　7.2 ホスティングされたモデルの場合 　　7.3 公開モデルの場合 　　7.4 まとめ ・第8章 Copilotフロントエンド 　　8.1 ユーザーエクスペリエンスの基礎 　　8.2 LLMの不確実な応答への対処 　　8.3 UX向上のための参考資料 　　8.4 まとめ ●第4部 ガバナンスと責任あるAI ・第9章 ガバナンス ・第10章 責任あるAI ■著者プロフィール 永田 祥平：日本マイクロソフト株式会社 クラウドソリューションアーキテクト。主にエンタープライズのお客様を対象に、Azureビッグデータ分析基盤や機械学習基盤の導入・活用支援を行う。 伊藤 駿汰：日本マイクロソフト株式会社 クラウドソリューションアーキテクト／株式会社Omamori 取締役。AI/ML開発と利活用の技術支援、機械学習基盤やMLOps基盤の構築および活用の技術支援を行う。 宮田 大士：日本マイクロソフト株式会社 クラウドソリューションアーキテクト。現職では、幅広い業界のお客様へのAIの導入／活用を支援。 立脇 裕太：日本マイクロソフト株式会社 クラウドソリューションアーキテクト。現在は日本マイクロソフトでビッグデータ、クラウド、機械学習を活用した企業のデータ活用を支援。 花ケ﨑 伸祐：日本マイクロソフト株式会社 パートナーソリューションアーキテクト。現在はパートナーAIソリューションの開発支援に携わる。 蒲生 弘郷：日本マイクロソフト株式会社 クラウドソリューションアーキテクト。現在はソリューションアーキテクトとしてAI導入の技術支援やAzure OpenAI Serviceのエバンジェリスト活動などに従事。 吉田 真吾：株式会社セクションナイン 代表取締役。2023年5月にAzure OpenAI/Azure AI Search/Azure Cosmos DBを活用した人事FAQ 機能をリリース。著書、監訳書多数。

◆「LLMの挙動を左右するコンテキストをどう扱うか」AI時代のエンジニアの最重要スキル◆ 大規模言語モデル（LLM）へ与える、プロンプトを含む多様な入力情報である「コンテキスト」。LLMの挙動を健全にコントロールするために、どんなコンテキストを構築するか――限られた入力領域において、何を与え、何を捨て、どのようにして良いコンディションを保つのか――この技術の総体が「コンテキストエンジニアリング」であり、LLM活用を目指すエンジニアが知るべき最重要トピックです。本書では、AIモデルの基礎の仕組みやAPIの挙動をコンテキストの観点から順にひも解き、RAG（Retrieval-Augmented Generation）やAIエージェントなど実践的な開発において発生し得るコンテキストエンジニアリングのテクニックを存分に紹介します。 ■目次 第1章　LLMの仕組みから見るコンテキストの正体 ・1.1 LLMの動作を知る意義 ・1.2 LLMを構成するニューラルネットワークの基本 ・1.3 LLMによるトークン生成のしくみ ・1.4 対話型LLMに施された工夫や注意点 ・1.5 Reasoningモデルの進化へ ・1.6 まとめ 第2章　APIサービス利用におけるコンテキストの扱いと基礎機能 ・2.1 LLMのAPIサービスの概要 ・2.2 LLMベンダーが直接提供するAPIサービス ・2.3 クラウドベンダーが提供するAPIサービス ・2.4 APIやモデルの選定基準 ・2.5 APIの基本的な使い方 ・2.6 LLMによるツール利用 ・2.7 出力スキーマの固定化 ・2.8 Function CallingとStructured Output使用時のテクニック ・2.9 コンテキストキャッシュの仕組み 第3章　指示プロンプト開発の基礎 ・3.1 前提となるリファレンス ・3.2 指示プロンプト開発時に把握しておくべき全体指針 ・3.3 指示プロンプトの記述に活用される記法 ・3.4 指示プロンプトの基本構造 ・3.5 指示プロンプトの管理 ・3.6 指示プロンプトの精度向上の技法 第4章　RAGにおけるコンテキスト整備 ・4.1 RAGとは ・4.2 検索エンジン関連用語の整理 ・4.3 RAGの全体のフロー ・4.4 RAGを使うかどうかの判断 ・4.5 RAGで用いられる基盤技術 ・4.6 検索を伴うRAGの精度向上のための工夫 ・4.7 その他の話題 第5章　AIエージェント×ワークフローによる作業自動化 ・5.1 AIエージェントはなぜ注目されたのか ・5.2 ワークフロー化によるコンテキストの分散 ・5.3 市場が期待した「AIエージェント」の正体 ・5.4 エージェントワークフローに関連するリファレンス ・5.5 具体例を見ながらエージェントワークフロー設計を学ぶ ・5.6 コンテキスト肥大化に伴うその他の課題と対策 ■著者プロフィール 蒲生 弘郷（がもう ひろさと）：外資系IT企業所属のクラウドソリューションアーキテクト、エバンジェリスト。上智大学大学院 応用データサイエンス学位プログラム 非常勤講師。大手システムインテグレーターにてキャリアをスタート。社会インフラ関連領域のデータサイエンティストとしての活動、ブロックチェーンを活用した異業種間データ流通サービスの立ち上げなどを経て現職へ。ChatGPTの登場した2022年以来、Azure OpenAI Serviceなどを使ったLLMアプリケーションの構築支援・アドバイザリーおよび技術情報の発信に従事。「ChatGPT - Azure OpenAI大全」などの資料が「2023 Most Viewed Deck 25」に選出。共著に『Azure OpenAI ServiceではじめるChatGPT/LLMシステム構築入門』。