Optunaによるブラックボックス最適化

佐野正太郎 / 秋葉拓哉 / 今村秀明 / 太田健 / 水野尚人 / 柳瀬利彦

※この商品はタブレットなど大きいディスプレイを備えた端末で読むことに適しています。また、文字だけを拡大することや、文字列のハイライト、検索、辞書の参照、引用などの機能が使用できません。

※この電子書籍は紙版書籍のページデザインで制作した固定レイアウトです。

チューニングを自動化するブラックボックス最適化について詳説
本書は，機械学習に欠かせないハイパーパラメータ調整（チューニング）を自動化するブラックボックス最適化について一からわかりやすく，そして，詳しく説明した書籍です．合わせて，Python言語上で動作するフレームワーク“Optuna”によるブラックボックス最適化の実行を，Optunaの開発者ら自ら詳しく説明しており，基礎を理解しながら実践に即した知識を身につけることができます．
いまや機械学習は多種多様な応用が広く図られており，技術者／研究者，学生全般にとって必修といえるスキルになっていますが，その際に手間を要するのが，ハイパーパラメータ調整です．特に，深層学習（ディープラーニング）では，ハイパーパラメータの数が多い傾向があるうえに，その調整が性能を大きく左右するといわれています．多くの技術者が，これにかなりの時間が費やされてしまっているのが実情です．ブラックボックス最適化は汎用性も高く，機械学習のハイパーパラメータ調整に限らず，工学や日常生活にかかわる多くのことを最適化できます．例えば，本書ではミドルウェアのパフォーマンス調整や，お菓子のレシピ作成にブラックボックス最適化を応用する方法も紹介しています．
ハイパーパラメータ調整の手間を大幅に削減するブラックボックス最適化とそのPythonベースのフレームワークOptunaについて，応用例からアルゴリズムまでを一からわかりやすく説明した書籍です．機械学習に留まらず，科学技術のあらゆる分野で登場するブラックボックス最適化に入門するにあたって最適な書籍です．

CHAPTER 1 ブラックボックス最適化の基礎
1.1 ブラックボックス最適化とは？
1.2 目的関数と最適化
1.3 グリッドサーチとランダムサーチ
1.4 SMBO
1.5 ブラックボックス最適化の利用対象

CHAPTER 2 はじめてのOptuna
2.1 環境構築
2.2 簡単な数式の最適化
2.3 機械学習のハイパーパラメータのOptunaによる最適化

CHAPTER 3 Optunaを使いこなす
3.1 多目的最適化
3.2 制約付き最適化
3.3 可視化機能を用いた探索空間の調整
3.4 探索点の手動指定
3.5 分散並列最適化
3.6 サンプラーの選択
3.7 枝刈り

CHAPTER 4 ブラックボックス最適化の応用例
4.1 機械学習のハイパーパラメータの最適化：音声認識ソフトウェアMozilla DeepSpeech
4.2 パイプラインフレームワークとハイパーパラメータ最適化
4.3 継続的なモデル改善でのOptunaの使い方
4.4 オンライン広告入札システムの実行環境の最適化
4.5 クッキーレシピの最適化
4.6 ニューラルアーキテクチャサーチ

CHAPTER 5 Optunaの最適化の仕組み
5.1 Optunaの柔軟なインタフェース
5.2 独立サンプリング
5.3 独立サンプリングの課題
5.4 同時サンプリング
5.5 パラメータ選択の全体像

CHAPTER 6 ブラックボックス最適化のアルゴリズム
6.1 探索点選択における共通の枠組
6.2 単目的最適化における探索点選択のアルゴリズム
6.3 多目的最適化における探索点選択のアルゴリズム
6.4 探索点選択アルゴリズムの使い分け

• カテゴリ: ビジネス・実用
• ジャンル: IT・コンピュータ / 情報科学
• 出版社: オーム社
• ページ数: 224ページ
• 電子版発売日: 2023年02月24日
• コンテンツ形式: EPUB
• サイズ(目安): 166MB

[ブクログ · ★★★★☆]

ブラックボックス最適化の概要とoptuna の使い方がおおよそわかって実装して使うことができた。
原理の部分は基礎知識が足りず、完全な理解が出来なかったので、他文献等で補足する必要がありそう。

[ブクログ · ★★★★☆]

最終章のサンプラー（最適化アルゴリズム）の詳細は全く理解ができなかったものの、その前までで、Optunaの最適化はこんな事ができて、こう実装するんだ、が理解できて十分に有用でした。
特に、多目的最適化について、「複数の目的変数のトレードオフの探索まで行い、最終的なパラメータ選択は人間がする」という説明が、実用のイメージが湧きました。