岡野原大輔のレビュー一覧

ヒトとＡＩ

尊敬する上長に勧められて読んだ。わたしと同じように若手で、経験が浅いなかAIが台頭し、「自分の価値とは……？」と悩んでいるビジネスパーソンに読んでほしい。岩波なのにびっくりするほど読みやすい。だが納得感も咀嚼感もある本で読んでいて楽しかった。さすが岩波。。

AIはもう対抗できないくらいに頭が良くなってしまった。対して人間は、体験できる。つまり痛い目を見て学んでいける。そして時間が有限で、決定し責任を持つことができる。この点で勝負する時代になるのだと理解した。

ヒトとＡＩ

Preffered Networksの代表が書いた新書、「ヒトとAI」、スマッシュヒットだった

①自由とは主体に選択を帰属させられること（選択の自由）、責任とは主体に責任を帰属させつづけられること（放棄しない）
②AIは主体として判断ができない。履歴も残らない
アウトプットは無限に出せるが、結局は判断・意思決定が必要
責任も負わせられない
対して、人間は選択の履歴が残るし、責任をとれる

③人間の仕事は、AIにアウトプットを出させるが、最後は腹決めて判断し、責任を引き受けること（経営の機能みたいな感じ）
但し、科学の研究開発においては「たぶん正しいけど人間の理解が追いつかないアウトプット」はAIが出し始めている
理解の前にアウトプットがある局面で、誰がどう責任をとり判断するかは社会でルールを決めるべき :naruhodonaruhodo:


■感想

まだ「たぶん正しいけど人間の理解が追いつかないアウトプット」がある状態にはなっていないので、まずは「理解できることちゃんとやろうぜ」（AIが言うままを簡単に信じない）のスタンス大事
=責任を取れる主体であり続ける
例）当たり前水準で、組織で決めた評価帰属ルールに則って成果を出し、アカウンタビリティを果たす
例）分析や振り返りをAI活用して出すが、根拠は読み解き、その上で自分の意思を込める

↑但し、そういうアウトプットたくさん出せるようになったら、別途どう判断すべきかのガイドラインが必要そう...

ヒトとＡＩ

AIとは、どのような機能を持つ道具なのか。そして、AIと共に生きていくためには、人間の意識をどのように変え、社会をどのように設計し直す必要があるのか。
本書は28章にわたって、AIの現状から今後の見通し、さらにはこれから構築していかなければならない社会のあり方まで、段階的に説明し、考察を加えている。

人間は長い歴史の中でさまざまな道具を発明し、それによって生活や社会のあり方そのものを大きく変えてきた。例えば、著者があとがきで取り上げている「火の発見と使用」がある。火によって寒さをしのぐことができ、食料として利用できる資源も広がり、夜間の活動も可能になった。また、獣に襲われる危険を減らすこともできるようになった。一方で、火は管理を誤れば危険な存在にもなる。それを使いこなすためには、適切な知識や技術を身につけなければならない。しかし、危険だからといって火の利用を放棄することは容易ではなく、いったん変化した生活をそのまま以前の状態に戻すことも難しい。AIもまた、同じような性質を持つ技術だといえる。

しかし、火をはじめとする従来の道具と、それを使用する人間との間には、明確な区別があった。ところが、進化したAIは、あたかも人間と同じように考え、行動する存在であるかのように見える。だからこそ、AIは人間とは異なる知能のあり方を持つ存在であり、社会においては人間が判断と責任を担うという前提を維持していくことが重要になる。そのためには、AIとは何か、人間とはどこが異なるのかを十分に理解する必要があると著者は説く。

本書は三部構成となっている。第1章から第8章までの第一部ではAIの特徴と現状を、第9章から第14章までの第二部では人間の知能や意識、感情、自由と責任などの特徴を取り上げ、AIとの違いを明らかにしていく。そして、第15章から最終章までの第三部では、AIが組み込まれた社会をどのように設計し直すべきか、また、そのような社会で人間はどのような意識を持って行動していく必要があるのかという問題へと議論が展開される。

著者が一貫して重視するのは、人間社会において「誰が判断し、誰が責任を負い、誰が主体として行為するのか」という点である。
AIは、複雑に絡み合うさまざまな条件を高速に処理し、多くの選択肢や提案を人間に示すことができる。しかし、その提案を実行した結果、どのような事態が生じるのかを踏まえ、その結果に対する責任を人間と同じ意味で引き受けることはできない。AIの出力を採用するかどうか、最終的に判断するのは人間であるべきだ。
ところが、AIの処理が高速化・大規模化し、その能力が人間の理解をはるかに超えるようになれば、AIがどのような因果関係をたどって結論に至ったのかを、人間が同時に検証することは難しくなる。そこで人間が直面するのは、著者が指摘する「理解する前に答えがある世界」である。つまり、答えが導き出された理由を十分に理解できないまま、その答えを採用し、社会に実装するかどうかを決断しなければならないのだ。当然、その決断によって生じるリスクは、人間が引き受けなければならない。
例えば、「なぜ効くのかを人間が十分に説明できない薬を、AIの判断を信じて使うことができるのか」という問題がある。さらに、その判断をどこまで社会全体で受け入れることができるのかという問題も生じる。AIの提案をどのように検証し、誰が責任を負うべきなのか。そのためには、どのような社会制度が必要であり、人間はAIとは異なるどのような能力を身につけなければならないのか。非常に難しい問題である。

AIによって社会の利便性が高まることや、既存の職業が失われる一方で新たな職業が生まれることなど、AI時代の社会や未来について具体的に紹介する書籍も重要である。しかし、本書の価値は、そうした変化を紹介するだけでなく、AI時代における社会の本質的な変化が何を意味するのかを問い、AIとは何かを考えることを通じて、人間とは何かを改めて問い直している点にある。
AIと共に生きる時代に、人間の判断や責任、そして社会のあり方をどのように考え直すべきなのか。本書は、そうした問題を考えるうえで一読の価値がある一冊だと思った。

ヒトとＡＩ

AIは判断できても、その判断を「自分のもの」として引き受け続ける主体にはなれない。そんな立場から、AIとの対比を通して「ヒトとは何か」を描き出す一冊。少ない経験から学ぶ力、文化を引き継ぐこと、死という有限性が判断に与える重み。どれも面白かったが、特に「自由とは選んだ後もそれを自分の選択として引き受け続けること」という定義にしびれた。AIの時代をどう生きるかを考える見取り図になる本。

ヒトとＡＩ

「定義の書き換え」という大テーマで、これからの「AIがある社会と、ヒトの働き方、生き方」を読み解いてみせた傑作。注目すべきは、AIが活躍するようになって、僕らにとって何気なく使っている概念が書き換えられること。
でもそれは突飛な議論では決してなくて、そもそも「自由である」「創造性がある」といった状態や、「理解する」「仕事する」といった動詞が、どういうことを定義していたのか？ということを言語学者のように観察して、丁寧にとりあげている。だから過剰な煽りはない。でも深淵に触れているからゾクゾクする。これぞ新書！という素晴らしい気付きに溢れている。

個人的には、「創造性」の項目が、頷きまくるとともに、納得できない点もあり、はてさてどう仕事に活かしていくか？と深い問いに誘われてしまった。

ヒトとＡＩ

AIによって人間の生活はどう変わるのか
目まぐるしく進歩するAIの流れに、翻弄されることなる人間が向き合うべき姿勢とこれから作って行くべき可能性について。

ヒトとＡＩ

AIが発達してきている現代において、20代以上の人はそれらが登場する以前と以後をある程度把握している。最近あったようにロボット大会のようにAIは急速に発展する。その中で我々人間との違いを認識し、何が求められるのか、どういった変化が今後待ち受けているのかを考えさせられる1冊。何でもかんでもChatGPTに任せておく人が蔓延る生活の中でその責任はそれを使用した人に与えられるが、それが仕事や取り返しのつかない時、その人はどうするのだろうかという疑問も湧き上がる。

ヒトとＡＩ

ヒトとAIが何か。を再定義してくれて、よりAIに対する理解が深まりました。

個人的にはヒトとは何かを考えながら読み、
じゃあ、それってAIにはあるのか？ないのか？
あるけどできないのか？などなど
考えながら読んでいくのが面白い。

なぜこの答えが出たのか理解する前に、
答えが提示される世界って今後どうなっていくんだろって考えさせられました

AIが今後どんどん社会に組み込まれていき、
それに社会がどう対応していくのか。
新たに法律ができるのか、。
そのときにはヒトとは何かをもう一度、
再定義するということが必要だと思いました。

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

普段からお世話になっているチャッピーことチャットGPTについて、使っているけども実際どういう原理で動いているのか気になり読みました。

内容、大規模言語モデルを図式で表記しされていたり、難しい計算式もなく専門用語も初登場の際には丁寧な説明がありとてもわかりやすい本でした。
なぜ、GAFAが争って開発費をかけている理由もわかりました。

自分で使うものは、ある程度原理を理解して扱わないと、大きなトラブルが起きると思います。

大規模言語では、ハルシネーションを理解しなければチャットGPTを使うことはさけるべきであると思います。

ハルシネーションを理解し、足りないところを補いながら上手にチャットGPTと付き合っていきたいです。

生成ＡＩのしくみ 〈流れ〉が画像・音声・動画をつくる

拡散モデルやフローマッチングについてイメージでわかりやすく記述していた。技術の歴史的な背景や技術的要請からの設計思想についても詳述されていてとてもよかった。

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

大規模言語モデルの現状、展望、問題点が平易ではあるが、かなり広く深く書かれている。
著者は若い起業家であり、数式に頼らずにうまく概念を説明している。事例もビジネスの現場の最先端から引用されている。この辺りが学者が書いたものとは全く異なり、かなりリーダブルな本となっている。

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

一回AIとはどういうものかをかじって概略の知識があり、さらにそのかじった時にニューラルネットワークについてある程度かじった人には、とても具体的でわかりやすい本だと思います。『ＣｈａｔＧＰＴの全貌　何がすごくて、何が危険なのか？ (光文社新書 1267)』などを読んだ後に読むとよいのでは。

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

大規模言語モデル（LLM）について、またいわゆる（人口）知能とは、どのような理屈で動作しているのか？、について、その大まかな歴史、また正確な理論の解説と、わかりやすい（ただ決して万人向けではないが…）、技術的な興味を惹かれる記述を含む形で書かれた、優れた技術書であると思う。

私はかつて、学卒後約8年、いわゆるIT業界に身を置き、またその後業界こそ異なれどITに関わる仕事に長年従事してきた。ただ数年前にセミリタイアのような形でかの業界からは身を引き、ちょうど時を同じくしてChatGPTに代表されるような人工知能（AI）（LLM）が世間の耳目を集める時代になったように思う。そのような「自分の仕事とは関わりのない」「仕事を通じて触れる事のできない」LLMという概念をその基礎から知ることができず、ずっともやもやとした気分でいた。余談だが1995年のいわゆるウィンドウズショック、インターネット元年、その後の一連のIT革命（と勝手に私が呼んでいる）をまさに公私に渡って体験してきた身ではある。

そのようなLLM、について、学ぶ資料、書籍、になかなか出会うことが出来なかった。尤も、いわゆる親切な絵柄や過剰な色彩、それこそ「万人向け」の「ムック本」ならば、いくらでも書店に並んでいるだろう。ただ私は決してそのような形で（AIについて）学びたいとは思わなかった。実際、もしそのような形で触れていれば、下記のような発見はなかっただろう。

私が本書を通じて得た「発見」とは、「AIについてその技術を進化させようとする研究、行為、開発作業、は、人間の脳について、より深くその動作原理を知ろうとすることではないか？」という事である。私が冒頭で、「（人口）知能」とあえてカッコで括った事はそれを意味している。当たり前の事だが、私たちは常に考え、行動し、反省し、よりよく行動しようと、という日常を意識する事なく繰り返しているはずである。それは全く文字通り「無意識」の行動であり、その「命令」は殆ど「脳」がやはり無意識に「発信」していると思う。ではその無意識な行動は具体的にどうやって、どういう理屈で、どういう経験則に従って命令が発せられたのか？、もっとわかりやすい（と私が勝手に考えだした）例を挙げれば、テレビ番組に出てくるお笑い漫才師の演芸、その間合いとセリフが、なぜ我々はまさにその瞬間に面白いと感じるのか？、そこにAI、或いは人間の脳、というものの動作を理解するヒントがあるのではないかと、本書を読むことを通じて、私は発見させられたように思う。すなわち、AIの研究とは人間の脳の研究では無いかと。

最後に、本書の終末あたりの一文をそのまま引用する。まさにこの事がAIと人間の未来を表しているのでは無いかとも思う。

「結局のところ、人は異なる知能をもった存在によって、初めて自分たち自身を理解できるのかもしれない。人工知能が人間の自己理解に貢献していくと考えられる。」

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

大規模言語モデルが現在どこまで辿り着いているよかが平易な文章でよく理解できました。

通常は学習させればさせるほど、データ量が多ければ多いほど過学習が起こり、汎用的なモデルにならない所が、ブレイクスルーできている点が最も大きい。汎用的な知識に近いものが獲得できている所がすごい。あとはハルシネーションに対する対応がどうなるか次第だと思います

大規模言語モデルは新たな知能か ＣｈａｔＧＰＴが変えた世界

大規模言語モデルを「数式を使わず」に(つまり、数学分からない人間に)解説するもの。
その意味でわかり良い本の最高のものとおもいました。
二回、読みました。
数ヶ月したら「続編」(この分野は激しく変わっていくので)を出して欲しい。この内容をより充実させ、新しい状況に対応したものを期待したい。

ディープラーニングを支える技術〈2〉——ニューラルネットワーク最大の謎

※ 出版社さんよりいただきました，また，著者と面識がありますことご承知おきください．

シリーズ1巻目の『「正解」を導くメカニズム』に続く，岡野原さんによる深層学習の解説本．1巻目よりも発展的な内容を，ギュッっと圧縮して説明した本．1巻目より高度なので，機械学習を初見の読者を対象とはしていないようだ．教科書で機械学習を一通り学んだ人が深層学習の情報を得るにはとても便利な本．新しい拡散モデルまで紹介されていていることに驚かされる．

第1章：第1巻で紹介しきれなかった，学習の改良手法を一通り紹介している

第2章：深層学習が，データを一般的な状況にうまく汎化できる理由は，理論上の大きな問題として残っている．この問題について，現状での有力な仮説をまとめている．

第3章：代表的な生成モデルを超圧縮で紹介した本．機械学習のバックグラウンドがある人向けに，うまくかいつまんで紹介している．しかも，VAE，敵対的生成ネット，自己回帰モデル，そして新たな拡散モデルまで網羅している．

第4章：まず，強化学習についての基本的な内容を一通り復習．そして，深層学習と結び付いた DQN と Alpha GO について紹介だが，何が難しく，それをどうやって克服していったかが紹介されている．

第5章：最初の節だけは，取りこぼした自己教師あり学習．その後は，今後の展望について Sutton さんや Bengio さんの講演を基にした議論を紹介する．最後に，まだ解かれていない課題についてまとめているが，これを見ると一番難しいところは50年間変わらないなと感慨にふけってしまった．

ディープラーニングを支える技術——「正解」を導くメカニズム［技術基礎］

※ 出版社さんよりいただきました，また，著者と面識がありますことご承知おきください．

深層学習に関する多くの技術的知見を少ないページ数に凝縮している．非常に多くの情報が取り上げられているが，それぞれは概要の説明になっている．

深層学習についてこれから知りたい人には，全体を俯瞰するための本で，さらに理解を深めたい話題を見つけて，他の資料にたどり付ける．ある程度知っている人には，思い返すときの辞書となると思う．

詰め込んであるので雑多になりやすいが，各章の始めに図で，最後にまとめの章を設けていて，主張したいことが明確にするといった工夫がなされている．

各技術要素について，それがどうしてうまく働くのかの知見についても述べているのは特徴的．例えば，正規化が，表現力や学習のし易さを向上させる効果があり，その理由についても簡潔に取り上げている．

第1章：論理のような明示的な処理と，視覚処理のような暗黙的な知識処理との統合という人工知能実現の難関を最初に示している．人工知能史を紹介してから，深層学習の概念的な説明と応用事例を示している．大規模なデータと計算量については1節をさいてその重要性を力説しているのは，この本のポイントの一つだと思う．

第2章：1990年代までに確立した機械学習の代表的な概念を超圧縮で紹介．この後の章を読むのに必要な用語を，簡単な数式を交えて概念的に説明したもの．

第3章：深層学習以前のニュールネットの説明をやはり超圧縮で紹介．画像を扱うための畳み込みネットや，系列を扱う RNN や LSTM まで一気に進める．活性化関数のところが，だいぶ力を入れて執筆されている．

第4章：深層学習以降に，深層ニュールネットをうまく扱えるように開発されたバッチ正規化，スキップ機構，注意機構の紹介．スキップ機構は個人的にはそれほど重視していなかったが，知らなかった利点があることが分かった．

第5章：画像認識モデルの進展を，各モデルの主なアイデアと共にまとめている．音声認識は基本をまとめた内容．自然言語処理のBERTの成功理由の考察は興味深かった．

ディープラーニングを支える技術——「正解」を導くメカニズム［技術基礎］

ディープラーニングの基本となる考え方から最新の発展まで知ることができる。

【概要】
●機械学習の基本
●ディープラーニングで最近注目されている手法
●ディープラーニングの歴史と現在、今後の展開

【感想】
●本書に書かれているとおり技術解説書であり入門書ではないため、ディープラーニングを知らない人は他書で勉強してから読む必要がある。言い換えると、この本が難しすぎると思う人はしっかり入門書を読んで勉強した方がよい。
●体系的にまとめられているため、検定合格者やディープラーニングを学習したことがある人にとっては非常に理解しやすく、ためになる本だと思う。
●今後も技術進展に伴い、バージョンアップしてもらえるとありがたい。

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

何故か「ストーリーとしての競争戦略」を連想しました。世によくあるHow Toやベストプラクティスはなく、あるとするなら疑え。経験に甘んじることなく常に学び続ける。とてもパワーを貰えるし、読者が行動を起こせるように非常に理解しやすい言語セレクトがされている事が印象的。こんな文章を書く人ほど、非常に優秀なのだろうなと感じる。そもそもこの本が何のためにリリースされているのかを実感する。

Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦

プリファードネットワークス(PFN)創業者の2人、西川・岡野原が綴ったこれまでの軌跡と、行動規範・未来についてである。

PFNはAI技術を扱う会社でありソフトウェアとハードウェアの融合、AIを扱うロボットを目指す企業だ。
個人的には、GAFAに蓋をされたような日本において、未来に希望を抱くことのできる内容だった。

まさにGoogleのように研究開発重視の姿勢で20%のリソースを自由な研究に割き、組織も同じ方向性に立つ人材に限って採用する、まさに前に進み続けるためにある企業だ。
コミュニケーションを重視する姿勢も良くあるIT企業とは異なると感じる。

表題にもある当社のバリューのうち、Learn or Dieこそが躍進の源泉なのだろう。その他含めて

　＊Motivation-Driven（熱意を元に）
　＊Learn or Die（死ぬ気で学べ）
　＊Proud, but Humble
　（誇りを持って、しかし謙虚に）
　＊Boldly do what no one has done before
　（誰もしたことがないことを大胆に為せ）

どれも、らしさを、表している。

世界を変える様なことをできる彼らを羨むだけであることはもったいない、成功すると分かっていることは面白くないという気概で生きたい。