あらすじ
チャットGPTに代表される生成AIは、機能を限定されることなく、幅広い学習ができる汎用性を持っている、そのため、将来、AIが何を学ぶかを人間が制御できなくなってしまう危険は否定できない。しかし、だからといって、AIが自我や意識を獲得し、自発的に行動して、人類を排除したり、抹殺したりするようになるだろうか。この命題については、著者はそのような恐れはないと主張する。少なくとも、現在の生成AIの延長線上には、人類に匹敵する知能と自我を持つ人工知能が誕生することはない、というのだ。
その理由は、知能という言葉で一括りされているが、人工知能と私たち人類の持つ知能とは似て非なるものであるからだ。
実は、私たちは「そもそも知能とはなにか」ということですら満足に答えることができずにいる。そこで、本書では、曖昧模糊とした「知能」を再定義し、人工知能と私たち人類が持つ「脳」という臓器が生み出す「ヒトの知能」との共通点と相違点を整理したうえで、自律的なAIが自己フィードバックによる改良を繰り返すことによって、人間を上回る知能が誕生するという「シンギュラリティ」（技術的特異点）に達するという仮説の妥当性を論じていく。
生成ＡＩをめぐる混沌とした状況を物理学者が鮮やかに読み解く
本書の内容
はじめに
第０章 生成ＡＩ狂騒曲
第１章 過去の知能研究
第２章 深層学習から生成ＡＩへ
第３章 脳の機能としての「知能」
第４章 ニューロンの集合体としての脳
第５章 世界のシミュレーターとしての生成Ａ
第６章 なぜ人間の脳は少ないサンプルで学習できるのか？
第７章 古典力学はまがい物？
第８章 知能研究の今後
感情タグBEST3
Posted by ブクログ
著者の考えるAIは、「現実世界のシミュレーター」。物理学者であり、バイオインフォマティクスを専門であった著者の、近年の人工知能についての見解が述べられている本。
実は、「知能」の実態はつかめていないらしく、どんなに発達しても、人間の持つ知能と同じにはならないだろうと予想している。例えば、脳細胞がどんな形をしていて、どんな物質をやり取りしているか、は既知である。一方、知能はどんな反応によるものか、そもそも何をもって知能があるといえるのか、言葉の定義すら決められないのだそう。言われてみれば、知能とはぼやっとした概念に聞こえる。
膨大なデータで世の中の事象を予測するAIに対して、人間はもっと少数のサンプルから本質をつかむことができるという。このことから、どんなにAIが発達しても人間の知能とは異なる仕組みによるもので、機能が同じとは言えないのでは、との立場。
感情論と理論的側面の２つで記述されている。
機械学習に疎くても読みやすく、納得感があった。
Posted by ブクログ
議論の設定だけをみれば、昨今のAi技術の興隆の中ではありがちなもののひとつであるが、物理学者としての見地と、過去の研究におけるAI技術のブレイクスルーとの類似性といった観点からの解説は、哲学上の議論やAI開発者の理論とも異なる視座として貴重に思われた。内容自体は比較的初学者にも優しい。
Posted by ブクログ
著者は物理学者。大規模言語モデルは、著者が研究していた非線形非平衡多自由度系の亜種だという。
脳は、限られた情報から外の世界を脳内で再構成しているという意味で、現実世界のシュミレーターである。生成AIも、現実世界のシミュレーションを実行している機械システムと考えることができる。
脳の動作原理は、ニューラルネットワークや深層学習とは別物であり、その延長上にある生成AIとは異なるものである。 脳と生成AIはどちらも世界シミュレーターであるが、世界を全く異なったように解釈している。
ジェフ・ホーキンスは、「1000の脳理論」の中で、知能とは事物の地図を脳内に作ることだと断言している。「1000の脳理論」とは、脳が、いろいろなあり得る現実を記述する可能性の中から適当なものを選んでいるに過ぎないという意味。
深層学習は複雑なモデルを導入しているにも関わらず、過学習せず高度な般化性能を獲得する。トランスフォーマーは、文章中の単語の関係の理解込みで単語の地図を作る機能を実装するアルゴリズムだが、穴埋め問題を解かせると文中の単語の関係を学習してしまう機能を持っている。
Google DeepMind社のAlphaFoldは、タンパク質がどのように折りたたまれてどのような立体構造をとるかをニューラルネットワークの手法で解くもので、2024年度のノーベル化学賞を受賞した。創薬の分野では、疾患の原因となっているタンパク質を作る遺伝子が特定されているものもあるため、そのタンパク質と結合する化合物を探すために機械学習を用いる試みが始められている。マテリアルズインフォマティクスの分野では、化合物の組成から物性を予測する機械学習が行われている。
Posted by ブクログ
なぜ物理学者が「知能とはなにか」を問うのか？
物理学者の書いた本を普段読むことはないのだが、取り合わせの妙というか、「なぜ？」という思いがぬぐえず、読むことにした。
結論として、筆者によれば「知能とは現実世界のシミュレーター」。
人工知能は「意味」を理解していないが、事物の関係の地図＝世界を構築することができる。
膨大なデータが利用できるようになり、一時はとん挫していたAI研究が一気に進み、今や実用化した。
著者によれば、「現実世界のシミュレーター」である点では、人間の脳もAIも等価である、と喝破する。
もちろん、仕組みの違うシミュレーターであるとも言っているので、同一視はすべきでないのだが。
知能とは何かという問題に関しては、脳科学者も、人工知能研究者も取り組んできたけれど、きちんとした答えはまだ出ていない状況なのだそうだ。
脳から知能を研究するアプローチでは、部位と機能の関係についてのデータは蓄積されているが、知能の定義には至っていないのだとか。
人工知能研究はこれとは違った知能についてのアプローチ法を提供した。
複雑な知的作業も、単純な論理演算で実現できるのだから、脳の機能がわからなくても、それを再現できると考える「古典的記号処理パラダイム」が生まれる。
ところが、論理では導き出せない「常識」の学習でつまずき、頓挫する。
これを打開する二つのアプローチがさらに考え出され、その一つがニューラルネットワークだったのだが、花開かずに消えたもう一つのアプローチが面白い。
人工知能に身体を持たせてしまえ、というものだ。
ちなみに、このアプローチが進展しなかったのは、一つは残存する「古典的記号処理パラダイム」との対立と、ロボット研究との境界があいまいであったことだそうだが、この考え方が将来また芽を吹いたりしないのかな、なんて夢想したりする。
Posted by ブクログ
AIの歴史や概要について掴むのにわかりやすい本。人工知能の研究に、人間の知能から進めていって行き詰まり、全く異なるアプローチが今の人工知能に繋がるというとは面白い。
そういう観点で見ると、今の生成AIはスカスカで、自我に繋がるものでなく人間の脅威に当たらないというのは論理的にすっきりしている。
また、人間の脳も現実のシミュレーションの一種に過ぎないというのもなるほどと納得できる。
しかし、今後のAIの進歩についてはどうなるのかという点はあまり書かれていない。
画像と深層学習の組み合わせを考えれば、現実社会への浸透はどんどん進んでくるだろう。
そもそも人間の生活のほとんどは知能ではなく、習慣とルールで成り立つものであり、自我のないAIで十分対応できるもの。
効率的な社会の実現により、ますます多数の人間が不適合になるのではないかと危惧している。
Posted by ブクログ
知能とは非線形非平衡他自由度系によるシミュレーションである、という主張はともかくとして、近年のDL, AI の進展が要領良くまとめられている。1990頃までのneural network の研究と本質的な違いが無いのに、コンピュータ性能の向上によって莫大なデータを扱えるようになったことにより、パラメータ数も格段に増やしたにもかかわらずoverfittingの問題が何故か回避されてしまった、その理由は分からない、という専門家としての見識がこの本から得られる最も貴重な情報であろう。さて、知能というのもこの宇宙で起きている自然現象の一つであるから、非線形非平衡他自由度系で起きている現象であるという主張には納得がいく。しかし旧来の所謂人工知能研究で対象とされていた人工言語が論理を基礎に作られようとしていたものが役に立たなかったという評価であるが、こちらは「知能」とはちがう「知性」と深く関わっているという思いが残る。
Posted by ブクログ
【いくつかのポイント】・非線形系非平衡多自由度系
・実は、私たちは「そもそも知能とはなにか」ということですら満足に答えることができずにいる。
・生成AIも人間の脳も現実のシミュレーターに過ぎず異なった限界を持っている。
・生成AIと脳という二つの別の「知能」があり、それらは全く異なった形で現実を解釈するシミュレーター。今後も無限個の「異なった現実シミュレーター」としての知能が出現する。
【目次】
第0章 生成AI狂騒曲
第1章 過去の知能研究
第2章 深層学習から生成AIへ
第3章 脳の機能としての「知能」
第4章 ニューロンの集合体としての脳
第5章 世界のシミュレーターとしての生成AI
第6章 なぜ人間の脳は少ないサンプルで学習できるのか?
第7章 古典力学はまがい物?
第8章 知能研究の今後
第9章 非線形系非平衡多自由度系と生成AI
第10章 余談ロボットとAI
あとがき
Posted by ブクログ
著者自ら評価する通り、生成AI研究の間近にいながらその可能性を見抜けなかった人なので、この人の未来に関する見通しはアテにならないが、これまでのAI 研究の経緯や動作原理などは非常にわかりやすく書かれていて、素人でも十分に深いところまで理解できる。自然言語処理がこう言う原理で動いていたなんて驚き。単純に確率だけで次の言葉を選んでいると思っていたが、脳内(メモリ内？)に関連度の距離に関する地図を持っているのね。その意味では人間の言語処理と似ていると思った。その地図がもっと精巧で広範囲になればヒトが持つスキーマに近いものになると思われる。恐らく時間の問題だろう。
ただ知能が高いことと、意思や感情を持つことは全く別なので、ロボットが人間を支配するようになるには別の発明が必要になるだろう。そしてそれは案外良いことなのかも知れない。少なくとも自民党の爺さん達よりは優秀そうだ。
Posted by ブクログ
脳は現実世界のシミュレーター。非線性非平衡多自由度系。線形・平衡で物事を考えている。すっきりした世界。かといって非線形非平衡がすっきりしないわけではなく，それはそれで1つの解だろう。キーワードになりそうな感覚はあるが，それをうまく関連づけられる状態ではない。第6章「なぜ人間の脳は少ないサンプルで学習できるのか」は関連知識があるので読みやすかった。基盤モデル＋転移学習，というのも興味深い。一般知能ｇと広範能力・限定能力にたいなもの？異種間の知能では身体性に言及される。知能についての研究を思い出させてくれた。
Posted by ブクログ
生成AIに知能はあるのか、そもそも知能って何？について科学的に解説した本。
自由意志に興味があって、それの理解の一助になればいいなと思って読んだけど、専門家じゃない人にも優しく説明しているんだろうが、いかんせんこちらが理科オンチすぎて何が何だかわからなかった…ところどころ出てくる専門用語でお手上げでした…
でもシンギュラリティはない(あっても人類をどうにかするようなことはない)と書いてあった気がして、得るものはありました。
Posted by ブクログ
近年盛り上がっている生成ＡＩと人の知能を比較することで、知能について考察した本。
著者の田口氏の本といえば、30年ほど前に『砂時計の不思議』を読んだことがあります。
非常に面白かった記憶があるので、本書は、著者の名前を見つけた瞬間に手に取っていました。
現在の生成ＡＩは、「非線形非平衡多自由度系」と呼ばれるモデルの延長線上にあるそうで、これは、人の知能とはまったく違う形での知能の実現、とのこと。
かつて非線形非平衡多自由度系の研究者であった田口氏は、生成ＡＩに到達できる可能性があったわけで、そのことをかなり悔しがっているように見受けられます。
それゆえ、若干感情的な論調なので、「客観性に欠けるのでは？」という印象も受けました。
ちなみに、「知能とは何か？」について、学術的な定義は現時点では確定していないようですが、田口氏は「現実世界のシミュレーター」と定義。
これについては、生成ＡＩと人の知能の比較から、納得できる定義だと思いました。
しかしながら、シミュレートの方法が、生成ＡＩと人の知能ではまったく異なるため、生成ＡＩが人の知能の脅威になることはないだろう、というのが田口氏の見立て。
とはいえ、「現実世界のシミュレーター」にはいくつも方法があると考えられるので、人の知能を脅かすＡＩが登場する可能性は否定できないのかな、と。
現在の生成ＡＩは、かつて田口氏が研究に携わった「非線形非平衡多自由度系」の延長線上にある、ということで、全体的に生成ＡＩに対して斜に構えていて感情的なのですが、ご自身もそのことを理解しているようです。
そのあたりをうまく差し引いて読むことができれば、もう少し高評価なのですが、自分にはそれができなかったので、★★★☆☆で。
Posted by ブクログ
AI研究の発展と知能研究の交差や関係について物理学者の目線で語るという内容。昨今の生成AIの隆盛の中で開発に関わる技術者からの解説や、あるいはAIと人類あるいは社会との関係を哲学的な視点から考察するものなど、関連する書籍は多数あるが、本書の特徴はAI研究という意味で関連はしているけれど生成AI的なものを生み出すには至らなかった分野の物理学者として、これまでのAI研究の技術的な変遷などが俯瞰的に構成されていて全体像がわかりやすいという意味で新書として良い内容だと感じる。
知能とは世界をシミュレートするものであり、生成AIもまた世界シミュレーターだが人間の知能とは異なるやり方でそれを実現しているのであり、生成AIによって知能が再現されたということをどう捉えるのか、という辺りの話は面白かった。生成AIの発展によって知能とは何かという問いに新たな発見や考察が今後も生まれてくるのだろうなという感覚を得られて良かった。今後が楽しみです。
