あらすじ
チャットGPTに代表される生成AIは、機能を限定されることなく、幅広い学習ができる汎用性を持っている、そのため、将来、AIが何を学ぶかを人間が制御できなくなってしまう危険は否定できない。しかし、だからといって、AIが自我や意識を獲得し、自発的に行動して、人類を排除したり、抹殺したりするようになるだろうか。この命題については、著者はそのような恐れはないと主張する。少なくとも、現在の生成AIの延長線上には、人類に匹敵する知能と自我を持つ人工知能が誕生することはない、というのだ。
その理由は、知能という言葉で一括りされているが、人工知能と私たち人類の持つ知能とは似て非なるものであるからだ。
実は、私たちは「そもそも知能とはなにか」ということですら満足に答えることができずにいる。そこで、本書では、曖昧模糊とした「知能」を再定義し、人工知能と私たち人類が持つ「脳」という臓器が生み出す「ヒトの知能」との共通点と相違点を整理したうえで、自律的なAIが自己フィードバックによる改良を繰り返すことによって、人間を上回る知能が誕生するという「シンギュラリティ」（技術的特異点）に達するという仮説の妥当性を論じていく。
生成ＡＩをめぐる混沌とした状況を物理学者が鮮やかに読み解く
本書の内容
はじめに
第０章 生成ＡＩ狂騒曲
第１章 過去の知能研究
第２章 深層学習から生成ＡＩへ
第３章 脳の機能としての「知能」
第４章 ニューロンの集合体としての脳
第５章 世界のシミュレーターとしての生成Ａ
第６章 なぜ人間の脳は少ないサンプルで学習できるのか？
第７章 古典力学はまがい物？
第８章 知能研究の今後
感情タグBEST3
Posted by ブクログ
議論の設定だけをみれば、昨今のAi技術の興隆の中ではありがちなもののひとつであるが、物理学者としての見地と、過去の研究におけるAI技術のブレイクスルーとの類似性といった観点からの解説は、哲学上の議論やAI開発者の理論とも異なる視座として貴重に思われた。内容自体は比較的初学者にも優しい。
Posted by ブクログ
この肉体を守りたいとか、この肉体を満たしたいという、個々に与えられた身体に帰属するミッションが自我であり個性だが、その上層で思考する（最適解を検討したり、推理したり）部分は能力差や経験差はあるものの、査定可能で大差はない。大差はないから、相手の思考をある程度見抜く事が可能なのだ。
だとしたら、自我と知能は区別すべきである。本書もズバリ言い切るが、我々が「知能」として特別視してきたものは、既にAIが代替出来ていて、チューリングテストには軽く合格するし、人知の応用を必要とする問いにも答えられるレベルだ。
人間と人間以外を区別するのは「知能」ではない。まあ、直観的にも分かる気はする。人間と同じ言葉を話し、思考力を持った猫や犬が誕生したとしても、人間とは言わないのだから。
擬人化して自らの理解可能な物語に取り込む所作は、人間を上位に置くから可能であり、その限りにおいて「知能」とは人間だけの専売特許であった。擬人化、同族化の決定権は神である人間のみに許されたはずだ。
同族以外は、利用すべき道具である。
道具を上手く使うために優れた知能が必要だ。異なる存在がより優れた知能ならば、自らが道具になる可能性がある。道具化の覇権を争う関係性になりかねない。
ー 我々が知的な作業だと思っていたものは別に知能などなくても実行可能なタスクだった（我々はそれを知能を使ってやっているにしても）
しかし、そんな一抹の不安こそ人間である事の証左となる。人間とは、知能が存在証明になるのではなく、身体から生じる「感情」こそ、一個体単位にユニークな存在なのだから。つまり、知能は普遍的で、感情こそ唯一性があるのだ。
本書を読んで、そんな事を考えた。
Posted by ブクログ
AIの歴史や概要について掴むのにわかりやすい本。人工知能の研究に、人間の知能から進めていって行き詰まり、全く異なるアプローチが今の人工知能に繋がるというとは面白い。
そういう観点で見ると、今の生成AIはスカスカで、自我に繋がるものでなく人間の脅威に当たらないというのは論理的にすっきりしている。
また、人間の脳も現実のシミュレーションの一種に過ぎないというのもなるほどと納得できる。
しかし、今後のAIの進歩についてはどうなるのかという点はあまり書かれていない。
画像と深層学習の組み合わせを考えれば、現実社会への浸透はどんどん進んでくるだろう。
そもそも人間の生活のほとんどは知能ではなく、習慣とルールで成り立つものであり、自我のないAIで十分対応できるもの。
効率的な社会の実現により、ますます多数の人間が不適合になるのではないかと危惧している。
Posted by ブクログ
知能とは非線形非平衡他自由度系によるシミュレーションである、という主張はともかくとして、近年のDL, AI の進展が要領良くまとめられている。1990頃までのneural network の研究と本質的な違いが無いのに、コンピュータ性能の向上によって莫大なデータを扱えるようになったことにより、パラメータ数も格段に増やしたにもかかわらずoverfittingの問題が何故か回避されてしまった、その理由は分からない、という専門家としての見識がこの本から得られる最も貴重な情報であろう。さて、知能というのもこの宇宙で起きている自然現象の一つであるから、非線形非平衡他自由度系で起きている現象であるという主張には納得がいく。しかし旧来の所謂人工知能研究で対象とされていた人工言語が論理を基礎に作られようとしていたものが役に立たなかったという評価であるが、こちらは「知能」とはちがう「知性」と深く関わっているという思いが残る。
Posted by ブクログ
【いくつかのポイント】・非線形系非平衡多自由度系
・実は、私たちは「そもそも知能とはなにか」ということですら満足に答えることができずにいる。
・生成AIも人間の脳も現実のシミュレーターに過ぎず異なった限界を持っている。
・生成AIと脳という二つの別の「知能」があり、それらは全く異なった形で現実を解釈するシミュレーター。今後も無限個の「異なった現実シミュレーター」としての知能が出現する。
【目次】
第0章 生成AI狂騒曲
第1章 過去の知能研究
第2章 深層学習から生成AIへ
第3章 脳の機能としての「知能」
第4章 ニューロンの集合体としての脳
第5章 世界のシミュレーターとしての生成AI
第6章 なぜ人間の脳は少ないサンプルで学習できるのか?
第7章 古典力学はまがい物?
第8章 知能研究の今後
第9章 非線形系非平衡多自由度系と生成AI
第10章 余談ロボットとAI
あとがき
Posted by ブクログ
著者自ら評価する通り、生成AI研究の間近にいながらその可能性を見抜けなかった人なので、この人の未来に関する見通しはアテにならないが、これまでのAI 研究の経緯や動作原理などは非常にわかりやすく書かれていて、素人でも十分に深いところまで理解できる。自然言語処理がこう言う原理で動いていたなんて驚き。単純に確率だけで次の言葉を選んでいると思っていたが、脳内(メモリ内？)に関連度の距離に関する地図を持っているのね。その意味では人間の言語処理と似ていると思った。その地図がもっと精巧で広範囲になればヒトが持つスキーマに近いものになると思われる。恐らく時間の問題だろう。
ただ知能が高いことと、意思や感情を持つことは全く別なので、ロボットが人間を支配するようになるには別の発明が必要になるだろう。そしてそれは案外良いことなのかも知れない。少なくとも自民党の爺さん達よりは優秀そうだ。
Posted by ブクログ
AI研究の発展と知能研究の交差や関係について物理学者の目線で語るという内容。昨今の生成AIの隆盛の中で開発に関わる技術者からの解説や、あるいはAIと人類あるいは社会との関係を哲学的な視点から考察するものなど、関連する書籍は多数あるが、本書の特徴はAI研究という意味で関連はしているけれど生成AI的なものを生み出すには至らなかった分野の物理学者として、これまでのAI研究の技術的な変遷などが俯瞰的に構成されていて全体像がわかりやすいという意味で新書として良い内容だと感じる。
知能とは世界をシミュレートするものであり、生成AIもまた世界シミュレーターだが人間の知能とは異なるやり方でそれを実現しているのであり、生成AIによって知能が再現されたということをどう捉えるのか、という辺りの話は面白かった。生成AIの発展によって知能とは何かという問いに新たな発見や考察が今後も生まれてくるのだろうなという感覚を得られて良かった。今後が楽しみです。
