知能とはなにか ヒトとＡＩのあいだ

田口善弘

チャットGPTに代表される生成AIは、機能を限定されることなく、幅広い学習ができる汎用性を持っている、そのため、将来、AIが何を学ぶかを人間が制御できなくなってしまう危険は否定できない。しかし、だからといって、AIが自我や意識を獲得し、自発的に行動して、人類を排除したり、抹殺したりするようになるだろうか。この命題については、著者はそのような恐れはないと主張する。少なくとも、現在の生成AIの延長線上には、人類に匹敵する知能と自我を持つ人工知能が誕生することはない、というのだ。

その理由は、知能という言葉で一括りされているが、人工知能と私たち人類の持つ知能とは似て非なるものであるからだ。

実は、私たちは「そもそも知能とはなにか」ということですら満足に答えることができずにいる。そこで、本書では、曖昧模糊とした「知能」を再定義し、人工知能と私たち人類が持つ「脳」という臓器が生み出す「ヒトの知能」との共通点と相違点を整理したうえで、自律的なAIが自己フィードバックによる改良を繰り返すことによって、人間を上回る知能が誕生するという「シンギュラリティ」（技術的特異点）に達するという仮説の妥当性を論じていく。

生成ＡＩをめぐる混沌とした状況を物理学者が鮮やかに読み解く

本書の内容
はじめに
第０章 生成ＡＩ狂騒曲
第１章 過去の知能研究
第２章 深層学習から生成ＡＩへ
第３章 脳の機能としての「知能」
第４章 ニューロンの集合体としての脳
第５章 世界のシミュレーターとしての生成Ａ
第６章 なぜ人間の脳は少ないサンプルで学習できるのか？
第７章 古典力学はまがい物？
第８章 知能研究の今後

• カテゴリ: ビジネス・実用
• ジャンル: 学術・語学 / 理工
• 出版社: 講談社
• 掲載誌・レーベル: 講談社現代新書
• タイトル: 知能とはなにか ヒトとＡＩのあいだ
• タイトルID: 1776463
• ページ数: 208ページ
• 電子版発売日: 2025年01月22日
• コンテンツ形式: EPUB
• サイズ(目安): 9MB

[ブクログ · ★★★★★]

著者の考えるAIは、「現実世界のシミュレーター」。物理学者であり、バイオインフォマティクスを専門であった著者の、近年の人工知能についての見解が述べられている本。

実は、「知能」の実態はつかめていないらしく、どんなに発達しても、人間の持つ知能と同じにはならないだろうと予想している。例えば、脳細胞がどんな形をしていて、どんな物質をやり取りしているか、は既知である。一方、知能はどんな反応によるものか、そもそも何をもって知能があるといえるのか、言葉の定義すら決められないのだそう。言われてみれば、知能とはぼやっとした概念に聞こえる。

膨大なデータで世の中の事象を予測するAIに対して、人間はもっと少数のサンプルから本質をつかむことができるという。このことから、どんなにAIが発達しても人間の知能とは異なる仕組みによるもので、機能が同じとは言えないのでは、との立場。

感情論と理論的側面の２つで記述されている。

機械学習に疎くても読みやすく、納得感があった。

[ブクログ · ★★★★★]

田口先生の2冊目。いずれもAI関連。ChatGPTが人間とは別方式の世界シミュレータだという見方は当たっていると思う。

[ブクログ · ★★★★★]

議論の設定だけをみれば、昨今のAi技術の興隆の中ではありがちなもののひとつであるが、物理学者としての見地と、過去の研究におけるAI技術のブレイクスルーとの類似性といった観点からの解説は、哲学上の議論やAI開発者の理論とも異なる視座として貴重に思われた。内容自体は比較的初学者にも優しい。

[ブクログ · ★★★★★]

生成AIが「知能」であるかどうか？そもそも「知能」とは何かに、迫る解説。
生成AIの実体を理解するのに大切な視点が得られる。

[ブクログ · ★★★★☆]

著者は物理学者。大規模言語モデルは、著者が研究していた非線形非平衡多自由度系の亜種だという。

脳は、限られた情報から外の世界を脳内で再構成しているという意味で、現実世界のシュミレーターである。生成AIも、現実世界のシミュレーションを実行している機械システムと考えることができる。

脳の動作原理は、ニューラルネットワークや深層学習とは別物であり、その延長上にある生成AIとは異なるものである。 脳と生成AIはどちらも世界シミュレーターであるが、世界を全く異なったように解釈している。

ジェフ・ホーキンスは、「1000の脳理論」の中で、知能とは事物の地図を脳内に作ることだと断言している。「1000の脳理論」とは、脳が、いろいろなあり得る現実を記述する可能性の中から適当なものを選んでいるに過ぎないという意味。

深層学習は複雑なモデルを導入しているにも関わらず、過学習せず高度な般化性能を獲得する。トランスフォーマーは、文章中の単語の関係の理解込みで単語の地図を作る機能を実装するアルゴリズムだが、穴埋め問題を解かせると文中の単語の関係を学習してしまう機能を持っている。

Google DeepMind社のAlphaFoldは、タンパク質がどのように折りたたまれてどのような立体構造をとるかをニューラルネットワークの手法で解くもので、2024年度のノーベル化学賞を受賞した。創薬の分野では、疾患の原因となっているタンパク質を作る遺伝子が特定されているものもあるため、そのタンパク質と結合する化合物を探すために機械学習を用いる試みが始められている。マテリアルズインフォマティクスの分野では、化合物の組成から物性を予測する機械学習が行われている。

[ブクログ · ★★★★☆]

なぜ物理学者が「知能とはなにか」を問うのか？
物理学者の書いた本を普段読むことはないのだが、取り合わせの妙というか、「なぜ？」という思いがぬぐえず、読むことにした。

結論として、筆者によれば「知能とは現実世界のシミュレーター」。
人工知能は「意味」を理解していないが、事物の関係の地図＝世界を構築することができる。
膨大なデータが利用できるようになり、一時はとん挫していたAI研究が一気に進み、今や実用化した。
著者によれば、「現実世界のシミュレーター」である点では、人間の脳もAIも等価である、と喝破する。
もちろん、仕組みの違うシミュレーターであるとも言っているので、同一視はすべきでないのだが。

知能とは何かという問題に関しては、脳科学者も、人工知能研究者も取り組んできたけれど、きちんとした答えはまだ出ていない状況なのだそうだ。
脳から知能を研究するアプローチでは、部位と機能の関係についてのデータは蓄積されているが、知能の定義には至っていないのだとか。
人工知能研究はこれとは違った知能についてのアプローチ法を提供した。
複雑な知的作業も、単純な論理演算で実現できるのだから、脳の機能がわからなくても、それを再現できると考える「古典的記号処理パラダイム」が生まれる。
ところが、論理では導き出せない「常識」の学習でつまずき、頓挫する。
これを打開する二つのアプローチがさらに考え出され、その一つがニューラルネットワークだったのだが、花開かずに消えたもう一つのアプローチが面白い。
人工知能に身体を持たせてしまえ、というものだ。
ちなみに、このアプローチが進展しなかったのは、一つは残存する「古典的記号処理パラダイム」との対立と、ロボット研究との境界があいまいであったことだそうだが、この考え方が将来また芽を吹いたりしないのかな、なんて夢想したりする。

[ブクログ · ★★★★☆]

AIの歴史や概要について掴むのにわかりやすい本。人工知能の研究に、人間の知能から進めていって行き詰まり、全く異なるアプローチが今の人工知能に繋がるというとは面白い。
そういう観点で見ると、今の生成AIはスカスカで、自我に繋がるものでなく人間の脅威に当たらないというのは論理的にすっきりしている。
また、人間の脳も現実のシミュレーションの一種に過ぎないというのもなるほどと納得できる。
しかし、今後のAIの進歩についてはどうなるのかという点はあまり書かれていない。
画像と深層学習の組み合わせを考えれば、現実社会への浸透はどんどん進んでくるだろう。
そもそも人間の生活のほとんどは知能ではなく、習慣とルールで成り立つものであり、自我のないAIで十分対応できるもの。
効率的な社会の実現により、ますます多数の人間が不適合になるのではないかと危惧している。

[ブクログ · ★★★★☆]

知能とは非線形非平衡他自由度系によるシミュレーションである、という主張はともかくとして、近年のDL, AI の進展が要領良くまとめられている。1990頃までのneural network の研究と本質的な違いが無いのに、コンピュータ性能の向上によって莫大なデータを扱えるようになったことにより、パラメータ数も格段に増やしたにもかかわらずoverfittingの問題が何故か回避されてしまった、その理由は分からない、という専門家としての見識がこの本から得られる最も貴重な情報であろう。さて、知能というのもこの宇宙で起きている自然現象の一つであるから、非線形非平衡他自由度系で起きている現象であるという主張には納得がいく。しかし旧来の所謂人工知能研究で対象とされていた人工言語が論理を基礎に作られようとしていたものが役に立たなかったという評価であるが、こちらは「知能」とはちがう「知性」と深く関わっているという思いが残る。

[ブクログ · ★★★★☆]

【いくつかのポイント】・非線形系非平衡多自由度系
・実は、私たちは「そもそも知能とはなにか」ということですら満足に答えることができずにいる。
・生成AIも人間の脳も現実のシミュレーターに過ぎず異なった限界を持っている。
・生成AIと脳という二つの別の「知能」があり、それらは全く異なった形で現実を解釈するシミュレーター。今後も無限個の「異なった現実シミュレーター」としての知能が出現する。
【目次】
第0章 生成AI狂騒曲
第1章 過去の知能研究
第2章 深層学習から生成AIへ
第3章 脳の機能としての「知能」
第4章 ニューロンの集合体としての脳
第5章 世界のシミュレーターとしての生成AI
第6章 なぜ人間の脳は少ないサンプルで学習できるのか?
第7章 古典力学はまがい物?
第8章 知能研究の今後
第9章 非線形系非平衡多自由度系と生成AI
第10章 余談ロボットとAI
あとがき

[ブクログ · ★★★★☆]

著者自ら評価する通り、生成AI研究の間近にいながらその可能性を見抜けなかった人なので、この人の未来に関する見通しはアテにならないが、これまでのAI 研究の経緯や動作原理などは非常にわかりやすく書かれていて、素人でも十分に深いところまで理解できる。自然言語処理がこう言う原理で動いていたなんて驚き。単純に確率だけで次の言葉を選んでいると思っていたが、脳内(メモリ内？)に関連度の距離に関する地図を持っているのね。その意味では人間の言語処理と似ていると思った。その地図がもっと精巧で広範囲になればヒトが持つスキーマに近いものになると思われる。恐らく時間の問題だろう。
ただ知能が高いことと、意思や感情を持つことは全く別なので、ロボットが人間を支配するようになるには別の発明が必要になるだろう。そしてそれは案外良いことなのかも知れない。少なくとも自民党の爺さん達よりは優秀そうだ。