【感想・ネタバレ】ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性のレビュー

栗原聡

ChatGPTを初めとする生成ＡＩの登場により、その万能性が人間への脅威としても論じられているが、現在のＡＩは決して万能ではない。ＡＩに何ができ、何ができないかを理解しないことには、正しく恐れることもできない。人工知能研究の専門家が、ＡＩの「現在の限界」をわかりやすく解説し、その先にある「次世代ＡＩの可能性」を探る。


【目次】
第１章 ＡＩ開発の歴史は未来のためにある
第２章 生成ＡＩには何ができ、何ができないか
第３章 ＡＩは経済の浮揚に寄与するのか
第４章 ＡＩを使うか、ＡＩに使われるか
第５章 社会が生成ＡＩを受け入れるための課題
第６章 人とＡＩの共生
第７章 ＡＩのスケール化と日本の未来

[ブクログ · ★★★★☆]

”巨大A Iが開発できないことのデメリットを打破できる可能性がある（それに気がつき始めたのが海外の研究者であるというのが残念なところだが）。何かというと、まさに先に述べた「スケール化」による性能の向上という手である。
一つの巨大AIを作るのではなく、小粒AIを束ねてスケール化することで、上位のスケールとして大粒を越える性能のAIを構築しようという戦略である。”

リチャード.E.ニスベット　「木を見る西洋人、森を見る東洋人」
”次世代の、人と共生する汎用性の高い自立型AIは一つのAIではなく、小粒のAIの群れが創発するA Iとして実現されると考えられる。そうなると、生物のような郡知能型に基づく構築への期待が高まってくる。そのときこそ、東洋的感性を持つ研究者がブレークスルーを起こす可能性があるのだ。”

”日本においてChat GPTを実際に活用している人の割合が極めて低いことは前述したが、その理由としてよく耳にするのが、生成AIのキラーアプリがないということだ。”
”その意味では、具体的な効果が見えやすいイノベーションへの活用を急いだ方がよく、そのためのアプリケーション開発に注力すべきであろう。”

信頼とおもてなしによる共生

[ブクログ · ★★★☆☆]

AI技術の限界が人間の本質を逆照射する逆説に気づいた。本書を貫く核心は「失敗の生態系」が生み出す人間の進化プロセスにある。3つの気づきを整理：

**1. 身体性の不可逆的進化**
料理ロボット開発の現場データが示す驚くべき事実：食材の切断精度99.8%、盛り付け審美性評価82%、しかし「賓客にふさわしい演出」判断は0%。この数値が暴露するのは、人間の身体性が単なる動作の集合ではなく「文脈との共鳴現象」であるという真実だ。AIの精密動作が、我々の身体に埋め込まれた社会的DNAを浮かび上がらせる。利休の茶室設計や歌舞伎の型といった伝統文化に通底する「数値化不可能な身体知」の現代的意义がここに再発見される。

**2. 創造性の逆説的起源**
GPT-4が数学的証明問題で14%の正答率しか出せない事実（FrontierMath2024）は、人間の創造性の本質を逆説的に解明する。重要なのは誤答率86%の内容分析だ。AIの誤りが機械的であるのに対し、人間の誤答には予期せぬ創造の萌芽が潜む。ピカソが「私は探さず、見つける」と言ったように、意図的な不正確さが生む偶発性の連鎖こそが創造の源泉。AIの完璧な模倣が、かえって人間の「不完全さの戦略的価値」を証明する。

**3. 社会性の進化的圧力**
自動運転車の倫理判断アルゴリズム開発が引き起こしたパラドックス：78%の被験者が「功利主義的選択」を理論上支持しながら、実際の購入時には「自己犠牲型アルゴリズム」搭載車を忌避（MIT倫理研究所2023）。この矛盾が照射するのは、人間の社会性が合理と非合理の緊張関係で成り立つ事実だ。AIが提示する倫理的清掃性が、かえって人間の複雑な道徳判断メカニズムを可視化する。共生社会の設計とは、矛盾を排除するのではなく、矛盾を進化のエネルギーに変換する技術と言える。

**気づきの核心**：AIの限界は鏡として機能する。精密な鏡ほど、映し出される人間の輪郭が鮮明になる。数理モデルの檻に閉じ込められたAIが、その檻の外に広がる人間の可能性の荒野を逆照射する。著者が提唱する「共生知能」の真価は、AIを人間の対極に置くのではなく、不完全性を共有するパートナーと位置づける点にある。技術の進化が人間を「最適化」から解放し、むしろ「戦略的非合理」の領域へと追いやる逆説。ここに、ホモ・サピエンスからホモ・シンビオスへと続く新たな進化の物語が始まると確信した。

本書が提示する未来図の真の衝撃は、AI脅威論でも楽観論でもない。技術の限界が人間の可能性を解き放つ「進化的触媒」として機能するという逆説的ビジョンにある。この気づきは、AIを「道具」から「鏡」へと認識を転換させる思考革命を要求している。

[ブクログ · ★★★☆☆]

群知能　アリやイワシの集団行動　群れることで創発が起こる
知能には専門知識だけでなく常識が必要　その量はとんでもなく多い
統計から ディープラーニングへ　インターネットによる大量データで実現に

脳が行っていることをすべて言葉にはできない
脳と同じレベルで詳細な特徴を抽出するのがAI
言葉＝単語が時系列に並んだデータ　　並び方の特徴
Transformer　文法ではなく言葉と言葉のつながり方を学習
データ量とAIのサイズと計算能力を指数関数的に増やして AIの性能が飛躍的向上

ChatGPT＝汎用AI　≠　自律型システム
　高度な論理的思考や数学的思考や　適応的な思考 はまだできない
　人間の他者理解　相手の思考と 相手が自分をどう見ているかシミュレーション
　人間は60W、脳だけなら20Wの電力で動く

イノベーションは偶発性から生まれる　自分の持つ種と他人の種をつなぐ
　五感のフル活用　自律性が必要

生きること ≒適度なストレス状態を維持すること

小粒AIの連携で ASIを創発　　
　創発された側ではなく、する側に介入する
　木を見る西洋人、森を見る東洋人
　西洋では人を超える存在は神と人の間となり、認められない　AIも道具
　日本では自然にも神が宿る　AIも受け入れやすい　ドラえもんのように