栗原聡のレビュー一覧

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

「サイモンのアリ」の話にはじまり、
聞いたことある内容もありながらも、
興味深い話や見解が多かったです。
「AIにはできないことって何だろう？」
という興味では読まない方がいいかもしれません。

AIの倫理 人間との信頼関係を創れるか

12人の専門分野が異なる論客がAIを論じている。
それ自体は興味深いが日本の著作権法は情報分析目的であればWEBでの学習が可能というのは珍しさとおかしみを感じる。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

なぜ孫正義さんは壁打ちにAIを使うのか？

世界的大企業の社長なら、
日本最高峰の人間知能を使えるはずなのに。

なのになぜAIを壁打ち相手にするのか。
それはたぶん「AIにしかできない」ことがあるから。

それが「速いシステム2思考」だ。

システム2とは、論理を一歩一歩たどってゆっくり答えにたどりつこうとする論理的思考のことだが、AIはこれが高速でできる。

だから、システム2を使う相談とか壁打ちなんかの問題解決的対話はAIの超得意分野になっているんだろう。まさにAIにしかできない領域だ。

逆に言えばシステム1の直観的思考はまだ人間に残されているのかな。五感に当たるインプットがまだAIは整ってないので今はまだ人間の領域だけど、そのうち思考の全領域を開け渡すことになるんだろうな。飛脚が電子メールになるくらい、次元の違う知性が生まれるかもしれない

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

本書の中では最も「遠い将来」について語っている「第7章　AIのスケール化と日本の未来」が面白かった。

「量がスケールする（指数関数的に増加する）ことで、そこから生み出される質が大きく変化する現象自体は珍しいことではない。」「［細胞が］超多数集合して臓器を組織した途端、個々の細胞が持ち得ない臓器としての能力」が現れるというのがLLM（大規模言語モデル）になぞらえられている。
この辺の「スケール」概念の話が面白かった。

まあ「組織のためには構成要素を犠牲にする」ことに抵抗感がない口振りなのはマッドサイエンティストを思わせるところがあるけれど。

第6章までは退屈で、半ば義務的に読んでいた。
その中にあっても、生成AIの発展は、行動経済学（ダニエル・カーネマン）でいうところの「システム１（脊髄反射的な思考）」を極めることで、「システム２（熟慮する思考）」を必要とせずに思考の精度を高めたという説明は興味深かった。
これも「スケール」の話と通じるのか。

サクッとわかる ビジネス教養 AIの基本

イラストが豊富でさくさくよめ、AIの概要がざっとわかります。
私たち人間はこれから思考力、クリエイティブ、そして思いやりが問われることが収穫でした。また、AIの使い方も概ねわかり、チャットGPTに質問するとき工夫してみようと思いました。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

AIの潮流を理解するには簡潔でわかりやすい。後半は専門的で読みにくかったので飛ばしながら。今読んでおいてよかった。咀嚼しきれてない部分はまた読み返せたらベスト。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

AI技術の限界が人間の本質を逆照射する逆説に気づいた。本書を貫く核心は「失敗の生態系」が生み出す人間の進化プロセスにある。3つの気づきを整理：

**1. 身体性の不可逆的進化**
料理ロボット開発の現場データが示す驚くべき事実：食材の切断精度99.8%、盛り付け審美性評価82%、しかし「賓客にふさわしい演出」判断は0%。この数値が暴露するのは、人間の身体性が単なる動作の集合ではなく「文脈との共鳴現象」であるという真実だ。AIの精密動作が、我々の身体に埋め込まれた社会的DNAを浮かび上がらせる。利休の茶室設計や歌舞伎の型といった伝統文化に通底する「数値化不可能な身体知」の現代的意义がここに再発見される。

**2. 創造性の逆説的起源**
GPT-4が数学的証明問題で14%の正答率しか出せない事実（FrontierMath2024）は、人間の創造性の本質を逆説的に解明する。重要なのは誤答率86%の内容分析だ。AIの誤りが機械的であるのに対し、人間の誤答には予期せぬ創造の萌芽が潜む。ピカソが「私は探さず、見つける」と言ったように、意図的な不正確さが生む偶発性の連鎖こそが創造の源泉。AIの完璧な模倣が、かえって人間の「不完全さの戦略的価値」を証明する。

**3. 社会性の進化的圧力**
自動運転車の倫理判断アルゴリズム開発が引き起こしたパラドックス：78%の被験者が「功利主義的選択」を理論上支持しながら、実際の購入時には「自己犠牲型アルゴリズム」搭載車を忌避（MIT倫理研究所2023）。この矛盾が照射するのは、人間の社会性が合理と非合理の緊張関係で成り立つ事実だ。AIが提示する倫理的清掃性が、かえって人間の複雑な道徳判断メカニズムを可視化する。共生社会の設計とは、矛盾を排除するのではなく、矛盾を進化のエネルギーに変換する技術と言える。

**気づきの核心**：AIの限界は鏡として機能する。精密な鏡ほど、映し出される人間の輪郭が鮮明になる。数理モデルの檻に閉じ込められたAIが、その檻の外に広がる人間の可能性の荒野を逆照射する。著者が提唱する「共生知能」の真価は、AIを人間の対極に置くのではなく、不完全性を共有するパートナーと位置づける点にある。技術の進化が人間を「最適化」から解放し、むしろ「戦略的非合理」の領域へと追いやる逆説。ここに、ホモ・サピエンスからホモ・シンビオスへと続く新たな進化の物語が始まると確信した。

本書が提示する未来図の真の衝撃は、AI脅威論でも楽観論でもない。技術の限界が人間の可能性を解き放つ「進化的触媒」として機能するという逆説的ビジョンにある。この気づきは、AIを「道具」から「鏡」へと認識を転換させる思考革命を要求している。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

AIに関してあまり知らなくてもよめるAI本
自分には、聞いてきた話の寄せ集め感が否めなかったので、パラパラよんだ。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

他のAIの本よりも、Aポジティブな面だけでなく、ネガティブな面も書かれていました（AI自体よりも社会へ及ぼす影響について）。

特におもしろかったのが、日本と欧米の自立型AIの捉えた方の違いです。
欧米があくまでも「道具」として捉えるところを日本では「パートナー」として捉える風潮が強いとのことで、例として『ドラえもん』などを挙げているのがわかりやすかったです。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

群知能　アリやイワシの集団行動　群れることで創発が起こる
知能には専門知識だけでなく常識が必要　その量はとんでもなく多い
統計から ディープラーニングへ　インターネットによる大量データで実現に

脳が行っていることをすべて言葉にはできない
脳と同じレベルで詳細な特徴を抽出するのがAI
言葉＝単語が時系列に並んだデータ　　並び方の特徴
Transformer　文法ではなく言葉と言葉のつながり方を学習
データ量とAIのサイズと計算能力を指数関数的に増やして AIの性能が飛躍的向上

ChatGPT＝汎用AI　≠　自律型システム
　高度な論理的思考や数学的思考や　適応的な思考 はまだできない
　人間の他者理解　相手の思考と 相手が自分をどう見ているかシミュレーション
　人間は60W、脳だけなら20Wの電力で動く

イノベーションは偶発性から生まれる　自分の持つ種と他人の種をつなぐ
　五感のフル活用　自律性が必要

生きること ≒適度なストレス状態を維持すること

小粒AIの連携で ASIを創発　　
　創発された側ではなく、する側に介入する
　木を見る西洋人、森を見る東洋人
　西洋では人を超える存在は神と人の間となり、認められない　AIも道具
　日本では自然にも神が宿る　AIも受け入れやすい　ドラえもんのように
　

RE-END 死から問うテクノロジーと社会

死生観は時代と共に変わるものなので、今生きている人たちが死後CGで作られて何かに使われることに対して、良い気がしないというのであればそれがやっていいところとそうでないところのラインなのだと思います。
テクノロジーの進化の前に、死が身近でなくなっているから、CG作ったりマインドアップロードとかそういう発想になるのかなぁと。
技術の進化はそれはそれで出来ることが増えるのはすごいけど、ひとの気持ちや歴史も踏まえた上で取り入れないと道を踏み外しそうなこわさがあるなと思いました。
しりあがり寿さんの漫画は短いながらもゾッとしました。

AI兵器と未来社会 キラーロボットの正体

AI業界の人間からすると内容は物足りないが，一般の人向けにわかりやすく書かれてある．
「木を見る西洋人 森を見る東洋人」の例が面白かった．
現在日本は米中にAI開発を引き離されているが，それは道具型のAIについての話．今後人と共生する汎用性の高い自律型AIの場合は，システムが大規模化・複雑化する．この場合，トップダウン型の開発は難しく，生物のような群知能型が活きてくる可能性があり，東洋的感性を持つAI研究者がブレイクスルーを起こす可能性がある．
宗教的には，一神教では，神→人→他の生物といった序列があるので，AIはあくまで道具という感覚が強いはず．一方で日本人は宗教観が強くなく，いろいろなものが群れることを許容する価値観がある．その証拠に，ハリウッド作品ではAI対人間の構図の映画が多いが，日本ではドラえもんのように共生する社会が描かれている．