栗原聡のレビュー一覧

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

栗原聡

AI技術の限界が人間の本質を逆照射する逆説に気づいた。本書を貫く核心は「失敗の生態系」が生み出す人間の進化プロセスにある。3つの気づきを整理：

**1. 身体性の不可逆的進化**
料理ロボット開発の現場データが示す驚くべき事実：食材の切断精度99.8%、盛り付け審美性評価82%、しかし「賓客にふさわしい演出」判断は0%。この数値が暴露するのは、人間の身体性が単なる動作の集合ではなく「文脈との共鳴現象」であるという真実だ。AIの精密動作が、我々の身体に埋め込まれた社会的DNAを浮かび上がらせる。利休の茶室設計や歌舞伎の型といった伝統文化に通底する「数値化不可能な身体知」の現代的意义がここに再発見される。

**2. 創造性の逆説的起源**
GPT-4が数学的証明問題で14%の正答率しか出せない事実（FrontierMath2024）は、人間の創造性の本質を逆説的に解明する。重要なのは誤答率86%の内容分析だ。AIの誤りが機械的であるのに対し、人間の誤答には予期せぬ創造の萌芽が潜む。ピカソが「私は探さず、見つける」と言ったように、意図的な不正確さが生む偶発性の連鎖こそが創造の源泉。AIの完璧な模倣が、かえって人間の「不完全さの戦略的価値」を証明する。

**3. 社会性の進化的圧力**
自動運転車の倫理判断アルゴリズム開発が引き起こしたパラドックス：78%の被験者が「功利主義的選択」を理論上支持しながら、実際の購入時には「自己犠牲型アルゴリズム」搭載車を忌避（MIT倫理研究所2023）。この矛盾が照射するのは、人間の社会性が合理と非合理の緊張関係で成り立つ事実だ。AIが提示する倫理的清掃性が、かえって人間の複雑な道徳判断メカニズムを可視化する。共生社会の設計とは、矛盾を排除するのではなく、矛盾を進化のエネルギーに変換する技術と言える。

**気づきの核心**：AIの限界は鏡として機能する。精密な鏡ほど、映し出される人間の輪郭が鮮明になる。数理モデルの檻に閉じ込められたAIが、その檻の外に広がる人間の可能性の荒野を逆照射する。著者が提唱する「共生知能」の真価は、AIを人間の対極に置くのではなく、不完全性を共有するパートナーと位置づける点にある。技術の進化が人間を「最適化」から解放し、むしろ「戦略的非合理」の領域へと追いやる逆説。ここに、ホモ・サピエンスからホモ・シンビオスへと続く新たな進化の物語が始まると確信した。

本書が提示する未来図の真の衝撃は、AI脅威論でも楽観論でもない。技術の限界が人間の可能性を解き放つ「進化的触媒」として機能するという逆説的ビジョンにある。この気づきは、AIを「道具」から「鏡」へと認識を転換させる思考革命を要求している。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

栗原聡

AIに関してあまり知らなくてもよめるAI本
自分には、聞いてきた話の寄せ集め感が否めなかったので、パラパラよんだ。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

栗原聡

他のAIの本よりも、Aポジティブな面だけでなく、ネガティブな面も書かれていました（AI自体よりも社会へ及ぼす影響について）。

特におもしろかったのが、日本と欧米の自立型AIの捉えた方の違いです。
欧米があくまでも「道具」として捉えるところを日本では「パートナー」として捉える風潮が強いとのことで、例として『ドラえもん』などを挙げているのがわかりやすかったです。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

栗原聡

群知能　アリやイワシの集団行動　群れることで創発が起こる
知能には専門知識だけでなく常識が必要　その量はとんでもなく多い
統計から ディープラーニングへ　インターネットによる大量データで実現に

脳が行っていることをすべて言葉にはできない
脳と同じレベルで詳細な特徴を抽出するのがAI
言葉＝単語が時系列に並んだデータ　　並び方の特徴
Transformer　文法ではなく言葉と言葉のつながり方を学習
データ量とAIのサイズと計算能力を指数関数的に増やして AIの性能が飛躍的向上

ChatGPT＝汎用AI　≠　自律型システム
　高度な論理的思考や数学的思考や　適応的な思考 はまだできない
　人間の他者理解　相手の思考と 相手が自分をどう見ているかシミュレーション
　人間は60W、脳だけなら20Wの電力で動く

イノベーションは偶発性から生まれる　自分の持つ種と他人の種をつなぐ
　五感のフル活用　自律性が必要

生きること ≒適度なストレス状態を維持すること

小粒AIの連携で ASIを創発　　
　創発された側ではなく、する側に介入する
　木を見る西洋人、森を見る東洋人
　西洋では人を超える存在は神と人の間となり、認められない　AIも道具
　日本では自然にも神が宿る　AIも受け入れやすい　ドラえもんのように
　

RE-END 死から問うテクノロジーと社会

塚田有那 / 高橋ミレイ / HITE-Media / 五十嵐大介 / 諸星大二郎 / しりあがり寿 / うめ / ハミ山クリニカ / 宮本道人 / ドミニク・チェン / 畑中章宏 / 石倉敏明 / 岡本亮輔 / 折田明子 / 水野祐 / 庄司昌彦 / 橋迫瑞穂 / 栗原聡 / 玉置妙憂 / 木村光希 / Whatever（川村真司・富永勇亮） / 小門穂 / 尾藤誠司 / 宇川直宏 / 山川道子

死生観は時代と共に変わるものなので、今生きている人たちが死後CGで作られて何かに使われることに対して、良い気がしないというのであればそれがやっていいところとそうでないところのラインなのだと思います。
テクノロジーの進化の前に、死が身近でなくなっているから、CG作ったりマインドアップロードとかそういう発想になるのかなぁと。
技術の進化はそれはそれで出来ることが増えるのはすごいけど、ひとの気持ちや歴史も踏まえた上で取り入れないと道を踏み外しそうなこわさがあるなと思いました。
しりあがり寿さんの漫画は短いながらもゾッとしました。

AI兵器と未来社会 キラーロボットの正体

栗原聡

AI業界の人間からすると内容は物足りないが，一般の人向けにわかりやすく書かれてある．
「木を見る西洋人 森を見る東洋人」の例が面白かった．
現在日本は米中にAI開発を引き離されているが，それは道具型のAIについての話．今後人と共生する汎用性の高い自律型AIの場合は，システムが大規模化・複雑化する．この場合，トップダウン型の開発は難しく，生物のような群知能型が活きてくる可能性があり，東洋的感性を持つAI研究者がブレイクスルーを起こす可能性がある．
宗教的には，一神教では，神→人→他の生物といった序列があるので，AIはあくまで道具という感覚が強いはず．一方で日本人は宗教観が強くなく，いろいろなものが群れることを許容する価値観がある．その証拠に，ハリウッド作品ではAI対人間の構図の映画が多いが，日本ではドラえもんのように共生する社会が描かれている．