栗原聡のレビュー一覧

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

栗原聡

最新（2024年後半）のＡＩの可能性を知りたい人におすすめ。

【概要】
●ＡＩの歴史
●生成ＡＩにできることと、できないこと
●ＡＩに使うか、使われるか
●ＡＩとの共生

【感想】
●ＡＩの歴史について一連の事項を復習できる。
●人工知能学会の会長の発言として、人にＩＴリテラシーは不要だという記述には驚いた。なぜなら経済産業省やＪＤＬＡの考えに同意して、ＩＴリテラシーだけは持っておかないといけないと自分は思っていたからである。
●ＡＩに使われないようにするために何が必要なのかを頭の中を整理することができた。そして、ＡＩを利活用（共生）していくためには、人のマインドセットが重要だということを理解できた。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

栗原聡

これは個々のAIの技術的内容に関する本ではない。広くAIの歴史や位置付けを考える本である。人工知能学会会長の要職にある著者は、幅広い視点からAIを語り、その未来を予測している。そしてAIを超えていろいろな問題を考える上でも参考になる視点を提供している。最近読んだAI関係の書籍の中でも、非専門家を含めて広くお勧めできる一冊である。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

栗原聡

サイモンのあり
アリが複雑な知能を持ってるのでなく、環境が複雑だからそのようにふるまう

創発
群れることで創発が起こる＝群知能

脳が学習するとは、脳神経細胞同士の繋がりの強さが変化すること

個人のスケールじゃなく社会のスケールで考える
テスラは個別で事故が起きているが、社会全体で見ると自動運転は安全の向上に寄与している

小型AIをむれさせて大型AIに
創発
サカナAI

こういうAI系の本ではなんかすごくバランスが良かったし、私が考えていきたい自律型についての整理がわかりやすい本でした

RE-END 死から問うテクノロジーと社会

塚田有那 / 高橋ミレイ / HITE-Media / 五十嵐大介 / 諸星大二郎 / しりあがり寿 / うめ / ハミ山クリニカ / 宮本道人 / ドミニク・チェン / 畑中章宏 / 石倉敏明 / 岡本亮輔 / 折田明子 / 水野祐 / 庄司昌彦 / 橋迫瑞穂 / 栗原聡 / 玉置妙憂 / 木村光希 / Whatever（川村真司・富永勇亮） / 小門穂 / 尾藤誠司 / 宇川直宏 / 山川道子

「死」を学際的に検討する過程で、よりよい「生」とは何かについて考えされさせられた。死とは生物学的な個体の絶命という意味を超えた観念であると感じた。死者を弔うのは他者であるが、その死者の存命中はもちろん、死後に至っても相互作用の中で誰かの自己と社会が形成されていく。そのような「分人」的観点で捉えると、「死」は自己完結するものではない。また、「弔う」ことの本質は儀式という表層的なものではなく、生成変化を伴う生者と死者の社会的な共生だと思った。
一方で、テクノロジーによって新たに生じる死者の権利、死後労働の観点は非常に悩ましい。生命はその有限性によってこそ輝くが、死後も残り続ける SNS 上の情報や著作物・AI による「死後労働」は、生者の死者に対する忘却という権利や弔いによって整理できたはずの「別れ」を脅かす。選択肢が増える過程で生と死を見つめ直す契機をもたらす一方で、人間の業の深さも感じさせられる。

AI兵器と未来社会 キラーロボットの正体

栗原聡

第3章までの知能の解説が良かった．潜在意識と顕在意識の件で第2章の説明は非常に納得できる．最終的に自律分散システムを人工知能に導入することはかなり難しいと感じた．一連の説明でも考察があったが、人間の脳は計り知れない能力を持っていることが再認識できた．兵器への人工知能の適用は全世界でコンセンサスを得る必要があるが、今のアメリカや中国の状況を見るとかなり難航すると予測される．

人工知能と社会 2025年の未来予想

AIX（人工知能先端研究センター） / 栗原聡 / 長井隆行 / 小泉憲裕 / 内海彰 / 坂本真樹 / 久野美和子

・一般化と個別適応
それぞれのバランスが大事。どうやってとるか？

・よりリベラルアーツが重要になってくる。
知能とは？人とロボットの違いとは？課題設定をどうするか？
⇒公共性も必要。自分にはまだ無い。どこまでも自己満足したい気持ちしかない。
⇒自分を形作ってくれたいままでの繋がりに感謝しより良くしていく気持ちを持つ。


■ロボティクス
AIだけでなくロボティクスの進化によってできることが増える。
物理空間で動作させてその結果をフィードバックさせて学習する。センサーがどこまでできるか。
動きは方向＋力＋制御が必要。力の加減難しい。

報酬設計も難しい。

暫定的最適行動をとり続けるのか、よりよい行動の探索をさせるのかも難しい。
これって人間でも難しいし個人差あるよね。

2025年までに小型ロボットが少しずつ普及し、データが溜まっていく

ロボットの意識やクオリア、倫理や権利はどうなるか？


■IoT
センシング問題の解決。すべてが繋がっていく。

全てが繋がるということは、悪影響もすべてに広がってしまうリスクがある。
『つながりすぎた世界』で警告されているように、つなげすぎずトラブルが起きても部分で食い止める設計は可能か？
ブロックチェーン技術もセキュリティ向上のために有効。

やっぱり医療・バイオは熱い。


■自然言語処理
表層的な意味分析はできてきたが、深い意味分析はまだ難しい。裏の意味、皮肉、利用シーンによって意味が変わる言葉……

ビジネスや学術論文などの世界の言語処理は比較的進みやすいであろう。

サクッとわかる ビジネス教養 AIの基本

栗原聡

絵がふんだんに使われているからAIとはなんぞやが分かりやすい。
最後の章のプロンプトの例はわかりやすかった。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

栗原聡

　これからの生活や仕事の在り方を大きく変える可能性があるAIについて、何ができて何ができないのか、知りたいと思い手に取った。
　現状、AIにとって得意なことは、与えられた指示があり、目的が明確であることであり、人間からの指示の元で動くことが前提であるようだ。一方、5感を使って考えたり創造したり、人の気持ちに共感したり、自律的に動くことはまだまだ苦手な領域と書かれていた。ただ、これらの苦手なことは、現状では苦手なことであるが、将来的には克服される可能性が高いとのこと。AIが自律的に目的や課題意識を持って動き始めると、いよいよ人間がAIを使うのではなく、AIが人間を使う側になる気がしてならなかった。筆者は、知能の進化という観点から見ると、今までは人間が知能の進化に大きく貢献してきたが、これからはAIが知能の進化に貢献するだけで、知能の進化が続くだけである、と述べている。そのような世界になったとき、人間の生活は、仕事はどうなるのか？結局こういった話はあくまでも予想であり、誰にも分からないのだから、目の前のことを頑張ろう、、と元も子もない感想をもった。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

栗原聡

AIが進化する現代、私たち人間にしかできないことって何だろう？という問いに、人工知能研究の第一人者が優しく答えてくれる一冊です。本書を読むと、AIにはない「身体」を使って動いたり、人と直接会って話したりすることの大切さにあらためて気づかされます。

効率だけでは測れない、経験や偶然の出会いから生まれる知恵こそが人間の強みなのだと、温かい気持ちになりました。ドラえもんで育った世代としては、AIと共に生きる未来へ、前向きな希望を与えてくれる素敵な本でした。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

栗原聡

”巨大A Iが開発できないことのデメリットを打破できる可能性がある（それに気がつき始めたのが海外の研究者であるというのが残念なところだが）。何かというと、まさに先に述べた「スケール化」による性能の向上という手である。
一つの巨大AIを作るのではなく、小粒AIを束ねてスケール化することで、上位のスケールとして大粒を越える性能のAIを構築しようという戦略である。”

リチャード.E.ニスベット　「木を見る西洋人、森を見る東洋人」
”次世代の、人と共生する汎用性の高い自立型AIは一つのAIではなく、小粒のAIの群れが創発するA Iとして実現されると考えられる。そうなると、生物のような郡知能型に基づく構築への期待が高まってくる。そのときこそ、東洋的感性を持つ研究者がブレークスルーを起こす可能性があるのだ。”

”日本においてChat GPTを実際に活用している人の割合が極めて低いことは前述したが、その理由としてよく耳にするのが、生成AIのキラーアプリがないということだ。”
”その意味では、具体的な効果が見えやすいイノベーションへの活用を急いだ方がよく、そのためのアプリケーション開発に注力すべきであろう。”

信頼とおもてなしによる共生

AI兵器と未来社会 キラーロボットの正体

栗原聡

宇宙派の主役は「人」ではなく「知能」。生物の進化から脱却し「知能」そのものが新しい生命体だという話。
これは面白い。
もしかしたら決して新しい考え方ではないのかもしれないが、個人的には新鮮な驚きだった。
我々は、地球上ではあくまでも「生命が進化してきた」と考えがちだ。
小さな細胞から始まり、やがて海の中で進化し、陸上に上がった。
恐竜の時代から、哺乳類の時代へ。
やがて人類が誕生し、二足歩行により手を自由に扱うようになり、脳が発達し、知能が進化した。
今までそう習ってきたから、それをそのまま受け入れていた。
しかし、そもそも進化の歴史を「知能」の視点に変えるだけで、様相が大きく異なる。
確かに小さな細胞から始まった進化かもしれないが、それは生命ではなく、宇宙が「知能」を進化させるために繰り返し行ってきたことだと考えてみても、なぜかそれは矛盾を感じない。
むしろ「確かにそうなんじゃないか」とさえ思ってしまう。
「この世界は、全て単なる情報なんじゃないかと思っている」と言ったのは佐藤航陽氏だった。
それも「知能」と意味が近いのだが、その考え方自体が非常に面白い。
この話で、ドゥニ・ヴィルヌーヴ監督の「メッセージ」（原題：Arrival）という映画を思い出してしまった。
今思えば、この映画も「知能」が起点となって進化した話なのだと理解できる。（監督の意図とは異なるかもしれないが）
このように考えてみると、所詮人間も生物もただの器というか入れ物であって、本質は中身の知能が本質ということなのかと帰結してしまう。
「知能」とは当然形がない訳で、「ソフトウェア」とも考えられる。つまりそれは「単なる情報」とも言える訳だ。
単なる情報である「知能」は果たしてどこに向かって行くのだろうか。
入れ物すら必要無い訳なので、どこまでも進化して、やがて宇宙の外に出ていくのだろう。
限りなく拡大していく漆黒の宇宙の中で、その時「知能」はどうなるのだろうか。
（その進化した知能が地球に戻ってきて、人類にメッセージを送るのが映画「メッセージ」なのですが。【勝手な感想】）
「知能」は益々進化していって、その先に何を目指すのだろうか。
そういうことを考えるだけで非常に面白い。
「人間以上に進化する生物はいないだろう」と考えるのはおこがましいが、いつかAI（という知能）は人類のあらゆる能力を超えていくのだろう。
現状のAIの進化の過程を見ていると、まだまだ人間特有部分の獲得には時間がかかりそうだ。
とは言え加速度的に、指数関数的に進化していく知能は、今後どのような発展を遂げるか想像もつかない。
50歳を過ぎた私であるが、人生100年と考えれば、50年後まで生きている可能性すらある。
そう考えると、後50年でAIは、知能はどれくらいまで進化するのだろうか。
そんな進化した超AIと、人類はどうやって向き合っていけばいいのだろうか。
本書でも書かれているが、益々「人間力」が必要になるのは間違いない。
歴史を俯瞰して見れば、科学技術が人類の生活向上のために役立ったという一方で、マイナス面も引き起こしてきたのは紛れもない事実だ。
原発は多くの電力を供給したが、一度事故になれば甚大な被害を出した。
自動車だって、移動の自由を人類に与えたが、今でも交通事故で苦しんでいる人がいる。
そういう裏表を鑑みても、「全体的には利用する方が得だ」と考えるから、科学技術は発展こそするが衰退はしない。
負の面があるのは事実であるが、それすらも科学技術の進歩が乗り越えていくというのが今までの流れなのだ。
世界にまだまだ課題があるのは事実だが、確実に生きやすくなっているではないか。
医者や病院のない時代に戻ることは考えられない。
電気も水道もない時代に戻ることももちろん考えられない。
いずれ「AIが無い時代に戻ることは考えられない」という日が来るだろう。（すでに来ているだろう）
結局、原発も電気も水道も、正しく使いこなす人がいるから便利な訳だ。
悪意のある人間にそれこそ悪用を許せば大変なことになる。
つまりAIも所詮使う側の人間次第。「高い人間力」が必要になるのは自ずと分かるだろう。
著者は「科学技術の進化によって、むしろ人類は退化してないか？」とすら語っている。
それは私自身も感じるところである。
だからこそ学び続け、人間力を磨き続け、年齢を重ねても未来に向けて成長していくことが大切なのではないだろうか。
むしろ本書はド文系にこそ読んでほしいと思った。
（2022/11/15）

AI兵器と未来社会 キラーロボットの正体

栗原聡

人工知能の軍事化と、いかに人類が人工知能と向き合うかという話。
そもそも人工知能とは何かという、意外と誰も答えられない質問への解から始まって理解が深められてよかった。
今の人工知能ブームは第三次で、第一次は1950-60年代、第二次は1980年代。どちらも技術が足りずに終わったが、第三次はディープラーニングにより20年近く継続している。
知能は生き抜くために環境に適応する能力。掃除ロボットは用途限定型人工知能、AIBOは低汎用型人工知能と呼べる。昆虫などは低汎用型人工知能に近いが、生物と低汎用型人工知能の大きな違いは生きる目的とその目的達成のための自律性、能動性にある。
自由意志は無意識の行為の理由を仲間同士で説明し共有するのに便利で、それが有用であったから社会性生物の人間の中に生き残って今がある。人にとって意味のある意識は人工知能にとっては意味がない。一方で人工知能が人に意識があると思ってもらうことは重要なので、人が人工知能に意識があると思うような振る舞いをすることとなる。
生命はボトムアップだが人工知能はトップダウンの設計で、蟻がエサまで最短距離で行列を作る行動ルールのような創発と群知能、これはトップダウンで作るのは難しい。そう簡単に人を超える人工知能を作るのは無理。
トロッコ問題やターミネーターの話。メタ目的のために人工知能が人を殺しうること。キラーロボットを分類するとトマホークミサイルなどの半自動型兵器、トリガーを人工知能が引く自動型兵器、それをさらに分類した用途限定型と低汎用型人工知能搭載兵器、フラッシュクラッシュを生起させうる集団自動型兵器、ターミネーターのようや自律型兵器、スカイネットシステムそのものの集団自律型兵器。著者は半自動型兵器に留めるべきと考えており、国際的な規範を定めることを提唱。

AI兵器と未来社会 キラーロボットの正体

栗原聡

知能とは何か?
あまり、疑問に思っていなかったことを提起されていた。
随所に例えが出ていたのでわかりやすい部分があった。

AI兵器と未来社会 キラーロボットの正体

栗原聡

AIの兵器（タイプAからEまでの解説）もあるが、どちらかというと未来にどうAIを活用していくべきか、という観点で書かれた本。
プログラム教育が義務化され、ITリテラシーを皆が持つべきだというのもわかるが、「しっかりとした社会性やモラルを身につけることの方がはるかに重要だ」というのは、本当にそうだと思いました。

AI兵器と未来社会 キラーロボットの正体

栗原聡

前半はAIに関連した前提知識の解説。タイトルの通り、もう少しAI兵器の内容を読みたかったし、倫理面だけではなく、どう対処していくのかという点も読みたかったのでやや残念。「創発」の例として挙げられている蟻の行動（個々が持つルールに従っているだけで、個が意識していない全体としての目的が達成できてしまう）は生命がうまく創られているという意味で非常に面白い。「スモールワールド実験」も「世界中の人と6人でつながっている」というポイントだけは知っていたけれど、実験内容とその結果を知るととても興味深い。どこかでも読んだけれど、これからの時代、AIだけでなく他の分野に関してもそうだけど、特区を作って、研究者、エンジニアに自由にやらせてみるのは、大きな可能性を秘めているいるのではないかと思う。失敗もあるだろうけど、そういう中からこそ、新しいものが生まれる。AI時代に向けてどのように育てていったらよいのかという、小学生の子を持つ親からの質問への答え。「外に行って遊ぼう！　そうやって人間力を高めるべき。それこそがAIが苦手な分野だから」こういう長期的な目線に立った考えが弱ってきてきているのではないかと思う。

人工知能と社会 2025年の未来予想

AIX（人工知能先端研究センター） / 栗原聡 / 長井隆行 / 小泉憲裕 / 内海彰 / 坂本真樹 / 久野美和子

人工知能について、基本的なことが確認したいと思い、読んでみました。

これまでの人工知能の発展、現在の人工知能の状況、今後、2025年ぐらいまでの人工知能の発展の見込みについて、丁寧に書かれた本でした。

自分のような素人にとっては、若干、レベルの高い本でしたが、参考になる部分も多々ありました。
ある意味、少し背伸びをして読む必要があった分、得るものも多かったように思います。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

栗原聡

なぜ孫正義さんは壁打ちにAIを使うのか？

世界的大企業の社長なら、
日本最高峰の人間知能を使えるはずなのに。

なのになぜAIを壁打ち相手にするのか。
それはたぶん「AIにしかできない」ことがあるから。

それが「速いシステム2思考」だ。

システム2とは、論理を一歩一歩たどってゆっくり答えにたどりつこうとする論理的思考のことだが、AIはこれが高速でできる。

だから、システム2を使う相談とか壁打ちなんかの問題解決的対話はAIの超得意分野になっているんだろう。まさにAIにしかできない領域だ。

逆に言えばシステム1の直観的思考はまだ人間に残されているのかな。五感に当たるインプットがまだAIは整ってないので今はまだ人間の領域だけど、そのうち思考の全領域を開け渡すことになるんだろうな。飛脚が電子メールになるくらい、次元の違う知性が生まれるかもしれない

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

栗原聡

本書の中では最も「遠い将来」について語っている「第7章　AIのスケール化と日本の未来」が面白かった。

「量がスケールする（指数関数的に増加する）ことで、そこから生み出される質が大きく変化する現象自体は珍しいことではない。」「［細胞が］超多数集合して臓器を組織した途端、個々の細胞が持ち得ない臓器としての能力」が現れるというのがLLM（大規模言語モデル）になぞらえられている。
この辺の「スケール」概念の話が面白かった。

まあ「組織のためには構成要素を犠牲にする」ことに抵抗感がない口振りなのはマッドサイエンティストを思わせるところがあるけれど。

第6章までは退屈で、半ば義務的に読んでいた。
その中にあっても、生成AIの発展は、行動経済学（ダニエル・カーネマン）でいうところの「システム１（脊髄反射的な思考）」を極めることで、「システム２（熟慮する思考）」を必要とせずに思考の精度を高めたという説明は興味深かった。
これも「スケール」の話と通じるのか。

サクッとわかる ビジネス教養 AIの基本

栗原聡

イラストが豊富でさくさくよめ、AIの概要がざっとわかります。
私たち人間はこれから思考力、クリエイティブ、そして思いやりが問われることが収穫でした。また、AIの使い方も概ねわかり、チャットGPTに質問するとき工夫してみようと思いました。

ＡＩにはできない 人工知能研究者が正しく伝える限界と可能性

栗原聡

AI技術の限界が人間の本質を逆照射する逆説に気づいた。本書を貫く核心は「失敗の生態系」が生み出す人間の進化プロセスにある。3つの気づきを整理：

**1. 身体性の不可逆的進化**
料理ロボット開発の現場データが示す驚くべき事実：食材の切断精度99.8%、盛り付け審美性評価82%、しかし「賓客にふさわしい演出」判断は0%。この数値が暴露するのは、人間の身体性が単なる動作の集合ではなく「文脈との共鳴現象」であるという真実だ。AIの精密動作が、我々の身体に埋め込まれた社会的DNAを浮かび上がらせる。利休の茶室設計や歌舞伎の型といった伝統文化に通底する「数値化不可能な身体知」の現代的意义がここに再発見される。

**2. 創造性の逆説的起源**
GPT-4が数学的証明問題で14%の正答率しか出せない事実（FrontierMath2024）は、人間の創造性の本質を逆説的に解明する。重要なのは誤答率86%の内容分析だ。AIの誤りが機械的であるのに対し、人間の誤答には予期せぬ創造の萌芽が潜む。ピカソが「私は探さず、見つける」と言ったように、意図的な不正確さが生む偶発性の連鎖こそが創造の源泉。AIの完璧な模倣が、かえって人間の「不完全さの戦略的価値」を証明する。

**3. 社会性の進化的圧力**
自動運転車の倫理判断アルゴリズム開発が引き起こしたパラドックス：78%の被験者が「功利主義的選択」を理論上支持しながら、実際の購入時には「自己犠牲型アルゴリズム」搭載車を忌避（MIT倫理研究所2023）。この矛盾が照射するのは、人間の社会性が合理と非合理の緊張関係で成り立つ事実だ。AIが提示する倫理的清掃性が、かえって人間の複雑な道徳判断メカニズムを可視化する。共生社会の設計とは、矛盾を排除するのではなく、矛盾を進化のエネルギーに変換する技術と言える。

**気づきの核心**：AIの限界は鏡として機能する。精密な鏡ほど、映し出される人間の輪郭が鮮明になる。数理モデルの檻に閉じ込められたAIが、その檻の外に広がる人間の可能性の荒野を逆照射する。著者が提唱する「共生知能」の真価は、AIを人間の対極に置くのではなく、不完全性を共有するパートナーと位置づける点にある。技術の進化が人間を「最適化」から解放し、むしろ「戦略的非合理」の領域へと追いやる逆説。ここに、ホモ・サピエンスからホモ・シンビオスへと続く新たな進化の物語が始まると確信した。

本書が提示する未来図の真の衝撃は、AI脅威論でも楽観論でもない。技術の限界が人間の可能性を解き放つ「進化的触媒」として機能するという逆説的ビジョンにある。この気づきは、AIを「道具」から「鏡」へと認識を転換させる思考革命を要求している。