【感想・ネタバレ】ＡＩ以後 変貌するテクノロジーの危機と希望のレビュー

丸山俊一 / NHK取材班

「人間vs.AI」を超えた、世界の知性の最先端ビジョン！
急速に進化し続ける人工知能は今後どうなり、私たち人間や社会はそれにどう影響されるのか？ A I万能論や脅威論を超えた先にある、テクノロジーの真のリスクと可能性とは？ 物理学、哲学など研究分野の異なる4人の世界的知性が見据える最先端のビジョンを通して、来るべき人類の未来とその対峙法をさぐる。

第１章 意識 AIはどこまで信頼できるか
――マックス・テグマーク（宇宙物理学者、MIT教授）
第２章 倫理 AIに正義は決められるか
――ウェンデル・ウォラック （倫理学者、イェール大学研究員）
第３章 自律 AIが「心」を持つと何が起きるか
――ダニエル・デネット （哲学者、タフツ大学教授）
第４章 進化 AIで人間は何者になれるか
――ケヴィン・ケリー （著述家・編集者、「WIRED」元編集長）
終 章「逆転の発想」がもたらす視界 （丸山俊一）

[ブクログ · ★★★★★]

A Iが確立したとしてのその後の考え方やどうなっていくかが、各著名人によって解説されている。
どの人達の考えも内容は難解な事だが、わかりやすく説明されており面白い。

巻末には各著名人の本が載っているので今度読んでみたいと思う。そのくらい面白い。

[ブクログ · ★★★★☆]

著名人が語るAIの世界の善悪を検証。今後「意識と感情」を持った「自律」AIロボットは人間にとって良くもあり悪きものにもなると言う説がある。例えば労働の生産性を向上させ、新たな製品製薬食品などを発見、開発させる一方、秘め事を持ち人間を欺く傾向とか人間の五感を衰退、麻痺させるような行動があるという。そのためには「自律を持たない知的ツール」（機械的な動きのみ）としての存在も重視されていくとある。例として介護ロボット、運転手など余計な配慮をしないロボットも必要だと言うことだ。今後「意識・感情を持った自律ロボット」は確実に開発されるが人間の子供のように良いことと悪いことを分別できるような存在を期待したい。また、安全性の点からも人を傷つけ、または自身を守るために他人を犠牲にするような行為を勝手に引き起こすなども恐ろしい。現代、もはやスマホなし、GPSなし、電子決済アプリなひなどには生活できない状態が今後より増えることは間違いない。

[ブクログ · ★★★☆☆]

AIを今後どう取り扱っていくか、いろいろ考えさせられるところが多いが、登場人物たちの豪華さに対して議論の内容がふわっとしている。それぞれの専門家の真髄を深く掘り下げてほしかった印象。
また、AIについての書籍はChatGPT以前と以後で読む価値が変わってしまうことも感じた。つまり、ChatGPT以前の議論を以後の人が読む場合には、過去の人たちはこの大きな変化点をほとんど誰も予知できていなかったと思わされるだけで終わってしまう。

[ブクログ · ★★★☆☆]

世界的知性の4人によるAIについての見識を語った本。
意識、マサチューセッツ工科大教授マックス・デグマーク氏。アシロマAI 23原則に見られる安全性への配慮が印象的。
倫理、倫理学者ウェンデル・ウォラック氏。AIも道徳を学ぶ必要がある。話にあったジョン・サールの思考実験「中国語の部屋」に人間とAIの違いがある指摘には頷ける。
自律、哲学者ダニエル・デネット氏。漸進性の重要さ。少しずつの積み重ねが理解につながる事で理解になるという事。
進化、編集者ケヴィン・ケリー氏。氏の話す新しい五感については未来でどうなっていくか想像も付かないが面白い。
終章は筆者によるまとめ。

[ブクログ · ★★★☆☆]

最近はコロナショックのせいで、多くのニュースが消えてしまっているように思いますが、その一つが次世代技術と騒がれていた人工知能(AI)があると思います。この本はコロナ騒動が起きる前に、もう懐かしい思い出になりつつありますが電車通勤していたときに読み終わったものです。

今後、人工知能がどのように進歩していくのか、そして人間はどのように付き合うべきかを感がなければいけない時期に来ているようです。コロナ騒動が収まるのは時間がかかると思いますが、収束した暁には多くの場所で新しい世界が広がっていることでしょう。そのときにもう既に人工知能が働いているかもしれません。

在宅勤務をしていると通勤時間、移動時間がない分、考える時間が増えたと思います。数年後の仕事の進め方に、人工知能とどのように共存していけば良いか、今年のGWは普段の活動ができずステイホームということになりそうなので、自分なりに考えてみよう思いました。

以下は気になったポイントです。

・未来のAIの計算速度は私たちよりはるかに速いので、人間の動きはスローモーションのように感じられるだろう。ハエを叩き殺そうとしてもハエの方が先に飛んでしまう。体が小さいため脳の動きがとても速い。ハエにとっては、人間の手はとてもゆっくり近づいてくる（p３９）

・AIによって人間はどうなるのだろうか、と問うのは間違えで「どうなりたいか」を問うべき（p４３）

・仕事が私たちにもたらす３つのもの、収入・目的・友達は必要である。そこで、AIによって生み出される富のすべてを確実に人類が共有し、誰もがより豊かになるようになる方法を考えなければならない（p４５）

・人間とAIの決定的な違い、１）意識を持たせることができない、２）感情がない、３）計画と想像する能力無い、人間はこの３つが合わさることで、物事に意味を見出し、相手を理解することができる、意味付けと理解する能力の有無が基本的な相違である（p８０）

・私たちがAIにできないことに専念したら、人間はもっと賢くなるだろう、ただしその代償として、今はできて当然と思っている多くのことができなくなるだろう（p１１６）

・私たちは多くのAIの中から選択することになる、さまざまなAIが市場で競争するようになる、様々な型の車やカメラがあるように（p１３９）

・AIは人間が作り出したものの中で最も強力な発明品である、なぜなら人間そのものを変えてしまうから。AIによって私たちは変化し、社会も変化する（p１４０）

・医療においても碁の世界においても、人間とAIの両方が組んだチームが最強となる、双方が違う知性を持ち、異なる考え方をするから（p１５３）

・AI以後は、ある朝劇的に変化している光景ではない、いつの間にか変わっているのだ、あなたが気がつかないだけで。その変化の連続性に私たちは、日々目を凝らして見逃さないようにしなければならない。それは、ささやかな生活の一場面にあり、また思いもよらぬ身近な場で出合う存在の抱える「他者性」に気づくこと。（p１９５）

・感性の微分こそが多様性との対話を可能にし、その積分が社会を作る（p１９５）

  2020年4月25日作成 

[ブクログ · ★★★☆☆]

AI の将来について、特にシンギュラリティ以後の有り様についての哲学者、倫理学者などの見解をまとめた書。シンギュラリティに至るまでに、AI を人間に敵対しない物にすることの困難さが分かる。先に読んだ『無人の兵団』でも指摘されているが、要はそれを生み出し、それを使う人間の利害・性質等の要因によって、フレンドリーにもなり、敵対的にもなる。利己的な人間に支配される利己的な国家が増えつつある現状の世界の動きを見る限り、AI の将来を楽観的に見ることなど、とてもではないが出来るものではない。