動物と機械から離れて―AIが変える世界と人間の未来―

菅付雅信

自動化が進む中で、未来の労働は、自由意志は、人間の幸福はどうなる？ 人は機械と一体化するのか、それとも動物に成り下がるのか――シリコンヴァレー、深セン、モスクワ、NY、ソウル、東京で第一線の研究者、起業家、思想家など51人を取材して描く、AI発展後の世界と〈わたし〉の行方。最新の未来図がここにある。

• カテゴリ: 小説・文芸
• ジャンル: ノンフィクション / ノンフィクション・ドキュメンタリー
• 出版社: 新潮社
• 電子版発売日: 2019年12月24日
• コンテンツ形式: EPUB
• サイズ(目安): 2MB

[ブクログ · ★★★★★]

AIに関する動向を丹念に調査して、的確なコメントが満載の好著だ．中国の深圳で一線の研究者との面談が出てきた段階で彼らの動向に圧倒されたが、日本にも鋭い視点を持って研究している多くの人の紹介があり、ほっとした感じだ．シンギュラリティに関して、AIを追及するとどうしても人間の脳の働きとのリンクになるが、脳自体のことは未だ良く分かっていない．従って、汎用型AIはここ数年で出来上がるようなものではないようだ．多くの人が出てきたが、日本人だけをリストしておく．下地貴明、山崎はずむ、山本龍彦、大屋雄裕、成原慧、徳井直生、金井良太、渡辺正峰、松尾豊、稲葉振一郎、井上智洋、東浩紀、山極寿一、森田真生、津田一郎、石田英敬．

[ブクログ · ★★★★★]

各分野でぜひ話を聞いてみたいキーパーソンを人選し、その取材を直接あるいはリモートなど手法を駆使して実現、未来へ向けた問いへの旅として、確かな編集の力でまとめられており、感服です。読み進めれば進めるほど、この企画とそれを実現しまとめる力がうらやましくなります。この本のおかげで私も好奇心を満たし、視野を広げ、また整理する旅に一緒に出れた気分です。

[ブクログ · ★★★★☆]

雑誌編集などを手掛ける著者が、AIの研究者・起業家・社会学者たちに対して、「AIはこれから社会をどう変えて、人々はどう向きあっていけば良いか」をテーマにしたインタビューを通じて様々な視点での論考をまとめた一冊。

タイトルにもある『動物』とは、AIによるリコメンデーションによって自動的に選択肢が与えられ、無意識にそれを受容して自分の欲求を満たしていく状態のことを、端的に表した言葉。
社会機能の多くの部分をAIが担うようになり、ベーシック・インカムのような制度が実装されれば、必然的に人間の労働時間が減少して、単に己の欲望を満たすためだけの存在になることが危惧される。

結局は人間自身がどうありたいか、どんな社会を築いていきたいかを考え抜くしかないのかと感じる。

AIを生み出すのは人間であり、それを利用するのも人間であるからには、自分たちがそのテクノロジーの影響をもっと考えていく必要がある。おそらく、それほど社会的にインパクトのあるテクノロジーである（になっていく）ことは間違いない。

国内外の様々な立場にある専門家の考えがのっていて、これからのAIとの付き合い方を考えるには良い一冊と思う。

[ブクログ · ★★★★☆]

テレワーク化じゃなんじゃらの対応で忙しいことこの上なくこの１か月あまりは全然読書が進まなかった。応急措置は済んだが、これから「元には戻らない世界」での仕事のし方させ方を考えていかなければならないところ。

発行は19年12月20日。武漢で原因不明の肺炎患者が出て新型ウィルス？と報じられ始めたころだ。
その後わずか4か月でこんな世の中になるとは、著者も取材対象ももちろん想定していなかっただろう。
そんな中、BGI(北京ゲノム研究所）のCEO尹燁氏に取材しているのは偶然だろうが慧眼だった。彼は、AIよりバイオテクノロジーのほうがはるかに危険だと述べているのだ・・・

AIに関して、幅広くさまざまな領域や立場の識者に取材し、その内容をそのまままとめた本なので、通読しても著者が訴えてくるものはないのだが、取材対象が語る言葉は示唆に富んでいて興味深く、いま持っておくべき視点が一冊で網羅できるって感じ。「元には戻らない世界」での働き方を考えるヒントにもなりうると思った。


P9 常にスマートフォンを持ち、ネットと常時接続している状態＝ＷＩＲＥＤな状態は、いわば人間と機械がほぼ一体となった状態だ。[中略]しかし、現在進行する人間と機械の一体化は、一方で人間の動物化を招く。[中略]我従う、ゆえに我あり」の状態になりつつあるのだ。それを人間の機械化や動物化と呼び嘆かわしいと思うこと自体が、もはや21世紀的でないのかもしれない。

P32「暇になる将来を嘆くのではなく、自己決定感が幸せの根源だという概念自体を変えないといけないと思います。 人間が新たな充実感を味わえるように適合していかないといけないですね」（松原仁）

P38　ウォズニアックは、初めて入る他人の家で、家主にコーヒーを淹れられる機械を作ることはできないと予測した。（「ウォズニアック・テスト」）自律性というテーマを抱えた汎用型AIは、まだその開発の端緒についたばかりだ。

P47「ベーシックインカムという基盤が生まれれば、小学校のようなユートピアを目指せると思うんです。将来のこともお金の心配もしなくていい。興味が持てる遊びを考えて、問題解決をして、知識を獲得できる。そんな世界を作り出したいと思いますね」「そもそも人間の尊厳なんて、得体のしれないものです。[中略]ただ人は生きていくうえで出口のない問題にぶつかることがあります。答えがないと知りながら、そのの問題についてあれこれ考え苦悩する、よりよい選択肢があるのではないかと探求する。そんな人間の姿に誇らしさを感じますし、言ってみればそれが尊厳だと思うんです。」（池上高志）

P63　「生物とAI,つまり炭素とシリコンは近くなって行くでしょう。多分それらが融合する未来がやってきます。しかし私たちはシリコンについては理解しているけれど、生物についてはよく知りません。」「バイオテクノロジーの最も危険な領域は、AIよりも危険である」（尹燁）

P84「一般論ですが、幸福には目的が必要です。今までとは異なる新たな目標が、人々を幸福にするために必要となるでしょうね。結局、幸福というものは、わたしたちに内在しているのではないでしょうか」（リチャード・ヨンク）

P117「動物は自分たちを「動物化」していると思ったり語ったりしないので、人間だけが「動物化」について考える動物なんですよ。でも人間とは（考えなくてよくなっていったとしても)そういう理性的な主体であることから完全には降りることができない生き物だと思います。」（大屋雄裕）

P119「日本人は個人主義が弱い側面があると思います。もしかすると、「データの幽霊」のほうに自分自身を寄せていってしまうことも起こりうる。」「データの網の目にとらわれ、ここが分断されたy等個人主義を打破するためには、偶然性を生み出す仕組み＝セレンディピティ・アーキテクチャ」の設計が重要だ」（山本龍彦）

P131　ロシアではソ連時代に社会主義教育やマルクス主義教育の束縛から逃れるため、教育者が意図的にマルクス主義に抵触しない数学に力を入れたという説がある。ロシアでは大学生の6割が理工系に進む。

P133「クレムリンやペンタゴンにいるエージェントが、プロパガンダのためにフェイクニュースを流していると信じることは簡単です。でも実際の状況はもっと複雑なんです。[中略]人々は自分たちが投稿した反体制的ニュースが権力側の人間によって取り消されたことを目にし、さらにフェイクニュースの拡散ボタンを押すことを決めたのです。なぜ人々はそのニュースがフェイクであると知らされているにもかかわらず拡散することをやめないのかについては、認知科学によるさらなる解明が必要だと思いますね」（ボリスラフ・コズロフスキー）

P141「米国がファーウェイを追い出し、中国がFBやツイッターを追い出し、ロシアがリンクドインを追い出しているように、テクノロジーをめぐる地政学的対立が起きていると考えています。またヨーロッパでは政治的な議論の多くは、GDPRのようなデータ主権にまつわるものです。いま改めて、政治的主権とは何か、境界とは何か、領土というものをどのように定義できるのかを考えて行かなければなりません。今の時代において、政治は技術的環境に依存し、テクノロジーの開発は政治的な意味を持つだけでなく、それ自体が政治なんです」（ベンジャミン・ブラットン）

P177「情報が新たに入ってくること自体を直接報酬として定義すれば、強化学習の枠組みの中で、好奇心を持ったAIをつくれるんです。」「人間の場合は「生きる」ことが内発的動機に含まれている、そして声明ではない機会にも、自己保存という内発的動機を与えることによって、意識が発生するのではないか」（金井良太）

P195「私は人間が生き残るために仕事が必要だとは思いません。仕事を失う人に対する再教育が難しいといわれていますよね。でもそれはとても失礼な考えだと思いますよ。どんな人間だって、複雑なことをする方法を学び、理解することができるはずです。学ぶためのサポートをし、次のステップを示せばいいわけですから。」（ロブ・ネイル）

P225「人間にも機械にも、将来を託すことを期待できないのが、一番まずい。ただ、なぜ将来に人類が滅びることが嫌だ、と我々の多くが思うのかは、実はまだよくわかっていません。将来、人類が滅びることは自分が死んだ後の出来と後なのにどうして嫌なのだろうと。でももしかすると人間には、自分が死んだ後の未来にコミットしないと現在が充実しない、という根源的な欲求があるようにも思えるんですね」（稲葉振一郎）

P229　未来には労働と仕事が分離する＝「もしも、食べていくためにやるものを労働と呼んで、それ以外に自発的にやっている作業のことを仕事と呼ぶのであれば、仕事のほうが広がっていく社会が見えてきます。そうであれば、それは仕事大好き人間にとっても嫌な社会にはならないと思うんです。」（井上智洋）

P246　「AIに富が集中しておかしくないかな?でもやむなし」と適度に対処するだけだと思うんです。僕らが考える以上に人間は支配や権力に対して柔軟です。[中略]いまや人間性は、動物性や機械性のノイズとしてしか存在しないんです。」（東浩紀）

P255「（西田幾多郎の哲学は）主客合一、様々な視点で自分がその何に入ったような形で世界を認識するべき。さらに排中律ではなく容中律という考え方」（山極寿一）

P269　AIは記号や言葉の校正そのもの（シンタックス）は理解できるが、それが意味すること（セマンティクス）は理解できないのではないか、アメリカ西海岸のシンギュラリティ派の人々は、ディープラーニングの計算量を上げていけば、そのシンタックスの過剰な追及がセマンティクスになる、つまり新しい意識になる、と考えているが、彼らにはそういうしかないと思います。いつ終わるかわからないけど意識が生まれるまで途中でやめずに最後までやるのが科学的姿勢というわけです。失敗するまでは失敗しないので、ある意味では守備力がとても高い立場ですね。（森田真夫）

P274　人間の知能は(ディープラーニングとは逆で）微妙に異なるものを同じものとしてくくる、「同値関係」を捉える能力があると思います。なぜそれができるかがわかっていないので、アルゴリズムにも落とし込めません。ほかにもアブダクションのような仮説形成も人間にしかできない能力です。（津田一郎）

P281　コンピュータのスピードが驚異的に早くなり続けるというのも間違った考えです。ムーアの法則は限界に近づいています。（ルチアーノ・フロリディ）

P296　企業はグローバリゼーションの中でアップデートを余儀なくされるのに対して多くの国家がグローバル化に追い付かず内向きになっている。