【感想・ネタバレ】ホモ・デウス 下 テクノロジーとサピエンスの未来のレビュー

ユヴァル・ノア・ハラリ / 柴田裕之

ついに待望の文庫版登場！ 世界的ベストセラー『サピエンス全史』に続いて著者が放つ「衝撃の未来」。カズオ・イシグロ、ビル・ゲイツ、ダニエル・カーネマンが絶賛する面白さと深い考察。

[ブクログ · ★★★★★]

・人間至上主義革命
価値判断の基準が人間の感情になった
浮気
中世：相談：教会　神の教えに背くものとして、すぐに断罪された
現在：セラピストや友人　自分自身の感情と向き合うようにアドバイスされる
「で、あなたはどう感じるの？」

政治：有権者が一番よく知っている
芸術：観る人の目が決める⇒マルセルデュシャンの便器が芸術になる
音楽：かつては、作曲家の才能ではなく神の手によるものだと考えられていた

・ヒューマニズムの経済への影響
顧客が常に正しい
←ギルドや君主がパンなどの商品の「正しい」基準や生産量、価格を決めていた

⇒消費者が価格を決める＝正しい価格
それに合わせて商品を作る⇒乳房が重くて歩けない乳牛や肥大化しすぎて歩けない鶏(スーパーサイズミー2にあった)といった商品が生まれる
開発者、生産者は損益を見て「正しいことをしている」と判断する

・教育への影響
外部が意味と権威を与えていた⇒自分でどう考えるかを教える

・神々、妖精、悪霊がいた空間⇒何もなくなり、
代わりに内側が充実し、内なる力を得る
天国や地獄も内側にある
人に施しをする⇒内に天国を味わう
＝ニーチェ「神は死んだ」
神(かつての判断基準)は抽象概念になった
神を信じなくても代償がない　個人の選択、感情で決めること

・ヒューマニズム
全ての個人が単一の内なる自己を持っている

・聖書×論理：×が重要　どちらが欠けても無になる　聖書は必須
⇒科学革命：知識＝観察に基づくデータ×数学

・科学：価値、意味には対処できない
科学者は倫理的判断はできない
⇒中世との併用　

・倫理的判断はヒューマニズムが回答
知識＝経験×感情
経験：感覚×情動×思考
感性：①自分の感覚と情動と思考に注意を払うこと
②それらの3つが自分に影響を与えるのを許すこと

・物語：行為主体(騎士物語、英雄譚など既に完成された自分物が主人公)⇒感情や経験が主体となる

・戦争：王や英雄にのみ焦点　その他は群衆で個性はない　一兵卒には注目しない
戦争の意味は宗教が与える「神がそうお望みになった」
戦争は地獄、でも天国の入り口でもある(ジハード)
例）一兵卒の死や苦しみは例えばカトリックかプロテスタントで異なる

⇒個人の苦しみに焦点　プラトーンや西部戦線異状なし
どの戦争かは意味がない　その人が苦しんでいる⇒これは悪いこと⇒戦争全体が悪い⇒皇帝や聖職者が支持しているのなら、彼らが間違っている

個人の経験＝あらゆる意味の源泉

・ヒューマニズムの分裂
宗派と同じで分裂した
経験の解釈が異なる
①自由主義：一人ひとりが等しく、政治などより何より重い
@米国では保守主義
②社会主義的：個々の自由が対立する　例）難民とメルケル首相
他者の欲求と経験にも目を向ける
党と職種別組合が一番よく知っている
③進化論的：争い＝自然選択　人がランク付けされる
争い＝有益

・戦後～70年代：民主主義より共産主義の方が強かった
民主的選挙の結果を受け入れられるのは、共通の価値観や歴史などがあるから

・自分で決めること＝自由意志、内なる自己、魂　これらはない
例）ロボラットの実験
単一の自己はない⇒自由主義が揺らぐ

・経験する自己：その時々の意識　記憶がない
物語る自己：記憶と決定　ピーク&エンドのみ⇒苦しみを総計せず平均する、時間の長さは関係ない
⇒出産の苦しみを喜びに⇒また妊娠出産できる

・物語る自己：
暴走した物語を整合性が取れるように別な物語を作る
「我が国の若者たちは全て犬死しなかった」症候群

犠牲が大きいほど期待が大きくなる＝苦しみに意味を見出そうとする
⇒戒律・儀式

企業や政府だけでなく、個人も同じ　破綻した結婚を続ける、将来性のない仕事を続ける(サンクコスト)

過去の苦しみが全く意味がなかったことを認める＜苦しむことを続ける

お金がなくて空腹、ダイエットによる空腹、ラマダンの空腹
同じ空腹でもそれぞれ意味が異なる

二つの自己は分裂しているが、絡み合っている

・自由主義者：自由経済と民主的選挙を支持
←一人ひとりが比類なき重要な存在、その一人が選んでいる⇒権威の源泉

・21世紀はこの自由主義が壊れつつある
①人は経済的有用性と軍事的有用性を失う⇒経済と政治制度が人に利さなくなる
②経済、政治制度が集合的人間には価値を認めても、無類の個人には価値を認めない
③経済、政治制度は一部のアップグレードした超人のみのためのものになる　新たなエリート層

・自由主義が支配的イデオロギーだったのは、妥当性があるからではなく、経済、政治、軍事的に理にかなっていたから
例）フランス革命は、女性や老人まで動員した

独裁より民主政治の方が兵士が良く戦うから
女性参政権は、一次大戦で女性の役割が大きかったから

・21世紀は、軍事は人員よりテクノロジーが重要　ドローンやサイバーワーム

・専制君主やクーデター後の革命政府が民主主義を選ぶのは、経済的理由

・メリットがなくなったとき、自由と人権は守られるのか？人間にしかできないことが少なくなっている

・意識と知能は分離しつつある
同居しているのが人
スーパーインテリジェンス：意識を持たない知能が人を超える能力を持つ

・知能と意識、どちらが優れているのか？
政治、軍事、企業としては、意識はオプションで主観的経験は不要

・人は産業革命の馬になりつつある
AIに仕事を奪われる⇒再学習(この再学習の過程で学習者をモニターすることでAIはより賢くなる)
AIの方が賢いのに、再学習する意味はあるのか？

医師や弁護士もデータの積み重ねだからAIの方が優れていることになる
しかも、情動に動かされることも、疲れることもない
一人の医師を育てても一人の医師しかできないが、AIなら無限なので、資金時間を投資する価値がある

・情動の無いアルゴリズムに診断されたいかという疑問⇒人間もアルゴリズム
AIの方が感情を読めるので、その人に合わせて対応可能
さらに、相手の情動によって影響を受けない

・機械が人の仕事を奪うという恐れは常にある
⇒人の方が上手にできる仕事があった←これは自然の摂理ではない＝このことが続くとは限らない

・人：身体的能力＋認知能力
産業革命時：身体的機能を機械に取って代わられても認知機能を必要とする仕事なら機械より上手にできた

・AIがアルゴリズムで人を超えたら？
①生物＝有機的なアルゴリズム
②有機的・非有機的ということはアルゴリズムには関係ない　例)そろばんは木でもプラスチックでも同じ効用
③有機的アルゴリズムができて非有機的アルゴリズムができないということはない
今は有機的アルゴリズムの方が有利だが、AIに取って代わられるという予想がどんどん早くなっている←AIの進化＋人間の専門化

・富と影響力がAIを使えるごく一部の大富豪か法「人」かAIに集中してしまう　AIも法人と同じように人格をもつかもしれない
アルゴリズムが人を支配した例）5000年前のシュメールは神々に所有されていた

・芸術もAIが人を超えつつある
人が作った方が「魂がこもっている」というのは幻想

・無用者階級が生まれる
AIに取って代わられる仕事は知的労働で8~9割、肉体労働でも7割くらい
考古学者は利益を生まないから代わられる可能性はほぼない

・今の子どもたちが学んでいることは、彼らが40位には無用になっているかもしれない
今までは、人生は学ぶ時期⇒働く時期だったが、これが壊れかかっている
自分を作り替え続ける必要がある
人は何かをする必要がある、さもないと頭がおかしくなる
必要とされない人：コンピューターゲームと薬
人間の人生と経験は神聖であるとする自由主義が崩れる

・自由主義(人間には価値がある・個人主義)の脅威：人間が軍事的・政治的に無用になる
経済・政治：人間を必要とするが、個人を必要としない⇒個人は権威と自由を失う

・個人主義
①個人は分割できない＝単一の本質＝内なる本物の自己がある
②本物の自己は完全に自由
③私は他人には発見できない自己を知りうる、私だけが内なる本物の自己に会える存在＝他人は私を知ることはできない

これら3つをすべて生命科学は否定する
①自己は分割可能＝多くのアルゴリズムの集合体、つまり単一の自己はない
②自由ではない 遺伝子と環境圧によって形作られる 自由に決定を下すことはない
③外部のアルゴリズムは自分より、自分を詳しく知りうる←身体と脳をモニターすることで可能に

・20C はすべてのデータを取得・分析することができなかったから、実質的に個人主義が成立した

・外部アルゴリズムが内部アルゴリズムに侵入可能⇒個々のアルゴリズムはネットワーク化されたアルゴリズムになる

完璧なアルゴリズムでなくても、自分より優れたアルゴリズムならそれに従うようになる
既に病院では個人はない
例）血糖値センサー　iPhoneでホルモンをコントロールする 人は介在していない
スマートおむつなどもある

例）アンジェリーナジョリーの乳房切除の決定
内なる自己の声より、遺伝子情報を優先

・健康のために、スマートデバイスやメールを通じて個人データを進んで提供している＝各社は無料で情報収集している
既にGoogleはインフルエンザの流行予測ができるし、完璧な健康を設計しつつある

・DNA検査の発展
23＆ME 遺伝子検査で健康上のリスクがわかる
こういった検査はデータ量がものをいう⇒プライバシー保護の意識が低いので、中国企業が台頭する可能性がたかい

Googleはピークエンドや忘れてしまうこと、最近の記憶を重視する、体調といった影響から誤った判断をすることがない⇒人は人生の重大な決定を任せるようになる＝そのほうが正確だから(そのほうが賢明と言えるか？？？）

物語る自己より、もっと自己を知るモノができてしまったら？データがどんどん集まるからGoogleはどんどん進化する・人間の自己理解は進まない

・選挙もFBのほうが正確に予測できる

・AI アドバイザー⇒代理人⇒君主へ
全てをAIにゆだねたら、自分の健康すらハッキングされる可能性がある

生物学に責任

・アップグレードし続けたらかつては物語だったブルーブラッドやバラモンなどの
「選ばれしもの」が実現する
身体的・認知的に他の人より優れた人間ができる

・20Cの医学の発展：ワクチン 西洋上流階級⇒全世界に広がる
豊かな人から一般に普及しすべての人が医学の発展の恩恵を被る

21Cは同じようにはいかない

20C：病気を治す 平等主義
21C：健康をアップグレード エリート主義

豊かな人が優れた人になる医療
過去の人より、同時代の人と比べるのが人間 今の私たちより良い医療を受けられるからと言って、同時代の豊かな人より劣る医療しか受けられなかったら慰めにならない

・20Cは大衆の時代だった
戦争、経済で大量の人員が必要だった⇒大衆医療が終わる可能性

・すでに少子化で教育費が高騰 日本や韓国
⇒超エリートの出現⇒一般人が奴隷化する可能性⇒自由主義の崩壊

・テクノヒューマニズム
ホモデウス＝アップグレードした心身を持つ＝第二の認知革命の可能性

・今の心は標準未満の人と西洋エリートであるWIRED( Weird, Educatd, Industrialized, Rich, Democratic)のみを扱っている＝研究されていない点が多い

研究のサンプルは心理学を学ぶ学生ばかり 特に米国偏重

かつていた人類や動物の心理も不明、理解できていない

他の動物より人間が情動や経験で優れているかどうかわからない

・テクノヒューマニズムはWIREDと標準未満の研究から心をアップグレードしようとしている
例）ポジティブ心理学

・人間は嗅覚や夢を見る、注意力といった能力を衰えさせて、システムに適応していった
アップグレードすると、なんらかの能力がダウングレードする可能性

・テクノヒューマニズムはどの部分を伸ばすか決められる＝自分の欲望・意思をデザインできる
例）罪悪感に苛まれる元兵士がプロザックを服用する
多くの人は内なる声に耳を傾けたくない⇒内なる声のボリュームを上げ下げできる ←本当の内なる声はない

欲望と意思をデザインできるようになったら、ヒューマニズムの前提が崩れる

・データ「教」：森羅万象はデータの流れでできているという考え
全ての現象、物の価値はデータの処理にどれだけ寄与できるかできまる

既に科学界では主流

←①生命科学(150年）×コンピューターテクノロジー(80年）
①生物＝生化学的アルゴリズムでしかない キリン、トマト、人間の違いはアルゴリズムのみ
②高性能の電子科学的アルゴリズムが設計可能になった

動物と機械の境界線がなくなる

・単一包括理論が可能になる
音楽、経済、生物、すべてが科学になる

・データ⇒情報⇒知識⇒知恵
データ教では、人は膨大なデータ量に対処できない⇒アルゴリズムに任せるようになる

・資本主義：分散型データ処理　1つのミスがあっても他が補える
　共産主義：集中型データ処理　1つのミスが致命的
冷戦に勝てたのは、変化に対応しやすかったから
倫理などの問題ではない
民主主義と独裁も分散と集中という点で同じ構造

・政治：テクノロジーに遅れている⇒ビジョンを描けない⇒国の管理しかできないようになる

・市場に任せる＝人や地球にとって良いことにならない可能性＝市場にとって良い方向に進む
全く新しい誰も制御できないシステムが生まれている⇒ホモサピエンスは滅ぶ
人＝すべてもののインターネット（車、密林の木々、冷蔵庫なども）の一部でしかなくなる
全てのもののインターネット：宇宙にも広がる⇒人は全体を理解できない＆どんどん広がり続ける
一部の宗教に似ている

・データの流れが最重要に⇒人よりももっと優れた存在が出てくる

・データ至上主義＝1789年(仏革命)以降の新しい価値を生み出した動き
表現の自由とは異なる
情報の自由＝情報に与えられる 表現の自由を脅かす
表現の自由＝人に与えられる 人が自由に考え表現する・しない自由

・人がデータを持つ＜データが自由に広がる権利
良いことは全て情報の自由次第という考え

・既に人々はデータフローの一部に「なりたがっている」
プライバシー、自立性、個性の放棄
←経験は共有されなければ無価値 自分のうちには価値がない

・聖書⇒人間中心⇒データ中心へ

・自分を知りたい⇒DNAと生体データだけでOK
かつては、美術館や登山、日記だった

・古代 力＝データへアクセスできること　現在 何を無視するか

・現代
①科学は一つの包括的な教義に収れんしつつある
生き物＝アルゴリズム 生命＝データ処理
②知能は意識から分離しつつある⇒知能だけのAIの発展 倫理やイデオロギーが欠けている
③意識を持たない高度な知能を持つアルゴリズムが自分より自分を知るようになる

・上記への疑問
①生物は本当にアルゴリズムにすぎないのか？生命はデータ処理だけなのか？
②意識と知能どちらが重要なのか？
③社会、政治、日常はどうなるのか？

・神聖(不死、至福、神のような力）の獲得を目指すようになった理由
①戦争、飢饉、疫病の克服
②歴史は空白を許さない 充足より渇望
③ヒューマニズムを突き詰めると神聖の獲得を目指すことに繋がる


Googleが出てきた時、GPSが発達して欠かせないものになったとき、ベータ版から使っているAIがどんどん賢くなっていることに気づいたとき、
その時々で感じていた恐怖を言語化してくれた感がある。

著者が強調しているように、これらは可能性の一つでしかなく、未来は作っていける！

[ブクログ · ★★★★★]

自由意志など存在せず、人間は単なる有機アルゴリズムであり解明可能というスタンスで科学は突き進む。
そうなのかもしれないけど、意識や心や思考(と呼ばれるもの)がどのように生じるか、完璧なメカニズムはまだまだ解明に時間がかかりそうだし、最後の1ピースが見つからずにやっぱり解明できないのかもしれない。

なんだか、ぜひそうあって欲しい。

でもその反面、データ至上主義の観点で世の中を解説されると妙に腑に落ちるところもある。
データは人間に理解しきれないアルゴリズムの境地にいよいよ到達しているが、このまま我々を押しのけて地球の中心になるのか？

本書では「すべてのモノのインターネット」に接続することでデータ自由化が加速度的に進むことを目指し、すでに我々は走り始めているということだった。でも、もしかしたらインターネットを介さない、我々の認識できない別の次元で、もうすでに我々は接続されているのではないかと妄想した。
人間よりも優れたアルゴリズムが人間よりもはるか昔からその別次元に存在しており、ただひたすらその筋書き通りに、人間は宗教を作ったり遺伝子工学を発展させたりAIを開発してきただけなのかもしれない。
人間内部に解明できないアルゴリズムがあることも、開発途上のAIあるいは外部アルゴリズムのうち、人間が解明できていない部分があることも、いずれも我々よりも高次元のモノの存在を感じさせる。
その場合、その大いなるアルゴリズムこそ、我々が神と呼んできた存在ではないか。

[ブクログ · ★★★★★]

上巻を読み終えるのにかなり苦労したのですが、下巻は文庫を買って肌身離さず携帯していたので意外に早く読み終えることができました。
やはりかなり難しかったですが、一応、著者の主張を理解しながら結論に到達することができました。
以下ネタバレなので注意して下さい↓

上巻のレビューにも書いたとおり、下巻では「人間至上主義」にとって変わるものは何かを予想する、ってことになってたので、何が出てくるん！？と期待して読みました。な、な、な、なんと、本書での説によると･･･
科学が進歩すると、人間も他の生き物も、ただの「アルゴリズム」にすぎないことが分かってしまう。最終的には一部の人間が力を手に入れて、多くの人間は失業者ですらなく、「無用者」になってしまう。意識と知能が切り離され、知能はAIが人間の脳に接続され、超人が誕生する。地球上の人間やありとあらゆるモノのデータがすべてつながり、人間はデータ処理するためのツールでしかなくなる、鶏より人間が勝っているのは、ただ単に鶏より人間の方が複雑なデータを処理することができるからだ。今や人類は、常にwebにアクセスしてその経験や意識を「共有」しないと価値がない状態になっており、あなたがどんなに素晴らしい経験をしても、それをデータとして保存し、SNSにアップロードし、公開し、いいねをもらわないと価値がないとされる。
↑読んでいるうちに不安になってくるがもちろん極論で、最後は「本当にそうなのかよく考えろ」的なことも書かれているので良かった。

今回も、ところどころ日本の政治の例も差し挟まれていて興味深かった。また、「訳者あとがき」が素晴らしくわかりやすかった。

[ブクログ · ★★★★☆]

以下のあたりの記載が印象にのこった

現代の契約を一文にまとめると、人間は力と引き換えに意味を放棄することに同意する
現代の生活は実際的なレベルでは、意味を持たない世界の中での力の追求からなる
現代文化は絶え間なく成長を続けているが大きな実存的不安に苛まれている
個人は巨大システムの中の一つのチップになってきている

[ブクログ · ★★★★☆]

21世紀の人類はどこへ向かうのかを考察した本の下巻。

著者が予測している世界では人の感情や思考による判断は膨大なデータのアルゴリズムに置き換えられて出番がなくなるとされている。

アニメのサイコパスの世界観とかなり近い感じがした。

ただし、著者は本当にこうなるのだろうか？と疑問を投げかけて本書を締め括っている。
自分なりの予測を立てて、それを確かめるように過ごしてみるのも楽しそう。