NEXUS 情報の人類史 下 AI革命

ユヴァル・ノア・ハラリ / 柴田裕之

『サピエンス全史』を超える衝撃――
知の巨人、6年ぶりの書き下ろし超大作


「ネクサス」（NEXUS）とは？
――「つながり」「結びつき」「絆」「中心」「中枢」などの意


人間ならざる知能を前に
人間の「絆」（ネットワーク）を守れるか？
AIの真の新しさとは何か？
それは、自ら決定を下したり、新しい考えを生み出したりすることができるようになった史上初のテクノロジーだという点にある。
私たちは、ついに「人間のものとは異質の知能」（エイリアン・インテリジェンス）と対峙することになったのだ。
＊
憎悪の拡散、常時オンの監視、ブラックボックスの中で下される決定……。
AIが社会の分断を加速させ、ついには全人類から力を奪い、人間と人間以外という究極の分断を生み出すのを防ぐことはできるのか？
＊
今こそ、過去の歴史に学ぶときだ――
古代ローマの政争や、近世の魔女狩り、ナポレオンの生涯などから得られる教訓を通じて、知の巨人が「AI革命」の射程を明らかにする。


情報により発展を遂げた人類は、情報により没落する宿命なのか。本書のAI論は、混迷する世界で民主主義を守るための羅針盤になるだろう。
——斎藤幸平氏（経済思想家・『人新世の「資本論」』著者）

その深い洞察は、私たちが著書『PLURALITY』で提唱する多元的な共創の原理とも響き合い、進化するデジタル時代で人々を導く羅針盤となる。
——オードリー・タン氏（台湾・初代デジタル発展相）

• カテゴリ: ビジネス・実用
• ジャンル: 学術・語学 / 教育
• 出版社: 河出書房新社
• ページ数: 328ページ
• 電子版発売日: 2025年03月05日
• コンテンツ形式: EPUB
• サイズ(目安): 3MB

[ブクログ · ★★★★★]

上巻は、主に歴史をたどる。ホモデウスとはまた違う切り口で、料理しなおしてまたこんなにも語れるのかと、著者の雄弁さには舌を巻く。第3章にある、著者の父親の体験が心に残る。

下巻は、21-22年に主に執筆したらしいが、未来予測がすごすぎて25年の今読んでもまだまだフレッシュ。民主社会最大の成功の鍵であった、自己修正メカニズムをAI規制にも組み込めるのか？アルゴリズムによる人間の傀儡、シリコンカーテンによる陣営間の対立で、AIが真に活用されるべき環境保全やグローバル課題にはまったく活用されないコクーン状態、大国が無料でデータを吸い上げ利益は還元されないデータ植民地化での格差拡大、などなどディストピアなドキドキ記述を経て、最後には、歴史が変化する、選択肢はあるはずと言ってくださる。

これだけの歴史についての膨大な知識をもって、テクノロジー専門家ではないからこそ、ある意味客観的に未来予想をしてくれる。素晴らしい知性です。読めて感謝。

[ブクログ · ★★★★★]

　情報テクノロジーの歴史について、様々な事例を本に解説されていてとてもわかりやすかった。
　そして、事例の一つ一つがとても興味深く、見識に富んだものだった。
　情報テクノロジー歴史をもとに、AIの危険性を重点に置き説明されていた。
　AIはただの情報テクノロジーではなく、主体になり得る情報テクノロジーであることに気付かされた。
　欲望のままにAIからもたらされるメリットにばかり目を奪われるのではなく、危険性をはらんでいることを認識しなければならない。
　ホモ・サピエンスの名の通り、賢き人にならなければならない。
　

[ブクログ · ★★★★★]

上巻でナラティブの威力を思い知らされたが、
下巻はそこにAIわる。
AIのアルゴリズムの危うさ。
この辺りは昨今叫ばれているところで、
もしかしてこの本が起点になっているのか？
と思わせるほど。
「人間のものとは異質の知能」（エイリアン・インテリジェンス）という表現で。
それと、、、上巻の感想で書きそこなった無謬。
教会、聖書は間違えない、という前提が、力を持っていた。
一方AIは可謬、間違える。実によく間違える。
しかし人々がそれをどう扱うか、どう利用するか、、
そこに民主主義と全体主義という二つの体制がかかわると、どんな世の中になるか。
トランプ大統領のふるまいを見ていると暗澹とした気分になってくるが、、
流石のハラリ氏もこたえは出せていない。

第II部　非有機的ネットワーク

第6章　新しいメンバー――コンピューターは印刷機とどう違うのか

連鎖の環

人間文明のオペレーティングシステムをハッキングする

これから何が起こるのか?

誰が責任を取るのか?

右も左も

技術決定論は無用

第7章　執拗さ――常時オンのネットワーク

眠らない諜報員

皮下監視

プライバシーの終わり

監視は国家がするものとはかぎらない

社会信用システム

常時オン

第8章　可謬――コンピューターネットワークは間違うことが多い

「いいね!」の独裁

企業は人のせいにする

アラインメント問題

ペーパークリップ・ナポレオン

コルシカ・コネクション

カント主義者のナチ党員

苦痛の計算方法

コンピューターの神話

新しい魔女狩り

コンピューターの偏見

新しい神々?

第III部　コンピューター政治

第9章　民主社会――私たちは依然として話し合いを行なえるのか?

民主主義の基本原則

民主主義のペース

保守派の自滅

人知を超えたもの

説明を受ける権利

急落の物語

デジタルアナーキー

人間の偽造を禁止する

民主制の未来

第10章　全体主義――あらゆる権力はアルゴリズムへ?

ボットを投獄することはできない

アルゴリズムによる権力奪取

独裁者のジレンマ

第11章　シリコンのカーテン――グローバルな帝国か、それともグローバルな分断か?

デジタル帝国の台頭

データ植民地主義

ウェブからコクーンへ

グローバルな心身の分断

コード戦争から「熱戦」へ

グローバルな絆

人間の選択

エピローグ

最も賢い者の絶滅

謝辞

訳者解説

原註

索引

[ブクログ · ★★★★★]

歴史学者ならではの視点で情報とは何か、人類にとって情報がもつ役割などについて論じた一冊。

以下、上下巻を読んだ上での自分なりの解釈。

情報とは、宗教や国家、貨幣など、人類自らが作り出した虚構や物語（共同主観的現実）を繋ぎとめるためのものであり、情報のネットワークの構築により人類は発展してきた。

過去の人類史における革命的な出来事である文字の発見、印刷技術などは、虚構や物語を生み出し強化するのに大きく寄与した。

AIの大きな問題は、今までは人類が自らが生み出し、強化し、ある程度操作することができた物語を、人類の想像がつかない所で生み出せることにある。

AIはすでに日常に溶け込んでおり、日頃からAIに質問したり、アイデアをもらったりしており、その答えの速さや最もらしさから、AIは正しいと思ってしまう節がある。

ただ、筆者曰く、AIは必ずしも不可謬では無く誰がどんなインプットをしているかで十分間違える可能性がある。

つまり、間違った情報を生み出し、それを共同主観的現実として拡散する可能性があるという事。
そして、その間違いに人類は気付けない可能性があるという事。

大事なのは、自己修正メカニズムである。物語や虚構を可変可能であるものと認識し、自己修正メカニズムを持つ制度や機関が必要である。

以上が解釈である。
筆者は歴史学者だけあり、過去から現在に至るまでを俯瞰し、いくつもの具体的な事例を用いながら情報について語っている。

とてつもない作業であり、まさに現代の知の巨人である。
AIについては、今までの技術的、産業的な革命とは違い、自ら虚構や物語を生み出す力がある事に警鐘を鳴らしていると読み取った（私の認識が間違っていなければ）。

こらからAIとどのように付き合っていくべきかを考えるのに大変参考になる一冊だった。

[ブクログ · ★★★★★]

まさに現代の必読書ではないか。
後半はAIによる今後の世界などについて、過去の歴史を参照しながら、詳述していくのであるが、本当に興味深く、多くの視点、気付きを与えられた。
以前見たアニメ「サイコパス」のシビュラシステムが統制するような社会がくるのか、それに向けて我々はどうしていくのか。
本書に示唆されている内容を、我が国の国会議員は何人かでも意識しているのだろうか？
目の前の関税やお米や支持率だけに捉われているようでは、データ植民地化が一層進むという暗い未来しか見えない。

[ブクログ · ★★★★★]

上下巻まとめてのレビュー。
AIは病気や貧困、環境悪化、人間のあらゆる弱点の克服といった直面している差し迫った難題に対処することを可能にするテクノロジーなのか、それとも人類に深刻な壊滅的でさえある害をもたらすのか。
害の方は二つのシナリオがある。AIの持つ力のせいで既存の人間の対立が激化し、人類が分裂して内紛を起こすこと。もう一つはAIが人類を全体主義的に統治すること。
それ故に私達は、AIが自ら決定を下したり新しい考えを生み出したり出来る史上初のテクノロジーであるという事実を肝に銘じるべきと著者は警告する。AIはツールではなく、行為主体である。
上巻は今まで人間が情報をどの様に収集し利用してきたか、魔女狩りからポピュリズムや全体主義等様々な歴史を振り返る。特に旧ソ連のスターリン時代は興味深い。この情報による統制は10人ほどが集まってサッカーをしたり、ハイキングしたり、ボランティアする等に際しては必ず共産党と秘密警察やNKVDの諜報員が立ち会う。そのおかげでスターリンはソ連の国民生活全般の統制が可能になった。
また、個人の農家を集団農場にすることで、収穫量の大幅アップを画策したが、それは私有財産をコルホーズに差し出さねばならず、農民は牛や馬を差し出さず殺した。畑仕事も家族の土地を耕作するときより熱心に取り組まず、収穫は大幅に減少したり、食料を没収されたりで飢饉となり450～850万人が死んだ。更に何百万の農民が国家の敵として追放、投獄され、また個人で人より多くの家畜や労働者を使っている農家（それは主にとりわけ勤勉で効率をあみだす優秀な人材だったが）クラーク（資本主義者農民）として追放（ノルマ有り）され、500万人が射殺されたり強制労働となり、その身分は次の世代にも継承された。
まぁこんなことをしていれば国を維持するのも難しいし、それが後の社会主義体制崩壊に繋がったと思うけど、全くの個人的な意見だが、その時の様々な粛清で批判的な目を持つ人々は一掃され、自ら考えることを放棄した人間の子孫が多数となった今、ウラジーミルの支配に従順に従っているのではないだろうか。
さて下巻であるがAIの判断が危機をもたらす例として、ナポレオンがその最終目標実現をAIに委ねた場合を想定し、その危険性をイメージしやすく解説したり、巨大テクノロジー企業がその対価をお金（個人情報の収集ではなく）で徴収すべきなどと説く。なぜならこの情報テクノロジーによるありとあらゆる個人情報の収集が民主主義に危険をもたらすのは、上巻で述べられた全体主義がいかに情報を収集し、それを体制の維持に利用してきたかを理解すれば明らかである。
また、AIによるあらゆる自動化は雇用市場を不安定（私が長年携わってきた会計、税務など真っ先にとって変わることだろう）にし、それは全体主義思想を広める糧となるだろう。
当初よく言われた創造性は人間特有のものだからその方面を磨くべきというものも、既に意味をなさなくなりつつある。
それは創造性はパターンを認識し、それからそのパターンを打破することであるが、コンピューターはパターン認識に秀でているため多くの分野で私たちより創造的になりそうだという。更に感情的知能でも人間を凌ぐとのこと。
その他プライバシー規制が緩い中国などの方が、個人のデータを収集しやすく、例えば医療分野のアルゴリズムでも中国の膨大なデータを活用したものの方が優位になる。体制の違いによるAIデータの量がなんでもかんでも一部の国を優位にするかもしれない。
結論は私達は歴史の教訓を肝に銘じ、政治的にAI革命にもっと注意を払うべきというものだ。
この自ら決定を下したり、新しい考えを生み出したり出来る人類史上初のテクノロジーに。

[ブクログ · ★★★★★]

あまりにもおもしろく、そしてあまりにもおそろしい——。
本書は「情報」についての人類史を、上下巻にわたって深く考察している。
上巻では主にこれまでの歴史を、下巻ではこれからのAIについての考察が述べられている。
読み進めるうちに、手塚治虫の『火の鳥 未来編』が強く脳裏をよぎった。
AIがこれから加速度的に進歩していくことで、人類が制御できないおそろしい未来を想像せずにはいられなかった。
現在、国家の分断や陰謀論など、情報の氾濫により、私たちはAIのアルゴリズムによって何が正しく、何が間違っているのかの判断すら難しくなってきている。
この状況がさらに進むことで、個人のあらゆるデータを掌握する国家や地域こそが、これからの覇権を握ることになるのだろう。
著書には「シリコンのカーテン」とも表現されていたが、今後はデータ規制がますます強化され、国や地域によっては、より厳しい情報統制が行われる可能性もある。
非常に興味深い内容ではあったが、それでもなぜか明るい未来を思い描くことができなかった。
この10年こそが、人類の未来のキーポイントになると強く感じた。
私たちは、もっと互いに協力し、助け合う社会を築いていかなければならない。
争っている場合ではないのだ。

[ブクログ · ★★★★★]

アラインメント問題
ペーパークリップ
AIによる量刑と説明責任
ブラックボックス
統計的世界観を人間は認識できるのか？

[ブクログ · ★★★★★]

AIは、人間のレベルの知能に向かって進歩しているわけではない。まったく違う種類の知能に向かって進化しているのだ。人間を凌駕する存在となりうる。

[ブクログ · ★★★★☆]

AIがアルゴリズムに基づいて情報をコントロールするようになると、信じられないスピードで大量の情報を操作するようになる。我々人間が状況を理解し判断できるスピードを超えているので、AIが予測不能な動きをし、場合によっては倫理観を無視した暴力的な手段に走る恐れもある。著者はこの事態を危険視している。
AIを活用して問題を解決しようと試みた結果、表面的にはタスクが達成されていても、本来の問題解決にはならない可能性も指摘している。
そして、AIと比べて、人間はコロコロと考え方が変わったり、時には矛盾した行動をするもの。その不安定な一面は、言い方を変えれば自己修正が出来るということで、筆者が注目している。
最後の訳者解説を読んだ後に、ところどころ読み返して、ようやく少し理解できた気がした。皆さんのレビューも参考にしながら、今後も機会を見て何度か読み返し、理解が足りないところを補いたいと思う。