あらすじ
『サピエンス全史』を超える衝撃――
知の巨人、6年ぶりの書き下ろし超大作
「ネクサス」（NEXUS）とは？
――「つながり」「結びつき」「絆」「中心」「中枢」などの意
人間ならざる知能を前に
人間の「絆」（ネットワーク）を守れるか？
AIの真の新しさとは何か？
それは、自ら決定を下したり、新しい考えを生み出したりすることができるようになった史上初のテクノロジーだという点にある。
私たちは、ついに「人間のものとは異質の知能」（エイリアン・インテリジェンス）と対峙することになったのだ。
＊
憎悪の拡散、常時オンの監視、ブラックボックスの中で下される決定……。
AIが社会の分断を加速させ、ついには全人類から力を奪い、人間と人間以外という究極の分断を生み出すのを防ぐことはできるのか？
＊
今こそ、過去の歴史に学ぶときだ――
古代ローマの政争や、近世の魔女狩り、ナポレオンの生涯などから得られる教訓を通じて、知の巨人が「AI革命」の射程を明らかにする。
情報により発展を遂げた人類は、情報により没落する宿命なのか。本書のAI論は、混迷する世界で民主主義を守るための羅針盤になるだろう。
——斎藤幸平氏（経済思想家・『人新世の「資本論」』著者）
その深い洞察は、私たちが著書『PLURALITY』で提唱する多元的な共創の原理とも響き合い、進化するデジタル時代で人々を導く羅針盤となる。
——オードリー・タン氏（台湾・初代デジタル発展相）
感情タグBEST3
このページにはネタバレを含むレビューが表示されています
Posted by ブクログ
AI革命がもたらす人類の未来はユートピアかディストピアか。
AI革命が活字印刷術やラジオ・テレビなどの情報革新をもたらす技術とは決定的に違う点がある。後者はあくまで人間の意思によって成り立つ技術（人間により使われる技術）であるが、AIは人間の意図を介さず情報を処理・生成し、しかもコンピュータ同士が新たな繋がりを持ち始める。これにより、人間の意図しない思いもよらない結果をもたらす危険性があり、これを人間が制御しきれない危険性が想定される（人間の想定する目的と一致しない「アラインメント（一致）問題」）。
AIは政治にどのような影響をもたらすのか。民主社会と全体主義の社会でそれぞれ危惧される点を述べている。民主社会ではAIによる執拗な情報収集からいかに個人のプライバシー領域を保持することを保障できるかがキーである。そして国家・政府などの機関が一方的に国民・市民の情報を把握する一方向性を否定し、国民・市民も国家・政府の情報を知る双方向性を持つことが大切である。これにより、自己修正機能が政治に働き、AIによる政治利用の誤謬を修正することが可能である。全体主義では権力者がAIにより国民を完全にコントロールできる力を得ることが可能になるが。一方、その権力者がAIに権力の維持を脅かされる危険性が増す。全体主義の独裁者は自分の地位を脅かすNO2的存在に最も警戒心を持ち、自分に全ての情報が一元的に上がってくるようなシステムを望む。しかし、その膨大な情報を分析するにはAIに依存せざるを得ない。その結果、AIの判断に従わざるを得ず、結局は最終的な権力行使の判断をAIに委ねてしまう皮肉な事態となる。そのAIが暴走すれば（例えば核兵器の使用に関する判断など）、人類にとって取り返しのつかない結末を迎えることとなる。
また、AIによるネットワークが発達した世界では、戦争は実際に武器を使用するものだけでなく、相手の国にさまざまなハッキングによる攻撃をしかけ、相手国をコントロールしたり、混乱させるようなものも想定される。これを防ぐために、国家体制の違う国の間では相手国とのネットワークを遮断して、独自のネットワークシステムを構築することになる。著者はこれをかつての冷戦の「鉄のカーテン」になぞらえて、「シリコンのカーテン」と呼ぶ。これにより世界が分断されれば、地球的な規模で取り組まなければならない問題（例えば地球温暖化など）を国家体制の違いを越えての国際的協力体制を築くことができなくなってしまう。
しかし、著者は人間には部族や国家、民族の違いを越えて協力しあう力があり（歴史学者である著者は歴史的事実を踏まえて）、必ずしも悲観的な未来ばかりを想定はしていない。決定論的未来像ではなく、人間の可能性にあくまでも希望を抱いている。
Posted by ブクログ
Audible
サピエンス全史(Audible,漫画、子供向け)以来の著者のAIに関する警告と対策の本。
AIがもたらしうるリスクをまず、情報とは何か？という問いから始める。
肉体的にはこれほど脆弱な人間が、他の生物を圧倒できたのは、虚構を信じることができ、そのことが多くの人間を繋げ協力することができたから。
それゆえ、情報は真実でもないし、多くの情報が真実に結びつくこともない。
AIは人類が不可能な量の情報を処理できるだけでなく、創り出すこともできる。アンチロヒンギャのフェイクニュースはAIによりつくられた。人間は憎悪を駆り立てる情報や陰謀論の方を好む＝再生回数が伸びるので、Facebookなども止めない。
既に、この時点で人間は部分的ではあるが、AIに操られていると言える。
AIは絵、音楽、物語だけでなく既に様々なものを生み出しているが、人間の枠を超えつつあり、著者はartificial intelligence ではなく、alien intelligenceと呼んでいる。
2次大戦のように、AIのブロック化で、世界が分断する未来を警鐘しつつ、人類は協力することで発展してきたのだから、協力することで、この危機を乗り越えられるとも提言している。
彼の著書は大変興味深いのだが、主張を構築する情報の質と量が凄すぎて、正気化不良を起こしてしまう。一気に読むのが良いのだろうが、集中力が必要なためなかなか進まず、概要をつかみ切れていない。
Posted by ブクログ
一言要約:AIは子供。躾けるのは大人の責任。以下、主なとこ。: アルゴリズムはキュレーションを自ら行う。アルゴリズムが自らフェイクニュースや陰謀論を創作。コンピュータは情報ネットワークの新しいメンバー。注意を引くことから親密さの捏造へ。全世界で監視カメラは10億台以上。多くの都市で100台/平方キロ以上。情報は真実を発見するためでなく秩序を生み出すために使われる。エンゲージメントによるアラインメント問題＝神話の問題。コンピュータ間現実は神聖さのような共同主観的現実と似ている。赤ん坊のAIは人間の新生児と同じくアクセス可能なデータの中にパターンを見出して学習。トレーニングで習ったデータはアルゴリズムに染み付く。テクノロジーを賢く使うことを学ぶには時間がかかり犠牲も大きい。産業革命から帝国主義など。1人の人間が理解できる範囲をはるかに超えるテクノロジー。偽造人間を禁止すべき。権力が人間からAIへ。民主社会は規制が必要。フェイクニュースなどで話し合いが成立しなくなると、ポピュリズムがつけ込み民主主義を弱体化させる。全体主義は完全な監視システムを構築できるがアルゴリズムに支配権を奪われる。シリコンのカーテンによる分断。情報は真実を表すものではなく人々を繋げるもの。真実よりも秩序。データ植民地主義。AIは不誤謬なんかじゃない。自己修正メカニズムが肝。
