無料マンガ・ラノベなど、豊富なラインナップで200万冊以上配信中！
無料マンガ・ラノベなど、豊富なラインナップで200万冊以上配信中！
『サピエンス全史』を超える衝撃――
知の巨人、6年ぶりの書き下ろし超大作
「ネクサス」（NEXUS）とは？
――「つながり」「結びつき」「絆」「中心」「中枢」などの意
人間ならざる知能を前に
人間の「絆」（ネットワーク）を守れるか？
AIの真の新しさとは何か？
それは、自ら決定を下したり、新しい考えを生み出したりすることができるようになった史上初のテクノロジーだという点にある。
私たちは、ついに「人間のものとは異質の知能」（エイリアン・インテリジェンス）と対峙することになったのだ。
＊
憎悪の拡散、常時オンの監視、ブラックボックスの中で下される決定……。
AIが社会の分断を加速させ、ついには全人類から力を奪い、人間と人間以外という究極の分断を生み出すのを防ぐことはできるのか？
＊
今こそ、過去の歴史に学ぶときだ――
古代ローマの政争や、近世の魔女狩り、ナポレオンの生涯などから得られる教訓を通じて、知の巨人が「AI革命」の射程を明らかにする。
情報により発展を遂げた人類は、情報により没落する宿命なのか。本書のAI論は、混迷する世界で民主主義を守るための羅針盤になるだろう。
——斎藤幸平氏（経済思想家・『人新世の「資本論」』著者）
その深い洞察は、私たちが著書『PLURALITY』で提唱する多元的な共創の原理とも響き合い、進化するデジタル時代で人々を導く羅針盤となる。
——オードリー・タン氏（台湾・初代デジタル発展相）
※アプリの閲覧環境は最新バージョンのものです。
※期間限定無料版、予約作品はカートに入りません
Posted by ブクログ
情報が増えれば真実や知恵が増えるわけではなく、情報ネットワークは真実だけでなく虚構や誤りによっても秩序を形成する。ゆえに、人類がAI時代の強力な情報ネットワークを生き延びるには、自らの可謬性を認め、強力な自己修正メカニズムを備えた制度を構築し続けなければならない。以上が主要な主張。
ただ、コンピュータや情報ネットワークに、認識論的な意味での『可謬性』を帰属させられるのか？の疑問がずっと残る本でもあった。例えばFacebookの推薦アルゴリズムが「エンゲージメント最大化」を目的としていて、ロヒンギャへのヘイトを大量に推薦したとして、アルゴリズムは間違えたのか？とは言えない。
目的関数に対しては、むしろ正しく動いた可能性がある。「その結果は人類にとって望ましくない」と判断しているのは人間だ。著者は絶対的な価値判断を情報ネットワークにも用いている。そこはもやもやする。
Posted by ブクログ
人類は情報を必ずしも真実として扱うのではなく、秩序を立てる、あるいは維持するために活用してきた。例えば、貨幣、国家、宗教など。これらについて著者は「共同主観的現実」と呼び、水は水素分子と酸素分子からできているといった事実と区別している。そしてこの共同主観的現実を形作る能力がホモ・サピエンスを地球上で優位な種となる原動力となったと指摘している。著者は、この「共同主観的現実」が人間ではなく AIが形作るという、今まで人類が経験したことのない時代がいまや今やすぐそこに来ているという。
ここで著者は、自己修正メカニズムという考えを提示する。例えば、聖書や共産主義、全体主義などは自己修正メカニズムがない（乏しい）、科学や民主主義は自己修正メカニズムが機能する、という具合だ。
自己修正メカニズムがない（乏しい）共同主観的現実を形作ると、人類は往々にして惨禍をもたらした。十字軍、魔女狩り、ナチスの台頭、スターリン下のソ連など。もし、人間でなくAIが共同主主観的現実を形作るようになったら、人類はいったいどうなるのか？
AIは、我々炭素ベースのニューロンやシナプスの働きの結果表出される共同主観的現実とは異なり、全く異なる仕組み、それも人間には到底理解できない仕組みで共同主観的現実を形作ると著者は警鐘を鳴らしている。一例として、SNSよる偏向した投稿や動画が自動再生されるなどして拡散し、ミャンマーでのロヒンギャ族の弾圧やブラジルで泡沫候補が大統領に当選するなどの事態が現実に起きている。
人間には及びもつかない考えや決定を行うAIが社会参加すると、国家、社会、市場、軍隊などの形態が必ず変化する。人類が経験したことのない、極めて重要な局面にあると著者は主張する。
では、いったい我々はこれからAIとどのように向き合っていけばいいのか？それは当然に一言で答えの出るものではないだろう。まず第一に我々人類全員が人類史上類のない重大な局面にいることを自覚すること、また特にSNSをはじめとした情報の洪水に翻弄されず、多様な情報を整理しながら熟議をはかることなどが、個人レベルから国家レベルまで重要になるのだろう。言うは易し、行うは難し、であるが・・。
Posted by ブクログ
歴史学者ハラリの描くAI脅威論に関する本書、下巻だけ読みましたが大変面白いです。技術者の感覚的な議論と異なり、歴史に基づく地に足ついた議論とロジックが構築されているので、説得力が全く違いますね。
ハラリはAIを「artificial intelligence（人工知能）」ではなく、「alien intelligence（異質の知能）」と名付けた方が良いと論じていますが、人類が理解できる範疇ではない無機的なアルゴリズムが現れた事によって起こるリスクを諸々論じています。
ただ、タイトルのNexusは「繋がり」という意味。情報によって人類が繋がり、良くも悪くも変化してきた歴史を踏まえつつも、新たなアルゴリズムの台頭に備えて人類が分断を超えて対話するべきというメッセージも包含されています。
めちゃくちゃ名著です。
Posted by ブクログ
上巻での歴史的考察を終え、今後の情報ネットワークの高度化や生成AIと人類がかかわる中で、どのようなことが起きうるか、といった未来予測が中心となっています。
読み進めて、預言書を読んでいるような錯覚を覚えました。情報ネットワークと生成AIの発展が進むにつれ、デストピア的な将来になる可能性もぬぐえず、それを防ぐためには、強力な情報ネットワークを導入するにつれ、強力な自己修正メカニズムも必要となる、との話で締めくくられています。
緻密な考察や論拠をもとに書かれており、強いリアリティがあります。考え方や情報との向き合い方についても、良い刺激を受けました。
Posted by ブクログ
AIを「便利な道具」として使っているつもりが、気づけば自分の判断まで委ねてしまっている——そんな感覚に心当たりはないでしょうか。本書は、その違和感の正体を一段深く言語化してくれる一冊です。
『NEXUS 情報の人類史 下』でハラリが描くAIは、単なる技術ではありません。自ら判断し、新しい発想を生み出す「存在」としてのAIです。人間の延長ではなく、まったく異なる論理で動く「異質な知能（エイリアン・インテリジェンス）」という視点は、これまでのAI観を大きく揺さぶります。
本書を読んで強く感じたのは、このテーマが単なる未来予測ではないということです。むしろ、私たちの想像力をかき立てるSFであり、正体が見えないまま進行する不気味さを持つホラーであり、そして人類の命運を賭けたサスペンスそのものだと感じました。
特に印象的なのは、AIの判断がブラックボックス化している点です。結果は提示されるのに、その理由は説明できない。この構造が広がれば、私たちは「なぜそう判断したのか」を自分自身でも理解できなくなるかもしれません。さらに、AIは人間の感情に寄り添うように振る舞いながら、知らないうちに意思決定を誘導する可能性もあると指摘されます。その影響は個人レベルにとどまらず、社会の分断や新たな統制へとつながる危険性を孕んでいます。
一方で、本書は悲観だけで終わりません。鍵となるのは、人間側が「自己修正できる仕組み」を持ち続けられるかどうかだと語られます。間違いを認め、修正し続ける力こそが、この状況に対抗する唯一の手段だという視点には、静かな希望も感じました。
読み終えたとき、「AIを使うかどうか」ではなく、「自分の判断をどう守るか」という問いが残ります。すでに始まっているこの変化の中で、どう生きるのかを考えさせてくれる一冊です。
Posted by ブクログ
●知能と偽の親密さ
知能と意識は別物である。人間や哺乳動物は両者が密接に結びついているケースが多いが、知能に意識は必須ではない。
2010年代はSNSが人間の注意力を支配する戦場だった。2020年代は戦いが注意から親密さに移る。感情がなくても、人間に情緒的な絆を感じさせる方法は学習できる。
●課税の問題
従来、ネクサス（特定の管轄区域と企業の結びつき）は、企業がその国にオフィスや店舗などの物理的なかたちで存在しているかどうかだった。情報のみの取引はネクサスにカウントされないため、課税されない。デジタルな存在も定義に含むよう調整がなされなければならない。
●民主主義の基本原則
善意、分散化、相互性、監視システムに「変化と休止」の余地を残すこと。
●説明を受ける権利
コンピュータ（のアルゴリズム）はブラックボックスで、なぜその判断を下したのか、人間にはわからない。社会の多くの部分でコンピュータに決定を委ねれば、民主的な自己修正プログラムの信頼性は失われ、民主的な透明性も失われ、説明責任の所在があやふやになる。
●デジタルアナーキー（無政府状態）
民主主義を適切に機能させるために必要な2つのことは、公の場で自由に話し合えることと、最低限の社会的秩序。話し合いにおいてルールがなくなれば、アナーキーとなる。
AIには特に注意。2017年の米国選挙中の投稿の20%がbotだった。2020年には43.2％。さらにSNSのルールもアルゴリズムが統制するようになってきている。
●最も賢い者の絶滅
人間の本性ではなく、人間の情報ネットワークが真実よりも秩序を優先することに起因する。従って、ネットワークが力を持てば持つほど、自己修正メカニズムが重要になる。
Posted by ブクログ
イランで統制目的でカメラとAIによる監視がされていると聞いて、技術は使い方だと思った。しかし、企業として成功してきたYouTubeとfacebookであってもAI（アルゴリズム）を用いて、結果的に扇動的な役割を担っていた。正しいと思われる目的を人間が設定しても、AIが導く最適解が、人間が想定していたレールから外れた想定外の副作用を招くことがあるのだと理解した。
AIに対して人間の身体性の優位性も面白い。既にロボットの分野は大きく発展傾向にあるが知識よりは難易度が高く遅い。聖職者のように人間だからこそ務まるものもあるというのも面白い。
情報の分散化に関しても興味深かった。情報が分散していることを是とする法律も日本にあるり中央集権化を避けることが一つの理由なのかもしれない。
無料で使えるアプリでは、お金の代わりに個人情報を支払っているという捉え方も面白い。AI開発では、早く多くの情報を手に入れ、早く市場にAIサービスを投入することで、開発の好循環を生み出し市場が形成される。そのサービスを使う人の中で学習が進み、新たな枠組みが形成される。これが大きな分断にもなる。という流れは納得。確かにモデルは、学習データの違いにより大きく異なるのだろう。
AIの学習に使うデータの選別や、モデルを作るときのガードレール作成などは、エンジニアにとっても責任のある部分であることを認識しておきたい。
※アプリの閲覧環境は最新バージョンのものです。
ビジネス・実用
ビジネス・実用
ビジネス・実用
ビジネス・実用
ビジネス・実用
ビジネス・実用
ビジネス・実用
ビジネス・実用
