ユヴァル・ノア・ハラリのレビュー一覧
-
-
Posted by ブクログ
ネタバレ・意図せざる結果を伴う強力なものを生み出す傾向の始まりは、蒸気機関の発明でもＡＩの発明でもなく、宗教の発明だった。
・人類は大規模な協力のネットワークを構築することで途方もない力を獲得するものの、そうしたネットワークは、その構築の仕方のせいで力を無分別に使いやすくなってしまっているというのが、本書の核心を成す主張だ。というわけで、私たちの問題はネットワークの問題なのだ。
・一人ひとりの人間はたいてい自分や世界についての真実を知ることに関心があるのに対して、大規模なネットワークは虚構や空想に頼ってメンバーを束ね、秩序を生み出す。たとえばナチズムやスターリン主義も、そのようにして誕生した。両者は並外れて強力なネットワークであり、並外れて妄想的な思想によってまとまっていた。
・このように素朴な見方に従えば、妄想的なネットワークは異常な例外に違いなく、大規模なネットワークはたいてい、力を賢く扱えると考えていいことになる。
・情報テクノロジーはまさにその性質上、「好循環」を引き起こす傾向にあり、「識字、教育、豊かさ、公衆衛生、健康、民主化、暴力の削減などを含む、人間生活の健全性のほぼすべての面を向上させる」と主張する（
・ＡＩ研究者二七七八人を対象とした二〇二三年の調査では、回答者の三分の一超が、最悪の場合、高度なＡＩが人類の絶滅という悲惨な結果につながる可能性を最低でも一〇パーセントと見積もった（
・専門家たちはむしろ、以下のような二つの別の筋書きについて警告する。
・第一に、ＡＩの力のせいで既存の人間の対立が激化し、人類が分裂して内紛を起こしかねない。
・第二に、シリコンのカーテンは人間どうしを対立する陣営に分断するのではなく、全人類をＡＩという新しい支配者から隔てるようになるかもしれない。
・私たちはみな、ＡＩが自ら決定を下したり新しい考えを生み出したりすることのできる史上初のテクノロジーであるという事実を肝に銘じるべきだ。
・ＡＩは自ら情報を分析するのに求められる知能を持っており、したがって意思決定で人間に取って代わることができる。ＡＩはツールではない──行為主体なのだ。
・極端なポピュリズムは、客観的な真実などというものはまったく存在せず、誰もが「その人独自の真実」を持っていると断定する。
・一部のポピュリズム運動は、現代科学の理想と昔ながらの懐疑的な経験主義を遵守すると主張する。
・生態系の崩壊や世界戦争や制御不能のテクノロジーという、存亡にかかわる難題の数々に人類が直面しているまさにそのときに、ポピュリストたちは大規模な制度や機関、国際協力への信頼を損なっている。
・もしカリスマ的な指導者や人知を超えたＡＩに力を譲り渡すのを避けたいのなら、私たちはまず、情報とは何かや、人間のネットワークを構築するのに情報がどう役立つかや、情報が真実と力にどのように関連しているかをもっとよく理解しなければならない。ポピュリストたちが情報の素朴な見方に懐疑的なのは正しいが、力こそが唯一の現実で情報はつねに武器であると考えるのは間違っている。
・歴史は過去の研究ではない。変化の研究だ。歴史は、何が変わらず、何が変化し、物事がどのように変化するかを教えてくれる。
・何を「情報」と見なすかは視点の問題だ。
・情報の素朴な見方によれば、真実を探し求める状況では、そうしたものは情報と定義できるということになる。
・素朴な見方によれば、情報は現実を表す試みであり、その試みが成功したときに、情報は真実と呼ばれることになる。
・だが本書は、以下のようにも考える。ほとんどの情報は現実を表す試みではないし、情報はそれとはまったく異なるものによって定義される。人間社会の情報の大半は、いや、それどころか他の生物系や物理系での情報の大半も、何も表してはいない。
・真実と現実は別物だ。なぜなら、どれだけ忠実に説明したところで、現実のあらゆる面を一つ残らず表すことはできないからだ。
・要するに、現実の最も忠実な説明でさえ、けっして現実を完全に表すことはできない。どの表示でも、現実の何らかの面が必ず無視されたり歪められたりする。だとすれば、真実は現実に一対一で対応する再表示ではない。むしろ、私たちの注意を現実の特定の面に向け、他の面は必然的に無視させるものだ。
・本書はこのきわめて重要な点で、素朴な見方に強く反対する。
・情報の決定的な特徴は、物事を表示することではなく結びつけることであり、別個の点どうしをつないでネットワークにするものなら、何でも情報となる。
・進化の奇跡が可能なのは、ＤＮＡが既存の現実を表していないからこそであり、ＤＮＡは新しい現実を創り出す。
・ネットワークは、現実を正確に表す試みも、誤った形で表す試みもまったくなしでつながっていることもある。遺伝情報が何兆もの細胞を結びつけているときや、感動的な音楽が何千もの人を結びつけているときがそうだ。
・聖書は何十億もの人を束ねて宗教的なネットワークにする社会的プロセスを開始させた。
・要するに、情報は現実を表示しているときもあれば、そうでないときもある。だが、情報はつねに人や物事を結びつける。これが情報の基本的な特徴だ。したがって、歴史における情報の役割を考察するときには、「どれだけうまく現実を表しているか？ 正しいか、それとも間違っているか？」と問うのが理に適う場合があるものの、より重要な問いは「どれだけうまく人々を結びつけるか？ どのようなネットワークを新たに作り出すか？」であることが多い。
・私たちサピエンスが世界を支配しているのは、私たちが特別に賢いからではなく大勢で柔軟に協力できる唯一の動物だからだ。
・人々は自分がその人物と結びついていると考えるが、実際にはその人について語られる物語とつながっている
・歴史上の本当に大きな物語のほとんどは、感情の投影と希望的観測の結果だった。
・二人のユダヤ教徒が初めて出会ったとき、彼らは自分たちが同じ家族に属していて、かつてエジプトではともに奴隷で、シナイ山でもいっしょだったと、たちまち感じることができる。それこそが、何世紀にもわたっていくつもの大陸に及ぶユダヤ教徒のネットワークを維持してきた、強力な絆なのだ。
・物語が語られるようになる前からあった二つの次元の現実は、客観的現実と主観的現実
・だが物語のうちには、第三の次元の現実である、共同主観的現実を創り出せるものもある。
・法律や神、国民、企業、通貨といった共同主観的なものは、大勢の人の心を結ぶネクサスの部分に存在する。
・あらゆるジャンルの物語のうち、共同主観的現実を創り出す物語が、人間の大規模なネットワークを築き上げる上で、これまで最も重要だった。
・歴史は共同主観的な物語で決まるので、対立している人々が話し合い、それぞれが信じている物語を変えるか、あるいは誰もが受け容れられる新たな物語を考え出すかすれば、争いが避けられる場合がある。
・人々を団結させることに関しては、もともと虚構には真実よりも有利な点が二つある。第一に、虚構は好きなだけ単純にできるのに対して、真実はもっと複雑になりがちだ。
・第二に、真実はしばしば不快で不穏であり、それをもっと快く気分の良いものにしようとしたら、もう真実ではなくなってしまう。
・架空の物語を語っても、そのようなふりをするのを避け、既存の客観的現実を表すのではなく新しい共同主観的現実を創り出そうとしていることを認めれば、噓をついていることにはならない。
・合衆国憲法は、人為的な法的虚構であることを認めているのにもかかわらず、現に強力な連邦を形成してのけた。
・神に由来するものだと主張することで、十戒は人間がこれらの戒律を変える可能性を排除する。
・清浄さの架空の序列によって階層化されたカースト制という共同主観的な制度を構築した。 -
-
-
-
-
Posted by ブクログ
コンピュータは人をつなぐ管ではなく、ネットワークの成員になった。意識は持たないのに知能だけを持ち、目標を追い続ける。危ないのは人間に似ているからではなく、まったく違う仕方で動けるからだ。
AIの出力は読みやすい。読みやすいから疑わなくなる。出典が付いていること自体が安心の記号になって、中身まで確かめていない自分がいる。気をつけないとなぁ。
AIは手段を自己修正できるが、何を正しいとするかは修正できない。より良い人間とは何かを話し合う仕事は、人間が手放してはいけないのだと思う。
効率とは誰にとっての効率なのか。自己修正の仕組みはどれも非効率で、だから真っ先に削られる。他者を理解するには時間がかかる。余裕を持って事に当たりたい。 -
Posted by ブクログ
情報は真実を運ぶものではなく、人をつなげるものだという。言われてみれば、真実は複雑でコストが高く、虚構のほうが安くて強い。真実が負けるのは不公平だからではなく、そもそも競技が違うからだった。
いちばん怖かったのは魔女狩りの章。存在しないものが、印刷と自白によって自分を裏づける証拠を生産していく。今のエコーチャンバーとまったく同じ構造に見えた。
読み終えて思うのは、自己修正は心構えではなく仕組みの問題だということ。気をつけようという意志は疲れた日に折れる。疑う手間を下げる設計のほうが確実だ。
真実と秩序の両立した例は、最後まで出てこない。それは達成される状態ではなく、続ける作業として書かれているからだと思う。 -
-
-
-
Posted by ブクログ
情報が増えれば真実や知恵が増えるわけではなく、情報ネットワークは真実だけでなく虚構や誤りによっても秩序を形成する。ゆえに、人類がAI時代の強力な情報ネットワークを生き延びるには、自らの可謬性を認め、強力な自己修正メカニズムを備えた制度を構築し続けなければならない。以上が主要な主張。
ただ、コンピュータや情報ネットワークに、認識論的な意味での『可謬性』を帰属させられるのか？の疑問がずっと残る本でもあった。例えばFacebookの推薦アルゴリズムが「エンゲージメント最大化」を目的としていて、ロヒンギャへのヘイトを大量に推薦したとして、アルゴリズムは間違えたのか？とは言えない。
目的関数に対しては、むしろ正しく動いた可能性がある。「その結果は人類にとって望ましくない」と判断しているのは人間だ。著者は絶対的な価値判断を情報ネットワークにも用いている。そこはもやもやする。 -
-
Posted by ブクログ
今年の初めにこの1年間に読破すると決めた3つの本のうちの１つ。やっと読み終わった。上巻を読んでからもだいぶ経ってしまった。
上巻もだけどすごい読み応えがある。
点と点が線になっていくような、俯瞰的に人類の歩んできた道を知ることができて、とにかくめちゃめちゃ面白い。
これはホモ•サピエンスとして必読の書でしょう。
ホモ•サピエンスの推測される未来について「未来のテクノロジーの持つ真の可能性は、感情や欲望も含めて、ホモ•サピエンスそのものを変える」と警鐘されている。
AIの台頭によって、ホモ・サピエンスの最大の特徴でもあった物語を作り出す力さえ、AIに乗っ取られてしまう可能性がある。
ホモ•サピエンスはこれまで発展を繰り返してきたが、果たして人類や個人はそれで幸福になっているのかという、最後に著者からの鋭いメッセージ。
ここでブッダの教え（そもそも幸福とは外部の条件によって決まるものでも、内なる感情とも無関係であると。感情はすべて束の間のものであり、感情の追求をやめることで、心の緊張が解け、未来や過去ではなく今この瞬間を生きることができる）が引用されている。自分とは何者であるのかを知ることが幸せのカギであると。
ホモ•サピエンスの存続が危ぶまれる今こそ、この本を通してホモ•サピエンスとは何であるのかを学びつつ、我々は何を希望しているのかという著者からの問いに一人一人考えていく必要があると感じた。
これは必ず再読しよう。 -
Posted by ブクログ
まぁ面白かった。今までの価値観が一掃された。こんな本は読んだことがなかった。
科学革命から幸福についての話に入ってからがかなり興味深かった。取るに足らない存在だったサピエンスがここまでー神に近い存在まで文明を発展させたが、それは幸福に繋がっているのか。その視点が全ての人類史において不足している、というのは至言
神話も文化も企業も国家もジェンダーも宗教も現代の幸福の基準も全ては虚構だということ点を知れて、かなり気が楽になった。
予測不可能で変化が早い現代においては今考えていることや悩んでいることも全て無意味になるようなシンギュラリティが訪れうる、という点は目からウロコもの
著者頭良すぎる、NEXUSも読もうかな。
抽象的な話多すぎて読むのまじで時間かかった。内容が凝縮されすぎている。
-
-
Posted by ブクログ
人類が、どのように進化し、どのように社会や国を構成してきたのか、その背景がよく分かった。
地球史や生物学史的に見れば、サピエンスが社会や国を構成し始めたのはほんの最近のことで、生物学的な進化がそれに追いついていないという話はとても興味深い。
それは、生物学的な追いつきもそうだが、近年の社会の急激な変容に対して思考が追いつかない（多様性の尊重、パワハラ、セクハラなど）のも似たようなことが起こっているように感じた。
農耕革命の文脈では、それまでの狩猟採集生活から、労働の負担や階級の創出、疫病のリスクが生まれたという観点はとても面白い。
生活を豊かに、食糧を楽に安定的に確保するために畑を耕し作物を栽培する。結果として人類は日々働かなければいけなくなり、労働者と支配者の階級が生まれ、特定の土地での疫病や不作のリスクも負うことになった。
これは現代社会のあらゆる技術進展においても同じことが起きていると思う。コンピュータが発明され、電子メールが使えるようになると、今まで手紙でのやりとでは不要だったメッセージの返信も必要になる。AIについても同じようなことが言えるんだと思う。AIに学習をさせたり、プログラミングが必要だったり、ファクトチェックが必要だったり。
本当に便利になっているのかという再検討は行われない。それを仕事や生活に取り入れて生活していくしかない。
人類の進化において「虚構」を共通認識できたことが大きく影響しているという点については確かにと思った。国や、社会、会社、貨幣など、抽象的で実体はないものを認識で共有化できたからこそ人類はここまで発展できた。
また、帝国主義は批判的に語られることが多いが、人類の歴史上、征服と被征服の歴史は繰り返されており、本の「純正」とされる文化もどこが別の民族を征服して成り立ってきているという観点はなるほどと思った。 -
Posted by ブクログ
人類は情報を必ずしも真実として扱うのではなく、秩序を立てる、あるいは維持するために活用してきた。例えば、貨幣、国家、宗教など。これらについて著者は「共同主観的現実」と呼び、水は水素分子と酸素分子からできているといった事実と区別している。そしてこの共同主観的現実を形作る能力がホモ・サピエンスを地球上で優位な種となる原動力となったと指摘している。著者は、この「共同主観的現実」が人間ではなく AIが形作るという、今まで人類が経験したことのない時代がいまや今やすぐそこに来ているという。
ここで著者は、自己修正メカニズムという考えを提示する。例えば、聖書や共産主義、全体主義などは自己修正メカニズムがない（乏しい）、科学や民主主義は自己修正メカニズムが機能する、という具合だ。
自己修正メカニズムがない（乏しい）共同主観的現実を形作ると、人類は往々にして惨禍をもたらした。十字軍、魔女狩り、ナチスの台頭、スターリン下のソ連など。もし、人間でなくAIが共同主主観的現実を形作るようになったら、人類はいったいどうなるのか？
AIは、我々炭素ベースのニューロンやシナプスの働きの結果表出される共同主観的現実とは異なり、全く異なる仕組み、それも人間には到底理解できない仕組みで共同主観的現実を形作ると著者は警鐘を鳴らしている。一例として、SNSよる偏向した投稿や動画が自動再生されるなどして拡散し、ミャンマーでのロヒンギャ族の弾圧やブラジルで泡沫候補が大統領に当選するなどの事態が現実に起きている。
人間には及びもつかない考えや決定を行うAIが社会参加すると、国家、社会、市場、軍隊などの形態が必ず変化する。人類が経験したことのない、極めて重要な局面にあると著者は主張する。
では、いったい我々はこれからAIとどのように向き合っていけばいいのか？それは当然に一言で答えの出るものではないだろう。まず第一に我々人類全員が人類史上類のない重大な局面にいることを自覚すること、また特にSNSをはじめとした情報の洪水に翻弄されず、多様な情報を整理しながら熟議をはかることなどが、個人レベルから国家レベルまで重要になるのだろう。言うは易し、行うは難し、であるが・・。
-
-