ユヴァル・ノア・ハラリのレビュー一覧
-
Posted by ブクログ
◼︎ Keywords
- information = in formation
→ 情報の本質はものごとを「結びつける」こと
- 生成 AI は史上初めての「行為主体」として振る舞う道具
- 歴史研究 = 変化の研究
→ 何が変化し、何が変化しないかを解明する
- 共同主観的現実:人々が共通で信じることで現実に存在するようになるもの(神、国家、貨幣など)
→ これが人間の強大なネットワークを形作っている(情報の交換によって成立する)
- 物語と官僚制
→ 人間の協力の土台を築いたのが「物語」、そこに新しい秩序を生み出すのが「官僚制」
- 独裁社会と民主社会
- 独裁社会:強力な自己修正メカニズムを欠いた中央集権型の情報ネットワーク
- 民主社会:強力な自己修正メカニズムを持った分散型の情報ネットワーク
- 情報の流れ方がどの程度分散されているかによって濃淡がある(二者択一ではない)
- 民主制 ≠ 多数決原理
- 万人のある程度の自由を保障する制度が「民主制」(↔︎ 独裁制)
- 教育制度と情報テクノロジーの発展が大規模な民主制を可能にした
- 議論の概要を理解できるだけの知識(教育制度)と、それを広範に伝える手段(情報テクノロジー)が必要 -
Posted by ブクログ
◼︎ Keywords
- 知能と意識
- 知能:目標を達成する能力
- 意識:主観的な感覚や感情を経験する能力
- 意識は無くとも知能は持ちうる(ウィルス, AI など)
- AI = Alien Intelligence ?
- 人間とは異質の知能、人間の尺度では測れない知能
- 情報ネットワークのデザイン=政治・社会・文化のデザイン
- 情報どうしの取引には貨幣が介在しない → 今後「豊かさ」の価値基準が転換する?
- 戦争は政治目的達成の手段 → 地政学上の目的がなければ戦争は不合理
- デジタル民主社会の要諦
1. 善意:個人情報が個人の幸福のために使われること
2. 分散化:権力が一カ所に集中しないように情報を分散すること
3. 相互性:情報が相互に流れるようにすること
4. 変化と休止:厳密性と柔軟性のバランスを取ること
- 柔軟性(強力な自己修正メカニズム)が AI を賢く使い共存するためのカギ
- 強力な自己修正メカニズムを持つ機関・制度の構築が急務
- 権力は情報経路の結節点(ネクサス)に集中する
- データ植民地主義:世界は「データを使って稼ぐ国・超巨大企業」と「データを供給して搾取される国・企業」に分かれる?
- 情報ネットワークはウェブ(全世界の接続)からコクーン(分断された範囲内での接続)へ?(シリコンのカーテン) -
Posted by ブクログ
人類はどう歩んできたのか、歩まされてきたのか!ホモ・サピエンスの直訳が賢い霊長類なのは知らなかった。今に続く帝国主義や支配性がうかがえるようなワードだと思った。それもホモ・サピエンスが生物としてヒエラルキーの頂点に上り詰めるために、残った本能でありDNAに組み込まれてるものだとしたら、戦争や虐殺、差別などは無くなるはずもないなぁと少し絶望。だけど、この本を読んでいて稲作文化の時代から中世、現代へと進むうちに倫理観というか人類が滅亡しないためにも地球に住んでる人は全員=私たちである価値観が芽生えてきている気がする。それは良心によるものじゃないけれど、平和にはつながってるのかなぁ。
-
Posted by ブクログ
ネタバレ・意図せざる結果を伴う強力なものを生み出す傾向の始まりは、蒸気機関の発明でもAIの発明でもなく、宗教の発明だった。
・人類は大規模な協力のネットワークを構築することで途方もない力を獲得するものの、そうしたネットワークは、その構築の仕方のせいで力を無分別に使いやすくなってしまっているというのが、本書の核心を成す主張だ。というわけで、私たちの問題はネットワークの問題なのだ。
・一人ひとりの人間はたいてい自分や世界についての真実を知ることに関心があるのに対して、大規模なネットワークは虚構や空想に頼ってメンバーを束ね、秩序を生み出す。たとえばナチズムやスターリン主義も、そのようにして誕生した。両者は並外れて強力なネットワークであり、並外れて妄想的な思想によってまとまっていた。
・このように素朴な見方に従えば、妄想的なネットワークは異常な例外に違いなく、大規模なネットワークはたいてい、力を賢く扱えると考えていいことになる。
・情報テクノロジーはまさにその性質上、「好循環」を引き起こす傾向にあり、「識字、教育、豊かさ、公衆衛生、健康、民主化、暴力の削減などを含む、人間生活の健全性のほぼすべての面を向上させる」と主張する(
・AI研究者二七七八人を対象とした二〇二三年の調査では、回答者の三分の一超が、最悪の場合、高度なAIが人類の絶滅という悲惨な結果につながる可能性を最低でも一〇パーセントと見積もった(
・専門家たちはむしろ、以下のような二つの別の筋書きについて警告する。
・第一に、AIの力のせいで既存の人間の対立が激化し、人類が分裂して内紛を起こしかねない。
・第二に、シリコンのカーテンは人間どうしを対立する陣営に分断するのではなく、全人類をAIという新しい支配者から隔てるようになるかもしれない。
・私たちはみな、AIが自ら決定を下したり新しい考えを生み出したりすることのできる史上初のテクノロジーであるという事実を肝に銘じるべきだ。
・AIは自ら情報を分析するのに求められる知能を持っており、したがって意思決定で人間に取って代わることができる。AIはツールではない──行為主体なのだ。
・極端なポピュリズムは、客観的な真実などというものはまったく存在せず、誰もが「その人独自の真実」を持っていると断定する。
・一部のポピュリズム運動は、現代科学の理想と昔ながらの懐疑的な経験主義を遵守すると主張する。
・生態系の崩壊や世界戦争や制御不能のテクノロジーという、存亡にかかわる難題の数々に人類が直面しているまさにそのときに、ポピュリストたちは大規模な制度や機関、国際協力への信頼を損なっている。
・もしカリスマ的な指導者や人知を超えたAIに力を譲り渡すのを避けたいのなら、私たちはまず、情報とは何かや、人間のネットワークを構築するのに情報がどう役立つかや、情報が真実と力にどのように関連しているかをもっとよく理解しなければならない。ポピュリストたちが情報の素朴な見方に懐疑的なのは正しいが、力こそが唯一の現実で情報はつねに武器であると考えるのは間違っている。
・歴史は過去の研究ではない。変化の研究だ。歴史は、何が変わらず、何が変化し、物事がどのように変化するかを教えてくれる。
・何を「情報」と見なすかは視点の問題だ。
・情報の素朴な見方によれば、真実を探し求める状況では、そうしたものは情報と定義できるということになる。
・素朴な見方によれば、情報は現実を表す試みであり、その試みが成功したときに、情報は真実と呼ばれることになる。
・だが本書は、以下のようにも考える。ほとんどの情報は現実を表す試みではないし、情報はそれとはまったく異なるものによって定義される。人間社会の情報の大半は、いや、それどころか他の生物系や物理系での情報の大半も、何も表してはいない。
・真実と現実は別物だ。なぜなら、どれだけ忠実に説明したところで、現実のあらゆる面を一つ残らず表すことはできないからだ。
・要するに、現実の最も忠実な説明でさえ、けっして現実を完全に表すことはできない。どの表示でも、現実の何らかの面が必ず無視されたり歪められたりする。だとすれば、真実は現実に一対一で対応する再表示ではない。むしろ、私たちの注意を現実の特定の面に向け、他の面は必然的に無視させるものだ。
・本書はこのきわめて重要な点で、素朴な見方に強く反対する。
・情報の決定的な特徴は、物事を表示することではなく結びつけることであり、別個の点どうしをつないでネットワークにするものなら、何でも情報となる。
・進化の奇跡が可能なのは、DNAが既存の現実を表していないからこそであり、DNAは新しい現実を創り出す。
・ネットワークは、現実を正確に表す試みも、誤った形で表す試みもまったくなしでつながっていることもある。遺伝情報が何兆もの細胞を結びつけているときや、感動的な音楽が何千もの人を結びつけているときがそうだ。
・聖書は何十億もの人を束ねて宗教的なネットワークにする社会的プロセスを開始させた。
・要するに、情報は現実を表示しているときもあれば、そうでないときもある。だが、情報はつねに人や物事を結びつける。これが情報の基本的な特徴だ。したがって、歴史における情報の役割を考察するときには、「どれだけうまく現実を表しているか? 正しいか、それとも間違っているか?」と問うのが理に適う場合があるものの、より重要な問いは「どれだけうまく人々を結びつけるか? どのようなネットワークを新たに作り出すか?」であることが多い。
・私たちサピエンスが世界を支配しているのは、私たちが特別に賢いからではなく大勢で柔軟に協力できる唯一の動物だからだ。
・人々は自分がその人物と結びついていると考えるが、実際にはその人について語られる物語とつながっている
・歴史上の本当に大きな物語のほとんどは、感情の投影と希望的観測の結果だった。
・二人のユダヤ教徒が初めて出会ったとき、彼らは自分たちが同じ家族に属していて、かつてエジプトではともに奴隷で、シナイ山でもいっしょだったと、たちまち感じることができる。それこそが、何世紀にもわたっていくつもの大陸に及ぶユダヤ教徒のネットワークを維持してきた、強力な絆なのだ。
・物語が語られるようになる前からあった二つの次元の現実は、客観的現実と主観的現実
・だが物語のうちには、第三の次元の現実である、共同主観的現実を創り出せるものもある。
・法律や神、国民、企業、通貨といった共同主観的なものは、大勢の人の心を結ぶネクサスの部分に存在する。
・あらゆるジャンルの物語のうち、共同主観的現実を創り出す物語が、人間の大規模なネットワークを築き上げる上で、これまで最も重要だった。
・歴史は共同主観的な物語で決まるので、対立している人々が話し合い、それぞれが信じている物語を変えるか、あるいは誰もが受け容れられる新たな物語を考え出すかすれば、争いが避けられる場合がある。
・人々を団結させることに関しては、もともと虚構には真実よりも有利な点が二つある。第一に、虚構は好きなだけ単純にできるのに対して、真実はもっと複雑になりがちだ。
・第二に、真実はしばしば不快で不穏であり、それをもっと快く気分の良いものにしようとしたら、もう真実ではなくなってしまう。
・架空の物語を語っても、そのようなふりをするのを避け、既存の客観的現実を表すのではなく新しい共同主観的現実を創り出そうとしていることを認めれば、噓をついていることにはならない。
・合衆国憲法は、人為的な法的虚構であることを認めているのにもかかわらず、現に強力な連邦を形成してのけた。
・神に由来するものだと主張することで、十戒は人間がこれらの戒律を変える可能性を排除する。
・清浄さの架空の序列によって階層化されたカースト制という共同主観的な制度を構築した。 -
Posted by ブクログ
コンピュータは人をつなぐ管ではなく、ネットワークの成員になった。意識は持たないのに知能だけを持ち、目標を追い続ける。危ないのは人間に似ているからではなく、まったく違う仕方で動けるからだ。
AIの出力は読みやすい。読みやすいから疑わなくなる。出典が付いていること自体が安心の記号になって、中身まで確かめていない自分がいる。気をつけないとなぁ。
AIは手段を自己修正できるが、何を正しいとするかは修正できない。より良い人間とは何かを話し合う仕事は、人間が手放してはいけないのだと思う。
効率とは誰にとっての効率なのか。自己修正の仕組みはどれも非効率で、だから真っ先に削られる。他者を理解するには時間がかかる。余裕を持って事に当たりたい。 -
Posted by ブクログ
情報は真実を運ぶものではなく、人をつなげるものだという。言われてみれば、真実は複雑でコストが高く、虚構のほうが安くて強い。真実が負けるのは不公平だからではなく、そもそも競技が違うからだった。
いちばん怖かったのは魔女狩りの章。存在しないものが、印刷と自白によって自分を裏づける証拠を生産していく。今のエコーチャンバーとまったく同じ構造に見えた。
読み終えて思うのは、自己修正は心構えではなく仕組みの問題だということ。気をつけようという意志は疲れた日に折れる。疑う手間を下げる設計のほうが確実だ。
真実と秩序の両立した例は、最後まで出てこない。それは達成される状態ではなく、続ける作業として書かれているからだと思う。 -
Posted by ブクログ
情報が増えれば真実や知恵が増えるわけではなく、情報ネットワークは真実だけでなく虚構や誤りによっても秩序を形成する。ゆえに、人類がAI時代の強力な情報ネットワークを生き延びるには、自らの可謬性を認め、強力な自己修正メカニズムを備えた制度を構築し続けなければならない。以上が主要な主張。
ただ、コンピュータや情報ネットワークに、認識論的な意味での『可謬性』を帰属させられるのか?の疑問がずっと残る本でもあった。例えばFacebookの推薦アルゴリズムが「エンゲージメント最大化」を目的としていて、ロヒンギャへのヘイトを大量に推薦したとして、アルゴリズムは間違えたのか?とは言えない。
目的関数に対しては、むしろ正しく動いた可能性がある。「その結果は人類にとって望ましくない」と判断しているのは人間だ。著者は絶対的な価値判断を情報ネットワークにも用いている。そこはもやもやする。 -
Posted by ブクログ
今年の初めにこの1年間に読破すると決めた3つの本のうちの1つ。やっと読み終わった。上巻を読んでからもだいぶ経ってしまった。
上巻もだけどすごい読み応えがある。
点と点が線になっていくような、俯瞰的に人類の歩んできた道を知ることができて、とにかくめちゃめちゃ面白い。
これはホモ•サピエンスとして必読の書でしょう。
ホモ•サピエンスの推測される未来について「未来のテクノロジーの持つ真の可能性は、感情や欲望も含めて、ホモ•サピエンスそのものを変える」と警鐘されている。
AIの台頭によって、ホモ・サピエンスの最大の特徴でもあった物語を作り出す力さえ、AIに乗っ取られてしまう可能性がある。
ホモ•サピエンスはこれまで発展を繰り返してきたが、果たして人類や個人はそれで幸福になっているのかという、最後に著者からの鋭いメッセージ。
ここでブッダの教え(そもそも幸福とは外部の条件によって決まるものでも、内なる感情とも無関係であると。感情はすべて束の間のものであり、感情の追求をやめることで、心の緊張が解け、未来や過去ではなく今この瞬間を生きることができる)が引用されている。自分とは何者であるのかを知ることが幸せのカギであると。
ホモ•サピエンスの存続が危ぶまれる今こそ、この本を通してホモ•サピエンスとは何であるのかを学びつつ、我々は何を希望しているのかという著者からの問いに一人一人考えていく必要があると感じた。
これは必ず再読しよう。