ニック・ボストロムのレビュー一覧
-
-
Posted by ブクログ
人工知能と格差を主題にインタビューしたもの。ダイアモンド、ハラリ、コーエンがよかった。
民主主義は、人類が直面している難題を処理する能力を失いつつある。テクノロジーの進展によって経済や社会が変化するスピードが加速しているため、有権者も政治家も、世界で何が起きているのか、将来どうなるのかを理解することができなくなっているため（ハラリ）。
テクノロジーが多くの格差をもたらし、多くの人が取り残された。テクノロジーの直接の恩恵を受けている人の生産性は向上したが、その範囲は限られている（ダニエル・コーエン）。
ベーシックインカムは、何が不可欠でいくら必要なのかを決めるのが難しく、コンセンサスを得ることができない。また、すべての国は貿易でつながっており、発展途上国は単純労働に依存しているが、他国の労働者に払うべきかという問題もある（ハラリ）。 -
-
-
Posted by ブクログ
著者はシンギュラリティがいつかは到来するという考えを持っている。マシン・インテリジェンスが人間の知能を越えるのを前提に、人類は何を用意しないといけないのか、AIのコントロール方法などを考察する。ページ数が多く、とても読みやすいとは言えないが、最低限AI技術者は本書を読むべきだろう。AIは人類を滅ぼしかねない危険な存在にもなりえる。そうならないようにする方法を考察するのだが、そこは人類とAIの知恵比べにもなりかねず、悲観的な未来しか私には見えなかった。核兵器と同程度の危険性をAIが持ってしまうのではないかと、本書を読むとそんな心配までしてしまう。論文のような書籍であるが、AIに興味を持っている人は読んでおいたほうが良い。明るい未来しか語らない本よりも、よっぽど役に立つと思う。
-
Posted by ブクログ
ネタバレスーパーインテリジェンス
超絶AIと人類の命運
「AIによって人類は滅ぼされる」というターミネーターのような衝撃的な未来感に関して、学術的に丁寧に様々なシナリオを検討しています。
人類がAIをうまく使いこなすために必要なコントロール問題に関してまず論考していますが、その先にある哲学的な価値観に基づいた目標設定に関しても様々なリスクが存在することも論じられています。（マッチ棒を大量に作るという目標を設定すると、宇宙の全ての資源を使ってマッチ棒を作り続けるというリスクがあるなど）
そして、１つでもスーパーインテリジェンスが戦略的な優位を確立したとたんに、指数関数的な進歩を起こし、競合するものを全て無力化するため、複数のスーパーインテリジェンスや人類がバランスするという状況はあり得ないだろうという結論となり、またコントロール問題に戻ります。
そこでも、スーパーインテリジェンスは人類の裏をかいて、自由を手にする可能性が指摘され、結局スーパーインテリジェンスが誕生すること自体が非常に高いリスクであるという結論に行きつきます。
では、スーパーインテリジェンスの開発を規制するしかないということになりますが、それも、一人のマットサイエンティストや覇権を握りたい国の極秘研究開発などによって規制することが難しいという話。
著者の論考自体に間違いや抜けがあることを信じて、この先も気楽にAIの進歩を追っていきたい竹蔵です。
ですが、700ページに及ぶ猜疑に満ちた論考を読んで、とても疲れ果ててしまいました。
竹蔵 -
-
Posted by ブクログ
この本は2018年に出版されており、ここで読むとされた近未来に到達している。
で、世界はどうなるとみられていたのか。
資源を巡り、文明の崩壊が起きる。
近い将来、役立たず階級が大量発生する。
AI万能時代が訪れ、働き方は根本的に変革する。
テクノロジーは中流階級を豊かにしない。
北朝鮮は核開発をあきらめない。
社会的階級が民主主義を変える。
アメリカは分極化の波にさらされる。
知の巨人たちにはこの程度のことはお見通しだったか。インタビュー本なので難しい論理的説明や豊富な情報に基づく分析、深い洞察といった話はない。軽い口調で話されている感じで読みやすいが、とても恐ろしいことの数々をこともなげに述べられている。
サブタイトルは、AIと格差は世界を滅ぼすか。トップが総取りする構図がどんどん進む世の中において、平民の我々はなすすべもないのか。 -
-
Posted by ブクログ
豪華な顔ぶれだけに食い足りない感満載。
①ジャレド・ダイアモンド
人口減少を喜べ
定年退職制は馬鹿げている
多様性大事
伝統社会の子育て
建設的なパラノイア
②ユヴァル・ノア・ハラリ
「虚構」を利用する
幸福は「期待」に左右される
民主主義は２１世紀に適切な政治モデルではない
トゥキディスの罠
人間の愚かさ
「役立たず階級」の大量発生
ベーシックインカムの難点
・金額の合理性
・他国の労働者をどうするか
・「人生の意味」
狩猟民族＝自分の五感に注意を払う
われわれは，自然淘汰さえ克服しつつある
＝有機体生命の歴史が終わる
③リンダ・グラットン
三ステージ人生の終わり→マルチステージ・ライフ
変身資産・生産性資産・活力資産
５分，週末，２～３か月のサバティカル
今の６０歳は昔の４０歳
高齢者と女性の活用
定年制の廃止
シンガポールと北欧
④ニック・ボストロム
『スーパーインテリジェンス』
cosmic enowment（宇宙資源の賦存量）
⑤ダニエル・コーエン
テクノロジーの恩恵はごく一部にしか行き渡っていない
一生懸命働けば，お金が儲かると信じること自体が未熟な考え方なのです。世界はそのようには機能していません。
人間は半分情報になる
移民の決定的な欠如
パヴァロッティ効果
⑥ウィリアム・J・ペリー
「北朝鮮のレジームは転覆されない」という保証
偶発核戦争
「すべての選択肢がテーブルにある」
＝「私はこれからなにをしたらいいのかわからない」
⑦ジョーン・C・ウィリアムズ
ホワイト・ワーキング・クラス
＝平均世帯年収約８００万円より少し多い中流階級
アメリカ人の５３パーセント
プロフェッショナルｖブルーカラー・ピンクカラー
両親より経済的に成功する確率が中間層で５０パーセントもない
生まれたときに既に三塁にいた
アイデンティティ政治の白人化
polarization（分極化）
⑧ネル・アーヴィン・ペインター
白人の「自分たちが犠牲者である」という意識
白人のためのアイデンティティ政治
白人であることはunmarked defaultではなくなった
アメリカ人のミソジニー -
-
-
-
Posted by ブクログ
ネタバレ各叡智との対談形式の本。対談なので、各識者の主張根っことなる部分体系的に知ることはできない。なので、各識者の主張を別途よく理解したうえで読むのが良い本である。
ジャレッドダイアモンド
格差が現代の大問題。人同士の結び付きが異様に強いニューギニアなどの伝統社会に、教育や高齢者の取扱などについて学ぶことは多い。
日本の人口減少はむしろ良いこと（資源が少ないからとのこと。均等に減少するのではなく、少子化でかつ地方で特に減少するから社会の構造を大きく変えないと対応できない というのが問題の本質だと思うのだが、具体な解決策や、良いこととする根拠の詳しい説明はなし。ただ、高齢者をもっと有効活用すべきとの意見はそのとおりと思う。）
ユヴァルノアハラリ
人類の作り出した虚構と現実をしっかり区別して、虚構のために苦しむのではなく、虚構を利用して幸福になるべき。それが虚構かどうかの区別は、それ自体が苦しみを感じるか否かで判断すれば良い（日本という国家は苦しまない など）。
20世紀に最もうまく機能した民主主義は、テクノロジーの発展に伴う変化の激しさ、将来の不確かさの前に、現代の課題に対応できないという機能不全をもたらしているが、代替となる政治制度が出てきていないのが現状。
テクノロジーの発展により、役立たず階級が大量に発生する。
リンダグラットン
人生100年時代が来て、これからは有形の資産以外に、変化できる性質や活力、生産性といった無形資産が高齢者にも必要になり、共働きで学び続けられる環境を維持していくべきとする。
ニックボストロム
AI専門家。AIの進歩は想定より早く、人類が敵わないレベルのスーパーインテリジェンスの実現は間違いなくやってくる。そこに向けて、技術の向上とともに、AIが人類全体のために働くような方向付けや、人類滅亡などの恐れがないように方向付けるためのしくみの研究も同時並行しなければ取り返しのつかないことになる と警告する。
ダニエルコーエン
テクノロジーの進歩が格差を生み、トップが総取りする状態を生み出した看破する。
今後は、テクノロジーとの融合ではなく、テクノロジーを使いこなすことに力をいれるべきと主張する。
その他
北朝鮮問題や、アメリカの分断（基本はトランプ批判）など。 -
-
-
Posted by ブクログ
著者はオックスフォード大学哲学科教授。本書は分析哲学の見地からAIコントロール問題の解決策を探る大著。原著の初出は’14年9月と意外に年数が経っている。本文のみで約560ページと長いうえ直訳調の文章がとっつきにくく、読み進めるのにはかなりの負荷を感じた。
ここでの「AI」や「スーパーインテリジェンス（以下SI）」とは、人類の叡智を遥かに超越する水準の人工知能を指す概念であり、我々が日常これらの言葉から連想する、例えば「アルファ碁」や「フィンテック」などの水準からは大きくかけ離れたもの。したがって著者の提起する「人類が存在論的リスク（＝絶滅）を回避するため、SIをどのようにコントロールすべきか」といった問題の前提条件を共有することが、我々レイパーソンには少々困難である。しかもその定義上、SIの具体的な在り様を一般的な言語で表現することも極めて難しい。したがって、勢いその論述は抽象的で（我々一般人には）捉えどころのないものを土台とせざるを得ず、本書が思考実験的な色彩を纏う大きな理由になっている。
巻頭から繰り返し述べられるように、SIの実現可能性は高い。そしてそれはこれまで人類が作り上げてきたものとは大きく性質を異にし、人類のコントロール下から脱して自律的な意思決定を行い、人類の存在を脅かすような行動に出る可能性がある。そうならないためのSIコントロールとは一体いかなるものかを論ずるにあたり、著者は周到に要件定義を進めていく―SI出現の経路、スピード、多極か単極か、そしてそのコントロール手法や動機付けの可能性、etc....。それぞれが詳細に過ぎるためスムーズな読み進めを阻むが、著者の主張をあえて要約すれば「AIの有効性の研究と安全性の研究は歩調を合わせて進めなければならない」というもの。
本書のスケールは相当に大きいうえ、細部に目をやればさらなる深淵が待つというフラクタル構造を内含するため、正直なところどこまで理解できたかは自信がない。しかしいくつかの点につき共感することができた。例えばSI出現後、効率性が極限まで追求された社会では既存の社会基盤の一つであった倫理性が重要視されず、したがってそこで暮らす人々は極めて経済的に恵まれながらも精神的な充足は得られないのではないか、とする点。また、SI出現までの時間が長ければ長いほどコントロール問題にかかわる技術が進展する、という逆説も面白いと思った。 -
-