レイ・カーツワイルのレビュー一覧

シンギュラリティはより近く 人類がAIと融合するとき

個人がコントロール可能な部分は使い方をしっかり考えればよいが、アンコントローラブルな部分は、もう祈るしかない。

シンギュラリティはより近く 人類がAIと融合するとき

面白〜い！
以下、興味深かったところのメモ。

・シンギュラリティ(特異点)は、数学と物理学で使われる言葉で、他と同じようなルールが適用できなくなる点を意味する
(この言葉を作ったのが作者らしい！)

・1956年にスタンフォード大学教授のマッカーシーの呼びかけで研究会が行われた。この研究会に備えて、マッカーシーは、人工知能と呼ぶことを提案した

・AIは言葉の意味を、文法規則の本や辞書からではなく、実際に使われている文脈から学ぶ。例えば、ジャムを食べる、ギターのジャム(即興演奏)の使い方を文脈で学ぶ。AIの学習法は、私たちが言葉を学ぶのと全く同じ。

・googolゴーゴルは、1の次に0が100個も続く桁数を意味する(あのインターネット企業はこの単語のスペルを間違えた)、
（と記載されてるけど、わざとだと思ってた。でも、この作者、ここで働いてたんだよね？だから、正しい情報なのかな？( ºﾛº)）

・2040年代初めには、ナノロボットが人間の脳の中に入って、その人のデータ全てをコピーできるだろう。あなた2号の登場だ。
(これが日本の内閣府が目指してるムーンショット計画のアバターの作り方なのかな？どうやるのかとずっと不思議に思ってたんだけど。)

・ひとたび人類が太陽光などの安価なエネルギーを得て、AIロボットを開発したら、多くのものがコピーできるようになるので、それらを暴力で奪い取ることは馬鹿らしくなるだろう。情報テクノロジーの進歩は社会に大きな前身をもたらすだろう。

・2020年代後半には3Dプリンターで衣服や日常品がプリントでき、コストは1ポンド辺り数ペニーにまで安くなるだろう
(7–18 yen per kgかな？)

・寿命を、大きく延長するものは、私たちの本質的な部分をバックアップする能力。デジタルの脳は私たちの思考の全てをバックアップできる。シンギュラリティに近づく2040年代半ばに現実になるだろう
(万博落合陽一さんnullnullと繋がる!!)

・最終目標は、いつまで生きるのかを自分で決めること。

・進行中の社会的転換を楽観視する最も重要な理由は、物質的な豊かさが増せば、暴力に走る動機が弱くなることにある。

・2030年代にはブレイン・コンピューター・インターフェースが実現するだろうが、機械で増強した人間が意思決定をするときに、｢人間の管理｣における｢人間｣とは、最終的に何を意味するのかが問題になるだろう
(攻殻機動隊みたい( ºﾛº))

シンギュラリティはより近く 人類がAIと融合するとき

前作から目指す世界のディストピア化がますます進んだ感があります。
ビックテックのリベラルな方達の意見です。
面白いです。
相変わらず倫理や道徳のバーョンアップについては言及がありません。
なぜ、アメリカが世界であのような振る舞いができるのか垣間見えた気がします。

シンギュラリティはより近く 人類がAIと融合するとき

2045年「シンギラリティー」を迎えるような時代には、AIの進化で3Dプリンティング・ロボティクスによるあらゆる製造業、建設業、諸々の「ものつくり」に影響を与える事は間違いなく、さらに医療でのバイオ・ナノテクノロジーによる変革は様々な難病でさえ完治、治療され寿命がさらに伸びることは間違いない。ここにあるブレイン・コンピュター・インタフェイスにおいては人間の脳との融合技術で人間そのものの存在意義など問われる可能性もある。一番のポイントは技術革新によるパフォーマンス（時間とコスト）が極端に短く安く、AIエージェントが作る、動くことで仮想と現実環境で人間はどのように対応すればいいのか予測できない。
「人間は良いことよりも悪いことに強く反応する、得よりも損に対して強く反応する」かのように技術革新は「悪質な利用」も当然出現することで人間を管理監督（人間がAIを頼り過ぎて）することさえ可能となると見ている。その大きな課題は兵器への技術転用と運用だ。「グレイグー」と言う自己複製マシンでコピーを量産する体制が確立すると、自らが「富と権力を増やし、貪欲への進化する」可能性があり、さらに「人間の管理」から「人間を管理」する機能と知能の進化は恐ろしい世界を見ることになるのは間違いない。

シンギュラリティはより近く 人類がAIと融合するとき

チューリングテストに合格するのは2029年と予測
　シンギュラリティ＝現在の人間の知能では理解できない時代の到来　

小脳＝固定的行動パターンの遺伝　
大脳新皮質＝学習による解決案　200億以上のニューロン　抽象的思考
　脳の階層構造　親指の存在
ディープラーニング　大規模言語モデルへ
　1000億以上のパラメーター　意味でプロンプトを理解　言語を扱えるようになる
マルチモダリティ　言葉と画像の関係を理解　Google リンク集からAIへ
いまAIに足りないもの：文脈記憶　常識　社会的相互作用

意識
　自分の内側の考えと、それとは異なる外の世界との両方を知っている能力
　チューリングテストに合格したAIに意識とその権利を与える法制化するか？
　レプリカント　脳にあった情報からの再現　情報を形成する構造の再現ではない　

緊急性のあることは悪いこと　ニュースになりやすい　現実は着実に良くなっている
臨床試験からシミュレーションへ
医療用ナノロボット　病原体を殺す　臓器の代わりをする　本質的バックアップ
食料価格が労働や天然資源に依存する割合が減っていく

生産性が伸びていない理由
　情報製品の多くは無料　　20世紀のモノの価値≒価格　だった
　同じ価格で20年前の何万倍以上の計算ができるようになった

売上げ よりも価値　　※GDPに現れない価値や豊かさ
　FBのアメリカでの売上げ 80億ドル　FBに費やす時間価値 2300億ドル以上
　ウィキペディアはGDP貢献ゼロ　
　2030年代　安価に今は贅沢な生活が可能に
　生産人口減少　10代高学歴化、高齢者の労働参加増加と自動化による失業

　地下経済＝暗号通貨・新たな稼ぎ方（アプリ、ギグワーク、インフルエンサー
　　公共の利益に貢献　機会と選択の増加　
　　スキル向上＝学習への投資　　＋スマホが脳の一部に
　セーフティネットの支出増加（医療、食糧、住居）→AIにより安価になる
　労働敗者の増加

シンギュラリティはより近く 人類がAIと融合するとき

情報テクノロジーの指数関数的な成長と「収穫加速の法則（the law of accelerating returns）」によりシンギュラリティを達成、ナノロボットなどのデバイスを用いた原子レベルでの世界の再構築、現時点で120歳とされる生命の限界を超えた寿命の延長（寿命脱出速度に達する）、脳をクラウドに接続することによる知性の拡大化、すべての産業におけるイノベーションの推進による貧困や暴力の減少など、私たちの幸福のあらゆる側面を向上させる指数関数的なテクノロジーの成長、再生可能エネルギーと3Dプリンティングの成長など多岐にわたる進化を予測している。リスクについても1章を設けて説明しているが、やや楽観的には思える。
【原題】
The Singularity is Nearer
【目次】
イントロダクション
第1章　人類は六つのステージのどこにいるのか？
第2章　知能をつくり直す
第3章　私は誰？
第4章　生活は指数関数的に向上する
第5章　仕事の未来：よくなるか悪くなるか？
第6章　今後三十年の健康と幸福
第7章　危険
第8章　カサンドラとの対話
謝辞
日本語版解説
訳者あとがき
付録（「コンピュータの価格性能比の根拠について」）
出典／参考文献／追加資料

シンギュラリティはより近く 人類がAIと融合するとき

今の生成AIの進化っぷりを肌で感じていると、2030年までにAGIまで行っちゃうんじゃないか、と思う。ちょっと恐ろしいけど、見てみたい気がある。

シンギュラリティはより近く 人類がAIと融合するとき

2025年6冊目。満足度★★★★★

著者は多数の受賞歴を有する発明家で、現在のGoogleの主席研究員兼AIビジョナリー

本書のタイトルにもなっている「シンギュラリティ」を語らせるのには、この人より適任の人はいないというぐらいの当該分野の有名人

本書はAIをはじめとする未来のテクノロジーについて、一般人がアウトラインを掴むのに好適

正直、かなり難しい箇所もあるが必読の書と言えるだろう

シンギュラリティはより近く 人類がAIと融合するとき

カーツワイル氏が、持論を改めて展開している書籍。
今のところ、彼の思ったとおりに技術と社会が進展しているような気がする。
彼は以前から2029年にはAIがチューリングテストに合格しほとんどの面で人間を上回るようになると言っているが、正に昨今の生成AIの発展を考えると彼の予言とおりになっている。
一方で、意識の問題に関しては踏み込み不足というか、「汎原心論」をとりあえず（根拠もなく）イチオシに置いているが、なぜその立場をとるのかの説明不足だし、特に主観的経験のメカニズムや存在要件についてはもっと深堀を期待したが、それは科学的課題ではなく哲学的課題であるということで終了。少し消化不良だった。
未来社会に関しては引き続きカーツワイル節爆発という感じ。ナノテクノロジーがあらゆる物質的な価値をコモディティ化し実質無料であらゆる物質的欲求を充足させられるようになるということで、もはや人類が生きるために必要とされる「人間による労働」は不要になる未来見えた。一方で、生きがいとしての仕事がなくなるかどうかに関しては、技術革新が新たな仕事を生み出すことのほか、特に知能が圧倒的に強化された人間は、現在では想像できないような豊かで深い体験が得られることを挙げ、楽観的な未来像が描かれていたが、概ね同感。
長寿の実現、脳のクラウドへのアップロード実現も確かに早晩起こるだろう。
リスクでは、ナノテクノロジーの「グレイグー」が炭素原子を用いた自己増殖をする技術が暴走する危険性を指摘しており、戦慄が走った（対策として、通信制御や「ブルーグー」配置などが記載されていた）。
総じて、変化が指数関数的に起こること（なのに多くの人々は直線的な変化しか想定できていないこと）、全ての領域の進歩が正のフィードバックをもたらし全分野で進歩が進むこと、AIと人間がデカップリングされて対決構図になるのではなく、人間がAI融合し強化されていく（すでに強化され始めている）こと、が説得力をもって語られており、力強い言説で、星5つ❗

シンギュラリティは近い [エッセンス版] 人類が生命を超越するとき

レイ・カーツワイルの見立て通りに進むとは思えない（技術的な問題というより我々人間が倫理的に追いつけないだろうという点で）が、示唆に富む未来予測だと思う。

シンギュラリティは近い [エッセンス版] 人類が生命を超越するとき

シンギュラリティとは『人工知能（AI）が人類の知能を超える転換点（技術的特異点）』と認識されているが、最初に言い出したのは著者らしい。長い間積読状態にしていたこの書籍を手に取ってみて驚いたが、彼はそんな単純なことを言っているのではなく、「シンギュラリティとは、われわれの生物としての思考と存在が、自らの作り出したテクノロジーと融合する臨界点であり、その世界は依然として人間的ではあっても生物としての基盤を超越している」と述べている。もっと深い本だ。よく読むべき一冊。

人類の未来 ＡＩ、経済、民主主義

ノーム・チョムスキー、レイ・カーツワイル、マーティン・ウルフ、ビャルケ・インゲルス、フリーマン・ダイソンといった政治学教授、発明家、経済ジャーナリスト、建築家、数学者といった知の先端をいく人たちへのインタビュー集。
AIが指数間的に成長していく未来を描くレイ・カーツワイルの話が一番面白かったし再読したい。
どの人たちも専門分野以外にも深い知識を持っているのが参考になる。
インタビュアーの吉成さんの質問が全部的確で勉強量も含めて頭の良さがにじみ出ていると思う。あとがきの見解の「不確実社会では感情に訴えるようなシンプルストーリーはプロパガンダだと思ってファクトチェックを重ねて熱狂を避ける」というところに同意。
各著者におすすめの本を聞いているのがありがたい。

人類の未来 ＡＩ、経済、民主主義

既存、既成概念にとらわれない様々なそして先端の考えや視点を紹介する一冊だ。アメリカの政治、民主主義、資本主義、AI、建築、宇宙など広く(表面ではあるが)見れる。それぞれのインタビューイーの見解をにわかに支持はできないが、関連著書を読んで深めたい。
とりわけ、
カーツワイル氏の話をにわかには信じられないが士郎正宗氏が描くGhost in the shell (攻殻機動隊)のような大脳新皮質がクラウドにアクセスするような電脳時代が来るのだろうか。

吉成真由美氏の知的なインタビューにも感嘆する。

シンギュラリティは近い [エッセンス版] 人類が生命を超越するとき

２００５年に書かれた６６４ページの原書からの抜粋。と言っても２５４ページあります。
本書はシンギュラリティを定義した歴史的な本です。

まずびっくりしたのは１３年前の著書でありながらコンピューターと人間の未来を予測している内容が少しも色あせておらずむしろ新鮮であること。
著書が２０４５年をシンギュラリティとした理由が当時のコンピューターパワーから論理的に導き出した説明が詳細に書かれている。
まず人間の脳の処理能力をいくつかの事例（例えば網膜から物を認識するために必要な処理速度から脳のサイズを掛け合わせる）から１０の１6乗CPSとした。ムーアの法則の考え方に基づいて著者がパソコンレベルでこの処理能力に匹敵するのは２０２０年とした。さらに記憶容量（１０の１８乗ビット）がパソコンレベルで手にはいるのが２０３０年。これだけならパソコンのパワーが人間の能力に追いついただけだが、さらに「知能」という要素を考えると２０４５年にはコンピューターが人間の能力を超えて根底から覆る。これを「シンギュラリティ」と呼んでいる。
そしてパソコンレベルではないにせよ、人間の脳をデバイスにアップロードできる時期は２０３０年と見ている。
ここに究極のBigdataとIoT、そして脳を模したニューラルネットコンピューティングとソフトウェアによって大変革が起きる。
これらによる人体を1.0->2.0->3.0と変化すると定義し、ナノボット（ナノサイズのロボット）で人体は大きく様変わり。人の寿命は著しく伸びる。3.0ではテクノロジーと人体は融合することができる。
そして著者は「人間とは何か？」という宗教的とも言える根源の質問を自分に問いかける。
シンギュラリティは一般的に「AIなどのテクノロジーが進化して人間を超える」と理解されがちだけど、著者が言いたいことはそうではなく「テクノロジーと人間が融合することでこれまでにない世界が実現する」ということだ。長生きをして世界の進化を見届けたい、とか、行ったことのない場所に瞬時に行ける体験、とか自己複製が可能になるとか…私には思いつかない驚くことがもっともっと起こるだろう。

人類の未来 ＡＩ、経済、民主主義

人類史に前例のない加速度で起こる激変期に何が起こるか？胸が躍る。
人類史上、エキサイティングな面白い時代になるかも？

人類の未来 ＡＩ、経済、民主主義

ものすごく面白くて、ワクワクされられる。
いろいろな分野で活躍する5人にインタビューする、人類の未来。
悲観的なことも、楽観的なこともあるし、お互いに意見が合わない部分もある。
インタビュアーと、話し手が頭が良く、明晰でわかりやすいため、AI、環境、政治、テクノロジーについてわかったように感じるほど。
普段は長生きに興味はないけれど、この本を読むと、未来をみたいと思わずにはいられない。

人類の未来 ＡＩ、経済、民主主義

キンドル月替りセールで安くなっていたので購入。
象を調べるアリの1番先頭にいる何人かの著名な人物に象について聞く本。細かな理論ではなく、何をどう考えているかをわかりやすい言葉で説明されており、内容以上に分かりやすいし、気付きも与えてくれる。科学者である方々が、文学やビジネスについても敬意を持って語っている点はありがたい。

シンギュラリティは近い [エッセンス版] 人類が生命を超越するとき

著者はgoogleのAI開発責任者。私たちはgoogleに頼りきっているので、無意識のうちにこの人の未来ビジョンに向けて乗っかってるのではなかろうか。
とにかく著者自身が賢い。物理も生物も情報の基礎も知らないと本の内容を真に理解できない気がする…。私は物理的内容が理解しきれなかった…。
生物進化が専攻だった私からすると、シンギュラリティとは「生物進化の超越」を意味するんだと理解した。今まで学んできたことが消え去るような結構な衝撃を受けた。が、新たな進化でもあると前向きに捉えることができる。
かつて人類が火を使い始めたときのような転換点を自分が生きているうちに体験できるかもしれないというのは少しワクワクする。
これを読めば漠然とシンギュラリティに不安を感じることはなくなると思う。(明確に不安になる可能性はあるw)私は不安はなくなった。しかし考えたいことは増えた。
たぶんまた数年したら読んでみると思う。

人類の未来 ＡＩ、経済、民主主義

どのインタビューも深く掘り下げられていて、読み応えがあった。道を極めた人の考えを、インタビューだと偏りすぎずに聞けるのがいいなと思った。
内容に関してもどれも興味深かったが、サイエンスは大事だが人間にとっては物語も重要、というのが面白かった。むかし哲学と自然科学は密接だったというのも。なるほど。

シンギュラリティは近い [エッセンス版] 人類が生命を超越するとき

テクノロジーは線形ではなく指数関数的に増加しているというのが氏の主張している所の根拠の肝となる。
「収穫加速の法則」

※生命のタンパク質をベースとしたメカニズムは限　界がある→脳をリバースエンジニアリングする事により脳を再設計できる（人と機械の融合）
※人間の脳内のニューロンの計算速度は遅いが超並列処理がなされる→ナノボットによるスキャン、人体の再設計
※感情の反応力も機械に置き換えられうる→機械によるおもてなしが発生する
※現在の経済学のモデルの多くは歴史を線形で捉えたもの（社会保障制度）→それがひっくり返る可能性大