シンギュラリティはより近く 人類がAIと融合するとき

レイ・カーツワイル / 高橋則明

その日が来る前に読め！

ニューヨーク・タイムズベストセラー！
テクノロジーの加速度的な進歩による人間社会の変化を予測して、ことごとく的中させてきたカーツワイルの最新話題作が、ついに日本上陸。彼が予測するAIが人間の知性を超える2029年はあと5年後に迫っている。そして私たちの知性が数百万倍に拡張し生物学的限界を超える特異点、シンギュラリティに達するのは、もはや時間の問題と言える。それはどのように実現するのだろうか？
本書で取りあげるのは、ナノロボットなどのデバイスを用いた原子レベルでの世界の再構築、現時点で120歳とされる生命の限界を超えた寿命の延長、脳をクラウドに接続することによる知性の拡大化、すべての産業におけるイノベーションの推進による貧困や暴力の減少など、私たちの幸福のあらゆる側面を向上させる指数関数的なテクノロジーの成長、再生可能エネルギーと3Dプリンティングの成長など多岐にわたる。一方で、バイオテクノロジー、ナノテクノロジー、人工知能のもつ危険性についても考察しており、AIが雇用に与える影響や自動運転車の安全性、そして故人をデータとDNAの組み合わせによって仮想的に復活させる「アフターライフ」技術など、現代的で最先端の論争についても言及する。

AIに携わること60年の研究の集大成である本書は、この科学と今後到来するAIによる社会革命に関するレイ・カーツワイルの最高傑作である。

【内容】
イントロダクション
第１章 人類は六つのステージのどこにいるのか？
第２章 知能をつくり直す
第３章 私は誰？
第４章 生活は指数関数的に向上する
第５章 仕事の未来：良いか悪いか？
第６章 これからの三〇年間の健康と幸福
第７章 危険
第８章 カサンドラとの対話

• カテゴリ: ビジネス・実用
• ジャンル: IT・コンピュータ / 全般
• 出版社: ＮＨＫ出版
• タイトル: シンギュラリティはより近く 人類がAIと融合するとき
• タイトルID: 1735740
• ページ数: 448ページ
• 電子版発売日: 2024年11月27日
• コンテンツ形式: EPUB
• サイズ(目安): 9MB

[ブクログ · ★★★★★]

個人がコントロール可能な部分は使い方をしっかり考えればよいが、アンコントローラブルな部分は、もう祈るしかない。

[ブクログ · ★★★★★]

面白〜い！
以下、興味深かったところのメモ。

・シンギュラリティ(特異点)は、数学と物理学で使われる言葉で、他と同じようなルールが適用できなくなる点を意味する
(この言葉を作ったのが作者らしい！)

・1956年にスタンフォード大学教授のマッカーシーの呼びかけで研究会が行われた。この研究会に備えて、マッカーシーは、人工知能と呼ぶことを提案した

・AIは言葉の意味を、文法規則の本や辞書からではなく、実際に使われている文脈から学ぶ。例えば、ジャムを食べる、ギターのジャム(即興演奏)の使い方を文脈で学ぶ。AIの学習法は、私たちが言葉を学ぶのと全く同じ。

・googolゴーゴルは、1の次に0が100個も続く桁数を意味する(あのインターネット企業はこの単語のスペルを間違えた)、
（と記載されてるけど、わざとだと思ってた。でも、この作者、ここで働いてたんだよね？だから、正しい情報なのかな？( ºﾛº)）

・2040年代初めには、ナノロボットが人間の脳の中に入って、その人のデータ全てをコピーできるだろう。あなた2号の登場だ。
(これが日本の内閣府が目指してるムーンショット計画のアバターの作り方なのかな？どうやるのかとずっと不思議に思ってたんだけど。)

・ひとたび人類が太陽光などの安価なエネルギーを得て、AIロボットを開発したら、多くのものがコピーできるようになるので、それらを暴力で奪い取ることは馬鹿らしくなるだろう。情報テクノロジーの進歩は社会に大きな前身をもたらすだろう。

・2020年代後半には3Dプリンターで衣服や日常品がプリントでき、コストは1ポンド辺り数ペニーにまで安くなるだろう
(7–18 yen per kgかな？)

・寿命を、大きく延長するものは、私たちの本質的な部分をバックアップする能力。デジタルの脳は私たちの思考の全てをバックアップできる。シンギュラリティに近づく2040年代半ばに現実になるだろう
(万博落合陽一さんnullnullと繋がる!!)

・最終目標は、いつまで生きるのかを自分で決めること。

・進行中の社会的転換を楽観視する最も重要な理由は、物質的な豊かさが増せば、暴力に走る動機が弱くなることにある。

・2030年代にはブレイン・コンピューター・インターフェースが実現するだろうが、機械で増強した人間が意思決定をするときに、｢人間の管理｣における｢人間｣とは、最終的に何を意味するのかが問題になるだろう
(攻殻機動隊みたい( ºﾛº))

[ブクログ · ★★★★★]

前作から目指す世界のディストピア化がますます進んだ感があります。
ビックテックのリベラルな方達の意見です。
面白いです。
相変わらず倫理や道徳のバーョンアップについては言及がありません。
なぜ、アメリカが世界であのような振る舞いができるのか垣間見えた気がします。

[ブクログ · ★★★★★]

2045年「シンギラリティー」を迎えるような時代には、AIの進化で3Dプリンティング・ロボティクスによるあらゆる製造業、建設業、諸々の「ものつくり」に影響を与える事は間違いなく、さらに医療でのバイオ・ナノテクノロジーによる変革は様々な難病でさえ完治、治療され寿命がさらに伸びることは間違いない。ここにあるブレイン・コンピュター・インタフェイスにおいては人間の脳との融合技術で人間そのものの存在意義など問われる可能性もある。一番のポイントは技術革新によるパフォーマンス（時間とコスト）が極端に短く安く、AIエージェントが作る、動くことで仮想と現実環境で人間はどのように対応すればいいのか予測できない。
「人間は良いことよりも悪いことに強く反応する、得よりも損に対して強く反応する」かのように技術革新は「悪質な利用」も当然出現することで人間を管理監督（人間がAIを頼り過ぎて）することさえ可能となると見ている。その大きな課題は兵器への技術転用と運用だ。「グレイグー」と言う自己複製マシンでコピーを量産する体制が確立すると、自らが「富と権力を増やし、貪欲への進化する」可能性があり、さらに「人間の管理」から「人間を管理」する機能と知能の進化は恐ろしい世界を見ることになるのは間違いない。

[ブクログ · ★★★★★]

チューリングテストに合格するのは2029年と予測
　シンギュラリティ＝現在の人間の知能では理解できない時代の到来　

小脳＝固定的行動パターンの遺伝　
大脳新皮質＝学習による解決案　200億以上のニューロン　抽象的思考
　脳の階層構造　親指の存在
ディープラーニング　大規模言語モデルへ
　1000億以上のパラメーター　意味でプロンプトを理解　言語を扱えるようになる
マルチモダリティ　言葉と画像の関係を理解　Google リンク集からAIへ
いまAIに足りないもの：文脈記憶　常識　社会的相互作用

意識
　自分の内側の考えと、それとは異なる外の世界との両方を知っている能力
　チューリングテストに合格したAIに意識とその権利を与える法制化するか？
　レプリカント　脳にあった情報からの再現　情報を形成する構造の再現ではない　

緊急性のあることは悪いこと　ニュースになりやすい　現実は着実に良くなっている
臨床試験からシミュレーションへ
医療用ナノロボット　病原体を殺す　臓器の代わりをする　本質的バックアップ
食料価格が労働や天然資源に依存する割合が減っていく

生産性が伸びていない理由
　情報製品の多くは無料　　20世紀のモノの価値≒価格　だった
　同じ価格で20年前の何万倍以上の計算ができるようになった

売上げ よりも価値　　※GDPに現れない価値や豊かさ
　FBのアメリカでの売上げ 80億ドル　FBに費やす時間価値 2300億ドル以上
　ウィキペディアはGDP貢献ゼロ　
　2030年代　安価に今は贅沢な生活が可能に
　生産人口減少　10代高学歴化、高齢者の労働参加増加と自動化による失業

　地下経済＝暗号通貨・新たな稼ぎ方（アプリ、ギグワーク、インフルエンサー
　　公共の利益に貢献　機会と選択の増加　
　　スキル向上＝学習への投資　　＋スマホが脳の一部に
　セーフティネットの支出増加（医療、食糧、住居）→AIにより安価になる
　労働敗者の増加

[ブクログ · ★★★★★]

情報テクノロジーの指数関数的な成長と「収穫加速の法則（the law of accelerating returns）」によりシンギュラリティを達成、ナノロボットなどのデバイスを用いた原子レベルでの世界の再構築、現時点で120歳とされる生命の限界を超えた寿命の延長（寿命脱出速度に達する）、脳をクラウドに接続することによる知性の拡大化、すべての産業におけるイノベーションの推進による貧困や暴力の減少など、私たちの幸福のあらゆる側面を向上させる指数関数的なテクノロジーの成長、再生可能エネルギーと3Dプリンティングの成長など多岐にわたる進化を予測している。リスクについても1章を設けて説明しているが、やや楽観的には思える。
【原題】
The Singularity is Nearer
【目次】
イントロダクション
第1章　人類は六つのステージのどこにいるのか？
第2章　知能をつくり直す
第3章　私は誰？
第4章　生活は指数関数的に向上する
第5章　仕事の未来：よくなるか悪くなるか？
第6章　今後三十年の健康と幸福
第7章　危険
第8章　カサンドラとの対話
謝辞
日本語版解説
訳者あとがき
付録（「コンピュータの価格性能比の根拠について」）
出典／参考文献／追加資料

[ブクログ · ★★★★★]

今の生成AIの進化っぷりを肌で感じていると、2030年までにAGIまで行っちゃうんじゃないか、と思う。ちょっと恐ろしいけど、見てみたい気がある。

[ブクログ · ★★★★★]

2025年6冊目。満足度★★★★★

著者は多数の受賞歴を有する発明家で、現在のGoogleの主席研究員兼AIビジョナリー

本書のタイトルにもなっている「シンギュラリティ」を語らせるのには、この人より適任の人はいないというぐらいの当該分野の有名人

本書はAIをはじめとする未来のテクノロジーについて、一般人がアウトラインを掴むのに好適

正直、かなり難しい箇所もあるが必読の書と言えるだろう

[ブクログ · ★★★★★]

カーツワイル氏が、持論を改めて展開している書籍。
今のところ、彼の思ったとおりに技術と社会が進展しているような気がする。
彼は以前から2029年にはAIがチューリングテストに合格しほとんどの面で人間を上回るようになると言っているが、正に昨今の生成AIの発展を考えると彼の予言とおりになっている。
一方で、意識の問題に関しては踏み込み不足というか、「汎原心論」をとりあえず（根拠もなく）イチオシに置いているが、なぜその立場をとるのかの説明不足だし、特に主観的経験のメカニズムや存在要件についてはもっと深堀を期待したが、それは科学的課題ではなく哲学的課題であるということで終了。少し消化不良だった。
未来社会に関しては引き続きカーツワイル節爆発という感じ。ナノテクノロジーがあらゆる物質的な価値をコモディティ化し実質無料であらゆる物質的欲求を充足させられるようになるということで、もはや人類が生きるために必要とされる「人間による労働」は不要になる未来見えた。一方で、生きがいとしての仕事がなくなるかどうかに関しては、技術革新が新たな仕事を生み出すことのほか、特に知能が圧倒的に強化された人間は、現在では想像できないような豊かで深い体験が得られることを挙げ、楽観的な未来像が描かれていたが、概ね同感。
長寿の実現、脳のクラウドへのアップロード実現も確かに早晩起こるだろう。
リスクでは、ナノテクノロジーの「グレイグー」が炭素原子を用いた自己増殖をする技術が暴走する危険性を指摘しており、戦慄が走った（対策として、通信制御や「ブルーグー」配置などが記載されていた）。
総じて、変化が指数関数的に起こること（なのに多くの人々は直線的な変化しか想定できていないこと）、全ての領域の進歩が正のフィードバックをもたらし全分野で進歩が進むこと、AIと人間がデカップリングされて対決構図になるのではなく、人間がAI融合し強化されていく（すでに強化され始めている）こと、が説得力をもって語られており、力強い言説で、星5つ❗

[ブクログ · ★★★★☆]

シンギュラリティとは、人間とAIの融合によって、知能と意識が途方もないほど拡張されること

融合したらどう成るのか？その予言書。そんな本