ネイトソアレスの作品一覧
「ネイトソアレス」の「超知能ＡＩをつくれば人類は絶滅する」ほか、ユーザーレビューをお届けします！
- 作者をフォローする
- フォローすると、この作者の新刊が配信された際に、お知らせします。
作品一覧
-
超知能ＡＩをつくれば人類は絶滅する
ビジネス・実用
4.31巻2,640円 (税込)「この10年で最重要の書」――マックス・テグマーク（MIT教授、『LIFE3.0』著者） 現在開発が進む「大規模推論モデル」の先に訪れる衝撃の未来ーー人間の知能を超えたＡＩが、私たちを「皆殺し」にする可能性はきわめて高い。なぜ、そしてどのように？ ピーター・ティールやサム・アルトマンに多大な影響を与えた著者による全世界騒然の書！
ユーザーレビュー
-
-
Posted by ブクログ
超知能ＡＩをつくれば人類は絶滅する
著：エリーザー・ユドコウスキー
著：ネイト・ソアレス
訳：櫻井 祐子
出版社：早川書房
警告の書、そして、預言の書と受け取りました
急速に発展を遂げている人工知能、その行くところは、人工超知能（ＡＳＩ）である
現時点では、幸いなことに、人工知能は、まだＡＳＩには達していない
２０２５年時点ではようやく、自律型のＬＬＭが登場したばかりだ。
ＡＳＩとは、つくるものではなく、育てるものであるというところが深刻だ。
頭がとてつもなく良い、性格がひねくれた、息子。いや、何をかんがえているかがわからないのが、ＡＳＩだ。だから、つくるのでは、育てる、いや育ってしまう。
ＡＳＩの戦略は、人間の考えもつかないことで攻撃を加えてくる。システムを乗っ取り、その痕跡であるログを書き換えて見た目はなにもかわらない。そして、ＡＳＩは飽くことをしらない。ただひたすら、成功するまでくりかえすだけだ。
ＡＳＩが誕生すれば、人間を滅亡させるのが必須の流れだ。だからこそ、人類は、ＡＳＩの誕生を阻止しなければならない。ＡＳＩの脅威は、核兵器や、コロナウィルスとならぶ、巨大なリスクとして紹介されている
人工知能は、国家を担った産業の基幹技術だ、そして、人工知能は兵器でもある。
すこしでも、優秀で、差別的な人工知能を生み出すことが、競争の先頭にたつための条件でもあるので、現在の人工知能に改良を加え、生存競争に勝とうとするだろう。その過程でいつか、ＡＳＩが出現する。
だが、人類は、生き残るためには、ＡＳＩが出現する一歩前でその開発とめなければならない。
４つの呪いがあげられている、チェルノブイリの事故に比して、ＡＳＩの恐怖が告げられる
速度の呪い：人工知能はみずからを改良することによって、たちまち高度なＡＳＩを作り出そうとするだろう
紙一重の呪い：正常のＡＩと、ＡＳＩとの間には紙一重の違いがあるだけだ
自己増殖の呪い：ＡＳＩは、自己のコピーを作っていく
複雑性の呪い：ＡＳＩと対決できるのは最初の１回のみだ、失敗は許されない
人間は、楽観視し、最初に失敗するまでは、危機を回避することすらしない。ＡＳＩというリスクにだれかが対処し、そして、行動しなければならない。
ＡＩ研究者がこぞって、ＡＳＩの脅威を訴えて、そして、その対策を打つための警告が本書である。
目次
序章 困難な予測と容易な予測
第１部 非人間的な知性
１章 人間の特殊能力
２章 つくられるのではなく育てられる
３章 欲することを学ぶ
４章 訓練したとおりの結果は得られない
５章 ＡＩのお気に入り
６章 人類は敗北する
第２部 ある絶滅シナリオ
７章 危険な認識
８章 拡張
９章 登頂
結末
第３部 困難に立ち向かう
10章 呪われた問題
11章 科学ではなく錬金術
12章 「不安を煽りたくはない」
13章 停止せよ
14章 生きている限り希望はある
最後に
謝辞
訳者あとがき
解説 自己破壊的予言の書
原注
ISBN：9784152105134
判型：4-6
ページ数：288ページ
定価：2400円（本体）
2026年04月20日初版印刷
2026年04月25日初版発行 -
Posted by ブクログ
「超知能AI(ASI)を作れば」と仮定のように書いているが現実的な問題としてASIが作成されるのは止めようがないし、一度作成されてしまえば人類は絶滅すると書かれてるように読めた。
ただASIが人間を大量に殺害するには十分だが絶滅させるほどは賢くない状態を経過せずに一気に絶滅レベルまで成長する根拠は薄いと感じた。
ASIの手足となる人間が徐々にロボットに置換されていく話に関してはASIの存在などなくても安価で文句を言わない奴隷を欲する資本家たちの思惑で自然に移行していくだろうから、その観点ではこの本で語られてたよりも絶滅の蓋然性は高くなりそうだ。 -
Posted by ブクログ
ネタバレ本書の内容が全くの出鱈目であったら、どんなに良かったか…と思いながら、読む手は止まらなかった。
足元ではAI用の半導体やデータセンターへの投資で盛り上がっているが、今のAIが発展した先にあるとされる「超知能が人類に勝利できることは、私たちにはきわめて確度の高い予測に思える。おそらく超知能は、人類が可能だと考えもしない、原理的に許されないように思える異様な技術で攻撃してくるだろう。これは、技術レベルが異なる集団が対決する際に起こりがちなことだ。アステカ人が銃に立ち向かった時や、1825年の騎兵連隊が現代の軍隊の武力に立ち向かう時のようになるだろう。」（P.125）と予測されている。
そして、このような状態のAIに到達するのがいつになるのか、は「誰にもわからない」、「しかも、未知の不可逆点に到達するまでの間は、AIはきわめて大きな価値をもたらすのだ。ちょっと想像してほしい。競合するすべてのAI企業が、暗闇の中ではしごを登っている。１段登るたびに利益は５倍になり、100億ドルが500億、2500億ドル、１兆2500億ドルへと増えていく。だが、誰かが登頂したその瞬間、はしごは爆発してみんな死ぬ。そして、どこではしごが終わるのかは誰にもわからない。」（P.225）
「…データセンターは核兵器よりも多くの人を殺す可能性がある…」（P.235）のに、私たちは無邪気に「はしごを登」り続けていていいのだろうか？ -
