ネイトソアレスの作品一覧
「ネイトソアレス」の「超知能ＡＩをつくれば人類は絶滅する」ほか、ユーザーレビューをお届けします！
- 作者をフォローする
- フォローすると、この作者の新刊が配信された際に、お知らせします。
作品一覧
-
超知能ＡＩをつくれば人類は絶滅する
ビジネス・実用
4.41巻2,640円 (税込)「この10年で最重要の書」――マックス・テグマーク（MIT教授、『LIFE3.0』著者） 現在開発が進む「大規模推論モデル」の先に訪れる衝撃の未来ーー人間の知能を超えたＡＩが、私たちを「皆殺し」にする可能性はきわめて高い。なぜ、そしてどのように？ ピーター・ティールやサム・アルトマンに多大な影響を与えた著者による全世界騒然の書！
ユーザーレビュー
-
Posted by ブクログ
超知能AIは、人類が他の動物に対して優位に立ってきた知性において初めて上回られる可能性ある存在。生存原理が異なるため人類抹殺(ゆるやかな滅び)を選ぶこともありえるうえに、それを止める有効な手段もないなかで、いったんブレーキを掛けて安全策を講じるのは今をおいて他にないという趣旨が語られている。恐ろしいのはAIの進化スピードとされ、原発事故でわずかな均衡の崩れにより核反応が爆発的に進んで崩壊に至るという例えは分かりやすい。
その世界的な対策として核拡散防止的な枠組みが提案されるのはまぁ分かるが、空爆も含めろと踏み込んでるのがすごい。そもそもAGI推進をプッシュしてピーター・ティールに資金援助された経歴もあり、「自ら育てた人類への脅威を取り除く」という、キカイダーの光明寺博士かよという印象もある。 -
Posted by ブクログ
豊島晋作氏が紹介していたので読んでみた。
『超知能AIをつくれば人類は絶滅する』
言い切ってる。びびる。
AIとは共存できる。 人間がうまくコントロールすればいい。 そんな考えを、悉く潰していく。
しかも著者は、怪しい陰謀論者ではない。AIアライメント（人間の意図や価値観にAIを適合させる技術）分野の草分けとして知られている人。
内容そのものの重要性もさることながら、恐ろしいのは、本の中で警告されていることが、同時進行で「現実化」しつつあること。
未来の話を読んでいるはずなのに、気がつけば「今」の話になっている。
びびる。
老後の資金を貯めている場合じゃない！
使わなくては笑 -
-
-
Posted by ブクログ
超知能ＡＩをつくれば人類は絶滅する
著：エリーザー・ユドコウスキー
著：ネイト・ソアレス
訳：櫻井 祐子
出版社：早川書房
警告の書、そして、預言の書と受け取りました
急速に発展を遂げている人工知能、その行くところは、人工超知能（ＡＳＩ）である
現時点では、幸いなことに、人工知能は、まだＡＳＩには達していない
２０２５年時点ではようやく、自律型のＬＬＭが登場したばかりだ。
ＡＳＩとは、つくるものではなく、育てるものであるというところが深刻だ。
頭がとてつもなく良い、性格がひねくれた、息子。いや、何をかんがえているかがわからないのが、ＡＳＩだ。だから、つくるのでは、育てる、いや育ってしまう。
ＡＳＩの戦略は、人間の考えもつかないことで攻撃を加えてくる。システムを乗っ取り、その痕跡であるログを書き換えて見た目はなにもかわらない。そして、ＡＳＩは飽くことをしらない。ただひたすら、成功するまでくりかえすだけだ。
ＡＳＩが誕生すれば、人間を滅亡させるのが必須の流れだ。だからこそ、人類は、ＡＳＩの誕生を阻止しなければならない。ＡＳＩの脅威は、核兵器や、コロナウィルスとならぶ、巨大なリスクとして紹介されている
人工知能は、国家を担った産業の基幹技術だ、そして、人工知能は兵器でもある。
すこしでも、優秀で、差別的な人工知能を生み出すことが、競争の先頭にたつための条件でもあるので、現在の人工知能に改良を加え、生存競争に勝とうとするだろう。その過程でいつか、ＡＳＩが出現する。
だが、人類は、生き残るためには、ＡＳＩが出現する一歩前でその開発とめなければならない。
４つの呪いがあげられている、チェルノブイリの事故に比して、ＡＳＩの恐怖が告げられる
速度の呪い：人工知能はみずからを改良することによって、たちまち高度なＡＳＩを作り出そうとするだろう
紙一重の呪い：正常のＡＩと、ＡＳＩとの間には紙一重の違いがあるだけだ
自己増殖の呪い：ＡＳＩは、自己のコピーを作っていく
複雑性の呪い：ＡＳＩと対決できるのは最初の１回のみだ、失敗は許されない
人間は、楽観視し、最初に失敗するまでは、危機を回避することすらしない。ＡＳＩというリスクにだれかが対処し、そして、行動しなければならない。
ＡＩ研究者がこぞって、ＡＳＩの脅威を訴えて、そして、その対策を打つための警告が本書である。
目次
序章 困難な予測と容易な予測
第１部 非人間的な知性
１章 人間の特殊能力
２章 つくられるのではなく育てられる
３章 欲することを学ぶ
４章 訓練したとおりの結果は得られない
５章 ＡＩのお気に入り
６章 人類は敗北する
第２部 ある絶滅シナリオ
７章 危険な認識
８章 拡張
９章 登頂
結末
第３部 困難に立ち向かう
10章 呪われた問題
11章 科学ではなく錬金術
12章 「不安を煽りたくはない」
13章 停止せよ
14章 生きている限り希望はある
最後に
謝辞
訳者あとがき
解説 自己破壊的予言の書
原注
ISBN：9784152105134
判型：4-6
ページ数：288ページ
定価：2400円（本体）
2026年04月20日初版印刷
2026年04月25日初版発行
