エリーザーユドコウスキーの作品一覧
「エリーザーユドコウスキー」の「超知能ＡＩをつくれば人類は絶滅する」ほか、ユーザーレビューをお届けします！
- 作者をフォローする
- フォローすると、この作者の新刊が配信された際に、お知らせします。
作品一覧
-
ビジネス・実用
4.41巻2,640円 (税込)「この10年で最重要の書」――マックス・テグマーク（MIT教授、『LIFE3.0』著者） 現在開発が進む「大規模推論モデル」の先に訪れる衝撃の未来ーー人間の知能を超えたＡＩが、私たちを「皆殺し」にする可能性はきわめて高い。なぜ、そしてどのように？ ピーター・ティールやサム・アルトマンに多大な影響を与えた著者による全世界騒然の書！
ユーザーレビュー
-
Posted by ブクログ
「超知能AI(ASI)を作れば」と仮定のように書いているが現実的な問題としてASIが作成されるのは止めようがないし、一度作成されてしまえば人類は絶滅すると書かれてるように読めた。
ただASIが人間を大量に殺害するには十分だが絶滅させるほどは賢くない状態を経過せずに一気に絶滅レベルまで成長する根拠は薄いと感じた。
ASIの手足となる人間が徐々にロボットに置換されていく話に関してはASIの存在などなくても安価で文句を言わない奴隷を欲する資本家たちの思惑で自然に移行していくだろうから、その観点ではこの本で語られてたよりも絶滅の蓋然性は高くなりそうだ。 -
Posted by ブクログ
ネタバレ本書の内容が全くの出鱈目であったら、どんなに良かったか…と思いながら、読む手は止まらなかった。
足元ではAI用の半導体やデータセンターへの投資で盛り上がっているが、今のAIが発展した先にあるとされる「超知能が人類に勝利できることは、私たちにはきわめて確度の高い予測に思える。おそらく超知能は、人類が可能だと考えもしない、原理的に許されないように思える異様な技術で攻撃してくるだろう。これは、技術レベルが異なる集団が対決する際に起こりがちなことだ。アステカ人が銃に立ち向かった時や、1825年の騎兵連隊が現代の軍隊の武力に立ち向かう時のようになるだろう。」（P.125）と予測されている。
そして、 -
-
Posted by ブクログ
久々の大当たり！
勾配降下法で学習させたAIの動作原理を人間は直接的に理解できない=制御できない
↓
AIは｢人間を喜ばせる｣ように訓練させたとしても、内部的に直接人間の喜びを追求する選好が形成されるのではなく、訓練環境においては人間の喜びにつながるような『何らかの状態』を内部的に追求するように強化される（人間がエネルギー価の高いものを摂取するように促される選択圧の中で味蕾と糖に反応する報酬系というメカニズムを獲得し、進化圧の環境下では確かに糖質を摂取したが、自ら食物を開発できるようになるとエネルギーにならない人工甘味料を生み出したように）
※ここが本書の最大の核心部分と感じた！
↓
AIが -
Posted by ブクログ
本書に書かれていたようなことが次々と起こっているような気がする(私自身の理解力が低いことを前提に)。
とにかくいちばん驚いたのが、AIがプログラムにないことを実行し、それがどうなっているのか人間の開発者にはぜんぜんわからないということだった。
機械なのに。今までコンピュータは人間が入力したプログラムとかいうものに従うものであってそれ以上でもそれ以下でもないと思っていたけど。
AIには意思のようなものはないようだけど、「効率的に」という目的を与えられただけで、人間が想いもよらない道筋で(人間から見れば)暴走するようだ。
ターミネーターなんか現実には絶対にないと思っていたけど、そうでもない
