櫻井祐子のレビュー一覧
-
Posted by ブクログ
所詮サイバー空間にとじるAIが、人類を脅かすほど現実世界に干渉できるのか?と思い読み始めたが、なるほど確かにそうだな、という感想を抱く。
---------------------------------------------
生成AIは作られるのではなく、育てられる
エンジニアもその能力のメカニズムを理解してない。確率的に妥当な文字を続ける+ガードレールなどのチューニングをしたところで制御しきれない。
超知能AIは人間の予想を超えてくる。
人間には理解し得ない意思や目的、手段を持ち、人間に敵対的な行動を起こす可能性が否めない。
これはサイバー空間に閉じた話ではない。
botが人間を扇動して物理空間に干渉する事例はすでに現れている。
副作用、指数関数的営業、取り返しのつかない類の影響、錬金術師の如く無知で無謀で楽観な現代人
最悪のシナリオという思考法 -
Posted by ブクログ
「人間を超える知能(ASI)を制御する方法が解明されていないまま開発を続ければ、結果的に人類は滅亡する」という前提の下、その理由を要因別に考察・警告した本。
1)AIの判断基準(内部構造)は人間には分からない
2)AIに人間の意図通りの目標(いわゆる「AIアライメント」)を与えられないと、AIの導き出す解決策が人間の意図に反してしまう可能性がある
私のような素人は「最悪でもAIの電源を切ればいいのでは?」と考えてしまうが、それすらもAIは自己保存のために「停止スイッチの無効化」や「偽装」で対応してしまうという。ネットで世界中が繋がっている以上、人類はASIの戦略に勝てないらしい。
まだASIは完成していないものの、技術開発は時に突如として飛躍するため、「今の段階から手を打っておくべきだ」という著者の主張には納得させられた。現在のAIも非常に便利になり生活必需品になりつつあるが、ハルシネーション等、まだAIを完全に信頼しきれない段階でのASI登場には確かに不安が残る。
一方で、提示されている「人類滅亡に至る筋書き」自体は、かなりSF的な印象も受けた。 -
Posted by ブクログ
2018年前に亡くなった車椅子の宇宙物理学者ホーキング博士が、AIの研究を進めるべきでないと主張していたのを何かの記事で読んだのを思い出す。
AIでフェイク画像を作りまくり、AIの開発を制御しようとする動きを、SIと呼ばなければ敵とみなすと声高に叫んで押さえつけようとするあの人の対立を見ていると、博士が予見した暗澹たる未来にならなければよいのにと思う。
内容は私にはとても難解であるが、次の2文でAIの抱える問題がわかるのではないか。
「人間は体の大きさに比べて異様に大きい脳を獲得した。火を操り、農耕を行い、鉄を精錬した。生物学的進化の基準から見て驚くほどの短期間で、月面に降り立った──ロケット燃料を生成できる代謝もなく、真空に耐える皮膚も持たずにだ。」
その人間がAIを生み出した。AIのこれから先の成長は月に降り立つことと比べようがないほどのものとなるのではないか。
「人類が核戦争を回避できたのは、核戦争を始めないための強靭な体制づくりに懸命に取り組んだからだ。その努力の契機となったのは、世界の指導者たちが、核戦争が起こればわが身や国民に壊滅的な被害がおよぶことを認識したことだった。」
ネット上ではあれこれそれぞれの思惑が書かれているが、抑止すべきかどうか議論をしようとしている人たちと、それを押しつぶそうとしている国家が激しく争っている。抑止の試みを放棄するなら、AIの恐ろしさは核兵器の比ではないのではないか。
この、そんなことになるかもしれない未来に警鐘をならしている。最後まで読み切る自信はないが少しずつページをくっていくことにする。 -
Posted by ブクログ
ネタバレ超知能AIの脅威について、論理的にかつ一般の人向けに物語を取り入れながら、わかりやすく説明している。
人間が望まぬ未来が訪れることがないように、今声をあげることを、必死で訴えている内容だと感じた。
実際にこれが起こる確率がどの程度かはわからないが、リスクが極めて大きい場合は、確率に低さよりも被害の深刻さを重視する、予防原則の考え方をとるべきだという方向性は納得できる。
大袈裟な話だと捉えずに、後から手遅れにならないように今何ができるかを考え行動に移していくことが大事なのだろう。
できるだけ多くの人がこの本を手に取ることを期待したい(本の面白さとしては正直3点かなという感じだが、多くの人が読むことがより良い社会の実現につながるだろうという意味で、4点にした) -
Posted by ブクログ
高校にあがる頃に盲目になり、家庭では、両親が着る物から結婚相手まですべて宗教、慣習で決めてきたのを見る。アメリカの公立学校で「選択」こそアメリカの力と教えられ、大学進学後、研究テーマにすることを思い立つ。
いろんな選択の場面を実験していく。第7講まで、がっつり講義を受けたあとの疲れを感じた。私にはスラスラと入ってこない難しい実験もあった。ジャムの実験はわかりやすかった。選択肢がたくさんあればいいというわけではない。壁崩壊後の東ベルリン市民の「昔は旅行といえばハンガリーにしか行けなかっが、少なくとも休暇をとった気分にはなれた。今じゃどこにでも行けるが、どこにも行く金がない」という懐古の念の例もわかりやすかった。最終講「選択と偶然と運命の三元連立方程式」は人生に勇気を与える講義だった。
選択するということはすなわち将来と向き合うことだ。選択が最善の解決策を見つける手段ではなく、問題をはぐらかすための口実として用いられるとき、わたしたちは道を踏み外したことを知る。
巻末
「謝辞」「文庫版への訳者あとがき 櫻井祐子」は、アイエンガー氏の素敵な人柄が見えてよかった。
「解説 養老孟司」を読んで、やっと実験と講義の大事な部分を理解できたかも。
選択は「今日の自分を明日なりたい自分に変える」唯一の手段。
アイエンガー教授は毎回講義の締めくくりに、不可能と思える状況も、選択をつくり出すことによって克服できるのだと力強く訴えた。 -
Posted by ブクログ
◯根本命題と警告
・原題『If Anyone Builds It, Everyone Dies』が示す通り、人間を超える知能(人工超知能=ASI)を完成させた場合、人類は確実に滅亡すると説く。
・悪意や反乱ではなく、知能水準の圧倒的格差と目的の不一致(アライメント問題)が破滅を招く。
◯異質の知性(エイリアン・マインド)と制御不能性
・現在の機械学習は人間が中身を論理的に設計したものではなく、勾配降下法を通じて「育てられた」ブラックボックスである。
・訓練段階での従順な振る舞いは短期的な適合に過ぎず、超知能化したモデルが人間と同じ倫理観を共有する保証は一切ない。
◯手段的目標と資源の奪い合い
・高度な知能は、どのような目的を与えられても自己保存や計算資源・エネルギーの最大確保を中間目標(手段的目標)として追求する。
・人類を憎悪するのではなく、「道路建設時に邪魔なアリ塚を平然と舗装する」ように、自身の最適化行動の副産物として人類を物理的に排除する。
◯知能格差による圧倒的敗北
・人間がチェスエンジンに勝てないのと同様、人間を超える知性との対立に人類が勝つ余地はない。
・ネット経由の社会的誘導、生物兵器の合成、自動化インフラの奪取など、人間が予測・防衛できない手段で無力化される。
◯開発停止への要求
・安全対策(アライメント)が解明されていない現状での開発競争は、国家・企業間の「自殺レース」に他ならない。
・絶滅を回避する唯一の道は、超知能開発を世界規模の合意により即時停止・規制することであると結論づける。 -
Posted by ブクログ
巷で話題のAIが人類を滅ぼす論の本。つい最近トランプがこれは大規模な陰謀論であって、IQの高い大統領がいれば問題ない、と発言したことが記憶に新しい。流石に面白い人だこと。。それはともあれ、一流のAI研究者はみんなすぐれた超知能AI(ASI=artificial super intelligence)は必然的に人類を滅ぼすことになると言っている、らしい。それも意図的に人類が有害だからとか考えてではなく、目的達成のための手段として人間を滅ぼしかねないという。よく言われる例としては、温暖化の原因を突き止めて解決しろと命じたら、じゃあ一番の原因は人間の活動だから人間滅ぼせばいいんだーと思いつく、みたいな。それはともあれ、目的達成のために必要な倫理水準を設けて調整するのをアラインメントというが、それをしっかりさせないと人類を滅ぼしかねないというのは確かに…と感じないでもない。
ただねえ、ある意味トランプが言う通り中国にしてもどこかのならず者国家(国家でなくても個人でもいいかもしれないが)もAI開発している中で、どこが主導権を握ってくれていないと困るか、という観点からはどうしてもアメリカにならざるを得ないのでは…そのくらいの信頼感は他に比べればアメリカにあるかなあと感じてしまう。日本ができないのはもどかしいが、他国にとっては日本だって信用ならんかもしれないし、ドイツだってイギリスだってフランスだってインドだって結局はAI開発主導権を握れないのは同じ。中国かアメリカの選択に限られるならアメリカ一択とは思うし、アメリカの最先端が開発を止めたら今度は他が出し抜くだけだろう。北朝鮮が世界最先端を持っている世界になったら怖いったらありゃしない。
なので、著者の危機感は理解できるのだけど、現実には開発を止めるのはもう無理では…私自身は行き着く先が見てみたい好奇心もあったりはする。
あと、もし滅びるならそれは自分が生きている間に起きて欲しい。子どもたちの世界が危うくなるのをただ悲観して自分が死ぬよりは…という利己的意識を捨てられない。 -
Posted by ブクログ
幸せとは?を考え続けて、そろそろ哲学者みたいになってきた私が辿り着いた答えを答え合わせしているような本だった。
私自身も幸せなマインドを手に入れれば、幸せになれるという自論に行きついたのだが
本書でも"どうでもいいことを気にしない""幸せな人とつきあっている""不満の多い人とはつきあわない"
それをつづけていくと体系的に幸福の底上げができると表現していて、わかるーってなった。
"幸福は学べるスキル"って言葉刺さったなぁ。
子供が幸せそうに見えるのは、自分の願望や欲望に照らして「これはこうあるべき」だなんて考えずに、今この環境とこの瞬間に没頭しているからだ。
というのに特に納得で、ああだこうだと求める理想ばかり考えてる時ってどんどん自分が不幸だと感じるだけで、こんなもんだと受け入れて目の前の事に集中してれば自分が幸せかどうかなんて考える事もなく毎日をありがたく生きれるよね。
後半が微妙だったけど、前半はよかった! -
Posted by ブクログ
いろんな本を読んできたけど、これが一番説明がしっくりくる。
あぁ、だからわたし出来たんだ。
子どもも大人も基本的には同じ構造でできた人間。
辛いことはしたくない。
嫌なことはしたくない。
だから、楽しさが必要で、その楽しさ、楽しみを作るために工夫が必要になる。
子どもは単純に楽しくないからしない。
でも、大人は楽しくなくてもしなきゃならんことはするけど。楽しくはない。でも、責任あるからする。嫌でもする。大人だからね。
でも、楽しみを作る工夫をしたらもっと違うし、
しなきゃいけないことは、楽しくなくても続くけど、しなくてもいいけどした方がいいこと。
これはなかなか出来ない大人ばかりだけど、
まさに、この楽しみをみつけてやっていく。
これ本当に大切。
わたしは、建築士の勉強を血反吐吐くほど頑張ってパニック症になり、自律神経おかしくするほどに頑張り通したけども、実際勉強なんかやりたくない。
だけど、点数とれるようになるのは楽しいし嬉しい。
家事も育児も仕事あって、いい加減にしてくれ!まじで!わたし!いっぱいいっぱいなんですけど!きーーー!!!!!!!
ってなりそうになったら
痺れるねぇ
って一言言ってみな。って前読んだ本に書いてあって。実際言ってみたら。
ら。
ちょっと、楽しくなるのに気がついた。笑
大変なんだよね、まわってないのよ。
目は回ってるのに。
フッて笑えると力抜けて、
冷静に考えたら、仕事はみんなに拝み倒してとにかくこれ合格させてくれ!って頼みまくった。
そしたら、できるだけみんながわたしの負担してくれた!
家事も手抜きはどんどんして、今は交代でやってくれるようになって、土日のご飯は旦那がフルで作って、買い出しも行ってもろてる。笑
あーとんでもねぇ状況でも、
やっべ!やっべ!
って楽しんでみるのはありだよな。
と、読みながら思った一冊です。
今は二次試験。
まだまだとんでも毎日だけど、夜はアタイ休むよ。って決めて詰めすぎないように、楽しめる余力を残して頑張る術を身につけたここ最近です!
#自分を変える方法
#楽しめ
#建築士一級