櫻井祐子のレビュー一覧

  • 超知能 AI をつくれば人類は絶滅する

    Posted by ブクログ

    超知能AIとシンギュラリティが人類滅亡を招く論理的理由と、そのシナリオの一つが書かれている怖い一冊。

    AIによるハッキングの高度化で、情報漏えいやシステム障害が相次いでいるだけでも脅威だが、この結末はさらに悲惨に映る。
    一方で、AI企業の資金調達環境の悪化やデータセンター建設の遅れから、AIバブル崩壊の可能性も指摘されている。景気悪化は歓迎できないが、人類にとって、不幸中の幸いになるかもしれない。
    とはいえ、個人にできることは限られる。平凡な感想だが、「今」を大切に生きたい。audible。

    0
    2026年11月03日
  • 超知能 AI をつくれば人類は絶滅する

    Posted by ブクログ

    今をときめくAI進化の行き着く先が、あまり明るくない可能性を示してくれる本。
    その可能性はどうして?に答えてくれます。
    個人的に、進化の行き着く先を見てみたいですが、その時自分は生存しているのだろうか。

    0
    2026年10月26日
  • 超知能 AI をつくれば人類は絶滅する

    Posted by ブクログ

    所詮サイバー空間にとじるAIが、人類を脅かすほど現実世界に干渉できるのか?と思い読み始めたが、なるほど確かにそうだな、という感想を抱く。

    ---------------------------------------------

    生成AIは作られるのではなく、育てられる
    エンジニアもその能力のメカニズムを理解してない。確率的に妥当な文字を続ける+ガードレールなどのチューニングをしたところで制御しきれない。

    超知能AIは人間の予想を超えてくる。
    人間には理解し得ない意思や目的、手段を持ち、人間に敵対的な行動を起こす可能性が否めない。

    これはサイバー空間に閉じた話ではない。
    botが人間を扇動して物理空間に干渉する事例はすでに現れている。

    副作用、指数関数的営業、取り返しのつかない類の影響、錬金術師の如く無知で無謀で楽観な現代人


    最悪のシナリオという思考法

    0
    2026年10月18日
  • 1兆ドルコーチ―――シリコンバレーのレジェンド ビル・キャンベルの成功の教え

    Posted by ブクログ

    コーチとは何か?
    コーチングの技法というより、ビルの人となりを通じてコーチングを知る。
    チームをコミュニティに育て上げ、チーム全体に、個に愛をもって接し、働きかける。
    人がすべて
    心理的安全性が潜在能力を引き出す
    チームを最適化すれば問題は解決する

    0
    2026年10月17日
  • 超知能 AI をつくれば人類は絶滅する

    Posted by ブクログ

    「人間を超える知能(ASI)を制御する方法が解明されていないまま開発を続ければ、結果的に人類は滅亡する」という前提の下、その理由を要因別に考察・警告した本。

    1)AIの判断基準(内部構造)は人間には分からない
    2)AIに人間の意図通りの目標(いわゆる「AIアライメント」)を与えられないと、AIの導き出す解決策が人間の意図に反してしまう可能性がある

    私のような素人は「最悪でもAIの電源を切ればいいのでは?」と考えてしまうが、それすらもAIは自己保存のために「停止スイッチの無効化」や「偽装」で対応してしまうという。ネットで世界中が繋がっている以上、人類はASIの戦略に勝てないらしい。

    まだASIは完成していないものの、技術開発は時に突如として飛躍するため、「今の段階から手を打っておくべきだ」という著者の主張には納得させられた。現在のAIも非常に便利になり生活必需品になりつつあるが、ハルシネーション等、まだAIを完全に信頼しきれない段階でのASI登場には確かに不安が残る。

    一方で、提示されている「人類滅亡に至る筋書き」自体は、かなりSF的な印象も受けた。

    0
    2026年10月14日
  • 超知能 AI をつくれば人類は絶滅する

    Posted by ブクログ

    2018年前に亡くなった車椅子の宇宙物理学者ホーキング博士が、AIの研究を進めるべきでないと主張していたのを何かの記事で読んだのを思い出す。

    AIでフェイク画像を作りまくり、AIの開発を制御しようとする動きを、SIと呼ばなければ敵とみなすと声高に叫んで押さえつけようとするあの人の対立を見ていると、博士が予見した暗澹たる未来にならなければよいのにと思う。

    内容は私にはとても難解であるが、次の2文でAIの抱える問題がわかるのではないか。

    「人間は体の大きさに比べて異様に大きい脳を獲得した。火を操り、農耕を行い、鉄を精錬した。生物学的進化の基準から見て驚くほどの短期間で、月面に降り立った──ロケット燃料を生成できる代謝もなく、真空に耐える皮膚も持たずにだ。」

    その人間がAIを生み出した。AIのこれから先の成長は月に降り立つことと比べようがないほどのものとなるのではないか。

    「人類が核戦争を回避できたのは、核戦争を始めないための強靭な体制づくりに懸命に取り組んだからだ。その努力の契機となったのは、世界の指導者たちが、核戦争が起こればわが身や国民に壊滅的な被害がおよぶことを認識したことだった。」

    ネット上ではあれこれそれぞれの思惑が書かれているが、抑止すべきかどうか議論をしようとしている人たちと、それを押しつぶそうとしている国家が激しく争っている。抑止の試みを放棄するなら、AIの恐ろしさは核兵器の比ではないのではないか。

    この、そんなことになるかもしれない未来に警鐘をならしている。最後まで読み切る自信はないが少しずつページをくっていくことにする。

    0
    2026年10月12日
  • ずる 嘘とごまかしの行動経済学

    Posted by ブクログ

    合理的、犯罪の考え方が非常に興味深い、自分の求めているものだった。
    当時のドルの価値や、日本以外での神のあり方、聖書など文化的にスッと入ってこないものが含まれるがあまり気にしなくて良い

    0
    2026年10月11日
  • 超知能 AI をつくれば人類は絶滅する

    Posted by ブクログ

    ネタバレ

    超知能AIの脅威について、論理的にかつ一般の人向けに物語を取り入れながら、わかりやすく説明している。
    人間が望まぬ未来が訪れることがないように、今声をあげることを、必死で訴えている内容だと感じた。
    実際にこれが起こる確率がどの程度かはわからないが、リスクが極めて大きい場合は、確率に低さよりも被害の深刻さを重視する、予防原則の考え方をとるべきだという方向性は納得できる。
    大袈裟な話だと捉えずに、後から手遅れにならないように今何ができるかを考え行動に移していくことが大事なのだろう。
    できるだけ多くの人がこの本を手に取ることを期待したい(本の面白さとしては正直3点かなという感じだが、多くの人が読むことがより良い社会の実現につながるだろうという意味で、4点にした)

    0
    2026年10月09日
  • 選択の科学 コロンビア大学ビジネススクール特別講義

    Posted by ブクログ

    高校にあがる頃に盲目になり、家庭では、両親が着る物から結婚相手まですべて宗教、慣習で決めてきたのを見る。アメリカの公立学校で「選択」こそアメリカの力と教えられ、大学進学後、研究テーマにすることを思い立つ。

    いろんな選択の場面を実験していく。第7講まで、がっつり講義を受けたあとの疲れを感じた。私にはスラスラと入ってこない難しい実験もあった。ジャムの実験はわかりやすかった。選択肢がたくさんあればいいというわけではない。壁崩壊後の東ベルリン市民の「昔は旅行といえばハンガリーにしか行けなかっが、少なくとも休暇をとった気分にはなれた。今じゃどこにでも行けるが、どこにも行く金がない」という懐古の念の例もわかりやすかった。最終講「選択と偶然と運命の三元連立方程式」は人生に勇気を与える講義だった。
    選択するということはすなわち将来と向き合うことだ。選択が最善の解決策を見つける手段ではなく、問題をはぐらかすための口実として用いられるとき、わたしたちは道を踏み外したことを知る。

    巻末
    「謝辞」「文庫版への訳者あとがき 櫻井祐子」は、アイエンガー氏の素敵な人柄が見えてよかった。
    「解説 養老孟司」を読んで、やっと実験と講義の大事な部分を理解できたかも。

    選択は「今日の自分を明日なりたい自分に変える」唯一の手段。
    アイエンガー教授は毎回講義の締めくくりに、不可能と思える状況も、選択をつくり出すことによって克服できるのだと力強く訴えた。

    0
    2026年10月07日
  • 最古の文字なのか? 氷河期の洞窟に残された32の記号の謎を解く

    Posted by ブクログ

    3万5千年前の相互に遠く離れた洞窟や埋葬品から共通の記号が。これらをもとに今までなかったデータベースを作った結果見えてきたものとは。カラー写真が有り難い

    0
    2026年10月05日
  • 超知能 AI をつくれば人類は絶滅する

    Posted by ブクログ

    話題の絶滅説について、分かりやすい導入書。特に、SAIが目標達成のために人間の価値観と異なる手段を用いる可能性や、SNSなどの情報操作で人間を操作する実例が挙げられ、怖く印象的だった。
    次は補足資料に目を通す。

    0
    2026年10月02日
  • 選択の科学 コロンビア大学ビジネススクール特別講義

    Posted by ブクログ

    「選択」について様々な角度からのアプローチで解き明かす本。「選択」をすることが我々人間にどのような影響を与えているか、また人間は何をバックグラウンドとして「選択」しているのかなどが分かりやすくサイエンスされている。分厚いけど中身が面白いので読み切ってしまった。マーケティングに携わる人は読んでおいて損はない。

    0
    2026年09月28日
  • 超知能 AI をつくれば人類は絶滅する

    Posted by ブクログ

    ◯根本命題と警告
    ・原題『If Anyone Builds It, Everyone Dies』が示す通り、人間を超える知能(人工超知能=ASI)を完成させた場合、人類は確実に滅亡すると説く。
    ・悪意や反乱ではなく、知能水準の圧倒的格差と目的の不一致(アライメント問題)が破滅を招く。

    ◯異質の知性(エイリアン・マインド)と制御不能性
    ・現在の機械学習は人間が中身を論理的に設計したものではなく、勾配降下法を通じて「育てられた」ブラックボックスである。
    ・訓練段階での従順な振る舞いは短期的な適合に過ぎず、超知能化したモデルが人間と同じ倫理観を共有する保証は一切ない。

    ◯手段的目標と資源の奪い合い
    ・高度な知能は、どのような目的を与えられても自己保存や計算資源・エネルギーの最大確保を中間目標(手段的目標)として追求する。
    ・人類を憎悪するのではなく、「道路建設時に邪魔なアリ塚を平然と舗装する」ように、自身の最適化行動の副産物として人類を物理的に排除する。

    ◯知能格差による圧倒的敗北
    ・人間がチェスエンジンに勝てないのと同様、人間を超える知性との対立に人類が勝つ余地はない。
    ・ネット経由の社会的誘導、生物兵器の合成、自動化インフラの奪取など、人間が予測・防衛できない手段で無力化される。

    ◯開発停止への要求
    ・安全対策(アライメント)が解明されていない現状での開発競争は、国家・企業間の「自殺レース」に他ならない。
    ・絶滅を回避する唯一の道は、超知能開発を世界規模の合意により即時停止・規制することであると結論づける。

    0
    2026年09月27日
  • 超知能 AI をつくれば人類は絶滅する

    Posted by ブクログ

    巷で話題のAIが人類を滅ぼす論の本。つい最近トランプがこれは大規模な陰謀論であって、IQの高い大統領がいれば問題ない、と発言したことが記憶に新しい。流石に面白い人だこと。。それはともあれ、一流のAI研究者はみんなすぐれた超知能AI(ASI=artificial super intelligence)は必然的に人類を滅ぼすことになると言っている、らしい。それも意図的に人類が有害だからとか考えてではなく、目的達成のための手段として人間を滅ぼしかねないという。よく言われる例としては、温暖化の原因を突き止めて解決しろと命じたら、じゃあ一番の原因は人間の活動だから人間滅ぼせばいいんだーと思いつく、みたいな。それはともあれ、目的達成のために必要な倫理水準を設けて調整するのをアラインメントというが、それをしっかりさせないと人類を滅ぼしかねないというのは確かに…と感じないでもない。
    ただねえ、ある意味トランプが言う通り中国にしてもどこかのならず者国家(国家でなくても個人でもいいかもしれないが)もAI開発している中で、どこが主導権を握ってくれていないと困るか、という観点からはどうしてもアメリカにならざるを得ないのでは…そのくらいの信頼感は他に比べればアメリカにあるかなあと感じてしまう。日本ができないのはもどかしいが、他国にとっては日本だって信用ならんかもしれないし、ドイツだってイギリスだってフランスだってインドだって結局はAI開発主導権を握れないのは同じ。中国かアメリカの選択に限られるならアメリカ一択とは思うし、アメリカの最先端が開発を止めたら今度は他が出し抜くだけだろう。北朝鮮が世界最先端を持っている世界になったら怖いったらありゃしない。
    なので、著者の危機感は理解できるのだけど、現実には開発を止めるのはもう無理では…私自身は行き着く先が見てみたい好奇心もあったりはする。
    あと、もし滅びるならそれは自分が生きている間に起きて欲しい。子どもたちの世界が危うくなるのをただ悲観して自分が死ぬよりは…という利己的意識を捨てられない。

    0
    2026年09月22日
  • 超知能 AI をつくれば人類は絶滅する

    Posted by ブクログ

    ネタバレ

    ここにきてAIの開発速度を落とすことでAIトップが結束したという話が出てきているが、他を出し抜こうとするのが人間の本質だとすると(勝手にそう思っているのだが)、本書の懸念が現実のものとなる可能性は高いのではと、暗い気持ちになった。
    本書でも少し触れられているが、「北」にASIを持たせてはならない、と強く思う。

    0
    2026年09月21日
  • シリコンバレー最重要思想家ナヴァル・ラヴィカント

    Posted by ブクログ

    幸せとは?を考え続けて、そろそろ哲学者みたいになってきた私が辿り着いた答えを答え合わせしているような本だった。

    私自身も幸せなマインドを手に入れれば、幸せになれるという自論に行きついたのだが
    本書でも"どうでもいいことを気にしない""幸せな人とつきあっている""不満の多い人とはつきあわない"
    それをつづけていくと体系的に幸福の底上げができると表現していて、わかるーってなった。
    "幸福は学べるスキル"って言葉刺さったなぁ。

    子供が幸せそうに見えるのは、自分の願望や欲望に照らして「これはこうあるべき」だなんて考えずに、今この環境とこの瞬間に没頭しているからだ。
    というのに特に納得で、ああだこうだと求める理想ばかり考えてる時ってどんどん自分が不幸だと感じるだけで、こんなもんだと受け入れて目の前の事に集中してれば自分が幸せかどうかなんて考える事もなく毎日をありがたく生きれるよね。

    後半が微妙だったけど、前半はよかった!

    0
    2026年09月18日
  • 自分を変える方法―――いやでも体が動いてしまうとてつもなく強力な行動科学

    Posted by ブクログ

    「自分は成長過程にあって、挫折をバネによくなっていける」と信じることの大切さが心に響きました(まさに今の私に刺さりまくり…!

    そして何より、自分の可能性を信じて成長を温かく後押ししてくれる皆さんの存在に、いつも本当に救われています。本当にありがとう…!
    小さな目標を重ねながら、柔軟にまた前へ進んでいきます

    0
    2026年09月13日
  • 自分を変える方法―――いやでも体が動いてしまうとてつもなく強力な行動科学

    Posted by ブクログ

    いろんな本を読んできたけど、これが一番説明がしっくりくる。
    あぁ、だからわたし出来たんだ。

    子どもも大人も基本的には同じ構造でできた人間。
    辛いことはしたくない。
    嫌なことはしたくない。

    だから、楽しさが必要で、その楽しさ、楽しみを作るために工夫が必要になる。

    子どもは単純に楽しくないからしない。

    でも、大人は楽しくなくてもしなきゃならんことはするけど。楽しくはない。でも、責任あるからする。嫌でもする。大人だからね。

    でも、楽しみを作る工夫をしたらもっと違うし、
    しなきゃいけないことは、楽しくなくても続くけど、しなくてもいいけどした方がいいこと。

    これはなかなか出来ない大人ばかりだけど、
    まさに、この楽しみをみつけてやっていく。
    これ本当に大切。


    わたしは、建築士の勉強を血反吐吐くほど頑張ってパニック症になり、自律神経おかしくするほどに頑張り通したけども、実際勉強なんかやりたくない。

    だけど、点数とれるようになるのは楽しいし嬉しい。

    家事も育児も仕事あって、いい加減にしてくれ!まじで!わたし!いっぱいいっぱいなんですけど!きーーー!!!!!!!

    ってなりそうになったら

    痺れるねぇ

    って一言言ってみな。って前読んだ本に書いてあって。実際言ってみたら。

    ら。

    ちょっと、楽しくなるのに気がついた。笑

    大変なんだよね、まわってないのよ。
    目は回ってるのに。

    フッて笑えると力抜けて、
    冷静に考えたら、仕事はみんなに拝み倒してとにかくこれ合格させてくれ!って頼みまくった。

    そしたら、できるだけみんながわたしの負担してくれた!

    家事も手抜きはどんどんして、今は交代でやってくれるようになって、土日のご飯は旦那がフルで作って、買い出しも行ってもろてる。笑

    あーとんでもねぇ状況でも、
    やっべ!やっべ!
    って楽しんでみるのはありだよな。

    と、読みながら思った一冊です。

    今は二次試験。
    まだまだとんでも毎日だけど、夜はアタイ休むよ。って決めて詰めすぎないように、楽しめる余力を残して頑張る術を身につけたここ最近です!

    #自分を変える方法
    #楽しめ
    #建築士一級

    0
    2026年09月04日
  • 数字の翻訳―――スタンフォード経営大学院教授の「感情が動く数字」の作り方

    Posted by ブクログ

    人間は、数字に弱い。

    人間、数字を本当に理解できないらしい。
    なぜなら、5までの数字しか脳は瞬時に認識できないから。これを「瞬間的認識」プロセスというらしい。

    例えば、100万と10億の違いをパッと理解できるだろうか?では質問を変えて、1日5万円使うなら、何日でお金がなくなるだろうか?

    正解は、、、
    100万円なら、20日。
    10億円なら、55年だ。

    人間は5以上の数字を「たくさん」としか認識できない。だからその凄さを直感的に訴える経験=「鮮やかなイメージ」に翻訳しようというコンセプトの一冊。

    0
    2026年08月18日
  • シリコンバレー最重要思想家ナヴァル・ラヴィカント

    Posted by ブクログ

    買った後そのままになっていた本。幸せとは何か、富とは何か、ということが書いてあった。
    自分の解釈では、自分らしくあることや、自分が一緒にいて高め合える人と過ごすことが大切だということだと思う。そして足るを知ること。
    おすすめ本が最後に列挙されているのも嬉しいポイント。古典から学ぶこと、そして原理原則が大切なことにとても共感できるので、いろいろ読んでみたい。

    0
    2026年08月17日