【感想・ネタバレ】AIは人類を駆逐するのか？自律世界の到来のレビュー

太田裕朗

原子力、遺伝子操作に続いて登場した画期的なテクノロジー「AI」が
人類にもたらすのは脅威か福音か――
「博士×ベンチャー企業経営者」の著者が自らの研究と実践に基づいて解説する人類史上最大のパラダイムシフト

今やAIは、「自ら学習する」という能力をますます高め、人間の頭脳を上回るようになったといっても過言ではありません。
そんな高度なAIが組み込まれた「機器(ロボット)」がこれまでよりも多様な場面で私たちの暮らしを支える未来は、すぐそこまで来ています。
その結果、どのように世界が生まれ変わるのか、具体的にはまだ誰も想像することができません。

私は本書を通し、「自動」から「自律」への道のりをたどりながら、AIの人間社会への影響、そしてあるべき未来について、時に案内役となりつつ、皆さんと一緒に考えたいと思います。
「AIの進歩」のように大まかに語られがちなテーマだからこそ、専門用語をできる限り避け、分かりやすく、しかし多くの話題を丁寧に解説していくなかで、新たな“知的生物”との未来について、皆さんの問題意識を喚起していくつもりです。

今後、自律したAI、AIを〝脳〟に持つロボットがさらに進歩していけば、私たちは人類として、その存在価値がよりシビアに問われていくでしょう。
そうした時代の到来を控える今、テクノロジーと人類の未来を考える多くの方にとってなんらかのヒントになれば幸いです。

[ブクログ · ★★★★★]

自動から自律へと進んでいくAIにつての概念的な解説書
分かりやすく書かれている
特に最終章は今後を概念的に理解するに於いての基本になるか。

[ブクログ · ★★★★☆]

日進月歩のAI業界の中である程度時間のやすりが掛かった新書といえるだろうか。
自動と自律という概念提起は興味深いが、AI企業の経営を生業にしているからこそ垣間見れる内実といった部分はそれほどなく、かといって終局としては万能論とは言わないまでも進歩の不可逆性の中でテクノロジー受容のあり方を示すといった形。

[ブクログ · ★★★★☆]

OpenAI、生成AI。
トロッコ問題。倫理や道徳。自動運転問題。正解の無い問い。音声認識AI、画像認識AI、五感。
処理能力では上回るが、人間の本能は真似出来ない！遺伝子工学、そもそも本能がなんなのか解明されていない！
人間の三大欲求。生き延びるために進化、5億年の発達史！残忍な面を持つ脳を理性で抑えている！魔女狩りの歴史等、悪の面も持ち合わせ、人間は数学的に合理的でない！
予測不能の未来。意識や知性。人がどう生きていくかを教え、AIを制御できなければ、極論、核を発射したり、人類は駆逐される？
早めに倫理基準を作り、超えてはならない一線をルール化すべき！共存、教育が必要！
人間がAIに支配される未来。。。読みながら一瞬、猿の惑星を彷彿とさせた！
最終的には、石器、火、言語、人工知能とホモサピエンスの進化論でした！

[ブクログ · ★★★★☆]

シンギュラリティは来ないと思っていたが、それは勝手にAIが人間を支配しないだけで、支配するように機械学習をすれば起こりうる。逆を言えば、そのような学習をさせなければ起こらないとも言える。
AIが一度下火になった事は知っていたが、再度注目を集めたのが確率と統計を重視した事は知らなかった。確かに100%正しい答えを求めるのは困難だが、事柄の傾向を把握して学習していけば更に正確な判断ができるようになる。そして倫理的な目標を与えなければシンギュラリティは起こりうる、と。見方が変わると色々な解釈が出来るなと感じた。

[ブクログ · ★★★★☆]

AIによる自動から自律への転換期。何を目指して自律のシステムを構築するのか。目標を間違えれば，人類は駆逐させる。

[ブクログ · ★★★★☆]

読みやすい。
AIについて考えることは、人間とは？を考えることだと思った。
人間はなんと複雑な生き物なのだろうか。

[ブクログ · ★★★★☆]

自動から自律へ　とても興味深い内容でした。
ロボットを利用する世界から共存する世界に移りかわるそんな時代がくることに喜びを覚えつつ、恐怖の面も感じました。
あとAIの到来によって個人で勝負する時代がくる
と思います。

[ブクログ · ★★★★☆]

シンプルで面白い。専門的な知識が得られるわけではないが、何が伝えたいかが明確になっていて納得しながらすぐに読み通せる良書。
自動とは人間が設定した目的のための最適解を探索するものであり、自律とは自ら目的を生成できる存在である。
人間や動物は自然選択の結果保有することとなった不可解で複雑なしくみに支えられた本能や情動によって自律的な意思決定を行うが、コンピューターが本能と同等のものを備えることは期待できない。そうした生物の生得的な特性のメカニズムがほとんど解明されていないために再現不可能であるからである。
一方で、人間とは全く異質の存在として強化学習により自律的AIを実現するアプローチもある。強化学習にあたっての目的関数と報酬関数をどう設定するかによって、人間社会に破滅をもたらすか、強力な人間の補助者としてあらゆる生産的活動と社会行動の最適化をもたらすかが決まるのであり、開発にあたっての倫理と道徳が極めて重要になる。
そして首尾良く自律型AIが社会を支えることに成功すれば、人間は生産から解放され、人口減少は脅威ではなくなり、社会的合意は構成員全員の価値基準から最適解が導きだされ、教育はスキル不要で倫理と道徳になり、脳は贅肉のように余剰資源となる。パンデミックも抑止できる社会が到来する。しかし、開発の方向性のコントロールに失敗すると、人類は破滅的な結末を迎える。

[ブクログ · ★★★☆☆]

近未来はAIがすべての采配を振るう。自律してAIが動き、もはやどうしてシステムがそう動くのかすらわからない世界。判断要素が複雑に絡み合い、自動で判断される。
飛行機は、ほとんどの時間はオートパイロットで飛んでいる。離陸時のみ手動。
自動と自律は違う。自動化は飛行機のように今でも可能。ロジックを人間が構築したもの。
自律は、ロジックも自ら学習するもの。
機械学習も、本来の自律とは違う。自動の量的延長上に自律があるわけではない。
答えが明確ではない目標設定ができることが自律。
システム全体の自律は、汎用AIならできるか、できないか。人工知能研究の最先端。
判断には倫理や道徳が絡む。トロッコ問題。
AI＝アーティフィシャルインテリジェンス。
ベイズ統計の応用が機械学習を可能にした。機械学習をより深化させたものが深層学習＝人間の脳の神経ネットワークを模したもの。
強いAI＝人間と同等の知能や意識を持つもの＝汎用型
弱いAI＝人間の知能の一部に特化したもの＝特化型＝ディープラーニングなどもこれ。
AIが、人間の判断を参考にすると、男性に高い得点を与えてしまう。黒人の投稿を有害とみなしやすい。＝人間の深層心理を暴き出す。＝人間の行動を学習した機械学習の注意点と限界。
AIは騙される。データの与え方で簡単に騙せる。しかも判断の仕方はブラックボックス。
人間の選択は、時に不合理。それを学習すると違うルールが出来上がる。
自律には価値判断が伴う。
強化学習が、機械学習に目標設定の道を拓いた。目的関数、報酬関数、価値関数などを設定できれば、あとは自律的にルールを作ることができる。
人を守る、を価値と設定すると、そのうちAI自身を守るという結論になるかもしれない。
逆強化学習＝現象のふるまいから、報酬を学習させる。

音楽書籍衛星画像の旅行などが、ほとんどコストがかからなくなる。
食料はロボットが向上で作る。
3Ðプリンターで工場が不要になる。
モノに満たされれば平和になる。
物質のシンギュラリティが起きる。
AIがパンデミックを未然に防ぐ。

[ブクログ · ★★★☆☆]

判断が難しい…
ほんとか？ほんとか？ってずっと思ってた読んでた
aiには生存本能がない、だから人類を滅亡させる
かも
って、正直そこまでの賢いaiができるとは…
自動化は進んでいくだろうが

[ブクログ · ★★★☆☆]

自律と自動の違いから始まり、自律的なAIによって世界がどう変わっていくかを示唆している本です。
単純に便利になるだけではなく、人間の側も変わっていかざるを得ない。
なぜなら、AIを教育するのは人間だから。
自律的なAIとの共存に向けて、人間社会の在り方を考えさせられる有意義な一冊。
ただ、本書のタイトルである「AIは人類を駆逐するのか？」という問いに対しては、明確な答えは書かれていなかったのが残念。

[ブクログ · ★★★☆☆]

前半の大半はAIに関する情報のまとめという感じで、タイトルの内容に入るのは終盤に差し掛かってから、です。