太田裕朗のレビュー一覧
-
-
-
Posted by ブクログ
OpenAI、生成AI。
トロッコ問題。倫理や道徳。自動運転問題。正解の無い問い。音声認識AI、画像認識AI、五感。
処理能力では上回るが、人間の本能は真似出来ない！遺伝子工学、そもそも本能がなんなのか解明されていない！
人間の三大欲求。生き延びるために進化、5億年の発達史！残忍な面を持つ脳を理性で抑えている！魔女狩りの歴史等、悪の面も持ち合わせ、人間は数学的に合理的でない！
予測不能の未来。意識や知性。人がどう生きていくかを教え、AIを制御できなければ、極論、核を発射したり、人類は駆逐される？
早めに倫理基準を作り、超えてはならない一線をルール化すべき！共存、教育が必要！
人間がAIに支配される未来。。。読みながら一瞬、猿の惑星を彷彿とさせた！
最終的には、石器、火、言語、人工知能とホモサピエンスの進化論でした！ -
-
-
-
-
Posted by ブクログ
シンプルで面白い。専門的な知識が得られるわけではないが、何が伝えたいかが明確になっていて納得しながらすぐに読み通せる良書。
自動とは人間が設定した目的のための最適解を探索するものであり、自律とは自ら目的を生成できる存在である。
人間や動物は自然選択の結果保有することとなった不可解で複雑なしくみに支えられた本能や情動によって自律的な意思決定を行うが、コンピューターが本能と同等のものを備えることは期待できない。そうした生物の生得的な特性のメカニズムがほとんど解明されていないために再現不可能であるからである。
一方で、人間とは全く異質の存在として強化学習により自律的AIを実現するアプローチもある。強化学習にあたっての目的関数と報酬関数をどう設定するかによって、人間社会に破滅をもたらすか、強力な人間の補助者としてあらゆる生産的活動と社会行動の最適化をもたらすかが決まるのであり、開発にあたっての倫理と道徳が極めて重要になる。
そして首尾良く自律型AIが社会を支えることに成功すれば、人間は生産から解放され、人口減少は脅威ではなくなり、社会的合意は構成員全員の価値基準から最適解が導きだされ、教育はスキル不要で倫理と道徳になり、脳は贅肉のように余剰資源となる。パンデミックも抑止できる社会が到来する。しかし、開発の方向性のコントロールに失敗すると、人類は破滅的な結末を迎える。 -
Posted by ブクログ
近未来はAIがすべての采配を振るう。自律してAIが動き、もはやどうしてシステムがそう動くのかすらわからない世界。判断要素が複雑に絡み合い、自動で判断される。
飛行機は、ほとんどの時間はオートパイロットで飛んでいる。離陸時のみ手動。
自動と自律は違う。自動化は飛行機のように今でも可能。ロジックを人間が構築したもの。
自律は、ロジックも自ら学習するもの。
機械学習も、本来の自律とは違う。自動の量的延長上に自律があるわけではない。
答えが明確ではない目標設定ができることが自律。
システム全体の自律は、汎用AIならできるか、できないか。人工知能研究の最先端。
判断には倫理や道徳が絡む。トロッコ問題。
AI＝アーティフィシャルインテリジェンス。
ベイズ統計の応用が機械学習を可能にした。機械学習をより深化させたものが深層学習＝人間の脳の神経ネットワークを模したもの。
強いAI＝人間と同等の知能や意識を持つもの＝汎用型
弱いAI＝人間の知能の一部に特化したもの＝特化型＝ディープラーニングなどもこれ。
AIが、人間の判断を参考にすると、男性に高い得点を与えてしまう。黒人の投稿を有害とみなしやすい。＝人間の深層心理を暴き出す。＝人間の行動を学習した機械学習の注意点と限界。
AIは騙される。データの与え方で簡単に騙せる。しかも判断の仕方はブラックボックス。
人間の選択は、時に不合理。それを学習すると違うルールが出来上がる。
自律には価値判断が伴う。
強化学習が、機械学習に目標設定の道を拓いた。目的関数、報酬関数、価値関数などを設定できれば、あとは自律的にルールを作ることができる。
人を守る、を価値と設定すると、そのうちAI自身を守るという結論になるかもしれない。
逆強化学習＝現象のふるまいから、報酬を学習させる。
音楽書籍衛星画像の旅行などが、ほとんどコストがかからなくなる。
食料はロボットが向上で作る。
3Ðプリンターで工場が不要になる。
モノに満たされれば平和になる。
物質のシンギュラリティが起きる。
AIがパンデミックを未然に防ぐ。 -
-
-