あらすじ
アルゴリズムは強力だ。しかし、落とし穴もある。
機械が入り込んだ日常で、コンピュータと人間の共存の道はあるのか!?
買い物、自動運転、医療診断、犯罪予測、裁判の判決、芸術……。
人の判断より機械の判断を優先させるべきなのか？
どんな時に機械に頼りたくなる気持ちを抑えるべきなのか？
その答えを見つけるために、アルゴリズムをこじ開けて、その限界を見極めよう。
数学者であり、コンピュータオタクであり、ベストセラー作家である著者による、
機械とデータの社会を生きていくための必読の書！
【ベイリー・ギフォード ノンフィクション賞最終候補作】
人の意思決定は少しずつ、機械に任されるようになっている。
だが、その機械の実体「アルゴリズム」は、どんなプログラムで、どんな狙いで、実際何をしているのか？
一方で、信じられないミスも犯すことを知っていただろうか？
アイダホ州の「予算管理ツール」は、障害者助成金を無闇にカットしてした。
腫瘍を発見できるアルゴリズムは、正常な細胞までがん細胞と言い立てた。
自動運転は、いざ運転手が対応するしかなくなったときに判断を遅らせる。
テロ組織と似た名前の学会に属していた建築家は10年も米国に帰れなくなった例もある。
アルゴリズムは、思ったよりもずっと凄いが、思ったほど万能ではない。
必要なのは、何ができて何ができないかを知り、人間がアルゴリズムのどこを補い、どうやってつきあっていけばいいかを知ることだ。
本書を読めば、間違いなくその第一歩を踏み出せるはず。
感情タグBEST3
Posted by ブクログ
コンピューターのアルゴリズムが人間社会に与える広範な影響が簡略に書かれている。
現実に起きた事例をもとに展開しているから実際的で説得力がある。
Posted by ブクログ
原題はHellow World：How to be Human in the Age of Machineであり、アルゴリズムとは一言も書いていない。しいていえば機械時代の人間はどうなんだろうか、ということになるのかもしれない。ただし中身はAIのことであり、AIとは言っていないが、アルゴリズムがどのようになっているかについて書かれている。映画のヒットを予測するためのテキストマイニングがあてにならなかったということや、コンピュータが作成した曲がオーディエンスには最もバッハと思われたの例がある。また、有名なバイオリニストが５億円のストラディバリで地下鉄の出口で45分演奏して３５ドル
だけだったという実験もあり、芸術関係の著述が面白い。2018年の出版で５年前のことであるので、自動運転は中国で実用化されているなど少し古いところもあるが、この本がいろいろと引用されているのでの読んでみるのもいい。
Posted by ブクログ
我々は「自分たちの力だけで意思決定することが、すでにできなくなっている」という事実を正視できるのか。
このように問われたら、ドキッとする人が多いかもしれない。
コンピュータが超高性能化したことで、すでに人類は、思考の大部分をコンピュータに操作されている。
それにも関わらず、ほとんどの人類がそのことを認識せず、気付かずに日々の生活を送っているという。
人類の意思決定力が極端に弱まった、という話では、決してない。
様々なデータを解析するアルゴリズムが、我々の生活の隅々まで侵食しているという話なのだ。
本書は、様々な事例について、「人間が意思決定しなくても、社会生活が成り立っている」という恐ろしい状況を紹介している。
本書の日本題名のサブタイトルは「機械が決定する世界をどう生きるか」だ。
我々は最早この状況から逃れられない。
社会インフラという以上に、身体の一部と化してしまった「インターネット接続されたスマホ」を手放すことは、現実としてあり得ない。
我々が無意識に行っている行動履歴の全てが、スマホを通じてクラウド側に送られる。
文字通りアルゴリズムによって解析されて、その人のその状況に合致した内容が違和感なく表示される。
すでにアルゴリズムの方が、あなた以上にあなたのことを理解している状況なのだ。
それは、お薦めの表示だったり、友達のタイムラインだったりするのだが、私たちは既にその表示を気持ち悪いとは思わずに、違和感なく受け入れている。
実際は、あなたの行動全てを解析して、機械側が恣意的に表示した内容なのにも関わらずだ。
もしその実態に気が付いたとしても、「なぜそれが表示されたのか？」という機械側のロジックまでを解き明かすことはできない。
それだけアルゴリズムは複雑化し、アルゴリズムに誘導されている。
こんなことを説くと、陰謀論のように聞こえるが、実際にそうなのである。
だからと言って、インターネットもスマホも無い生活ができるかと問われれば、それも不可能なのだ。
我々はこの呪縛から逃れることができない。
人間は一日24時間の中で、何千回・何万回も意思決定しているのだという。
当然数えたことはないのだが、もし仮に1日8時間は寝ていたとしたら、起きている時間は16時間。
1秒間に1回意思決定していたとしたら、16時間で57,600回となる。
今この文字をタイプする瞬間も、私は意思決定を繰り返している。
次は「a」のキーを押すのか、「e」のキーを押すのか。
考えたことを言葉で紡ぐことも、それをキーボードにタイプすることも、実はすべて私の意思決定のはずなのだ。
しかしそれらも含めて、すべて機械のアルゴリズムによって誘導されたものだったとしたら？
自分の意思と思っていたものが、全て勘違いだったとしたら？
私という人間は、そこに存在する意味があるのだろうかとさえ感じてしまう。
そういう時代がすでに訪れている。
確かに画像診断ツールや、再犯防止プログラム、自動運転などは便利かもしれない。
しかし、当然であるが100％完璧とは言い切れない。
95％はアルゴリズムが正しくて、残りの5％が人間が判断するのだと言うが、果たしてそんなことができるのだろうか？
これから生まれてくる子供たちは、「アルゴリズムネイティブ」だ。
95％正しい解答を出すアルゴリズムに対して、5％の間違いを人間が正すことができるのか？
その道の熟練者だから、画像の間違いを見抜いたり、危険な運転を制止できるはずなのだ。
生まれた時から95％正解のアルゴリズムに任せる生活をしていて、その道の熟練者になれるのか？
人間が画像診断を繰り返しているから熟練する訳で、運転だって、普段から運転していなければ、熟練の道に到達することはあり得ない。
機械を信じるか、人間を信じるか。
結論は「良いところ取りをせよ」ということであるが、そんなことが現実的に可能なのか？
我々はすでにアルゴリズムに支配されている。
まずそのことを認識することから始めなければいけない。
（2025/2/10火）
Posted by ブクログ
AIについて解説した本、というわけではなくて、もっともっと基本的な思考原理について解説した本。人間の思考は誤りをおかすけど、コンピューターの思考は誤りをおかさない、と思い込んでしまいがちだけど、決してそうではないのだということを解説している。コンピューターの思考はうまく使いこなしながら、でも決してそれに頼って支配されることはないように、という警鐘になった。
Posted by ブクログ
書きたいことを書くとネタバレになってしまうので、あまり書けないが、とくに将来におけるAIと人間との関係について、巷で言われていることの裏付けがされていて、とても納得できた。
終章だけ読んでも納得できないが、全体を読んできて終章を読むと納得できる。
Excelなどで組んだ自動計算やその他のツールを盲目的に信じて疑わず、対象者に多大な被害が出ても信じ続ける例が紹介されている。外を与える側に対して非常に腹が立ったと同時に、他者への無関心・共感性の無さという恐ろしさを感じた。
一方で、人間には多種多様で多大なバイアスがあるし、人により時間により判断の振れ幅も大きい。こちらも判断を信頼できない場面が多く、そして判断される対象者の利害の振れ幅に影響するところに存在する。こちらも大いに改善されるべきであり、自分が対象者になったときの怖さをあらためて感じた。
自分が被害を与える側にならないように気をつけなければいけないし、被害を受ける側になったときに少しでも和らげるように対処を考えたい。
Posted by ブクログ
アルゴリズムってすごい！何でもできる！
人間より遥かに優れている…！
そう信じていた私にとって、アルゴリズムに頼ることの危険性について書かれた内容に、衝撃を受けた。
アルゴリズムと人間が得意な部分をそれぞれ生かして、正しい距離で関わることが必要だと感じた。
芸術は「人との繋がり、感情の表現、人の心の中にある」だから、アルゴリズムには代替できない。
これはとても共感した。
Posted by ブクログ
今のところAIの反乱を心配するのは、火星に人が増え過ぎたらどうしようと心配するのに等しい。
「死体を隠すのにうってつけの場所は、グーグルの検索結果の2ページ目だ」
スタニスラフ・ペトロフ=世界を救った男。核攻撃警戒システムの誤動作から世界を守った。
有罪か無罪かはアルゴリズムは判断できない。比較検討はできない。しかし再犯の可能性は計算できる。
複数の決定木があれば、予測の精度は上がる。＝オーディエンスに訊く、が詳しい人を凌ぐことがある。
アルゴリズムのエラー＝擬陽性と偽陰性。
人種、性別、教育などが判断材料に使われると差別につながる。
アルゴリズムにはエラーがつきもの。裁判に使うべきではない。
アンカリング効果＝「スープ缶お1人様12個まで」と書かれていると、数の感覚がマヒして、買う個数が増える。
ニューラルネットワーク＝調整用のつまみが無数についた巨大な数学的構造。膨大なデータを使って自らルールを作り出すことができる。
がんの診断は、アルゴリズムと人間の共同作業で効果が上がる。単純な画像であれば、アルゴリズムに教えることは可能。
ワトソンは、クイズ番組には勝てるが、様々な病気の診断のための大量のデータを入力するのが不可能なので、役に立たない。
自動運転車の問題は、運転技術とは関係のない部分。
ときには交通ルールを破らなければならない。
自動運転車が完璧なら、車が来るのを無視して横切る人が出てくる。
地元限定のミニバス程度であれば可能。
自動運転は運転支援技術なら可能。
人の能力を向上させる機械は、人を無能にする。電話番号を覚えられない、漢字が出てこない、など。
いつでも運転を変われるように備えている必要があるが、それは人にとってかなり苦痛。
まれに人間が変わって運転する車の方が危険。
トヨタやボルボは、2種類のモードを使い分ける。専属運転手モードと、ボディーガードモード。完全自動運転か、運転補助か。
犯罪者は、一定の地域で犯行に及ぶ。犯行現場から離れるほど、犯人がいる可能性は減る＝距離減衰。
一方で、近所では気づかれないように犯行を避ける。＝一定の緩衝地帯が生まれる。
無賃乗車を厳しく取り締まれば、地下鉄で大惨事となる犯罪は少なくなる。かつてソ連は、厳しい取り締まりのため路上犯罪が少なかった。
社会的証明＝自分に決定するだけの情報がないとき、周囲の人の反応をまねる。
映画のヒットを予測できるか。公開時の反応がわからない限り、予測は不可能。
類似性の測定は可能。サイトのおすすめ機能など。
コンピュータは、バッハよりもバッハらしい作品を作曲できる。「ジュークボックス」「AIミュージック」など。
公平なアルゴリズムはない。完璧なものを作るより、ミスをしたときに簡単に直せる仕組みを考えるべき。
人とアルゴリズムのそれぞれの長所を生かす。戦略を練るのは人間、結果を予測するのはアルゴリズム、など。
