アルゴリズムの時代 機械が決定する世界をどう生きるか

ハンナ・フライ / 森嶋マリ

アルゴリズムは強力だ。しかし、落とし穴もある。
機械が入り込んだ日常で、コンピュータと人間の共存の道はあるのか!?

買い物、自動運転、医療診断、犯罪予測、裁判の判決、芸術……。
人の判断より機械の判断を優先させるべきなのか？
どんな時に機械に頼りたくなる気持ちを抑えるべきなのか？
その答えを見つけるために、アルゴリズムをこじ開けて、その限界を見極めよう。
数学者であり、コンピュータオタクであり、ベストセラー作家である著者による、
機械とデータの社会を生きていくための必読の書！

【ベイリー・ギフォード ノンフィクション賞最終候補作】
人の意思決定は少しずつ、機械に任されるようになっている。
だが、その機械の実体「アルゴリズム」は、どんなプログラムで、どんな狙いで、実際何をしているのか？
一方で、信じられないミスも犯すことを知っていただろうか？

アイダホ州の「予算管理ツール」は、障害者助成金を無闇にカットしてした。
腫瘍を発見できるアルゴリズムは、正常な細胞までがん細胞と言い立てた。
自動運転は、いざ運転手が対応するしかなくなったときに判断を遅らせる。
テロ組織と似た名前の学会に属していた建築家は10年も米国に帰れなくなった例もある。

アルゴリズムは、思ったよりもずっと凄いが、思ったほど万能ではない。
必要なのは、何ができて何ができないかを知り、人間がアルゴリズムのどこを補い、どうやってつきあっていけばいいかを知ることだ。
本書を読めば、間違いなくその第一歩を踏み出せるはず。

• カテゴリ: ビジネス・実用
• ジャンル: IT・コンピュータ / IT・Eビジネス
• 出版社: 文藝春秋
• 掲載誌・レーベル: 文春e-book
• ページ数: 296ページ
• 電子版発売日: 2021年08月24日
• コンテンツ形式: EPUB
• サイズ(目安): 2MB

[ブクログ · ★★★★★]

原題はHellow World：How to be Human in the Age of Machineであり、アルゴリズムとは一言も書いていない。しいていえば機械時代の人間はどうなんだろうか、ということになるのかもしれない。ただし中身はAIのことであり、AIとは言っていないが、アルゴリズムがどのようになっているかについて書かれている。映画のヒットを予測するためのテキストマイニングがあてにならなかったということや、コンピュータが作成した曲がオーディエンスには最もバッハと思われたの例がある。また、有名なバイオリニストが５億円のストラディバリで地下鉄の出口で45分演奏して３５ドル
だけだったという実験もあり、芸術関係の著述が面白い。2018年の出版で５年前のことであるので、自動運転は中国で実用化されているなど少し古いところもあるが、この本がいろいろと引用されているのでの読んでみるのもいい。

[ブクログ · ★★★★★]

アルゴリズムと人間それぞれで、どんなエラーがあったのかの実例をもとに、どのような解決方法が考えられるのかを示した一冊。

[ブクログ · ★★★★☆]

目新しさには欠けるが、この手の本として良くまとまっており、入門書として良い。
翻訳が良いのか、非常に読みやすいです。

[ブクログ · ★★★★☆]

　AIについて解説した本、というわけではなくて、もっともっと基本的な思考原理について解説した本。人間の思考は誤りをおかすけど、コンピューターの思考は誤りをおかさない、と思い込んでしまいがちだけど、決してそうではないのだということを解説している。コンピューターの思考はうまく使いこなしながら、でも決してそれに頼って支配されることはないように、という警鐘になった。

[ブクログ · ★★★★☆]

書きたいことを書くとネタバレになってしまうので、あまり書けないが、とくに将来におけるAIと人間との関係について、巷で言われていることの裏付けがされていて、とても納得できた。
終章だけ読んでも納得できないが、全体を読んできて終章を読むと納得できる。

Excelなどで組んだ自動計算やその他のツールを盲目的に信じて疑わず、対象者に多大な被害が出ても信じ続ける例が紹介されている。外を与える側に対して非常に腹が立ったと同時に、他者への無関心・共感性の無さという恐ろしさを感じた。

一方で、人間には多種多様で多大なバイアスがあるし、人により時間により判断の振れ幅も大きい。こちらも判断を信頼できない場面が多く、そして判断される対象者の利害の振れ幅に影響するところに存在する。こちらも大いに改善されるべきであり、自分が対象者になったときの怖さをあらためて感じた。

自分が被害を与える側にならないように気をつけなければいけないし、被害を受ける側になったときに少しでも和らげるように対処を考えたい。

[ブクログ · ★★★☆☆]

アルゴリズムってすごい！何でもできる！
人間より遥かに優れている…！
そう信じていた私にとって、アルゴリズムに頼ることの危険性について書かれた内容に、衝撃を受けた。

アルゴリズムと人間が得意な部分をそれぞれ生かして、正しい距離で関わることが必要だと感じた。

芸術は「人との繋がり、感情の表現、人の心の中にある」だから、アルゴリズムには代替できない。
これはとても共感した。

[ブクログ · ★★★☆☆]

人間の欠点や弱みはもちろん、機械の欠点や弱みも理解することが、すべてをきちんとコントロールするためのカギである

[ブクログ · ★★★☆☆]

結局、自分たちがアルゴリズムに乗せられていると言うことをいかに認識して改善しようとするかが重要だと感じた

[ブクログ · ★★★☆☆]

今のところAIの反乱を心配するのは、火星に人が増え過ぎたらどうしようと心配するのに等しい。
「死体を隠すのにうってつけの場所は、グーグルの検索結果の2ページ目だ」
スタニスラフ・ペトロフ=世界を救った男。核攻撃警戒システムの誤動作から世界を守った。

有罪か無罪かはアルゴリズムは判断できない。比較検討はできない。しかし再犯の可能性は計算できる。
複数の決定木があれば、予測の精度は上がる。＝オーディエンスに訊く、が詳しい人を凌ぐことがある。

アルゴリズムのエラー＝擬陽性と偽陰性。
人種、性別、教育などが判断材料に使われると差別につながる。
アルゴリズムにはエラーがつきもの。裁判に使うべきではない。

アンカリング効果＝「スープ缶お1人様12個まで」と書かれていると、数の感覚がマヒして、買う個数が増える。

ニューラルネットワーク＝調整用のつまみが無数についた巨大な数学的構造。膨大なデータを使って自らルールを作り出すことができる。

がんの診断は、アルゴリズムと人間の共同作業で効果が上がる。単純な画像であれば、アルゴリズムに教えることは可能。
ワトソンは、クイズ番組には勝てるが、様々な病気の診断のための大量のデータを入力するのが不可能なので、役に立たない。

自動運転車の問題は、運転技術とは関係のない部分。
ときには交通ルールを破らなければならない。
自動運転車が完璧なら、車が来るのを無視して横切る人が出てくる。
地元限定のミニバス程度であれば可能。

自動運転は運転支援技術なら可能。
人の能力を向上させる機械は、人を無能にする。電話番号を覚えられない、漢字が出てこない、など。
いつでも運転を変われるように備えている必要があるが、それは人にとってかなり苦痛。
まれに人間が変わって運転する車の方が危険。
トヨタやボルボは、2種類のモードを使い分ける。専属運転手モードと、ボディーガードモード。完全自動運転か、運転補助か。

犯罪者は、一定の地域で犯行に及ぶ。犯行現場から離れるほど、犯人がいる可能性は減る＝距離減衰。
一方で、近所では気づかれないように犯行を避ける。＝一定の緩衝地帯が生まれる。

無賃乗車を厳しく取り締まれば、地下鉄で大惨事となる犯罪は少なくなる。かつてソ連は、厳しい取り締まりのため路上犯罪が少なかった。

社会的証明＝自分に決定するだけの情報がないとき、周囲の人の反応をまねる。

映画のヒットを予測できるか。公開時の反応がわからない限り、予測は不可能。

類似性の測定は可能。サイトのおすすめ機能など。

コンピュータは、バッハよりもバッハらしい作品を作曲できる。「ジュークボックス」「AIミュージック」など。

公平なアルゴリズムはない。完璧なものを作るより、ミスをしたときに簡単に直せる仕組みを考えるべき。

人とアルゴリズムのそれぞれの長所を生かす。戦略を練るのは人間、結果を予測するのはアルゴリズム、など。