【感想・ネタバレ】数学者が検証！ アルゴリズムはどれほど人を支配しているのか？～あなたを分析し、操作するブラックボックスの真実～のレビュー

デイヴィッド・サンプター / 千葉敏生 / 橋本篤史

「いいね！」したり、ネットで買い物をしたりするたびに、その裏で特定のアルゴリズムが、私たちの行動と嗜好を常に分析している。それにより「おすすめ」の広告が現れるくらいは無害でも、選挙前にフェイクニュースばかり読まされたり、「将来の」犯罪者として拘束されたりするのは問題だ。だが、アルゴリズムの導き出す答えはどれほど正確で、効果的なのか。アルゴリズムやAIのしくみ、将来の可能性と限界を評価する話題作。

[ブクログ · ★★★★☆]

再犯防止のプログラムの話が興味深かった。再犯リスクが高いけど再犯しない人(偽陽性)の割合は黒人の方が高いからこれは人種差別プログラムとする挑戦者側と、再犯リスクの高い再犯する人を見つけ出す割合は黒人も白人も同じだから人種差別はないとする設計者側。どちらの言い分も正しく、社会のもともとの不均衡からどちらの言い分も満たすプログラムは作成不能。そう言う時にどちらを優先すれば良いのか。著者はこれに関しては社会の安全を守ることが優先なので設計者側のプログラムでいいのではと言うが、黒人に生まれて再犯しないのに長い間勾留されてもまあしょうがないか、と思えるかはわからないだろう。プログラムを作る側がより良い倫理観を備えることが必要だ。アルゴリズムが考えたことだからバイアスはないだろうという盲信も禁物。

[ブクログ · ★★★★☆]

Glove; Global Vector for word representation
Webページ(wikipedia)から類推を学ぶアルゴリズム 100-200次元
スタンフォード大学ジェフリー ペニントン
GoogleのWord2vec
多次元空間に単語を配置 300次元

教師無し学習なので、人間の偏見が反映される。


チャットボット Mitsukuは2916,2017年、もっとも人間らしいボットに贈られるローブナー賞を受賞した。

[ブクログ · ★★★☆☆]

人を分析し、操るというアルゴリズム、現状の精度や影響力を検証。高速・大量に処理できるにしても、精度的には人間並みだったりランダムより多少よい程度。また、予測自体が人間の行動を変えることもあるし、人気投票的な動きになることもある。

外の(ちょっと詳しい)人が恐れを感じていることに対して、中の人から見るとまだそれほどの能力は持たないという状況。