感情タグBEST3
Posted by ブクログ
# 組織的エラーの仕組みと正しさへの道標
## 面白かったところ
- バイアスが強いエラーなのか、ノイズ起因のエラーなのか、この下巻を読むことでより明瞭になった点
- 企業理念やルールや規範が人間社会で長生きしている理由がわかる点
## 微妙だったところ
- 特になし
## 感想
組織により踏み込んだ、エラーとバイアスについての内容。
特に面白かったこととして、アメリカの指紋分析官の話があった。国家随一の専門職である指紋分析官という役職に加えて、指紋鑑定という信頼度の高い（より正解に近い）証拠という組み合わせだからこそ、容疑者の冤罪をなかなか立証できなかったという事実。
これは組織の中で輝かしい存在、例えばエキスパートとかスペシャリストなどの肩書だと身近に映るだろう。
この人たちの決断が必ずしも正解とは限らないし、反芻努力の欠如が無関係の人を悪い意味で巻き込むことになる良い事例だった。
上記の特別な人達も `人間` なので、文字通りヒューマンエラーを起こしうる。
この現実を教訓として我々は意味のあるルールや規範を整える必要があるし、より正解に近づくために時にはノイズをかけて群衆の叡智の力を借りねばならんということなんだろう。
アニメ『PSYCHO-PASS』の世界観と照らし合わせると、どこか自分の中で腑に落ちた。
人間じゃない何かが決断し、裁き、すべてが決められた社会では、ノイズが起きようもないしバイアスのみが存在する。
人間の判断というノイズがないとバイアスの方向転換はできないし、人間社会とは到底言えないものである。
主人公の常守朱が発したセリフの中で、よいものがある
常守「法が人を守るんじゃない、人が法を守るんです」
法を `バイアス` 、人を `ノイズ` と読み替えると、どちらかが悪や正義ではなく共存するものだということがよく理解できた。
Posted by ブクログ
上下巻感想
自分の判断、会社としての判断は正しいのか？大丈夫？と考え読み始めた。
例えば難民認定の許可は審査官によって大きく違い、ある人は5％ある人は88％の許可していた事や100人の精神科医の診断結果は54％しか一致しなかったなどなどの沢山の事例や調査結果に驚かされた。そう言った判断は明確な基準があり間違いがないと考えていたがほとんどの場合、大きな乖離があるという。ではそれが何なのか？その原因は大きくバイアスとノイズに分類され違いは簡単に言うと、銃で的を狙い一定方向に的を外す要因はバイアス、上下左右などランダムに外す要因がノイズということだった。ノイズにもいろいろなものがあり、発生の事例や要因や測定方法や対処法が分かりやすく書かれていた。この本を読むことによって自分が思っているより自分が冷静で客観的な判断ができていないという事実を認識して、対処法を講じていく必要があると感じた。またアルゴリズムでの判断と人間の判断の違いや有効性は人事評価などノイズが発生しやすい場面で適応できるシステムの必要性を感じた。
また、前作でも感じたが作者がノーベル賞受賞者でありながら、専門家の無能を辛辣に笑い飛ばす語り口がとても痛快だった。自分の馬鹿さ加減も深く認識させられる。
Posted by ブクログ
興味深い本だった。
ノイズやバイアスは時に、不公平を生み出し、様々なところで影響を及ぼす。
人間の思考からノイズやバイアスをいかに除去するか、色々な方法がある。
Posted by ブクログ
第16章 パターン
パターンノイズについて話そう
「あなたはずいぶん自信ありげだが、この問題はそうかんたんではない。情報はいろいろな可能 性を示している。別の解釈も可能だということを見落としていないだろうか？」
「君と私は同じ候補者と面接し、いつものように同じような質問をした。なのに、君と私は正反 対の判断に達している。このパターンノイズの原因は何だろう？」
「人間いろいろで性格もちがうからこそ、イノベーションが生まれる。さまざまな個性は興味深 いし、刺激的でもある。だが判断ということになると、話は別だ」
第17章 ノイズの原因
ノイズの原因について話そう
「判断の平均レベルのちがいにはすぐ気づく。だが気づきにくいパターンノイズも大きいのでは？」
「この判断ミスはバイアスのせいだと君は言うが、結果がちがってもそう言っただろうか？ノイズの存在は考えたことがあるか？」
「バイアスを減らす努力をすることはもちろん正しい。だが同時に、ノイズを減らすことにも取り組むべきだ」
第18章 よい判断はよい人材から
つまり、認知反射や認知欲求のテストは注意深い遅い思考に取り組む傾向を計測するのに対し、開かれた思考テストはさらに踏み込み、自分の判断は未完成であり必要に応じて修正したいとする謙虚な思考態度を計測する。
よい判断を下せるのはどんな人かについて話そう
「君はたしかに専門家だ。しかし君の判断は結果で検証可能なのか、それとも不可能なのか?」「われわれは二人の専門家から得た助言のどちらかを選ばざるを得ない。しかし、彼らの専門的な能力や過去の実績は何もわかっていない。だから、知的能力の高いほうのアドバイスを採用することにしよう」
「ただ、知的能力がすべてというわけではない。認知スタイルや思考態度といったものも重要だ。 われわれが選ぶべきなのは単に頭のいい人間ではなく、開かれた思考のできる人だと思う」
第19章 バイアスの排除と判断ハイジーン
バイアスの排除と判断ハイジーンについて話そう
「いま減らしたいのがどういうバイアスで、どんな具合に結果に影響を与えているのか、はっき りしているのだろうか。もしわかっていないなら、複数のバイアスが作用している可能性を考え なければならない。その場合、どのバイアスが強く作用しているのかを見きわめるのはとてもむずかしい」
「話し合いを始める前に、まず意思決定プロセスのオブザーバーを指名しよう」
「今回は判断ハイジーン手順をきちんと実行できた。よい決定を下せたのはたぶんそのおかげだろう」
第20章 科学捜査における情報管理
情報管理手順について話そう
「判断のあるところノイズあり。 指紋鑑定も例外ではない」
「この件についてはいろいろな情報が入ってきている。だが知っていることをすべて専門家に話すのは、彼らが判断を下すまでやめておこう。バイアスがかかりかねないからだ。向こうからどうしても必要だと要求してきた情報のみ提供することにしたい」
「セカンドオピニオンを求めるにしても、その人物が最初の判断を知っていたのでは、独立した意見にはならない。三番目の人物もそうだ。確証バイアスのカスケードが起きてしまう」
「ノイズと戦うには、まずノイズが存在することを認めなければならない」
第21章 予測の選別と統合
…超予測者の特徴は、分析的、確率的に感がられることだったのである。
超予測者は問題をどのように捉え、どのように構造化するのだろうか。たとえば重大な地政学的問題(EUから離脱する国はあるか、これこれの地域で戦争が勃発するか、政府高官が暗殺される可能性はあるか、など)に取り組むとき、彼らはいきなり漫然と予測するのではなく、まず構成要素に分解する。直感だの虫の知らせだのには頼らず、「答えがイエスになるのは何が起きた場合か」「答えがノーになるのは何が起きた場合か」を考える。次に、そこから派生する問いまた考える。こうして問いと答えを重ねていく。
超予測者は「統計的視点」から考えることにも長けており、基準率をつねに探す。ガンバルディのケース(第13章)で述べたように、ガンバルディの経歴や人柄に注意を払う前に、平均的なCEOが二年の契約期間を全うできる確率を知っておくことは役に立つ。どうやら超予測者には、基準率を調べる習慣が身についているようだ。一年以内に中国とベトナムが国境紛争をめぐって武力衝突する可能性はあるか、と質問されると、超予測者はすぐさま中国とベトナムがいま何をしているか調べたりはしない。おそらくその件についてニュースや解説記事を読んで自分なりの直感は働いているにしても、それはひとまず棚上げする。彼らは、直感に従うとだいたいにおいてろくなことにならないと知っているのだ。だから基準率を調べる過去の国境紛争が武力衝突に発展したケースはどのくらいあるのか。もしそういうケースが稀だとすれば、まずその事実を押さえる。その後に初めて中国とベトナムの現状に目を向ける。
要するに、超予測者を際立たせるのは彼らの絶対的な知的能力ではない。それをどう応用するかが重要なのである。
サトパの推論によると、ある人の予測精度が他の人より高い理由、低い理由は主に三つある。
第一に、精度の高い人は予測に必要なデータを見つけて分析するスキルに長けていると考えられる。このことは、情報の重要性を示唆する。
第二に、一部の人は一方の側に偏ってエラーを犯す傾向がある。一〇〇回の予測のうち、何かが起きる確率をほぼ必ず過大評価する人は変化を好むバイアスが、過小評価する人は安定を好むバイアスがかかっていると考えられる。
第三に、一部の人はノイズが小さい、つまりランダムエラーが少ない。判断と同じく予測でも、ノイズを誘発する要因はたくさんある。ある種の情報に対する過剰反応(これはバターンノイズの一種である)や機会ノイズのほか、使う尺度がちがう場合にもノイズが生じる。
選別と統合について話そう
「四つの独立した判断の平均をとることにしよう。こうすれば確実にノイズを半分に減らすこと
ができる」
「私たちは永遠のベータ版であり続けなければならない。超予測者のように」
「この状況を検討する前に、該当する基準率を知っておくべきだ」
「このチームは人材揃いではあるが、判断の多様性という面で不安がある」
第22章 診断ガイドライン
医療のガイドラインについて話そう
「医師の診断には想像以上にノイズが多い。X線撮影を行った場合ですら、専門医の意見が一致しないことがある。患者にとっては、受ける治療がくじ引きで決まるのとたいして変わらないとさえ言える」
「月曜日でも金曜日でも、あるいは朝早くでも午後遅くでも、つねに安定した診断を下している医者は言いたがる。だが実際にはそうではない。疲れは診断に影響する」
「医療ガイドラインが導入されれば、医師の診断ミスで患者が犠牲になるケースは減ると期待できる。ガイドラインは診断のばらつきを減らすことになるので、医師にとっても大いに助けとなるはずだ」
第23章 人事評価の尺度
評価尺度について話そう
「わが社の人事評価制度には膨大な時間を注ぎ込んだが、それでも実態はといえば、ほんとうに能力や実績に基づく評価は四分の一にすぎず、残り四分の三はシステムノイズという体たらくだ」
「この問題に対処するために三六〇度評価や強制的ランク付けも試してみたが、事態はますます悪くなった」
「レベルノイズがこれほど多いのは、たとえば”すぐれている”と“きわめてすぐれている”の解釈が評価者によってちがうからだ。具体的なケースをアンカーとして評価尺度に付け加えれば、評価者の間の不一致を減らせるだろう」
第24章 採用面接の構造化
この問題を克服するために、グーグルでは評価を事実に基づいて行うだけでなく、項目ごとに独立して行うことを徹底した。「構造化行動面接(structured behavioral interview)」、まさにその具体的な例である。この面接では、面接官には候補者を気に入ったかどうかを決めることは求められていない。面接官の役割はもっぱら評価項目に必要な情報を収集し、項目ごとに採点することにある。そのために、候補者の過去の行動についてあらかじめ決められた質問をしなければならない(「これまでに、これこれの状況に遭遇したことはありますか、あなたはそのときどうしましたか、そのどうなりましたか？」といった類のである)。また採点に際しては、あらかじめ定められた統一的な尺度に従うことが大切だ。その尺度には、質問ごとに「ふつう」、「よい」、「きわめてよい」の例がこまかく記載されている。前章で紹介した行動基評価尺度にいくらか似ていると言えるだろう。こうした共通の尺度があれば、ノイズを減らす役に立つ。
くだけたおしゃべりのあるおなじみの面接とはずいぶんちがうぞ、と感じただろうか。それは当たっている。じつのところ、構造化行動面接は口頭試問か尋問に近い。しかも一部の調査では、面接をする側も受ける側も構造化面接を嫌っていることが判明した(すくなくとも非構造化ほうを好む)。それに、どのような構造化されていると言えるのかについてはまだ結論が出ていない。それでも、一つ確実なことがある。それは、従来の構造化面接に比べ、将来の実績との相性がずっと高いことだ。相関係数は0.44～0.57、PCで言えば65～69％である。つまり、よい人材を選べる確率が七割近い。これは、非構造化面接の56～61％と比べると顕著な改善と言ってよい。
加えてグーグルは、いくつかの評価項目では他の情報も考慮する。たとえば知識については、プログラマー志望者にはコードを書いてもらうというふうに実務試験を行う。調査によると、将来の仕事の出来不出来に関する限り、こうした実務試験の予測精度が最も高いことがわかっている。グーグルは、社内の照会も参考にする。これは、候補者が指名した照会先ではなく、たまたま本人を知っている社員に会する方法である。
第三原則は、総合判断は最後に行うというものだ。かんたんに言うと、直感を禁止するわけではないが、最後の最後まで遅らせるということである。グーグルの場合、最終判断は採用委員会が下す。委員会では面接ごとに各評価項目についてつけられたすべての採点を集めたファイルおよび結果など他の評価に基づき、各委員が対等の立場で発言し、そのうえで誰に内定を出すかを決定する。
グーグルはデータ指向の強い企業として名高いにもかかわらず、そして評価の統合は機械的に行うほうが臨床的に行うよりすぐれているという数々の証拠があるにもかかわらず、最終決定は機械的に行わない。グーグルといえども、そこは人間の判断に委ねられている。それはそうだろう、採用委員会であらゆる情報を集約し、勘案したうえで議論するのは、「この候補者はグーグルでうまくやっていけるか？」ということなのだ。
判断を分解する、評価は独立に行う、総合判断は最後に行うという三つの原則は、必ずしもすべての企業に当てはまるとは言えない。それでも、これらの原則は組織心理学者がずっと前から提唱してきたこととおおむね一致する。
構造化面接について話そう
「構造化されていない標準的な面接では、候補者のことを理解できたつもりになったり、ウチの会社に合わないと決めつけたり、といったことは避けられない。こうした直感を鵜呑みにすべきではない」
「標準的な面接は危険だ。バイアスがかかりやすいだけでなく、ノイズも大きい」
「面接を、いや人材選抜プロセス全体を構造化すべきだ。まずは候補者に何を求めるのかをもっと具体的にはっきりさせよう。そして、項目ごとに独立して評価するというルールを決めて実行しなければいけない」
第25章 媒介評価プロトコル
媒介評価プロトコルの手順
1．判断を媒介評価項目に分解する
(繰り返し行う判断では、1度決めれば流用できる)。
2．各項目の評価では、可能な限り「統計的視点」を取り入れる
(繰り返し行う判断では、可能であればケース尺度を使い、相対的に評価する)。
3．分析段階でも、可能な限り項目ごとの評価の独立性を維持する。
4．意思決定を行う会議でも、媒介評価項目を1つずつ切り離して評価する。
5．会議はデルファイ法に沿って進める。
6．最終決定に臨むまでは直感を働かせないが、最終決定に際しては直感を禁じない。
媒介評価プロトコルについて話そう
「わが社では採用決定のプロセスを構造化した。採用だけでなく、戦略的な意思決定にも構造化を導入してはどうか？考えてみれば、選択肢は候補者のようなものだから」
「この決断を下すのはむずかしい。 媒介評価項目の採点はどうなっているのか？」
「この計画について、直感に基づいて総合的な判断を下すことは重要だ―しかし、いまではな い。まず先に独立した評価項目ごとに検討しよう。その後のほうが、われわれの直感はずっとうまく働く」
第26章 ノイズ削減のコスト
ノイズ削減に伴うコストについて話そう
「教育におけるノイズを減らしたいなら、かなりの支出を覚悟しなければならない。生徒の採点に関する限り、先生たちはノイズだらけだ。同じ課題を採点しても、五人が五人ともちがう」
「ソーシャルメディアが人間の判断に頼らず何らかのアルゴリズムを導入し、文脈を問わずある種の言葉を含む投稿を機械的に削除したら、たしかにノイズはなくなるだろう。だがたくさんのエラーを生むことになる。治療は時として病気より悪い」
「バイアスのかかったルールやアルゴリズムが存在することは認めよう。だが人間の判断にもバイアスはある。われわれが問うべきは、ノイズがなくバイアスも少ないアルゴリズムを設計するのは可能なのか、ということだ」
「ノイズを排除するには、たしかにコストがかかる。だがコストをかけるだけの価値はあるだろう。ノイズのある判断はきわめて不公平だ。もし、ノイズを減らすために講じた手段が行きすぎと感じられる場合、たとえばガイドラインやルールがあまりに硬直的だったり、逆にバイアスを第生んだりするなら、全部を投げ捨てるのではなく、よりよい手段を試みるべきだ」
第27章 尊厳
尊厳について話そう
「多くの人が対面でのやりとりを重視し、ぜひとも必要だとさえ主張する。自分の不安や苦情を生身の人間に聞いてほしいのだ。だから、人間に裁量の余地を与えるべきだという。もちろん、そうなればノイズが生じることは避けられない。だが人としての何物にも代えられないという」
「道徳的価値観は絶えず変化するものだ。あらゆることを厳密に規定するルールを導入したら、変化する価値観に対応する余地がなくなってしまう。ノイズを減らす方法の中には、あまりに硬直的なものがある。あれでは、変化をまったく受け付けない」
「不正行為を防ぎたいなら、ある程度のノイズは容認しなければならない。学生たちが、論文の盗用をしたらどんなを受けるかわからない状態にしておくほうがいいのだ。そうすれば、盗用を慎むだろう。ノイズの形でいくらか不確実性を残しておくことが抑止効果を高める」
「ノイズをなくしたければ、明確なルールを決めるしかない。そうしたら、よからぬ輩は必ず抜け道を見つけるだろう。だからノイズは、ルールの裏をかくような行為を防ぐために払う価値のある代償だと言える」
「創造性ゆたかな人間には、それを発揮する場を与えてやらなければならない。人間はロボットはではないのだ。どんな職業でも、人間には判断の余地を与える価値がある君を規則でがんじがらめにしたら、君はノイズを出さないだろう。だが全然楽しくないから、独創的なアイデアも出てこなくなる」
「結局のところ、大方のノイズ擁護論は説得力がない。人間の尊厳を重んじ、価値観の変化に対応する余地を確保し、創造性を発揮できるようにしつつ、ノイズの不公平とコストを抑える方法はいくらでもある」
第28章 ルール、それとも規範？
ルールと規範について話そう
「ルールはやることを単純にし、ノイズを減らしてくれる。規範しかないと、状況に応じていちいち判断しなければならない」
「ルールか規範か？まず、エラーが多くなるのはどちらか考えよう。次に、ルールなり規範なりを決めて運用するのはどちらがかんたんか、どちらの負担が大きいかを判断しよう」
「本来ならルールを決めるべきときに規範を設けていることが多い。それは、ノイズに注意を払
っていない証拠だ」
「世界人権宣言からノイズをなくせとまでは言わない。すくなくともいまは。だが、ノイズがきわめて不公平であることは強く言いたい。世界中の法制度はもっとノイズを減らすことを考えるべきだ」
まとめと結論 ノイズを真剣に受け止める
ノイズを(そしてバイアスも)減らすには
原則１ 判断の目標は正確性であって、自己実現ではない
原則２ 統計的視点を取り入れ、統計的に考えるようにする
原則３ 判断を構造化し、独立したタスクに分解する
原則４ 早い段階で直感を働かせない
原則５ 複数の判断者による独立した判断を統合する
原則６ 相対的な判断を行い、相対的な尺度を使う
付録B 意思決定プロセス・オブザーバーのチェックリスト
バイアス発見のためのチェックリスト
１ 判断に臨む姿勢
(a)置き換え
・情報や証拠の取捨選択や議論の焦点に問題はないか？ 本来判断を下すべき困難な問題を、答えを出すのが容易な問題に置き換えていないか？
・重要な要素を見落としたり無視したりしていないか、また無関係な要素を不当に重視していないか?
(b)統計的視点
・検討に際して統計的な視点を取り入れているか？絶対的な判断ではなく相対的な判断を試みているか？
(c)多樣性
・何人かにバイアスがかかっていて、同じ方向に偏ったエラーが出る可能性はないか？
・重要な意見や専門家としての見解があるのに黙っている人がいると感じる点はないか？
２ 予断と時期尚早な結論
(a)議論開始前の予断
・ある結論にいたると得をする人はいるか？
・すでに結論を下してしまっている人はいるか？ 何らかの偏見や予断を疑うべき妥当な理由が存在するか?
・何にでも反対するタイプの人はいるか？その人は意見を述べたか？
・極端な意見に引きずられて議論があらぬ方向に迷走する恐れはないか？
(b)時期尚早な結論、過剰な一貫性
・早い段階で検討された選択肢に予期せぬバイアスがかかっていないか？
・他の選択肢も十分に検討されたか、他の選択肢を裏付ける証拠を積極的に探したか？
・都合の悪い情報や不快な意見を無視したり抹殺したりしていないか？
３ 情報処理
(a)入手可能性、顕著性
・最近起きたとか、劇的であるとか、個人的に重要な意味があるといった理由から、あまり関係のない出来事や情報を過剰に重視していないか？
(b)情報の信頼性
・個人的な体験、断片的なエピソード、説得力のある物語や比喩といったものに過度に依存していないか？報の裏付けをとったか？
(c)アンカリング
・正確性や信頼性の疑わしい数字に最終判断が左右されていないか？
(d)非回帰的予測
・平均への回帰を無視した推定、見積もり、予測を行っていないか？
４ 決定
(a)計画の錯誤
・予測を参照する場合に、情報源や有効性をチェックしているか？統計的視点を活用して予測を検証しているか？
・不確実な数字について信頼区間を設けているか？その区間は十分な幅があるか？
(b)損失回避
・意思決定者のリスク選好は組織の方針と一致しているか？慎重すぎないか？
(c)現在バイアス
・計算に使用される数字(現在価値への割引率など)は、組織の短期的長期的優先順位のバランスを適切に反映しているか？
Posted by ブクログ
下巻は、統計的な手法から距離を置き、各人の資質、個人の判断を中心として、バイアス、ノイズの排除に関する考察です。
下巻の範囲は以下
第４部 人間心理に立ち戻り、ノイズが生じる根本原因の検討（途中から）
第５部 判断を改善しエラーを防ぐ実際的な問題への取組み
第６部 ノイズの適正水準はどの程度なのか。経済的な要請からの考察
終章に展開される結論は以下です。
人間の判断を補うために、今日よりずっと幅広くアルゴリズムが導入されるようになる
複雑な判断はシンプルな媒介評価項目によって分解される
できるだけ多くの独立した判断を集めて統合される。
統計的な視点が組織的な判断プロセスに組み込まれるようになる。意見の不一致が表面化するようになり、それを建設的に解決できるようになる
その結果、ノイズの少ない世界が実現され、無駄な支出や、損失が大幅に減り、公共の安全と健康が改善される。
下巻にて気になったことばは次です。
・良い判断は、良い人材から。専門家の中には、同業者から尊敬されるリスクペクト専門家がいる。
・ＩＱ（知能指数）よりも、ＧＭＡ（一般知的能力）とよい判断との相関性がある。つまり、知的であれば、判断もよりよくなる。
・認知スタイル：判断すべき問題に直面したときのアプローチ 問題を深く考えるタイプか、それとも、直感的に判断をするタイプか。
あきらかに、直感的に判断をするタイプの方が、判断エラーを犯しやすい
・判断からバイアスを排除する方法は２つある。
事前方式 体重計がくるっている場合、事前に調整をして、計測の結果を正確にする ⇒ナッジという
事後方式 体重計がくるっている場合、計測して、誤差を計測結果から修正する
・バイアスは存在するが、すべてを排除することはできない
・リアルタイムでバイアスを排除するアプローチ：オブザーバー
・判断ハイジーン：ノイズは予測不能なエラーであるが、ノイズを減らすアプローチ
バイアスの排除⇒病気の治療
ノイズの排除 ⇒予防的な衛生管理：これを判断ハイジーン という
・予測精度の向上：各判断者には、状況や他判断者の判断結果を知らせずに情報を与える。それぞれの判断を最後に総合的に判断する
・判断にガイドラインを利用する
・グーグル面接の３つの原則
①媒体評価項目 構成要素に分解し、ガイドラインとして作成する
②独立：評価項目ごとに質問し、情報を収集し、個別に評価する。項目ごとに独立して行う
③総合判断：最後の最後まで判断を遅らせる
・ノイズの排除 ノイズをゼロにすることはできない
・アルゴリズムはノイズを排除するがバイアスを排除できない
・データにバイアスがかかっているケースがある
・ノイズを削除するためにルール化をするのかそれとも規範とすべきか。ルール化するためには、多様な人々の賛同を得にくい。
目次は以下です。（上下巻 通し）
上巻
序章 二種類のエラー
第１部 ノイズをさがせ
第１章 犯罪と刑罰
第２章 システムノイズ
第２部 ノイズを測るものさしは？
第４章 判断を要する問題
第５章 エラーの計測
第６章 ノイズの分析
第７章 機会ノイズ
第８章 集団によるノイズの増幅
第３部 予測的判断のノイズ
第９章 人間の判断とモデル
第１０章 ルールとノイズ
第１１章 客観的無知
第１２章 正常の谷
第４部 ノイズはなぜ起きるのか
第１３章 ヒューリスティクス、バイアス、ノイズ
第１４章 レベル合わせ
第１５章 尺度
下巻
第１６章 パターン
第１７章 ノイズの原因
第５部 よりよい判断のために
第１８章 よい判断はよい人材から
第１９章 バイアスの排除と判断ハイジーン
第２０章 科学捜査における情報管理
第２１章 予測の選別と統合
第２２章 診断ガイドライン
第２３章 人事評価の尺度
第２４章 採用面接の構造化
第２５章 媒体評価プロトコル
第６部 ノイズの最適水準
第２６章 ノイズ削減のコスト
第２７章 尊厳
第２８章 ルール、それとも規範？
まとめと結論 ノイズを真剣に受け止める
終章 ノイズの少ない世界へ
Posted by ブクログ
行動経済学という学問をまさしく一般に普及させた立役者の一人といえば、『ファスト＆スロー』等の著作で知られるダニエル・カーネマンであろう。彼が、ナッジ理論の理論的中枢もであるキャス・R・サンスティーンらと記した新作にあたり、行動経済学の新たな世界が開けた、といっても過言ではない面白さに満ち溢れている(私はこの本をコロナワクチン3回目接種の副反応で寝込んだベッドの中で読み通してしまった。そのくらい面白い)。
行動経済学の定義は幾つかあると思うが、オーソドックスな定義の一つは”人間の不合理な行動やエラーというのはなぜ起きるのかを解き明かす学問”であるというものではないか。その際によく言及されるのが”バイアス”と呼ばれる人間のものの見方の偏りである。
しかし、不合理な行動やエラーを起こす要因としてもう一つ大きなものがある。それが本書のテーマ、”ノイズ”である。本書は行動経済学の中で”バイアス”ばかりが語られている点を是正すべく、いかに”ノイズ”が我々のエラーを巻き起こしているのか、そしてその対処法までを明らかにする。
ここでいう”ノイズ”とはいわゆる分散の概念である。
例えばダーツに的を投げたときに、
・投げたダーツが一定のエリアに集中している⇒”バイアス”
・投げたダーツがバラバラに散っている⇒”ノイズ”
ということになる。
合理的な意思決定をしているようで実は”ノイズ”によって人間の意思決定がてんでばらばらであるということを明らかにする事例として、同一人物による病気の診断や保険金の支払査定などのバラつきのデータを見ると、これが恐ろしいほどの分散を見せる。その分散はあまりにもひどいため、過去に自身が判断したデータを用いて簡単な機械学習モデルを作ると、遥かに機械学習モデルの方が高い精度を出せるという。
”ノイズ”の要因は色々あるが、大きいのはそのときの人間のストレス、気分などである。疲れを知らず感情に惑わされることがない機械学習モデルが高い精度を出すのも、むべなるかな、というところであろう。
さて、そうした”ノイズ”の実態、それがどれだけのエラーを巻き起こし、結果として社会にどれだけの余剰コストを生み出しているかを考えると、この対処策が重要になってくる。本書では簡単なテスト形式で、具体的に組織の”ノイズ”を減らすための処方箋も示されている。
”バイアス”が行動経済学のキーワードとなったように、ワーディング自体は全く珍しくもなんともないものの正しくその弊害が認識されていない”ノイズ”をいかに扱うか、これは行動経済学の実践としてより良い社会・組織を作っていく上で、必須のものになっていくのではないか、という強い期待すら感じた。
Posted by ブクログ
上巻の方では、ノイズとは何かについて紙幅が割かれていた。
今回の下巻の方では、ノイズを防ぐ方法について言及されている。
本書（上下両巻）を読んでいくと「ノイズは厄介だ！良い判断をするためにも、全ての意思決定プロセスを厳しく取り決めよう！」という発想に陥りやすい。たしかに、筆者たちは「判断ある所にノイズあり」と繰り返し訴えている。ノイズが意思決定において好ましくない存在であることはその通りなのだ。その領域が、医療業界など、専門性の高い分野なら尚更のことである。
しかし、全ての判断をアルゴリズムやAIに委ねることも危険だと筆者らは言う。結局のところ、最終的な判断は人によって下されることが望ましい。筆者らが訴えるのは、最終判断を下すまでの過程に問題があるということなのだ。
ノイズを減らす方法として、筆者たちは「判断ハイジーン」という手法を提供している。ハイジーンというのは日本語で「衛生管理」を意味する。本書を読めばわかるが、往々にしてノイズの存在は気付きにくいもので、それゆえに対策をしたところで明白な効果が出ているかどうかが分かりにくい。が、確実にノイズによる影響は存在するし、それが悪いものなら対策をするに越したことはない。これは、私たちが日常的に行う「手洗い」と似たようなものだ。手にどんな菌が付着しているかわからないけれども、手を洗えばそれらの菌は消滅する。
このように、ノイズ対策と手洗いは、悪影響をもたらす正体が不明瞭だがそれが悪い影響をもたらすのは確実なので事前に対策をしたほうが良い、という点で非常に似ている。それゆえに「ハイジーン（衛生管理）」という名前がつけられた。
下巻では「判断ハイジーン」における6つの原則が紹介されている。良い判断を下すためにはこれらを遵守することが求められる。
原則1
判断の目標は正確性であって、自己表現ではない
原則2
統計的視点を取り入れ、統計的に考えるようにする
原則3
判断を構造化し、独立したタスクに分解する
原則4
早い段階で直感を働かせない
原則5
複数の判断者による独立した判断を統合する
原則6
相対的な判断を行い、相対的な尺度を使う
以上の原則を守れば、良い判断が下せる可能性が高い。本書における最重要部分はこの原則だと言えよう。この部分さえ意識し判断を行えば御の字である。
人は往々にして自分の力のみで判断を下したい生き物だ。しかしそれは自分が懊悩して出した結論に対する自分へのご褒美のようなものだと筆者たちは指摘する。その判断がたとえ気持ちの良いものであったとしても、そのことが優れた判断だと言える根拠にはならない。
しかし、悲しいかな、彼らはその快楽に浸りたいために、意思決定プロセスにおけるノイズの削減を拒む。それが最悪の状況を招く可能性があったとしても。挙句の果てには、ノイズの削減はコストが嵩むなどと主張して己の怠慢を正当化する。
実際、ノイズの削減には多くの批判が投げられ回避されていきたと筆者は言う。たしかに、判断ハイジーンのみならず、アルゴリズムやAIですら間違うことがある。だからと言ってノイズ削減を怠るのは優れた決定者としてあるまじき行為だろう。良い意思決定者として行うべきは、ノイズを削減する効果的な方法を模索することなのだ。断じて、それを等閑にすることではない。
本書の最後では、筆者らがノイズのなくなった世界を夢想する。その世界では、「無駄な支出や損失が大幅に減り、公共の安全も健康も改善され、何より公平性が向上して回避可能な多くのエラーが防止される」そして、この世界に少しでも近づくために「ノイズ」という厄介者に目を向けてほしいと読者に訴えていた。
Posted by ブクログ
この本は、裁判官や医者などの社会的地位が高く、信用の高い人たちの判断にもノイズ（判断のばらつき）がありますよー！しかも思ったより大きなばらつきです❕と考察しています。
めちゃくちゃ論理的で納得できるいい本でした！
ぜひぜひ読んでみてください。
Posted by ブクログ
普段の生活に存在するノイズを具体例を用いて説明してくれているのですごく分かりやすかった。
ノイズを防ぐためにどうすればいいのか、また、ノイズをなくしていくことでどういったことが起きるのかをよく理解できた。
きっちりとした成果を出していくためには、ノイズが生じにくい環境作りが大切。しかし、ノイズが皆無であれば、システムが崩壊する可能性もあると思った。
いいバランスでノイズを削減していくことが重要である。
Posted by ブクログ
ノイズが思った以上に多く、これを少なくすることは簡単ではない。
人間に首尾一貫した判断が苦手であり、やはりガイドラインのようなものでかなり判断の振れ幅を抑えてやる事が必要だとよくわかる。
このガチガチのガイドラインは、日本人にはかなり好まれる傾向にあるとは思うが、融通の効かない社会は息苦しい。
筆者の対策を、うまく使って行きたい。
Posted by ブクログ
ノイズの事例や著者の例えが分かりやすく終始読みやすかった。バイアスとノイズの関係性やノイズの分析はプロフェッショナルのみならず活かせるものがあると思う。
あと、｢人間の不合理｣という話題は尽きない。自分の気持ち良さを優先してしまう愛すべき人間だなぁと。
Posted by ブクログ
・どんな意思決定にも予測的判断がかかわってくる。予測的判断においては、正確性が唯一の目標であるべきだ。だからあなた個人の価値観は事実から切り離しておくように
・人間はご機嫌だとでたらめを受け入れやすくなり、また全般的に騙されやすくなる。つまり、つじつまの合わないところを探し出したり、嘘を見抜いたりする気がなくなってしまう
・カスケード効果：情報カスケードとは大勢の人が順番に前の人の選択情報を参照しながら判断する場合に、自分自身の持つに基づかず、多数派の選択肢を選ぶ傾向を指す
・機械学習アルゴリズムは、ほかのモデルが見落としてしまうような変数の組み合わせの中に重要なシグナルを見つける。データに隠れているある種の極めて稀なパターンがハイリスクと強く創刊しており、アルゴリズムはそれを発見できる
・結論バイアス：初めから特定の結論を目指して判断プロセスを開始すること
・過剰な一貫性：予断を持っているとき、それを裏付ける証拠ばかり探し矛盾する証拠は無視する各省バイアスも、後から出てきた重要な証拠を過小評価する点で似ている
・ノイズとは、各人に備わった「判断者としての性格あるいは個性」の副産物なのである
・優れた判断者は、自分の最初の考えに反するような情報も積極的に探し、そうした情報を冷静に分析し、自分自身の見方と客観的に比較考量して、当初の判断を変えることをいとわない人、いやむしろ、すすんで変えようとする人である。リーダーが決断力を発揮するのはプロセスの最後であって、最初ではないのだ
・人間の判断は、たとえば、怒りや怖れといった感情的要因にも左右される（機会ノイズ）。だから、可能であれば数日、数週間後にもう一度判断するのは良い習慣である。
・超予測者は、自分の当初の仮説に反するような情報や反対意見を積極的に探し、反対意見が正しく、自分の判断が間違いである可能性をいつでも認める用意があり、「自分と同じ意見の人より違う意見の人に耳を傾けるほうが有益だ、と考える。自分の予測を絶えずアップデートし、自己改善することこそが、超予測者の必須条件である
・判断を分解する、評価を独立に行う、総合判断は最後に行う
・初めから非構造化面接のようなものを行っていると、最後に下すべき結論のことが頭から離れず、すべての情報を常に最終目標に照らしてみてしまう。議論の最初から落としどころを探っていて、結局遅かれ早かれそこに到達する。集合知を生かせない
・分析チームのミッションは「最終決定においてこの項目がどのような重みづけがされるかはべつとして、この項目の評価に関する限り買収はイエスかノーか」というシンプルな問いに対する答えになる
・基準率と比較した相対的な統計的評価を入れる
・とりわけ重要な判断の場合には、大方の人が何らかのスキームや計算式に縛られることを嫌がるし、それを使って判断することに頑強に抵抗する。計算式を使わなければならないことが決まると、システム自体を都合よく捻じ曲げ、望みの結論に達するよう採点を変えてしまったりする。そのため、プロセスの最後までは独立して評価を行う必要がある
・創造性豊かな人間には、それを発揮する場を与えてやらなければならない。人間はロボットではないのだ。どんな職業でも、人間には判断の余地を与える価値がある。君を規則でがんじがらめにしたら、君はノイズを出さないだろう。だが、全然楽しくないから、独創的なアイデアも出てこなくなる
・不正行為を防ぎたいなら、ある程度のノイズは容認しなければならない、学生たちが、論文の盗用をしたらどんな罰を受けるかわからない状態にしておくほうがいいのだ。そうすれば盗用を慎むだろう、ノイズの形でいくらか不確実性を残しておくことが抑止効果を高める
・実効性のあるルールの策定に必要な情報を持ち合わせていないケースのほうが重大な問題
・プロジェクトマネジャーに適任なのは、会社の管理部門の幹部クラスである。社内の手続き上の面倒を避けられるメリットがあり、会社がノイズ検査に本気で取り組んでいるというメッセージを発信できる
・最近起きたとか、劇的であるとか、個人的に重要な意味があるといった理由から、あまり関係のない出来事や情報を過剰に重視していないか
Posted by ブクログ
判断あるところにノイズあり。
私たちは一日に何回もさまざまな判断をしているが、そこには大なり小なりノイズが含まれている。
プライベートなことに関する判断は、ノイズがあろうとなかろうと自分自身で納得すれば済む話かも知れないが、仕事上の判断にひそむノイズは分かりにくいだけで、どこかしらに損害を生んでいる可能性があるようだ。
バイアスに関しては一般的に浸透していると思うが、これからはノイズに関してもっと注意する必要があると感じた。
Posted by ブクログ
簡単にノイズを知りたいなら、この下巻のまとめと結論の章を読めばわかります。
ただし、事例があった方がわかりやすいので、上下巻をを読むことをおすすめします。
Posted by ブクログ
判断ある所にはノイズがある。アルゴリズムで判断した方が直感よりもノイズが少ないという理論は理解できるが、そればかりで面白味のない世の中になるような気がする。その弊害も指摘されているが、思ったよりもノイズが多いこととその弊害も多いことがわかった。
シリーズ作品レビュー
