ネイト・シルバーのレビュー一覧

データ解析する場合に、シグナルとノイズをどのように扱うべきか書かれた本。気象、地震、テロなどなど予測に携わる人ならば一読すべき一冊。

データアナリシスの基本を学ぶ本としてよいのではないだろうか？

ノイズをいかに見抜き、それを排除して思考することが大切。

・統計学の勉強本ではなくて，「目の前にあるデータの見方についての誤りを正すための警告をしている本」だろうか。この本で統計学の勉強はできないが，普通の教科書よりもずっと豊富な知見を与えてくれる。

・人はシグナルとノイズの区別はできない。特に事前には。
・データ量を多くしても予測が正確になるとは限らな...続きを読むい。シグナルよりもノイズが増える方が多い。
・結果として人はデータに騙される。本当は「騙された」わけではなくて，「見誤っている」だけなのだが。

邦訳されたすぐ後に買っていたのだが1/3くらい読んだところで放りだしていた。分厚いながらも別に読みにくい本ではないのに。このたび、家ですごす連休のお供として引っぱり出したのだが、これがまたコロナの時代にピッタリの内容であった。いま世界中が、きわめて不確実な状況に置かれながら少しずつ明らかになるウイル...続きを読むス/疾病の情報をもとに今後の見通しを更新していく、まさにベイズ的な過程のただなかにいる。私たちが「知っていること」と「知っていると思っていること」の違いを識別しなければならないと教えてくれる本だ。

ネイト・シルバーの文章には論理的な明晰さがあって読みやすい。少し斜に構えたユーモアとあわせて、なんとなく余白がない感じがアメリカ的な薄っぺらさとも言えるのかもしれないが、読んでいるこちらまで少しアタマが良くなったような気がしてくる。

本領である選挙やスポーツの予測にはじまり、金融、経済、気候、地震、テロリズムなどなど意欲的に幅広い分野の予測をテーマとしている。個人的には、シルバーの個人的な体験であるオンライン・ポーカーのくだりを特に興味深く読んだ。彼の実践的なスタイルは鉄火場で培われたのではないかと思わせる。

まさにタイムリーにインフルエンザなどの感染症の予測、疫学モデルにも1章を割いている。SIRモデルはシンプルすぎる（多様な行動をとる異なる人々のグループを捨象してしまっている）として批判しているが、ワタクシの最近の付け焼き刃知見では、そこらへんの多様性を導入したモデルもすでにあるようだ。これについては、この数年間での疫学の進歩なのか、単に著者のリサーチ不足なのかは不明。

自分が興味ある分野だけに、500ページのボリュームでしたが、かなり興味深く読みました。
リーマンショックや巨大地震、インフルエンザなどの予測に関する失敗のエピソードは、参考になりました。
著者は、最近のビックデータ分析で用いられているベイズ統計の重要性と推奨をしてます。
ある事象を分析する上で、その...続きを読む事象が起こる前の事前確率を見積もり、現実の事実を組み合わせて、確率的に予測する理論です。
ベイズ的アプローチは、問題解決のための観察・仮説形成・検証というアプローチと、概ね同じプロセス・思考法であるという切り口は、圧巻でした。
また、ベイズ統計が批判されている部分である、事前確率に主観性が入ることについても、大まかですが人間が思考して行動する以上は主観性は避けられず、またベイズ統計の、日々変化している世の中の事実に対応出来る柔軟性があれば、問題を最小限に抑えることができるという論には、なるほどと感じました。
いままで自分は、多変量解析など頻度論での統計解析を経験してきましたが、解析対象と実際の頻度理論が乖離しており、解析後に再解釈するという場面が多く、馴染みにくいというのが現実です。それ故、なかなか統計学が世の中に浸透しない一因かと思います。
一方、ベイズ統計の場合、自分の思考そのものをベイズ的に変えることができれば、解析対象そのものの思考がベイズ的思考で考えるので、合理的であると思います。
ぜひ自分の身の回りに適用していきたい考え方だなと、あらためて感じ入りました。
ちなみに、他の予測に関するエピソードとして、ポーカー勝負、地球温暖化、テロ防止のための国家インテリジェンスなど、多様です。
この様な予測に関する学習ができる本を探していた自分としては、大ラッキーでした。

地震予知、地球温暖化予測で用いられるデータの信憑性に関して、もやもやとしたものがあったが、本書を読んで見方が多少分かってきた。因果関係と相関関係、データ中に含まれるノイズ、そのデータを使う人の目的などを知り、安易に騙されないよう心掛けたい。特に自分に都合の良い意見を持っている人のよりどころとしている...続きを読むデータに関しては客観的に見直したり、反対意見の人の考えも排除しすぎないよう注意しよう。

前から読みたかったのだがなかなか手が出せずにいた。また大作なので読み終わるまで思いのほか時間がかかってしまった。
ビッグデータに関連してモヤモヤしていたことのすべてという訳にはいかないが、半分くらいはすっきりした気がする。
どう消化するかはまだまだ課題であるが。
ちょうど私的には目先の課題として第1...続きを読む2章　地球温暖化をめぐる「懐疑心」からいろいろと大きなヒントが得られそうである。

大リーグの弱小チーム オークランド・アスレティックスを低予算でも統計を駆使することで割安なプレイヤーを集めることでプレーオフの常連にした『マネーボール』で有名になった野球データを分析したセイバーメトリクスPECOTAを開発。大統領予選について統計的に予測をしてWebサイトに発表した結果がほぼ的中した...続きを読むことでも有名。

著者は一時期、オンラインポーカーゲームにもかなり熱中していたらしい。第10章に詳しいが、カモがいると勝てる理論は納得。自分の経験でも、フリー麻雀で点5の東南では余裕を持って勝っていたけど、点10の東風では勝てなかった。この結果は、おそらくはカモがいるかどうかに依存していたんだと思う。カモは時間を掛けて楽しむのが目的なので東南に行き、腕に覚えがあってスリルやお金を求めていくと東風になる。そうなると余程でない限り場代分は確実に沈んでいく感じだった。

そのほかにも、選挙結果予測、天気予測、巨大地震予測、経済の統計的予測、プロスポーツ選手の成績予測、パンデミック発生予測、コンピュータによるチェス、ポーカーゲーム、金融市場予測、地球温暖化、テロ発生、についても統計や確立論をベースに分析していく。ノイズを取り除いて、シグナルを取り出していく。それは実に難しくて、時に人の直観に反していることもある。ベイズ理論についてもしっかりと理解しておくことが必要だし、アウトオブサンプルの影響にも意識を持つことが必要である。情報が多くなればばるほど予測の精度が上がるべきだが、実際には情報の扱いが正しくないことで、そうでないことも多い。予測の自己充足の効果だって甘く見ない方がよい。著者の論は、非常に理知的。最初の方に出てくるが、テレビに出てくるような人の予測は当たっていないことの方が多い、なぜならそれらの人は立場を持って発言をするからだと。だよね。

長いけど、面白い。いろんな意味で著者の性格があらわれているんだと思う。統計学の本がたくさん出ているがその中でもおすすめできる部類の本だと思う。

何らかの形で予測を仕事にする人は読んだ方がいいと思いました。
予測がなぜ当たるのか、そしてなぜ当たらないのか、について、様々な分野での事例を引きながら深く考察した本。
よい予測者になるための心構えを学びました。

著者は「マネーボール」でも取り上げられた、野球データ分析会社で予測モデルを立ち上げ、2008年の米大統領選では50州のうち49州の結果を的中させたデータアナリスト。

本書では天気予報、地震予知、パンデミックの拡散など多くの社会的な取り組みをケースとして、如何に成功事例などの過剰適合がノイズになり得...続きを読むるか、あるいはどのような波形にこそ注目されるべきなのかに迫る。

データ処理ではなく、データサイエンスが備えているべき未来に触れられるといっても過言ではない一冊。

■予測

A.予測する際は、もっと確率と不確実性を受け入れねばならない。この点において役立つのが、条件付き確率を導き出す「ベイズの定理」だ。1 つのアイデアを違う角度から考える必要性を理解し、検証する方法を得る手がかりとなる。

B.ある心理学者によれば、専門家は「ハリネズミ」と「キツネ」の2 つの...続きを読むグループに分類できる。
・ハリネズミ：大きな考えを信じ、社会には基本原則があると信じている。大胆な予測をするのでよくメディアに登場するが、予測する能力はキツネより劣る。
・キツネ：これといった原則を持たず、問題に向けて様々なアプローチを試みる。より良い予測を行うが、メディアにはなじまない。彼らは多くの問題は予測困難だという信念を持つため、自信なさ気に見えるからである。

C.学者の中には、積極的に表に出たがる人がいる。彼らは自信たっぷりにドラマチックな変化が起こると言いたがる。そうすれば注目される。つまり、ハリネズミのように大胆な予測をすれば、テレビに出やすくなるのだ。

D.キツネはテレビやビジネス、政治の世界になじまない。多くの問題は予測困難であり、不確実性には率直に向き合うべきだとする彼らの信念は、自信のなさと受け取られてしまうからだ。

統計学の天才的な実務者が、諸分野の統計の使われ方についてリサーチをし、統計の限界や可能性、統計の注意点などをまとめあげた本。処世術的な統計的マインドの方法として、「ものごとの原因を決め打ちで推定せず、複数の可能性を考慮した上でそれぞれの要因の確率を考え、それをベイズの方法で新しい情報を得るとともに事...続きを読む前確率を修正していく方法が科学であり、より確かな予測だ」としている。彼は科学論において、斬新的な改善を信奉し、ベイズ統計こそがあるべき統計だとする。統計的な示唆のほか、教養本としても、天候、地震、選挙、テロ、株価、マクロ経済、ギャンブルなどの諸分野の実践研究や理論研究をまとめてくれており、とても読み応えがある。

「ベイズの定理を実践する一番の近道は、たくさん予想をすること」

ベイズの定理を実践しなくても、たくさん予想することはものすごく大事。
機会だけでなくパターンも多く。

予測情報とベイズ定理について。確かにメディアで大胆な予測をする人は言い切る分目立つが多面的な予測力に欠ける。

予測の難しさ、過去に基づく予測がいかに誤りであるかがよくわかる。個人的にはUSの民間天気予報サービスの降水確率の発表手法を取り上げた章はニュースの受け手を考えた工夫があり、興味深かった。

予測の難しさや注意点を記述した著。人間が陥りやすい予測の罠を豊富な事例と供に記載している。かなりボリュームが多いが読みごたえがある。

統計というシロモノは門外漢からすると、たいていいかがわしく見える。

それは、本質的には確率論でしか語りえない予測が、あたかもそれが絶対的なことように提示されるからだ。統計に100%がないことは、素人でも皮膚感覚で十分にわかる。

著名な統計家である著者ネイト・シルバーの会いに行く「優れた統計家」た...続きを読むちは、いずれも予測があくまで確率論であることを真摯に語り、フィードバックを用いしてモデルを修正し精度を高めることにこそ心血を注いでいる。

著者自身も自信を「ベイジアンである」と語り、人間を完全に合理的なホモ・エコノミクスとして想定するフィッシャー学派と対置させ、不確実性の存在を隠そうとせず、むしろ積極的に語っている。

「事前確立」をモデルに組み込むというベイズ統計学は、経済学における行動経済学の台頭と軌を一にしており、両者は同じ思想に根を張った兄弟分といえると感じた。

これからもテクノロジーは高度化していくだろうけれど、数字だけをブラックボックスの中でこねくり回して、それらしい理屈で大衆を扇動しようとする統計家は、もはや信用を得ることはできない。“正しい”インプットと、修正を恐れない真摯な態度。統計と向き合うににあたって失ってはならない金科玉条（皮肉ではなく）。

ビジネスにおける統計の活用においては、どうしてもハッタリの要素も交じってくる。競争原理のなかで、切り捨てなければならない正直さもあるだろう。正確性を欠いたとしても押し切らねばならない場面があるのであれば、やはり一番大切なのはクリエイティブ／アウトプットの突破力ではないか……？そんな気がしている。

予測についてのデータサイエンティストの本。政治の選挙予測、経済から野球、テロの発生確率、天気予報、地震予知、オンラインポーカー、人工知能によるチェスのプログラム等、扱う範囲が広く、事例が多いので面白い。

◼︎予測には向いている分野とそうではない分野がある（現時点では）
過去の観測から天気予報の精度...続きを読むは非常に向上しているといえるが、未だに天気予報士は予報が外れた時に怒りのメールを受け取る。
地震は発生の間隔が天気の変化より長く（予測のためのデータが圧倒的に少ない）、かつ観察対象は地中で見えづらく、複雑なため予測することは非常に難しい。確率論で「何百年に何回、どれくらいの確率論でどれくらいの規模の地震が起きる」と予想はできても、「●月●日××で地震が起きる」という予測はできない

◼︎世界はそんなに単純ではない
予測モデルを作るときに失敗しがちなのは、単一の現象など少ない指標で複雑な世界をシンプルにあわらそうとすることである。すべての事象が単純なモデルで説明できるわけではないという前提にまず立つ。

◼︎シグナルとノイズを見分ける
シグナルは、予測したい事象が発信する兆し、ノイズはシグナルをシグナルであると分からなくしてしまう雑音。
物事が起こった後に、シグナルをノイズから見分けるのはやさしいが、その前からシグナルをシグナルとして見ることは至難の技である

◼︎予測することが未来に良くも悪くも影響する
選挙戦など、候補者の支持率などが公表されることで、有権者の行動が変わることもある。カーナビシで、渋滞を抜ける最適な道路選択に従った途端、同様の指示を受けた車が集結して渋滞するなど。

『マネーボール』で有名になった野球データを分析し、選手の優秀さを予測するシステムを開発した著者。
2008年の大統領選の結果も予測したらしい。それがどれほどすごいことなのか実感はないが。

①ノイズとシグナルを見極め、より最適な判断ができるようになるためには？
②ベイズの定理について

①
知識とし...続きを読むてノイズのパターンを知り、見分けられるようにする

②
ベイズの定理で使うデータは、すべて事実に基づいた数字ではなく、推測や人の主観が入る。そこにこそ、優位性を見出している、のかな？
ベースボールのスカウトはいなくならないし、データや計算だけに頼るのではなく、人の経験や判断、直感などがコンピューターに勝ることは少なくない。
ただし、より適切な判断を常に行うことを人は苦手とするため、データを用いることも忘れてはならない。

映画「マネーボール」で一躍有名になってた著者による、よろす統計本。扱うテーマは、金融危機、政治、野球、天気、地震、インフルエンザ、ギャンブル、ポーカー、地球温暖化、テロ。統計データを読み取る人間のバイアスが判断を誤らせるという話には嘆息。著者自身がKPMGに勤務していた頃にオンラインポーカーに全ての...続きを読む余暇をつぎ込んでいた話も面白い。気温観測地点が都市部に偏在しているバイアスを排除したデータを使ってIPCCの調査結果を再検証したUCバークレーのチームが「温暖化は確認できる」と結論づけた話も面白かった。

同僚Mさんから拝借した。