涌井良幸のレビュー一覧
-
Posted by ブクログ
●これならわかる!ベイズ統計学
●ベイズの定理
・事象の独立
P(B|A)=P(B)の場合、Aの発生がBの発生確率に影響しない。この場合、以下の独立事象の乗法定理が成立する
独立事象の乗法定理:P(A∩B)=P(A)P(B)
・条件付き確率P(B|A)とは、Aが発生した場合にBである確率。同時確率P(B∩A)とは1サンプルを選択した場合にAかつBである確率
・ベイズの定理
P(A|B)=P(B|A)P(A)/P(B)
BのもとでAが起こる確率 = AのもとでBが起こる確率×Aの起こる確率/Bの起こる確率
●ベイズ更新の考え方
・データを取り込むたびに事後確率が変化することをベイズ更新と呼ぶ
・ベイズ流の計算では、データを得ることで経験や常識が更新(学習)されていく
●ベイズの展開公式の本質
ベイズの定理の解釈を変える。
Aを原因や仮定(Hypothesis)と、BをそのAのもとで得られた結果(データ)と解釈すると、
P(H|D)=P(D|H)P(H)/P(D)
となる。
・式中の3つの概念を以下のとおり定義する。
・尤度(ゆうど) P(D|H)原因HのもとでデータDが得られる確率
・事前確率 P(H) 分析前に原因Hが得られる確率
・事後確率 P(H|D) データDを考慮して得られた分析後の原因Hの確率
・ここで、事後確率が尤度と事前確率の積に比例する点が重要
・1回目の事後確率を2回目のデータ分析の際の新たな事前確率として利用する
・ベイズ理論の功績の一つは、事前確率の大切さを再認識させてくれたこと。
注意しなければ、尤度に目を奪われて、事前確率を忘れてしまいがちである。
●ベイズ理論計算の3ステップ
・ベイズ統計学において、事後分布は尤度と事前分布の積に比例する
・ベイズ統計学の基本公式
π(θ|D)=kf(D|θ)π(θ)
・ベイズ統計学では、確率分布を規定する定数(母数)を確率変数として扱う点に特徴がある
1.モデル化し、尤度を算出する
2.事前確率を設定する
3.ベイズの展開公式を用いて事後確率を算出する
●ベイズ統計の応用
・ベイズ理論による推定法のメリットは、事前確率という形で、現在目の前にあるデータだけでなく、その背景にあるデータも
スムーズに取り込んで、より正確な推定を行えること
・迷惑メールか通常メールかの判定を行う場合、各々の発生確率に基づいて、大きい確率を持つ方に分類すればよい
・ベイズ流の意思決定理論では、事後確率から算出した損失期待値から最適なものを選択する
・ベイジアンネットワークでは、マルコフ条件という重要な性質を仮定する
マルコフ条件:各ノードの確率変数が、そのノードの親ノードの条件付き確率のみで表されるという条件
●計算方法
・ベルヌーイ分布の公式
0の発生確率p, 1の発生確率1-pのベルヌーイ分布において、平均値μ=p, 分散σ^2=p(1-p)
・事前分布に特定の分布を指定すると、事後分布も同じパターンの確率分布となる(自然な共役分布)
・MCMC法は積分値を乱数により近似的に計算する方法であり、ベイズ統計において有名な確率分布を利用できない場合に有効 -
Posted by ブクログ
本書の「複素関数のグラフ」(42ページ)で、次のように解説している。
<複素関数w=f(z)では、変数z=x+yiは複素数なのでz平面(2次元)上の点で表される。また、その間数値w=f(z)= u + viも複素数なのでw平面(2次元)上の点で表される。ということは、w=f(z)のグラフを描こうとすると、2次元(z平面)から2次元(w平面)への対応だから4次元のグラフとなる。残念ながら、我々は4次元のグラフを描くことは出来ない。>
始めからこのように書いてくれると、入門者がつまずいて、頭の中がモヤモヤしなくて済むのである。
ここは大事な個所のようだから、他書も見ると村上雅人(著)『なるほど複素関数』(海鳴社、2002)に、次のように丁寧に解説している(53~54ページ)。おそらく、本書『高校生からわかる複素解析』は、この解説を参考にしていると思う。
<複素関数を実関数と同じようにf(z)のように表記すること自体に、すでに大きな落とし穴がある。なぜなら、複素関数は実関数のように自由にグラフに描くことができないからである。この事実を認識しないまま、実函数の延長で複素関数に対処しようとすると、自分がいったい何をしているかが分からなくなってしまう。(実は、複素関数論の入口で、すでに大きな勘違いをしてしまう。)>
<(例として、f(z)=z² という複素関数についてを考える。)ところが、この関数は簡単にグラフに描くことができない。こんな単純なものが、なぜグラフに描けないかというと、複素関数が4次元の世界となるからである。言い換えれば、複素関数を描くためには、軸が4つ必要になるのである。
実は、複素数をzと表記しているが、本来複素数はz=x+yiのように、実数部と虚数部の2変数からなる数である。よって、変数である複素数を表現するために、実数軸と虚軸の2つの軸(つまり平面)を必要とする。これを複素平面と呼ぶ。さらに、zを2乗して得られるf(z)=z² も複素数であるから、これを表示するためにも、実数軸と虚軸が必要になり、合計4個の軸が必要になる。残念ながら、4つの軸からなる4次元の世界を図示する能力は我々にはない。この事実を、まず認識する必要がある。>
さらに探すと、表 実(著)『キーポイント 複素関数』(岩波書店、1992)にも、同様な記述がある(24ページ)。
<ここ結果、複素関数を幾何学的に表現するには、zを表すx軸、y軸と、wを表す u 軸、v 軸の4つの軸からなる4次元空間が必要になる。しかし、4次元空間を紙の上に表現することは不可能である。このため、実関数をグラフで表したときと同じ方法で、複素関数を幾何学的に表現することは諦めなければならない。>
ここで参考にした本の中では、『キーポイント 複素関数』がオリジナルかもしれない。
お終い -
Posted by ブクログ
ニューラルネットワークについて基礎からしっかりと数式(行列は使用していない)で説明し、Excelでそれを実践している。高校2年程度の数学を理解していて、プログラミングには慣れていない人に向いている。
偏微分のチェーンルールや誤差逆伝播法などニューラルネットワークで数学が上手く使われていることがわかり、大変参考になった。
特に逆誤差伝播法での微分や漸化式のありがたい性質はほかの機械学習の手法でも有効なので学べてよかった。
ニューラルネットワーク内での具体的な計算はブラックボックスになっているからこそ、計算構造を理解することが重要である。
本書はその有効な手助けとなる。 -
Posted by ブクログ
ディープラーニングの具体的なしくみについて理解したい人におすすめ。
【概要】
●ディープラーニングの概要
●ニューロンモデル
●ニューラルネットワークのしくみ
●畳み込みニューラルネットワークのしくみ
【感想】
●理数系の大学を出ていない自分がニューラルネットワークのしくみを最もよく理解できた本であった。これほど納得できる本は今まで見つけられなかった。
●入力層、隠れ層、出力層の中をどのような流れで数値が扱われていくか、とてもよく理解できた。また畳み込みニューラルネットワークとの違いもよく理解できた。
●Excelを用いて実際にデータの流れを見ていけるよう説明されているが、必ずしもExcelを使わなければ理解できないものではない。 -
Posted by ブクログ
とてもわかりやすい。
ベイズの基本公式
P(H|D)=P(D|H)*P(H)/P(D)
H:原因、D:データ(結果)
P(H|D):事後確率、P(D|H):尤度、P(H):事前確率
事前確率の情報がない場合は等確率にする(理由不十分の原則)。
複数のデータがある場合は、1回目のデータで得られた事後確率を2回目の事前確率とする(ベイズ更新)。データの順番を変えても同じ(逐次合理性)。
原因が複数ある場合(原因に重複がない場合)
P(Hi|D)=P(D|Hi)*P(Hi)/ΣP(D|Hi)*P(Hi)
ナイーブベイズフィルター:文書中の単語はすべて独立と仮定してふるい分けする。
分類Hnの下でデータ(D1,D2...)が現れる確率は、それぞれのデータDiが現れる確率の積になる。
P(D|Hn)=ΠP(Dj|Hn)
現れたデータが分類Hnである確率の分子P(D|Hn)*P(Hn)が最大の分類を選択する。
P(D|Hn)*P(Hn)=(ΠP(Dj|Hn))*P(Hn)