ラプラスの悪魔
自然現象は「現在の位置と状態, そして現象の法則さえ分かれば未来も完璧に予測できる」と考えられていた。 だがしかし、未来を予測するのに必要な情報が足りないときに, 人間は何らかの信念に基づいて予測するしかない。
この主観的な信念を数値化したもの→主観確率
サイコロを振って5の目が出る確率→6分の1（どの目が出るかの条件は1〜6いずれも等しいだろうという信念が前提にある）
信念じゃないものに頼るなら、とりあえず振ってみる、何度も振ってみる。5の目が出た頻度を数え上げる。
過去の実績に基づいてるのが信念よりも確からしそうだし、誰の目から見ても変わらない実績なので信念よりもあてになりそう
→頻度流（頻度に基づいて確率を定義する）
頻度流統計では最もな尤度のみを用いる→最尤法
ベイズ流では事前分布＋尤度
ただしこの考え方だと試行回数、すなわちサンプルサイズにいろいろ依存することになる。
サンプルサイズをあまり意識しないでよい。
事前確率はひとまず2分の1とでもおく。試行をちょっとずつ観察しながら5の目の出るもっともらしさ（尤度）の情報を得ながら事後確率を計算（更新）していく
→ベイズ流（主観確率に基づいて確率を定義する）
最尤法ではモデルが複雑な場合や、サンプルサイズよりも説明変数が多い場合などに無理があり、対応できない（サンプルサイズよりも説明変数が多いと最小二乗法、最尤法の計算が原理的に不可能になる）。
モデルが複雑になるとデータの最小単位がわかりにくい、サンプルサイズをカウントしづらい、解釈が難しい
厳密な実験計画が前提になっており、ベイズ更新、カルマンフィルタ（センサーなどから得られる情報をもとに機械の状態を把握し, リアルタイムで機械の動きを修正していくという工学の方法論で, 代表例としては人工衛星の軌道制御に応用される）のような後から追加情報が入ってくることを頻度流は想定してない
→頻度流の限界
反対に、ベイズ流の弱み
モデルが複雑で再現性が低い
事前分布をどう設定するかが初学者には難しい
（MCMCのようにたくさん事後確率を発生させるなら事前分布の有意味性が薄れる場合には問題視されにくい）
[教材] 今更だが, ベイズ統計とは何なのか.
http://ill-identified.hatenablog.com/entry/2017/03/17/025625
頻度論 vs. ベイズ統計（後半）
https://healthpolicyhealthecon.com/2015/12/28/bayesian-2/
コインで理解するベータ分布
http://r-tips.hatenablog.com/entry/beta-distribution
ベータ分布の確率密度、下側累積確率、上側累積確率のグラフを表示します。
https://keisan.casio.jp/exec/system/1161228837
600世帯での過去平均視聴率15%→見た人90人、見なかった人510人
(90,510)
この情報は、事前分布(1,1)+(89,509)の事後分布だったと考えることもできる
事前分布(1,1)にそれぞれ足して(91,511)で計算する
ベータ分布Beta(a, b)は「(a-1)回成功、(b-1)回失敗という情報が与えられたときの、二項分布のパラメータpの事後分布」と説明することができます（ただしa,bが非負整数のときのみ）。
ベイズ統計学とベータ分布
http://www.creativ.xyz/beta-distribution-345
