ある意味、ベイズ統計学の主目的は「可能世界が必然的に経験し続けていく跳躍を巡る確率変数モデル改良手続きの厳密化」と定義可能かもしれません。
- 可能世界（possible worlds）…元来はゴットフリート・ヴィルヘルム・ライプニッツ（Gottfried Wilhelm Leibniz、1646年〜1716年）がみずからの最善世界観を説明するために用いた哲学・論理学上の概念。
我々が現実に生きているこの世界は、その枠内において成立している事態の多くが矛盾しておらず、その範囲内においてなら概ね矛盾なく考えることが「可能」である。もちろんそうした組み合わせは他にも無数に考えられるが（可能世界群）、神が唯一選んだのがこの現実世界である以上、この世界こそが最善であるとライプニッツは考えたかったのである。
大元はアラビア哲学における「全能の逆説（omnipotence paradox）」論まで遡る議論であり、今日の自然科学界における「ユークリッド幾何学に上位互換性がある非ユークリッド幾何学」や「ニュートン物理学に上位互換性がある量子力学」の登場を予告する内容だった。「神の叡智そのものが無謬だったとしても、その流出先たる人類の知恵の次元では解釈誤謬が鬱積し、遂には（一見）解決不可能な絶対矛盾まで権限する（ガザーリーの流出論）」とする考え方。
非ユークリッド幾何学（non-Euclidean geometry） - Wikipediaユークリッド幾何学の平行線公準が成り立たないとして成立する幾何学の総称。ユークリッド幾何学に従わない多種多様な公理系モデルに構成されるが、曲率を一つの目安としたときの両極端の場合として、至る所で負の曲率をもつ双曲幾何学と至る所で正の曲率を持つ楕円幾何学（殊に球面幾何学）が知られる。
ユークリッドの幾何学は、至る所曲率0の世界の幾何であることから、双曲・楕円に対して放物幾何学と呼ぶことがある。平易な言葉で表現するならば、「平面上の幾何学」であるユークリッド幾何学に対して、「曲面上の幾何学」が非ユークリッド幾何学である。
ニュートン力学（Newtonian mechanics） - Wikipedia
現代の物理学の視点では「巨視的なスケールで、かつ光速よりも十分遅い速さの運動を扱う際の、無矛盾・完結的な近似理論」と理解される。
相対性理論は、物体の速さが光速よりも十分遅い・重力が十分に小さい（地球レベル）の条件下ではニュートン力学で十分近似されるし、量子力学の結果は、対象物体の質量を大きくした極限では、ニュートン力学の運動方程式の解と一致する。例えば、人工衛星や惑星探査までを含む宇宙航行の運動の予測を行う際には、ニュートン力学を用いて十分な精度で計算できる場合が多い。
その一方で「現在人類が到達した状態こそが（神も望む）最高峰（細かい矛盾など虫可能な誤差範囲内）」なる保守主義的楽観主義的思考停止は欧州復古王政時代（1814年〜1818年）のヘーゲル（Georg Wilhelm Friedrich Hegel, 1770年〜1831年）が継承。これに対抗する形で「文明が発展するためには個性と多様性、そして天才が保障されなければならないが、他人に実害を与える場合には国家権力が諸個人の自由を妨げる権利が生じる」とするジョン・スチュアート・ミル「自由論（On Liberty、1859年）」の古典的自由主義、「我々が自由意思や個性と信じ込んでいるものは、実際には社会の同調圧力に型抜きされた既製品に過ぎない（本物の自由意思や個性が獲得したければ認識範囲内の全てに抗え）」とする「上部構造理論の提唱者」カール・マルクス「経済学批判（Kritik der Politischen Ökonomie、1859年）」の社会自由主義、「進化は系統的に展開する」とするチャールズ・ダーウィン「種の起源（On the Origin of Species、初版1859年）」が出揃って欧州近代思想が産声をあげたのである。
- 確率変数（random variable, aleatory variable, stochastic variable）…ある確率のセットが変数として存在し、しかも概ねそうした確率の合計が1となる様に正規化（normalization）された状態モデルを指す。例えばコインの出目は｛表,裏｝のいずれかで、それぞれの目が出る確率は1/2(P(X)=1/2(x=0,1))。６面体サイコロを投げて出る目は｛1, 2, 3, 4, 5, 6｝のいずれかで、それぞれの目が出る確率は1/6(P(X)=1/6(x=1,2,3,4,5,6))。3の目が出る確率は1/6(P(X=3)=1/6,P(3)=1/6)。
一般化するとP(X)=1/N(X=1,2,3…N)となり、ここから以下に述べるベルヌーイ過程（Bernoulli process）」(1-1/N)^N（各出目の出現確率が均等に1/NのN面体サイコロをN回降って特定の目が1回も出ない確率）も導出される。
ちなみにこのサイトは「経済学批判」について、カール＝マルクス自身の階級闘争論よりその出版を後援した「社会民主主義の父」フェルディナント・ラッサール（Ferdinand Johann Gottlieb Lassalle、1825年〜1864年）が「既得権の体系全2巻（Das System der erworbenen Rechte、1861年）」の中で提唱した「普遍精神（Allgemeine Geist）の法的勝利過程」を重視する立場。
【参考】フェルディナント・ラッサール「既得権の体系全2巻（Das System der erworbenen Rechte、1861年）」の内容…そもそもそも貨幣経済浸透以前の「支配」は「領主が領土と領民を全人格的に代表する農本主義的権威体制」として実現されていた。ラッサールはこの著作の中でその状態からの脱却過程を以下の様に説明する。
初め権力者はこの世の全てが部が自分の物だと思い込んでいたが、次第に漸進的にその限界を受容してきた。
- 神仏崇拝の自由化は、神仏の私有財産状態からの解放に他ならない。
＊かつて都市国家の神殿宗教は祭政一致体制を敷いて土地と農業ノウハウを独占し、人類そのものを「神に奉仕する目的のみで創造された奴隷」と規定し領民を完全隷属下に置いていたが、この状態では神殿が破壊されると人間集団そもものも霧散してしまう。この欠陥を補う為に啓典宗教が発案され（神殿の付属物に過ぎない）神官に代わって（究極的には民の一員たる）啓典を奉じた教導者の時代が訪れる。
- 農奴制が隷農制、隷農制が農業労働者へと変遷していく過程は農民の私有財産状態からの解放に他ならない。
＊「領主による領土と領民の全人格的支配」からの脱却過程。地主は土地使用料を受け取るだけの存在に、雇主は賃金を支払う対価として労働者から労働力の供給を受けるだけの存在に変貌していく。
ギルドの廃止や自由競争の導入も、独占権が私有財産の一種と見做されなくなった結果に他ならない。
＊かつて特権商人や特権組合は「領土と領民を全人格的に支配する領主」の認可を受ける形で特定商品の生産権や取扱権、特定商人と特定集団の取引権、特定領域における通商権を独占し、私有財産の様に継承してきた。これが最終的に全て自由競争に置き換えられていく。そして現在世界は資本家と労働者の富の収益の再分配はどうあるべきかという問題に直面している。
＊この問題には今なお答えが見つかっていない。王侯貴族や教会からの特権剥奪によって、生産を支える労働者がそのまま市場を支える消費者と目される様になった。それでは、このシステムを支えるには「資本家と労働者の富の収益の再分配」はどうあるべきなのか？ 共産主義が最終的に到達したのは「全てを統制下に置いて完全管理すれば誰もが幸福になれる」というもの。しかし実際には自由主義圏より先に暴走し、あっけなくシステムとして崩壊してしまったのである。
①ところで「大数の弱法則 (WLLN: Weak Law of Large Numbers) 」の提唱者たるヤコブ・ベルヌーイ（Jakob Bernoulli、1654年〜1705年）とその弟子レオンハルト・オイラー（Leonhard Euler, 1707年〜1783年）は、まさにこの法則を証明する「ベルヌーイ過程（Bernoulli process）」を通じてネイピア数1/e=0.3678794の概念に到達した。形式的には「各出目の出現確率が均等に1/6の六面体サイコロを6回降って特定の目が1回も出ない確率」なる概念を数式的に抽象化した(1-1/N)^Nの式の究極解となる。
- 大数の弱法則 (WLLN: Weak Law of Large Numbers) …独立同分布/独立同一分布に従う可積分な確率変数の無限列X1, X2,…Xnとその平均μが与えられた時、標本平均（Sample mean）（X1, X2,…Xn）/n（ただしn>=1） のとる値が平均μの近傍から外れる確率は、十分大きなnを取れば、いくらでも小さくできるとする考え方。
- 独立同分布/独立同一分布（independent and identically distributed; IID, i.i.d., iid）…確率論と統計学において、確率変数の列やその他の系が、それぞれの確率変数が他の確率変数と同じ確率分布を持ち、かつ、それぞれ互いに独立している場合をいう。例えば６面体サイコロで各出目の確率は毎回1/6であり、その前後の出目の影響を受けない（メモリレス性）。「独立同分布/独立同一分布」なる確率分布自体が存在する訳ではない点に注意。
-
ベルヌーイ試行（Bernoulli trial）…「AかBのどちらかしか起こらない」、「yesかnoのどちらかしかない」、「表と裏のどちらかしか起こらない」といった事象（これをベルヌーイ型事象と呼ぶ）を起こさせることをさす。各試行の独立性には、メモリレス性という属性も含まれる。すなわち、過去の試行の結果は将来の結果について何の情報ももたらさない。任意の時点からの将来の試行は、過去に対してもベルヌーイ試行独立である（これをフレッシュスタート属性と呼ぶ）。確率変数として「最初の n 回の試行における成功回数は、二項分布となる」「r 回の成功を得るのに必要な試行回数は、負の二項分布となる」「1回の成功を得るのに必要な試行回数は、幾何分布であり、これは負の二項分布の特殊ケースとなる」といった特徴を有する。有限個のベルヌーイ試行の標本だけを元に、そのベルヌーイ過程の性質を特定する問題を "checking if a coin is fair"（コインの公平性問題）と呼ぶ。
-
ベルヌーイ過程（Bernoulli process）…２つの値を取る独立な確率変数列からなる離散時間の確率過程である。いわばコイントスであり、そのコインは必ずしも公平なものとは限らない。このような確率過程における確率変数をベルヌーイ変数（Bernoulli variable）と呼ぶ。離散時間の確率過程であり、有限または無限の独立な確率変数列X1, X2, X3,…Xiで構成され、この確率変数列について「それぞれの i について、Xi の値は 0 か 1 である」「i の全ての値について、Xi = 1 となる確率 p は常に同じ」が成立する。換言すれば、ベルヌーイ過程は独立していて確率分布が同じなベルヌーイ試行の列である。個々の Xi のとりうる2つの値を「成功; success」と「失敗; failure」と呼ぶこともある。0 か 1 で表されたとき、その値は i 番目の「試行（trial）」についての成功回数を表しているともいえる。個々の成功/失敗の変数Xi もベルヌーイ試行と呼ばれる。
-
可積分（integrable）…ニュートンが17世紀にケプラー問題を解いて微分積分学や古典力学が発祥して以降追求されてきた「求積法で完全に解ける」範囲。
②さらにベルヌーイとオイラーは「一年で元金が倍になる夢の金融商品において、複利計算でさらに利益を上げられる上限」なる概念を数式的に抽象化した(1+1/N)^Nの式の究極解としてネイピア数e=2.718282そのものにも到達。
③両者が逆数関係にあった事から既存の対数関数論を敷衍する形で自然指数関数（Natural exponential function）y=e^xと自然対数関数（Natural logarithm function）x=e^yあるいはy=log(x)を発案する。
④ところで等速円運動をそれぞれX軸とY軸より観測すると２つの単振動（位相が90度ズレたCos波とSin波）が得られ、それを再構成する形で円が描ける。
⑤同様に（奇関数と偶関数が無限に連続する）自然指数・対数関数と（偶関数を実数に、奇関数を虚数に割り当てる）虚数指数（Imaginary exponent）と（実数をX軸に割り振り、虚数をY軸に割り振る）複素平面（独Komplexe Zahlenebene, 英complex plane）を組み合わせても単位円（半径１の円周）が現れる。有名なオイラーの公式e^θi=cos(θ)+sin(θi)とはこれ。
⑥ところでe^θi=cos(θ)+sin(θi)が成立する以上、上掲の（大数の弱法則のエビデンスとしての）ベルヌーイ試行もe^θi=(1±θi/N)^Nの形に拡張される。これはつまり「あらゆる運動は、究極的には理論上単位円の円周上を無限に旋回し続ける１次元運動に還元され得るが、どれほど観測制度が引き上げられ様と完全に理論値と一致する事はない」状況を意味している。
- こうした測定精度の急激な上がり方は、もしかしたら人類の地理感覚が「周囲を巨大海棲生物が徘徊する滝に囲まれた円盤」から「隙間なく測量が終わった地球儀」にアップグレードされていく過程に対応しているのかもしれない。
- 数学史上は英国牧師トーマス・ベイズ（Thomas Bayes、1701年〜1761年）が最初にこうした「サイコロの出目のそれまでの集計結果が理論値に近づいていく過程」そのものに注目したとされている。彼の死後、リチャード・プライスが発表（Bayes & Price 1763)したのが画期と目されている。いわゆる「ベイズの定理（Bayes' theorem）」。この時代らしく（当時大陸で流行していた）機械的宇宙論に対抗する神学的反論という意味合いも込められていたが、その内容自体は現代数学で言うところの「（可能世界の改変を伴う）条件付き確率（conditional probability）」論の範囲を一歩も出ない。
- こう考え合わせて行くと、上掲の拡張ベルヌーイ過程e^θi=(1±θi/N)^Nが暗示する世界観を熟知した（だから直交座標系と極座標系を往復するラプラス変換の基礎が固められた）ピエール＝シモン・ラプラス（Pierre-Simon Laplace, 1749年〜1827年）が「ラプラスの悪魔（Laplace's demon）」概念の提唱者にして「（確率変数の出力が永延に期待値に到達しない）ベイズ推定理論」の実質的完成者となったのは決っして偶然ではなさそうなのである。
＊ただしやがてラプラス自身の関心がこの方面から離れたせいで、この方面についての思索の記録は思ったほどちゃんとした形で残ってない。
皇帝ナポレオンから「君の著作には神への言及がない」と指摘され「（全てから独立した公理体系の樹立を目指す数学や物理学には）不要の概念だからです」と応えたこの世渡りの達人は、ある意味ドイツの観念哲学者イマヌエル・カント（Immanuel Kant、1724年〜1804年）よろしく「（人間の認識能力の集大成たる）物（独Ding、英Thing)の世界」と「（その外側に「原則として」人類に不可知な形で拡がる）物自体(独Ding an sich、英thing-in-itself)の世界」を峻別する道を選んだのである。
ラプラスの悪魔（Laplace's demon） - Wikipedia
主に近世・近代の物理学分野で、因果律に基づいて未来の決定性を論じる時に仮想された超越的存在の概念。「ある時点において作用している全ての力学的・物理的な状態を完全に把握・解析する能力を持つがゆえに、宇宙の全運動（未来を含む）までも確定的に知りえる」超人間的知性のこと。フランスの数学者、ピエール＝シモン・ラプラスによって提唱された。ラプラスの魔物あるいはラプラスの魔とも呼ばれる。
学問の発達により、近世・近代には様々な自然現象がニュートン力学（古典物理学）で説明できるようになった。現象のメカニズムが知られると同時に、「原因によって結果は一義的に導かれる」という因果律や、「全ての出来事はそれ以前の出来事のみによって決定される」といった決定論の考えを抱く研究者も現れるようになった。その一人が、18世紀の数学者で天文物理学者でもあったピエール＝シモン・ラプラスである。彼の持つ世界観は、あらゆる事象が原因と結果の因果律で結ばれるなら、現時点の出来事（原因）に基づいて未来（結果）もまた確定的に決定されるという「因果的決定論」とでも言うべきものである。
ラプラス自身は自著「確率の解析的理論（1812年）」においてこう述べている。「もしもある瞬間における全ての物質の力学的状態と力を知ることができ、かつもしもそれらのデータを解析できるだけの能力の知性が存在するとすれば、この知性にとっては、不確実なことは何もなくなり、その目には未来も（過去同様に）全て見えているであろう」。つまり、世界に存在する全物質の位置と運動量を知ることができるような知性が存在すると仮定すれば、その存在は、古典物理学を用いれば、これらの原子の時間発展を計算することができるだろうから、その先の世界がどのようになるかを完全に知ることができるだろう、と考えたのである。
この架空の超越的な存在の概念を、ラプラス自身はただ「知性」と呼んでいたのだが、後にそれをエミール・デュ・ボワ＝レーモンが「ラプラスの霊（Laplacescher Geist）」と呼び、その後広く伝わっていく内に「ラプラスの悪魔（Laplacescher Dämon）」という名前が定着することとなった。
この概念・パラダイムは「（未来は現在の状態によって既に決まっているだろうと想定する）決定論」の概念を論じる時に、ある種のセンセーショナルなイメージとして頻繁に引き合いに出されてきたが、20世紀初頭より勃興した量子力学によって、原子の位置と運動量の両方を同時に知ることは原理的に不可能である事が明らかになると（不確定性原理）。完全に否定されるに至る。
神学的背景
「全てを知っており、未来も予見している知性」については、遙か昔から人類は意識しており、通常それは「神」と呼ばれている。「全知の神」と形容されることもある。そのような存在についての様々な考察は、様々な文化において考察された歴史があるが、ヨーロッパの学問の伝統においては特に、キリスト教神学やスコラ学が行っていた。デュ・ボワ＝レーモンはそのような学問の伝統を意識しつつ、あえて「神」という語を、「霊」という言葉に置き換えて表現している。
随分とややこしくなってきたので、全体像を再編を試みます。
- ラプラスの提言「もしもある瞬間における全ての物質の力学的状態と力を知ることができ、かつもしもそれらのデータを解析できるだけの能力の知性が存在するとすれば、この知性にとっては、不確実なことは何もなくなり、その目には未来も（過去同様に）全て見えているであろう」については、そもそも近世以前にユダヤ教徒・キリスト教徒・イスラム教徒といった「啓典の民」が共有していた唯物神のイメージについて語っていると考えるべき。中世までそれに反する事は異端として断罪される事を意味したのである。
- これに対しアラビア哲学者イブン・ルシュド（abū al-walīd muḥammad ibn ʾaḥmad ibn rušd, 1126年〜1198年）ことアヴェロエス (羅Averroes)は「全能の逆説（omnipotence paradox）」がまず（ユークリッド幾何学に対する非ユークリッド幾何学の様な）拡張数理モデルの存在可能性を示唆し、ピエール＝シモン・ラプラス（Pierre-Simon Laplace, 1749年〜1827年）やイマヌエル・カント（Immanuel Kant、1724年〜1804年）は「（人間の認識能力の集大成たる）物（独Ding、英Thing)の世界」と「（その外側に「原則として」人類に不可知な形で拡がる）物自体(独Ding an sich、英thing-in-itself)の世界」を峻別する事でこのジレンマから逃がれ様とした。
- ところが皮肉にも近代、特に（国家間の競争が全てとなった）総力戦体制時代（1910年代後半〜1970年代）においては「この世界におけるあらゆる事象の出現頻度はあらかじめ定まっており、人類が計測可能である」とする頻度主義統計学が優勢となる。
#統計 ベイズ統計の理解において「数学的モデルは現実に対応していなければいけない」という固定観念を破棄できない人達が、ベイズ統計で使われる非現実的な数学的モデル内での確率に対応する現実の対象を見つけようとして、「主観確率」「信念」のような苦しいことを言い出すようになったのだと思う。
— 黒木玄 Gen Kuroki (@genkuroki) August 10, 2019 - （自然指数・対数関数や複素数から出発し「計測結果が理論値に到達する事は無い」なる結果に至った）ベイズ統計の反撃が始まるのはコンピューター普及が進んでCT（Comuputed Tomography）スキャン分野を皮切りとするMCMC法（Markov Chain Monte Carlo method＝マルコフ連鎖モンテカルロ法）実用化や、E-Mail普及を背景とするスパム・フィルター実装が相次いだ20世紀末まで待たねばならなかった。しかし以降は第三世代人口知能ブームの波にも順調に乗り（元来そうあるべきだった）頻度主義統計学と対等の位置を取り戻す。
#統計 「確率分布自体が確率変数である」という見方は数学にある程度以上慣れていないと難しいかも。サンプルをX_1,…,X_nと書き、パラメータ変数をwと書くと、事後分布はφ(w|X_1,…,X_n)の形をしていて、サンプルX_1,…,X_nが確率的に変化すると、パラメータwの確率分布φ(w|X_1,…,X_n)も変化する。
— 黒木玄 Gen Kuroki (@genkuroki) August 10, 2019
実はそもそも、こうした投稿シリーズを始めた最初の動機自体、三原和人の漫画「はじめアルゴリズム（2017年〜）」の後書きにサラッと「統計学の世界において頻度主義とベイズ主義（条件付き確率）は表裏一体の関係にあります」 と記述されていた事にあったのです。確かに結論こそ合ってますが、そこに至るまでの血で血を洗うドラマティックな闘争史を、そうあっけなく省かれては自分の立場が…
