確率・統計デルタ法の導出と、漸近分散近似への応用
概要 デルタ法は、分布収束する先が決まっている確率変数の列に対し変換を施したとき、収束先がどのように変化するかを近似的に表現する手法である。 また、正規分布する確率変数の変換により得られた新たな確率変数の漸近分散を、変換前の変数の分散を用い...
確率・統計
確率・統計
確率・統計確率変数の列の収束とスラツキーの定理
概要 この記事では、確率変数の列の収束の概念を、確率収束と分布収束の２様式から説明する。 また、それらがみたす関係について紹介し、そこから派生したスラツキーの定理についても取り扱う。 最後に、それぞれの公式・定理についての証明を付した。 表...
確率・統計一般の順序統計量の確率分布
概要 この記事では順序統計量を定義し、その値がしたがう分布を導出する。 順序統計量の定義 同一の確率密度関数 \(f(x)\) から独立に得られた確率変数の組 \(X_1,X_2,\cdots,X_n\) を考える。 これらを小さいもの順に...
確率・統計超幾何分布に基づく集合の類似度指標
概要 ２集合の類似度を測る指標として、Jaccard係数などの手法が知られている。 しかし、２集合の要素となりうる全要素の数と２集合の要素数が所与の場合には、これらの値に依存して、２集合が共通要素を持つ確率が大きく変動する。 この変動を補正...
確率・統計超幾何分布の効率的数値計算法
概要 超幾何分布の確率質量関数は $$P(x|N,K,n)=\frac{\binom{K}{x}\binom{N-K}{n-x}}{\binom{N}{n}}$$ であり、これをすべての \(x\) について計算することによって累積分布関数...
確率・統計超幾何分布の性質と近似―二項分布とポワソン分布との関係
概要 この記事では、超幾何分布の性質について簡単に説明した後、特定の条件下で、超幾何分布が二項分布、そしてポワソン分布に近似されることを示す。 超幾何分布 全 \(N\) 個のうち、 \(K\) 個が「成功」（赤玉・白玉などで考えて良い）で...
確率・統計ポワソン分布の意味―二項分布からの導出
概要 ポワソン分布は「所与の時間内での事象の生起回数の確率分布」として広く使われる分布である。 この記事の目的は、ポワソン分布を二項分布から導出することによって、この分布の意味するところを実感することである。 二項分布 確率 \(p\) で...
確率・統計確率変数の線形変換
確率変数の線形変換の公式 確率変数 \(X\) は確率密度関数 \(f(x)\) にしたがうとします。 確率変数の線形変換 $$Y=aX+b$$ （ただし、 \(a\neq0\) ）を行ったとき、 \(Y\) の確率密度関数 \(g(y)\...
確率・統計複素確率変数の性質
概要 複素確率変数はその名の通り、複素数の形態をとる確率変数のことである。 複素数が \(z=a+ib\) の形で表されることを考慮すれば、複素確率変数は実数の確率変数の組 \((a, b)\) として考えることができ、多次元確率変数の知見...
機械学習・AI有界な分布を用いたEMアルゴリズムが、なぜ失敗するのか？【一様分布】
EMアルゴリズムは任意の確率分布からなる混合分布に対して適用可能だが、有界な分布を用いた場合には失敗しやすい。この記事では、一様分布を例にその理由を示したあと、Eステップ/Mステップの前にサンプリングを実施することで失敗を回避する方法について解説する。