自然科学部分積分の導出
概要 部分積分の公式が永遠に覚えられないので、合成関数の微分公式から導出してしまおうという話です。 公式 部分積分 $$\int f(x)g(x)dx=F(x)g(x)-\int F(x)g'(x)dx$$ ただし、 \(f(x)=F'(x...
mathematics
自然科学
自然科学Properな複素確率変数の意味
概要 この記事では、複素確率変数における"Proper"とは何かについて、その定義と性質を見ていく。 なお、複素確率変数については以下を参照のこと。 Properとは 定義 複素確率変数 \(Z\) が以下の条件をすべ...
自然科学確率変数の線形変換
公式 確率変数 \(X\) は確率密度関数 \(f(x)\) にしたがうとする。 線形変換 $$Y=aX+b$$ （ただし、 \(b\neq0\) ）を行ったとき、 \(Y\) の確率密度関数 \(g(y)\) は $$g(y)=\frac...
自然科学複素確率変数の性質
概要 複素確率変数はその名の通り、複素数の形態をとる確率変数のことである。 複素数が \(z=a+ib\) の形で表されることを考慮すれば、複素確率変数は実数の確率変数の組 \((a, b)\) として考えることができ、多次元確率変数の知見...
自然科学有界な分布（一様分布）を用いたEMアルゴリズム
導入 以前 にて、 EMアルゴリズムを適用するに際し、一様分布のような明確な境界を持つ分布を使用すると、少し特殊な配慮が必要になる と述べた。 本記事では、実践を通して、こうした有界な分布を用いたEMアルゴリズムがどのように失敗するか...
自然科学一般のEMアルゴリズムの理論と実践
概要 EMアルゴリズムを混合正規分布に適用した際の計算方法については、例えば以下の記事で紹介されている。 しかし、一般の場合（正規分布以外の混合分布）についてのEMアルゴリズムの実践例は、あまり紹介されていない。この記事では、混合正規分布...
自然科学一様分布の最尤推定
公式 一様分布 \(U(x|a,b)\) のパラメータについて、データ \(X=\{x_1,x_2,\ldots,x_N\}\) を用いて最尤推定を行ったとき $$a=\min(X), b=\max(X)$$ となる。ここで、 \(\min...
プログラミング仮想データセット配布【逆問題・不良設定問題】
概要 不良設定問題に対する機械学習を行うための、仮想データセットを作成した。 このデータセットでは、dataに３種類の（仮想の）血液検査値が与えられており、この値から、targetとして与えられた、体内に存在する８種類の（仮想の）細菌の比...
プログラミング尤度と誤差の関係―ガウス誤差モデル下のAIC, BIC
概要 WikipediaのBIC（ベイズ情報量基準）のページを読んでいると、BICは $$\mathrm{BIC}=-2\cdot\ln(L)+k\ln(n)\tag{1}$$ と定義されるが、ガウス誤差の下では $$\mathrm{BIC...
プログラミング01-Kendall 順位相関係数の効率的な計算法
概要 この記事では、 01-Kendall 順位相関係数 2 値 Kendall 順位相関係数 Binary Kendall 順位相関係数 などと呼ばれそうな、Kendall 順位相関係数 の特殊な場合の計算法についてまとめる。ようす...