Sponsored
Python

【Box-Muller法】標準正規分布にしたがう乱数生成

ボックス=ミュラー法(Box-Muller's method)は、一様分布にしたがう確率変数から、標準正規分布にしたがう確率変数を生成する手法です。 コンピュータで標準で生成できる乱数から、正規分布にしたがう乱数(正規乱数)を作るために使用...
Python

指数分布の性質と、最尤推定・パラメータ変換・乱数生成まで

指数分布を定義し、平均や分散といった基本的な性質を示す。その後、最尤推定によりパラメータの値を求める、パラメータを変換してデータをスケーリングする、逆関数法により乱数を生成するという、指数関数の実用テクニックを網羅的に解説する。また、文末にはPython言語による計算例を示し、上記の実用テクニックを一通り体験できるようにした。
数学

「ロジスティック方程式」と「ロジスティックシグモイド関数」の関係についての考察

動機 ロジスティックシグモイド関数 $$p=\frac{1}{1+e^{-a}}\tag{1}$$ は、\(p\) を確率値として見た時の対数オッズ(ロジット関数) $$a=\ln{\frac{p}{1-p}}\tag{2}$$ の逆関数と...
数学

ロジスティック方程式の意味・導出・解き方

ロジスティック方程式とは? ロジスティック方程式は以下の式で与えられる常微分方程式である。 $$\frac{dN}{dt}=rN\left(1-\frac{N}{K}\right)\tag{1}$$ それぞれの文字の意味は \(N\) :生...
Matplotlib

ヒストグラムと確率分布の同時プロット―フィッティング精度の検証用に

多数のデータ点が得られたとき のようなフィッティングを行えば、それらのデータ点が従う分布を推定することができる。この場合、データのヒストグラムはその分布に類似した形状をとるはずであり、そのことを視覚的に確かめたい(または、その推定が正しいこ...
Python

逆関数法とは?その導出と乱数生成のための実装

この記事では、サンプリング法の1つである逆関数法を導出する。逆関数法では、乱数を生成したい累積分布関数の逆関数にもとづき、標準一様乱数を任意の乱数に変換する。PRML(パターン認識と機械学習)の「第11章サンプリング法 11.1.1 標準的な分布」の前半の解説としても有用である。
機械学習・AI

PRML(パターン認識と機械学習)演習問題【難問】解答集

C.M.ビショップ著、PRML(パターン認識と機械学習―ベイズ理論による統計的予測、)の演習問題において、【難問】に指定されている問題の解答集。解答を当サイトに投稿し次第、またはどこかで見つけ次第、リンクを増やしていく。
機械学習・AI

【PRML10章 演習10.39解答】EP法による事後分布の更新

PRML10章 演習10.39の解答・解説。EP法によって更新した事後分布の平均と分散を導出する。それに際し、パラメータの期待値を計算する。その後近似因子のパラメータを求め、モデルエビデンスが近似される値を導く。
機械学習・AI

PRML10章 演習10.39解答(その4:(10.223),(10.224)の導出)

問題、記号の意味、利用した式については を参照。 目標 モデルエビデンスが $$p(\mathcal{D})\simeq\left(\frac{\nu^{\mathrm {new}}}{b}\right)^{D/2}\left\exp{\l...
機械学習・AI

PRML10章 演習10.39解答(その3:(10.220)-(10.222)の導出)

問題、記号の意味、利用した式については を参照。 目標 改良された近似因子 \(\tilde{f}_{n}(\boldsymbol{\theta})\) のパラメータが $$\nu_{n}^{-1}=(\nu^{\mathrm{new}})...