前回 hotoke-x.hatenablog.com の続きで、今回はモデルフリー手法の話です。 モデルベース手法では と が定義可能である前提でした。 モデルフリーの問題では直接これらを定義できない為に、蓄えたデータ（経験）から推定する必要があります。 また、経験を…

仕事でDeep Learningを使う機会がちょいちょい出てきたので、tensorflowやPyTorchの練習も兼ねて強化学習を勉強中。 手法が色々あってよくわからなくなってきたので記事にまとめます。 全体を俯瞰することに努めます。 正確性よりわかりやすさを優先します。…

ガウス過程と機械学習の第5章、補助変数法でよくわからなくなってしまったので原著を読んだのでまとめます。スパース近似ガウス過程回帰を統一的視点で眺めるという内容になっています。 @matsueushiさんが既に綺麗にまとめてくれているのですが、数弱の自分…

時間が空きましたが、ガウス過程を理解するために多変量ガウス分布について学習してきました（以下を参照）。 hotoke-x.hatenablog.com hotoke-x.hatenablog.com ガウス過程と機械学習の第5章、補助変数法でよくわからなくなってしまったので原著を読みまし…

前回の記事で、多変量ガウス分布の正規化定数を導出しました。 hotoke-x.hatenablog.com 今回は 多変量ガウス分布の周辺化 条件付きガウス分布 を行います。 前回同様、数学の準備をしてから本題に入ります。 数学の準備 ブロック行列 行列式 逆行列 多変量…

よく忘れるので一旦ちゃんとEMアルゴリズム*1についてまとめておきます。 最尤法について振り返ってからEMアルゴリズムの説明に入っていきます。 あまり計算に自信はありませんので、間違いを見つけたら教えていただけると幸いです。 最尤法 EMアルゴリズム …

Fisher情報量って何なのか理解したかっただけ。 Fisher情報量がわかれば、クラメール・ラオ下限（不偏推定量の分散の下限）がわかる。 備忘録として簡単にまとめておく。 前提として、不偏推定量についてだけ考えるものとする。 不偏推定量に関してはこちら …

理解したいのはこっちでした。 本質的には同じ問題だけど。 ラオーブラックウェル化（Rao-Blackwellization）は、条件付き期待値を利用して期待値を計算する方法です。 サンプルが独立なら、ブラックウェルーラオの定理より直接期待値を計算するより精度が良…

はい。 私がちゃんと理解したかった定理です。 復習したら見た瞬間理解したのですが、一応メモっておきます。 初学者向けの説明がなかなかネットに落ちていなかった（気がする）ので。 初めに行っておくと、この定理は 「十分統計量で条件づけた不偏推定量の…

尤度 尤度については hotoke-x.hatenablog.com を参照。 例によって離散か連続かはあまり気にせず書きます。 尤度関数とは、母集団分布からの独立標本が得られたとき、確率関数から同時確率関数を母数の関数と見た $$L_n (\theta | x_1, \ldots, x_n) = \pro…

勉強したことを自分なりにまとめたものです。 間違い等があれば指摘していただけると嬉しいです。 私は「せいきぶんぷ～？」、「のんぱらめとりっく～？」という状態から 応用を目指す数理統計学（国友 直人） で勉強しました。初学者が手を出すには敷居が高…

Multiple-Try Metropolis (MTM)って？ メトロポリス・ヘイスティングスの多数決バージョンです。 今いる場所から次の候補を複数生成し、その値周辺が今いる場所より尤もらしければ候補の中の1つへ移動します。 細かい話を書く元気がないので、理論的な背景は…

JuliaにてMCMC法（Metropolis-Haistings法）を実装してみました。 コードの利用・改変・再配布は自由にして構いませんが、何か起きても責任は取りません。 一部いらない変数や無駄実装が混じってます。動作に問題はありません。バイオ実験系なので許して...…