超バイオ系

バイオウェット系がバイオバイオしていないブログ。 基本自分用のまとめ。

統計

【数理統計】Fisher情報量とクラメール・ラオ下限(CR下限)

Fisher情報量って何なのか理解したかっただけ。 Fisher情報量がわかれば、クラメール・ラオ下限(不偏推定量の分散の下限)がわかる。 備忘録として簡単にまとめておく。 前提として、不偏推定量についてだけ考えるものとする。 不偏推定量に関してはこちら …

【数理統計】ラオーブラックウェル化(Rao-Blackwellization)

理解したいのはこっちでした。 本質的には同じ問題だけど。 ラオーブラックウェル化(Rao-Blackwellization)は、条件付き期待値を利用して期待値を計算する方法です。 サンプルが独立なら、ブラックウェルーラオの定理より直接期待値を計算するより精度が良…

【数理統計】ブラックウェルーラオ(Blackwell-Rao)の定理

はい。 私がちゃんと理解したかった定理です。 復習したら見た瞬間理解したのですが、一応メモっておきます。 初学者向けの説明がなかなかネットに落ちていなかった(気がする)ので。 初めに行っておくと、この定理は 「十分統計量で条件づけた不偏推定量の…

【数理統計】最尤推定量とバイアス

尤度 尤度については hotoke-x.hatenablog.com を参照。 例によって離散か連続かはあまり気にせず書きます。 尤度関数とは、母集団分布からの独立標本が得られたとき、確率関数から同時確率関数を母数の関数と見た $$L_n (\theta | x_1, \ldots, x_n) = \pro…

【数理統計】尤度関数と十分統計量

勉強したことを自分なりにまとめたものです。 間違い等があれば指摘していただけると嬉しいです。 私は「せいきぶんぷ~?」、「のんぱらめとりっく~?」という状態から 応用を目指す数理統計学(国友 直人) で勉強しました。初学者が手を出すには敷居が高…

Julia tips #6: Multiple-Try Metropolisを実装してみた

Multiple-Try Metropolis (MTM)って? メトロポリス・ヘイスティングスの多数決バージョンです。 今いる場所から次の候補を複数生成し、その値周辺が今いる場所より尤もらしければ候補の中の1つへ移動します。 細かい話を書く元気がないので、理論的な背景は…

Julia tips #5: MCMC法(Metropolis-Haisting法)を実装してみた

JuliaにてMCMC法(Metropolis-Haistings法)を実装してみました。 コードの利用・改変・再配布は自由にして構いませんが、何か起きても責任は取りません。 一部いらない変数や無駄実装が混じってます。動作に問題はありません。バイオ実験系なので許して...…

わかった気になるクロスエントロピー

バイオ系だけど、クロスエントロピーの話。 難しい話は抜きにしてわかった気になりましょう。 クロスエントロピーといえばお馴染み、こちらの式。 吐き気がする人でも大丈夫なように書きます。 というか式の説明はここではしません。 何となく雰囲気を理解し…