推定の基準

性質意味
不偏性(unbiasedness)偏っていないこと。その推定量が平均的に過大にも過小にも母数を推定しておらず、推定量の期待値が母数に等しいこと
一致性(Consistency)データが増えれば推測が真値に近づいてくこと。サンプルサイズが無限大になった時に、推定量が母数に一致すること
有効性(Efficiency)推測の誤差がほとんど出ないこと。ある母数の推定量との比較において、その推定量の分散がもっとも小さいこと
頑健性(Robustness)影響を受けにくいこと(外れ値が出にくいとか、非対称だとかがない)
  • 例:
    • 一致性がある ⇒ Nが十分に大きい場合は、標本分散の期待値は母分散に一致する
    • 不偏性がない ⇒ Nが十分に大きくない場合は、標本分散の期待値は母分散に一致しない
  • ちなみに、標本分散は一致性はあるが、不偏性がない
  • そこで、Nが十分大きくない場合は、不偏性のある推定量(不偏分散など)を使う

推定量の種類

推定量意味
不偏推定量 (Unbiased Estimate)偏りがない推定量のこと
一致推定量(Consistent Estimate)正しくなっていく推定量のこと(サンプル数を増やすと母数に近づく、大数の法則から得られたもの)
有効推定量(Efficiency Estimate)誤差が少ない推定量のこと

確率分布のグラフでいうと、

  • 不偏性がない: 推定した山の位置がずれている
  • 一致性がない: 推定した山の中心がずれている
  • 有効性がない: 推定した山に変なばらつきがある

Accuracy vs. Precision vs. Bias

Accuracy vs. Precision

Precision vs. Bias

REFERENCES:

  • https://ja.wikipedia.org/wiki/%E7%8B%AC%E7%AB%8B%E5%90%8C%E5%88%86%E5%B8%83
  • https://www.practmath.com/estimate/
  • https://eigopedia.com/%E3%80%8C%E2%97%AF%E2%97%AF%E3%80%8D%E3%81%A8%E3%80%8C%E2%97%AF%E2%97%AF%E3%80%8D%E3%81%AE%E9%81%95%E3%81%84%E3%81%AF/%E3%80%8Caccuracy%E3%80%8D%E3%81%A8%E3%80%8Cprecision%E3%80%8D%E3%81%AB%E9%81%95%E3%81%84%E3%81%AF%E3%81%82%E3%82%8A%E3%81%BE%E3%81%99%E3%81%8B%EF%BC%9F