共分散行列を使ったベイズ分類器を作成しています。
しかし、実際のデータを当てはめてみると、
この共分散行列が Sparse すぎて、すぐに Singular になってしまいます。
これでは逆行列を求めることができません。
実際にこういうことはよくあると思うのですが、普通はどうするのでしょうか？
ナイーブベイズにおける smoothing のような手法があると思うのですが、
どのような手法があるのでしょうか？教えてください。
1
2
1
3
1
2
1
1
226
199
コメント（3件)
こんなものは参考になりませんでしょうか…。
http://nlp.stanford.edu/courses/cs224n/2001/cpinon/writeup.pdf
ならなかったらゴメンナサイ…。
コメントありがとうございます。
教えていただいた資料はナイーブベイズの smoothing の話のようで、私の問題とは似ていますが違うものです。
私が作っているのは正規分布を仮定したパラメトリックベイズです。
http://en.wikipedia.org/wiki/Estimation_of_covariance_matrices#Shrinkage_estimation
というのを見つけた。