分類器の出力結果に、何らかの理由、説明を意図するような出力が出来る
現在、実装可能なソースコード（OSS）があればそれを教えてください。
ただし、画像認識に限ります。
No.1
253
57
説明可能AIの実現方法：LIME、SHAP
https://technomado.jp/column/ai/8296/
にあるように、LIME、SHAPという手法が有名なようです。
画像のどの部分に注目して学習したかが、マスキングされて示されるという説明方法ですね。
パッケージもGitHub上で公開されています。
No.2
37798
shapが便利ですよ
https://data-analysis-stats.jp/機械学習/機械学習モデルを解釈するshap/
それは、ももんがラスさんが既に答えています。
1
1
1
1
1
519
265
他にも教えてください。
LIMEのコードは古いので、新しい手法を教えてください。