Mojave で試してみました
「Windows風のキー操作」のチェックを外す → xnの入力で「ん」にならない
「Windows風のキー操作」のチェックを入れる → xnの入力で「ん」になる
という結果になりました
解決方法ではないですが
例えば新規にユーザを作成して、それでログインして問題が再現するかしないか確認すると
原因が絞り込めるかもと思いました
nnって入力すればよくないですか?
ライブ変換をOFFにすることで入力することができました。
ライブ変換ON時にも使えるようにしたいです。