非居住者が居住者用の銀行口座・クレジットカードを使っていることが、税務署にばれたら？？

現在海外２年滞在中（さらに２年以上滞在予定）の非居住者（日本に住民票なし）です。
日本の銀行口座・クレジットカードなどは住所を実家にしてそのままインターネットを通じて使っています。これは、実は違法だと思うのですが、もし税務署にばれたら、どういう罰則があるのでしょうか？？？

最近肉親がなくなり、相続者となったのですが、万が一相続の際の「税務調査」の対象になってしまったら、私の銀行口座も調査されてしまい、口座・クレジットカードの件が税務署にばれてしまうと恐れています。。。

私の滞在先は途上国（クレジットカード発行されない、トラベラーズチェックなど使えない）で、向こうでの給料も現地人なみしかもらえていないため、日本のクレジットカードや口座がないと、正直暮らしていかれないのですが・・・。