滞在国と､どういうﾋﾞｻﾞで滞在しているかによると思います｡以下は米国の場合です｡

移民法自体に"work"の明文既定がないため弁護士によって意見が分かれるのですが､原則は労働許可無しではﾀﾞﾒということのようです｡尤も例外規程もあるのでｹｰｽﾊﾞｲｹｰｽとなり､正しいところは具体的な条件を出して移民弁護士に相談するしか無いでしょう(疑惑が生じれば最終的にはｹｰｽごとに裁判で決めることになると思います)｡

http://www.nationofimmigrators.com/employment-based-immigration/immigration-lawyers-arguing-can-i-work-from-home-for-a-foreign-employer/

ただし､上のﾘﾝｸにあるように年間$3000未満かつ滞在90日以下であればokとのことです｡

税金については､米国内に"substantial"に滞在した場合(過去3年間の滞在日数を使う計算式があるんですがここで書くのはちと面倒)にはたとえ米国外からの収入であっても申告･納税義務があります｡

銀行口座は､労働許可無しでも作れる銀行はあります｡

ﾀｲでは､15日間以内の就労の場合､緊急的な業務に限り､必要ありません｡
http://sabaijaicons.com/workpermit.html

15日間以内の就労の場合は､労働省宛に要緊急業務届出(Necessary and Urgent Work Acknowledgment)を出すことにより､労働許可証(Work Permit)の取得が免除されます｡この場合滞在ﾋﾞｻﾞの種類は問われません｡また就労期間の延長はできません｡

厳密の話はそうなっていますが､実際は届出せずに入国する人が多いようです｡
ほかに注意する点については､納税です｡
これは､ﾀｲの滞在日数合計が180日以上滞在する者すべては所得税を払うことになります｡(ただし､0?150,000ﾊﾞｰﾂは免除)
http://www.jetro.go.jp/world/asia/th/invest_04/
一番目のﾘﾝｸの労働許可証発給審査施行細則から見て原則として､日本での在宅ﾜｰｸは認められていないと思います｡