「POLICE」と刺繍してある帽子やジャンパーを普段、着用すると問題になりますか？

法的には問題無いでしょう。

『「その他の標章」とは警察官等の帽章や、階級章、バッジなど官公職員であることを特定するために衣服等につけられるもので、法令の定めのあるものに限定されます。』

『また、ここでいう「制服」は「法令で定められた」ものということになっていますから、例えば警察官の有志グループが作ったジャケットなどは、ここでいう制服には含まれません。ただし文字で「警視庁」などと入っているものは別です。特定の機関・官公署の名前でなく、たとえば「ＰＯＬＩＣＥ」等というのは問題ないでしょう。もっともどこまでが「政令で定められた」ものなのかは、なかなか判かりにくいと思います。』

URLはダミーです。

アメリカでは「FBI」とか書いてある服を持ち込んだら逮捕されるそうです。

日本では逮捕されないと思います。

そういう人結構いると思いますよ。