トランザクション制御を行う際に、利用するAPIとしてJTAやJDBCが挙げられると思いますが、JTAが利用できない場合というのはどのようなときであるかご教示願えないでしょうか。

すぐに思い浮かぶのは、アプリケーション・コンポーネントがJTAに対応していない、つまり、トランザクションを javax.Transaction.UserTransaction で書き換えることが難しいケースです。

そもそも commit していないコンポーネントは論外なのですが（MySQL接続では時々見かける）、サードパーティ・モジュール側でトランザクション制御しているようなケースに遭遇したことがあります。TomcatにはJTAが実装されていないためにサードパーティ製のトランザクション管理モジュールを導入していたケースで、この場合に JTA が適用できるかどうかは、case by case になってしまいます。

JBossに移行できればいいんですが、わざわざ移行するメリットがあるかと言われると、説得は難しいですね（苦笑）。

APサーバーがJTAに対応してないときは、JTAは使えません。

http://www.stackasterisk.jp/tech/java/jta01_01.jsp