RH系のup2dateについて質問です。

不可能です。

独自であろうがなかろうが、ソースにパッチを当てたり、コンパイルオプションを変更してしまっては、up2date はサポートできません。

up2date とは、誰か（主にRedhat）が用意したバイナリの rpm ファイルをゲットしたり開いたりするだけです。

出展を出せと言われても困りますが、強いて挙げるなら

http://www.d77.jp/modules/pukiwiki/index.php?Linux%B9%BD%C3%DB%A...

で up2date は「中身はrpmをダウンロードしてきて展開しているだけのようなものです。」と書かれているくらいでしょうか。

そもそも、man up2date を読んでみるとわかりますが、ビルドするという項目はありません。

パッケージメンテナの想定外なパッチを勝手に当てたりすると、将来のパッケージ更新でその想定外パッチが確実に当たるという保証はありません。よって、必ず人手が必要です。

取れる手段があるとするなら、

1) up2date ログを監視。変更されたら、そのソースRPMから当該変更を加えたバイナリRPMを自分で作成（手動）、インストールする。

2) up2date ミラーファイルサーバを立てて、1 の前半で作ったバイナリRPMに差し替えておく。対象Linuxマシンのup2dateはこのミラーサーバを見るように設定変更。

3) パッケージメンテナ（RedHat?）にパッチを提供。取り込んでもらう。

4) パッケージ名を違う名前にしておき、up2date による上書きを避ける。更新したいなら手動で。あるいは自動的に更新を察知してソースパッケージを取ってきて変更をかけた後にビルドするスクリプトを用意することもできるかも。ただし、パッチ当てが失敗したらそれでおしまい。

くらいしかないんじゃないでしょうかね？

手動といっても、specファイルのパッチが作れるなら、ソースrpmを取ってきてspecにパッチを当てて rpmbuild くらいの手間で済みます。ただしパッチ当てやコンパイルオプション指定に失敗したりした時は人間様の登場です。