jQuery で validation をするﾌﾟﾗｸﾞｲﾝって､何種類かあるのですが､以下のやつということで良いでしょうか｡
http://jqueryvalidation.org/


｢ﾁｪｯｸﾎﾞｯｸｽに､ﾁｪｯｸを入れられたときだけ､値が入力されているかどうか｣を validate するには depends を使います｡
ﾌｫｰﾑがこんな感じだとして､

<form id="form" method="post">
 <input type="checkbox" name="newspaper" value="1">新聞･雑誌広告
 (媒体名
 <input type="text" name="source_news" size="40">
 )
 <br>
 <input type="checkbox" name="etc" value="1">その他
 <input type="text" name="source_etc" size="40">
 <br>
 <input type="submit" value="送信">
</form>

こういう感じで､ﾙｰﾙを設定します｡

$(function() {
 $("#form").validate({
 rules: {
 source_news: {
 required: {
 depends: '[name="newspaper"][value="1"]:checked'
 }
 },
 source_etc: {
 required: {
 depends: '[name="etc"][value="1"]:checked'
 }
 }
 },
 messages: {
 source_news: {
 required: '新聞･雑誌の媒体名を入力してください'
 },
 source_etc: {
 required: 'その他の内容を入力してください'
 }
 }
 });
});

jsFiddle で､動かしてみたのがこちらです｡
http://jsfiddle.net/m11nm6jk/



本家のｻｲﾄのﾄﾞｷｭﾒﾝﾄでは､以下の箇所なんかが該当するのだと思いますが､どうにも分かりにくい｡
http://jqueryvalidation.org/validate#rules

ある程度､javascript が読める人だったら､こちらのﾍﾟｰｼﾞが有用だと思います｡
http://www.htmlhifive.com/conts/web/view/library/jquery-validate