IIS5.0 6.0のSMTPサービスで、

基本的に相手に依存する話ですので、ネットワーク構成などが明らかにならないと、断定はできません。

また、やりたいこともよくわからない点がありますので、以下の記載などを参考に整理してみてください。

インターネットに直接接続している前提の場合、IISが搭載されているマシンから送信するということであれば、DNSの設定さえきちんとしておけば充分です。

無制限の中継サーバとして用いるのであれば、リモートドメインとして「*」を指定すればよいのですが、何らかの方法で接続元ホストを制限しないとセキュリティ問題が発生するので注意してください。

このほか、イントラネットでスマートホストの設定が必要な場合、SMTP認証が必要な場合、SPFが必要な場合などさまざまなケースが考えられますが、これらは冒頭に記載したネットワーク構成や送信先の設定がわからないとなんともいえません。