Linuxの自宅サーバーを建てたいと思うのですが、オススメのサーバー機を教えて下さい。

「その自宅サーバーで何をやるのか」で変わってきます。

「Linuxに慣れておきたい、勉強したい」「Webサイトを公開したい」といった理由であればRaspberry Piでも問題ありませんし、やや本題からは外れますがさくらのVPSやAWS、ConoHaなどのクラウドサービスでも良いと思います。

※ただしRaspberry PiではUbuntuやCentOSなどの主要ディストリがそのままでは動かずRaspberry Pi用に最適化されたイメージを使う必要があるので注意が必要です。勉強用であればOSインストールからやったほうが良いでしょう。これはWindows上の仮想環境(VirtualBoxなど)で十分だと思います。

「ファイルサーバやメディアサーバを立てたい」「アプリケーションサーバを動かしたい」といった場合はRaspberry Piではストレージの容量やパフォーマンスに課題が残りますので、要件に応じてDELLやHP、NECの格安サーバを購入するなりクラウドサービスの導入を検討すると良いでしょう。

価格を重視するのであれば以下のような製品が、
http://nttxstore.jp/_II_FJ14877758

消費電力を重視するのであれば以下のような製品がそれぞれ候補になるかと思います。
http://www.amazon.co.jp/exec/obidos/ASIN/B00HJ2FAMA
http://nttxstore.jp/_II_HP14404393

私はファイルサーバとして上記のHPのMicroServerを使っていますが小型・静音にも関わらずHDDを4台搭載出来る点が気に入っています。ただ、非力なためパフォーマンスには若干難がありますが。

余談ですが、自作に抵抗さえなければNUCフォームファクタの製品などは低価格・小型・省電力と三拍子揃ってますし、Raspberry Piよりはパフォーマンスも良いとは思うのですが、カーネルが起動しないなどの問題があるようなので避けておいたほうが無難かと思います。

以上、ご参考まで。

何に使用するかによりますが、学術、研究などにはRaspberry Pi はおすすめです。
あと小規模サーバであれば十分使えるとおもいますが、一見、安価で小型のRaspberry Pi ですが、使用方法によっては追加機器を導入する必要が有りますのでコストや設置場所が必要になります。

Raspberry Pi はディストリビューションを選ぶことを除けばとてもいいハードだと思います。
企業内研修や多種製品開発に使われていますので、それなりの信頼性はあります。

ファイルサーバやメールサーバとして使うにはストレージ容量が不足ですので、普通のサーバー機の購入をお勧めします。
安価な物をお考えであるなら、通常メーカーの型落ち品などを探せば良いと思いますよ。