Live Commerceあたりがいいと思います。
http://www.live-commerce.com/solutions/function-list/compare/
http://www.live-commerce.com/hosting/features/sell.html
オープンソースでなくもっと簡単にダウンロード販売をしたいのならfc2ショッピングカートの有料版がおすすめです。
http://download.hikaku.ws/rental/index.html#hyou
http://q.hatena.ne.jp/1295403383
こちらの質問が参考になると思います。