Windows Small Business Serverにアップグレードしましょう。
http://www.microsoft.com/japan/sbs/prodinfo/editions-overview.mspx
そもそもどういう運用をしているのか、もう少し詳しく教えてください。
情景、用途が詳しくわかれば安価に出来る対策を提案できるかも知れません。
本当にその目的でしか使っていないのであれば、NASでもいいんじゃないですか?
アクセス権の付与は付属ユーティリティソフトで出来る(出来る製品もある)し・・というか、むしろグループを作れないWindows Home Serverより管理が楽チンだと思いますよ。
Windows Home Serverはそもそも家庭向けでNAS市場に参入するために作られたようなものですから、ライセンス追加もできないし・・・どうしてもSereverを使い続けたいならWindows Small Business Serverにアップグレードするしか無いんです。
同時接続が10台までだから、必要ないクライアントを切断すれば使えると思います。
Windowsのファイル共有を使っていると同時接続数の制限をまともに受けてしまいます。
OSを変更できないのであればWEBベースの運用に切り替えてみてはどうでしょうか。
ファイルをダウンロードしている瞬間は同時接続数の制限を受けますが一旦ダウンロードが済めば同時接続数の制限から解放されます。