今macのexcelでデータ分析を行っているのですが、そろそろデータの量が数十万行等になり限界に近づいています。

何が限界なのでしょうか?

集計するのに　時間がかかるとか?

普通DBは　大量データを扱うために　インデックスというのを設けます。
そして　それで　対象となるデータを素早く探し出し処理します。

数十万件もレコードがあるならば　DBに移行させたほうがいいでしょう。

http://www.filemaker.co.jp/solutions/database-basics/mac-database.html

>いくつかのDB間でvlookupのようなことをしたり、です。

こういうのは　ひとつのテーブル内に　取り込んでおくと　速くなります。
基本、容量を少なくするため　コードだけを　テーブルに持たせますが、
コードと名称の二つを　テーブルに入れておけば、いちいち名称をもってこなくてもよくなりますのでその分　速くなるのです。

当然ながら　同じコードは　同じ名称となるようにしておかなければ　なりませんが。

同一マシンスペックであれば、MacのExcelの方がWindowsより動作が軽快です。
しかしながら数十万行というのは、Excelには不向きなデータ量です。どのようなデータ分析をされているのか分かりませんが、Rは第一選択肢になります。

RにVlookupがないということですが、抽出であれば %in% 関数を使って代用できます。
詳しくは下記をご覧下さい。
http://nakaoka.tumblr.com/post/460730155/r-vlookup

いずれにしても、動作が重くなっているのは数十万行のデータをGUI表示するために起きていることなので、計算式で処理できるRや、場合によってはSQLによって処理すれば（MacにはMySQLが標準装備）、お持ちのMacでも十分にデータ処理できるはずです。

＞ちなみにwindows上では、mac上よりexcelが早かったりするかご存知ですか？

たぶん、誤差の範囲だと思う。

＞データの量が数十万行等になり限界

データー量を減らす工夫ができない限り、EXCELでは限界に近づいてると思う
最終的にEXCELで処理するデータを減らせばよいのですが、たぶんそれが数十万なのでしょうね。

＞いくつかのDB間でvlookupのようなことをしたり、です。

GUIでというのなら、MS-ACCESSを使用してみては？
EXCELでやっている処理がどういうものか不明ですが、複数DBからの集計程度ならAccessでも可能ですし、EXCELよりは効率よく行うので、データ量の限界はEXCELよりも上です。

Rの追加機能パッケージであるRコマンダーをRに組み込みこめば、SPSSやかつてのStatViewのように、マウス操作だけで解析を行うことができるようになります。しかし、標準で組み込まれている統計解析の種類は限定されていました。
http://www.jichi.ac.jp/saitama-sct/SaitamaHP.files/statmed.html

MacもWindowsも仕事で使っていますが、ほぼ同じスペックのCPUの仕様なら、MacもWindowsほぼ同じ処理能力ですね。問題は、Excelで処理を行っている事だと思います。

MacにしろWindowsにしろデータベースへの移行は避けられないと思います。Windowsは情報が沢山あるとおもいますから、Macの話だけします。

Macでデータベースの定番は・・・

• MySQL
• PostgreSQL
• Filemaker
• 4D

じゃないかと思います。このうち最も手軽とされているのは、Filemakerですが、FilemakerはGUIが古臭く、個人的には黄昏れた感じがします。4Dは、参考書が少ないのが難点ですが、エンジンと言語は強力です。MySQLとPostgreSQLは、何かしらの開発言語のスキルが必要になりますので、Excelからだとハードルが高すぎるかもしれません。Excelからの移行なら、MacではFilemakerか4Dが妥当なラインじゃないかと思います。WindowsでAcessで必死になるよりは、マシだと思います。

いずれも一丁一旦ですが、どのデータベースでもExcelから比べたらパフォーマンスは比較にならないほど良いです。百万レコード程度ならどのデータベースでも、インデックス無しで一瞬でソートや検索が行えるはずです。またどのデータベースもお試しが利くので、一度試してみてはいかがでしょうか。

http://okwave.jp/qa/q4659053.html

特別な容量の制限はありませんが、パソコンのメモリ（エクセルが利用出来る分）に読み込めるサイズが限界になるでしょう。

と書いてあるので、メモリを増やしてみてはどうでしょうか。