Vocaloid editor 3のプリファレンスで、undo履歴の制限回数を減らしてみるというのはどうでしょうか。
長時間の作業では、Undo履歴がメモリを圧迫することがありますので、「50回」程度に設定していただくとよいかと。
ここに使用例があります。インストールにすこしコツがあるようですが。
http://tsubasa5150.blog.fc2.com/blog-entry-76.html
動作しましたので、問題を終了させていただきました。
明確な原因は判明していませんが、GarageBandなどのサウンドデバイスを使用するプログラムを終了させたところ動作したようです。
ただし、別の問題が現在発生しているので、それについては改めて質問させていただきたいと思います。