.netで作成した、モジュールが単体での使用メモリが870MBあたりを越えたあたりで動作不正（OutOfMemory?）になってしまうようです。

OutOfMemoryについての詳しい記述です。

ちょっと趣旨とは外れてしまいますが・・・。

参考になればよいとおもいます。

kurokw 様のパソコンのOSや物理メモリなど情報が無いので推測ですが、仮にOSを2000/XP、搭載している物理メモリが256M〜384MBだとすれば、上記URLの解説で説明できると思います。

つまり、仮想メモリも使い果たしたということです。Windows2000/XPのデフォルトでは、物理メモリの3倍ですので、約1GBが最大になります。Windowsやその他のプログラムが使用しているメモリもありますので、すべての仮想メモリが自分のプログラムのために使えるわけではありません。

この仮定が正しい場合、仮想メモリを増やすか、物理メモリを増やしてやれば回避できます。

パフォーマンスを考慮すると物理メモリを増やすことがおすすめです。

そんなに頻繁にはメモリを使わないと言うことであれば、仮想メモリを増やしてみてください。

XPの場合

1)マイコンピュータのプロパティの詳細設定-パフォーマンスにある設定ボタンをクリック

2)詳細設定タブをクリック

3)仮想メモリにある変更ボタンをクリック

4)おそらくシステム管理サイズが選択されていると思いますので、カスタムサイズで最大サイズを増やす。

を実行してみてください。

GDI+のバグにより発生するケース。

言語とか処理内容はなんでしょうか。

それより、870MBもメモリを使用するモジュールの中身の方が問題に思えますが。

メモリリークしてるとか、無駄にメモリを浪費しているとかありませんか?

ほんとうに870MBも必要なケースは非常にまれだと思います。