MacのIE5.1.7ですが、初期設定を整理していたら、おそらく捨ててはいけないものも捨てたのか、IEが、自動的にウィンドウを開かなくなってしまいました。（たとえばはてなの質問ウィンドウなど）これはどのように戻せばいいのでしょうか？

IE5.17ということはMacOS９あたりだと想定しての回答です。

まずは、単純にIEのアプリのメモリの割り当てあたりが問題なのではないでしょうか。

どのぐらい割り当ててますか？

もしくはウィンドウをたくさん開いている等。再起動をかけてもだめですか。

私の記憶が正しければですが、

初期設定の中に直接、ウィンドウが開かなくなるような設定ファイルの保存はなかったと思います。

機能拡張の中のファイルを捨てたとなれば話は別ですが・・・

最悪、入れなおしてみてはどうでしょうか。

二回目の回答です。

久々にMacを起動して確認してみました。

初期設定の中に保存されるものはキャッシュなどで基本的に自動生成されるものだけです。

メモリの割り当てでもなければ、次に考えれらるのは、

アプリ自体の問題だと思います。

IEの場合、インストール方法はIEのフォルダをそのままドラッグ＆ドロップだったと思いますので、

まずは、IEだけ入れなおしてはどうでしょうか？

ただし、プラグイン等は入れなおす必要があるので注意してください。

（IEフォルダ直下のPlug-inフォルダとPrefalencePanelsフォルダなどの中の差分あたり）

フォルダ名を仮に変えて、入れなおしたIEを起動し、試してみるとよいかもしれません。

私は回答が二回目なので、これ以降は他のマックユーザーの回答を待ったほうがいいかもしれませんね。