とりあえず。

セーフモードや新規プロファイルなどで改善されるかをご確認ください。
http://wiki.mozilla.gr.jp/wiki.cgi?page=chart

Vista Ultimate SP2 32bit メモリ3GBでFirefox 3.6.12を使っていますが、数百メガ単位の
ダウンロードの最中にフリーズします。どうもダウンロード履歴の有無には関係ないようです。

タスクマネージャーでダウンロード中のメモリ使用量を見ていると、秒あたりのダウンロード量
数百Kbyteの2～3倍程度の割合で増加しているようです。
ダウンロード中のファイルをメモリにでもマッピングしているのでしょうか…。
ダウンロードが終わるとメモリが解放されるようで、使用量がずっと減ります。
300MBのダウンロードの前と後で6～700MB程度のメモリ使用量の増減がありました。

Cドライブの空き容量が2GB弱なので、それも問題なのかもしれません。

本来はダウンローダを別途用意すべきなのかもしれませんが、ダウンロードするファイルを
完了するまでメモリに割り付けるメリットはさして無いと思われますね。