Mac OS X 10.6.2　Firefox3.6の者です（質問者さんとは別の者です）。
私も似たような症状が見られました。

具体的には、
「ファイル」→「新規ウインドウを開く」
を行ってから、35秒くらいかかって、やっと新規ウインドウが開きます。
また、
ウインドウが全く立ち上がっていない状態だと、
「ファイル」→「新規ウインドウを開く」で反応が見られません。
この場合、「ウインドウ」→「Mozilla FireFox」を指定してから、やっと（でも35秒くらいかかる）新規ウインドウが開きます。

で、他のトピックを検索し、
「ファイアーフォックス3.6にアップデート後のトラブル」にしたがって、アドオンのFast Video Downloadを無効化したところ、通常のように新規ウインドウが開くようになりました。
http://forums.mozillazine.jp/viewtopic.php?t=9931&start=0&postdays=0&postorder=asc&highlight=%E3%82%A6%E3%82%A4%E3%83%B3%E3%83%89%E3%82%A6

ご報告まで

MACのバージョンは Mac OS X 10.5.8　Firefox3.6です

Firefoxのバージョンなども、きちんとお書きください。
http://forums.mozillazine.jp/viewtopic.php?t=6009

とりあえず、下記を参考に、セーフモードや新規プロファイルなどで改善されるかを確認してみてください。
http://wiki.mozilla.gr.jp/wiki.cgi?page=chart

MACでFirefoxを立ち上げたときは普通に開いてくるウインドウですが、新規にウインドウを開く（追加したら）とどこか見えないところでウインドウが開いてしまいます。
メニューバーの「ウインドウ」には開いた数だけリストが追加されています。
とりあえず、操作できるウインドウで続けていると、急にすべてのウインドウが正面に現れたりします。コマンド+Qで終わろうとすると、左上にほんの少しだけ「すべてのタブを閉じますか」の四角い枠の右下の方がいえる程度現れます。
あくまでも、Firefoxを立ち上げたあと、新規ウインドウまたは新規タブを開こうとすると現れる現象です。