[size=12][color=blue]※質問するときは、
「フォーラムの利用について」の「質問するときは」に目を通し、
forums.mozillazine.jp/faq.php?mode=forum#f0r2
OS の種類や Firefox のバージョンといった使用環境についての最低限の情報を書き添えることをお勧めします。
アップグレードされたフォーラムでは、投稿時に使用したブラウザのユーザーエージェント（User agent）が表示されますが、実際の環境条件とは異なる場合があるため、質問者が明示的に書き添えることが望ましいと思います。[/color][/size]

ご承知のこととは思いますが、話の順序としていくつか整理させていただきます。

（a）あるウィンドウ内に開かれた複数のタブを閉じていき、そのウィンドウが持つ「最後のタブ」を閉じたとき、Firefox のデフォルトの動作ではウィンドウも同時に閉じます。（ウィンドウが１つのときは、実質的に終了と同じです。）
　これに限っていえば、アドオンを使わずとも Firefox の隠し設定（about：config）から、「最後のタブ」を閉じたとき「新しいタブ」を表示してウィンドウを維持し続ける動作に変更することができます。

（b）Firefox 4.0 から搭載されたタブグループ機能は、１つのウィンドウ内に開かれた多数のタブを、いくつかのグループに分類・整理し、多数のタブを効率的に管理できるようにする機能です。

（c）あるウィンドウ内にいつかのタブグループが作られていて、あるひとつのタブグループのタブ群をフォアグラウンドで表示した状態からそれらのタブを閉じていき、当該のタブグループに属する "最後のタブ" を閉じたときでも、そのウィンドウには別のタブグループに属するタブがバックグラウンドに存在します。したがって、そのウィンドウが持つ「最後のタブ」を閉じたときの動作にはなりません。

（d）（c）の状態で、タブグループに属する "最後のタブ" を閉じたときは、残っているタブ（開いているページ）を示唆するためタブグループ画面に切り替わります。
（複数のタブを開いたまま終了しようとしたときの警告やセッション復元機能があるとはいえ、残っているタブ（グループ）があるのに誤ってウィンドウを閉じる、またはプログラムを終了するといった動作を安易に実行してしまわないという意味で、筋の通った仕様だといえます。）

（e）（d）の仕様・動作を承知した上で、ユーザーが意図的にこれを回避し、１つのタブグループに属する "最後のタブ" を閉じたとき、ブランクなタブを強制的に割り込ませるような動作に変更するオプション設定および隠し設定は、現状の Firefox には見当たりません。
そのような機能を提供するアドオンは、あるのかもしれませんが、ぼくは存知あげません。

上述をふまえた上で、ご希望を 100 ％かなえられるとは限りませんが、代替的な手立ては考えられます。

（I）アプリタブを活用する
Fast Dial を表示したタブ ( chrome://fastdial/content/fastdial.html ) を、[アプリタブ] に設定してはいかがでしょうか。
[アプリタブ] は通常のタブとは位置づけが異なり、[閉じる] ボタンもありませんし、全てのタブグループに含まれる形で存在します。（というか、グループから独立して常にフォアグラウンドに存在する、といいますか...。）
これを上手に活用することで、ご希望の動作に近づけることはできるかもしれません。
（参考）公式サポート記事「アプリタブとは」
support.mozilla.org/ja/kb/what-are-app-tabs
// 注意点 //
　・どのタブグループを開いても、必ず左端にアプリタブが存在します。
　・表示したページの履歴を残す設定（デフォルトで有効）にしているなら、次回起動時もアプリタブが自動的に開かれます。（Firefox の起動時に自動的に表示するアプリタブを指定できるアドオンもあるようです。）
　・Firefox の起動から終了までの具体的な動作は、[オプション] -> [一般] -> [起動] の設定や、[オプション] -> [プライバシー] の履歴の保存と削除に関する設定、導入している他のアドオンの設定・動作などの影響を受けますから、ご自身の環境条件に合わせて調整してみてください。

（II）タブの分類・整理をウィンドウでおこなう
分類したいタブ群を、タブグループ機能ではなく複数のウィンドウごとに仕分ける運用方法です。
タブグループ機能が搭載される前は、同時に開いた多数のタブ（ページ）を分類・管理するのに、しばしば使われた手法です。
ひとつのウィンドウ内（＝ひとつのタブグループに相当）に開かれたタブの最後の１つを閉じれば「空白タブ」が開かれ、現状の設定なら Fast Dial の画面になるはずです。
// 注意点 //
　・グループの数だけウィンドウを開くことになり、タブグループ機能よりはシステムリソースを消費します。
　・各ウィンドウ内のタブを別のウィンドウに移動したりもできますが、小さいモニタ環境では、複数のウィンドウ間でのタブの移動操作はあまり効率的にはできないと思います。

とりあえず思い浮かぶ代替策・緩和策としては以上です。役に立たない話だったらすみません。

【おことわり】
[size=12]ゲスト（未登録）ユーザーで投稿しようとした場合、本文にフル URL や [url] タグで設定されたリンクがあるとスパム判定され投稿できない場合があるみたいです。
しかたないので、参照先 URL のうちプロトコル部分を省略して掲載してあります。
省略 URL をロケーションバーへコピー＆ペーストすれば、ブラウザの自動補完機能で目的のサイトを開いてくれると思います。[/size]

空白タブを開いた時、fast dialでサムネイル表示するようにしているのと、tab mix plusにて、最後のタブを閉じた時に空白タブを開く設定にしています。

タブグループを作成しない場合、最後のタブを閉じるとちゃんとfast dialのサムネイル表示になるのですが、
ほかにグループを作っている場合は、現在のタブグループの最後のタブを閉じた時に、タブグループの選択画面になってしまいます。

これを回避するような設定、あるいはアドオンはありますか？