正常に動作している場合、チェックボックスがオンのまま無効化されるのは、
全ての検索結果がその条件にマッチしており、オフにしても検索結果が変わらない場合、
逆にオフのまま無効化されるは、オンにすると検索結果が 0 件になる場合です。
(つまり、どちらも操作可能にする事に意味が無い場合です)
実際に「自分へ」のチェックが入っている事で検索結果から排除された、と思われるメールは存在しますか?
存在する場合、検索データベースのトラブルが考えられますので、以下のドキュメントを参考にデータベースの再構築を試してみてください。
https://support.mozilla.org/ja/kb/rebui ... l-databaseまた、Thunderbird 17.0.3 のサポートは既に終了しています。
Thunderbird 31 系列へのアップデートをご検討ください。