当方、Tab Mix Plus を常用しているわけではありませんが、jack0017 さんの環境に依存した原因があるとしたら、[quote="jack0017"]同様の症状の方いらっしゃいましたら対策など情報交換できたら・・・と思います。[/quote]が期待薄になるかもしれないので、お節介ながらコメントさせていただきます。

当方の Windows 7 Home Premium SP1 (64bit) + Firefox 49.0.2 (32bit) の環境に、テスト用の新しいプロファイルを作成し、Firefox の初期設定のまま Tab Mix Plus 0.5.0.1 だけをインストールして、動作を試してみました。

Tab Mix Plus の設定も初期設定のままですが、[quote="jack0017"]強制的に新しいタブで開くリンクの種類は「すべてのリンク」に設定していますがなぜかYahooのみ開いているタブで更新されてしまいます。[/quote]とのことなので、[リンク] -> [強制的に新しいタブで開くリンクの種類] にはチェックを付け、[すべてのリンク] を選択しました。

この状態で、www.yahoo.co.jp にアクセスし（yahoo.com ではないと勝手に判断して...）、開いたページ内の各リンク、例えば各ニュース記事、左列の「主なサービス」にある各リンクなどをランダムに左クリックしました。（ただし、明らかな「広告」はクリックしていません。）

ごく簡素なテストに過ぎませんが、結果としてはリンク先のページがすべて新しいタブに開かれました。

Yahoo! JAPAN 以外のサイト、例えば http://www.google.co.jp の検索結果のページにリストアップされる各ページへのリンク、www.rakuten.co.jp 内の各リンクも、試した限りではすべて新しいタブに開かれました。

jack0017 さんとは OS 環境が異なりますから完全に同一ではありませんが、Firefox 49.0.2 と Tab Mix Plus 0.5.0.1 の組み合わせで、ご質問にあるような動作は再現できませんでした。

Firefox を「セーフモード」で起動すると Tab Mix Plus も無効化されるので、次のような方法で動作点検してみてはいかがでしょうか。
（a）現用プロファイルで Tab Mix Plus 以外のすべての拡張機能を無効化して動作を試す
（b）「新しいプロファイル」を作成して、そこに Tab Mix Plus だけをインストールして動作を試す
（参考）
・基本的なトラブルシューティング | Firefox ヘルプ
https://support.mozilla.org/ja/kb/troubleshoot-and-diagnose-firefox-problems
「新しいプロファイル」は、現用プロファイルを温存したまま追加作成できます。新しいプロファイルで Firefox を動かしても、現用プロファイルにはいっさい影響を与えません。

もし、（a）で Yahoo! Japan のページ内のリンクを Tab Mix Plus の設定どおりに新しいタブで開くことができるなら、現用プロファイルに導入されている他のアドオンとの競合が起こっている可能性が高いと思われます。

（a）でもご質問の問題が起こるのであれば、アドオン以外の部分で現用プロファイル内のどこかに障害が発生しているのかもしれません。加えて、（b）では問題が起こらないのなら、現用プロファイルに原因が潜んでいることは、ほぼ確実でしょう。
（b）でもご質問の問題が起こるのであれば、外部の何者か(*) が干渉している可能性が浮上してくると思います。
　　(*) 例えば、セキュリティ対策ソフトが持っているサイトコントロールの機能など。

（補足）
特定のアドオンの動作に不可解なことが起こったときは、新しいプロファイルにそのアドオンだけを入れた状態で動作や表示を確認することで、Firefox と当該アドオンの組み合わせにおける、素の状態を知ることができます。
基準となる素の状態を知ることは、設定変更やアドオン導入でカスタマイズした表示や動作の変化を正しく把握する上で、とても重要です。

とりあえず以上です。的外れな話だったらすみません。

Windows10 pro 64bit、Firefox 49.02、Tab mix plus0.5.0.1の組み合わせで、特定のサイト（Yahoo Japan)からのリンクのみ新しいタブで開きません。
他のサイトやブックマーク、検索結果のリンクなどはすべて問題なく動作しています。
強制的に新しいタブで開くリンクの種類は「すべてのリンク」に設定していますがなぜかYahooのみ開いているタブで更新されてしまいます。
同様の症状の方いらっしゃいましたら対策など情報交換できたら・・・と思います。
以上よろしくお願いいたします。