私も同じ状態で、windows XPです。
about:configでmedia.mediasource.webm.enabledをtrueにすると改善されました。
他にもmedia.mediasource.mp4.enabledも関係しているかもしれません。

https://www.youtube.com/html5から各コーデックへの対応状況が確認できます。
私の環境では「H264」と「MSE&H264」は「！」マークのままですが、
media.mediasource.webm.enabledをtrueにすると
「MSE & WebM VP9」が「！」からチェックマークになりました。

[size=12][color=blue]※質問するときは、「フォーラムの利用に関するご案内」、とりわけ「質問するときは」に目を通し、OS の種類や Firefox のバージョンといった使用環境についての最低限の情報を書き添えることをお勧めします。[/color][/size]

横から失礼します。

まず、症状の確認です。
YouTube の高画質動画を、標準の HTML5 Player で再生したとき、プレーヤー画面の右下に歯車アイコンの [設定] があり、そこから [画質] (quality) の切り替えが [自動] (Auto) か [360p] しか選択できなくなる、というものですよね。[自動] を指定しても、選択肢が [360p] しかないので、実質的に [360p] の一択になります。
（参考）動作確認用の共通サンプルとして、次の２つを挙げておきます。
https://www.youtube.com/watch?v=P5_GlAOCHyE
https://www.youtube.com/watch?v=6v2L2UGZJAM

[quote="booklover"]特に、インストし直しと新規プロファイル作成をやってもダメというのが、非常に残念といいますか絶望的かなと....。[/quote]
ご承知のこととは思いますが、新しいプロファイルでの動作確認は、現行プロファイルとの比較のためにおこなうものなので、現行プロファイルからどんなデータも移行せず、まっさらな状態で Firefox の素の動作を確かめることが重要です。そのあと、ひとつずつデータを移行するなどして、どこで問題が再発するかを確かめられれば、原因を絞り込むことができます。

当方の環境は、Windows 8 Pro (64bit) および Windows 7 Home Premium SP1 (64bit) ですが、それぞれで使っている Firefox 40.0.x / 38.2.0 ESR の複数のプロファイルのうち、上記のような症状が発生するものが２つありました。
問題が発生するプロファイルをセーフモードで起動しても、上記の症状は改善されません。
しかし同時に、そのような症状が起こることなく正常に動作しているプロファイルがほとんどです。試しに作ってみた新規プロファイルでも動作は正常でした。

プロファイルの違いで問題発生の有無が変化するということは、何らかの理由で変更された Firefox の設定値が影響しているか、プラグイン関連の問題である可能性などが考えられます。
ただし、HTML5 Player で起こっていることなので、プラグインが直接干渉することは考えにくいので、設定値に注目して調べてみました。

当方の環境だけかもしれませんが、問題が起こるプロファイルと起こらないプロファイルで見つけられた違いは、about:config にある media.windows-media-foundation.enabled の値でした。

media.windows-media-foundation.enabled の値は、
　・問題が起こるプロファイルでは false
　・問題が起こらないプロファイルでは true (初期値)
になっていました。

初期値が true である設定項目が、問題が起こるプロファイルではなぜ false になっていたのかはわかりません。
主にテスト用のプロファイルで起こっていたので、いろいろ試験的な操作をしているうちにうっかり変更していたのか、あれこれ試験導入したアドオン等によって変更されたのか、そのあたりの原因は不明です。

しかし、問題が起こらないプロファイルにならって、問題が起こっていたプロファイルのこの値を true にして Firefox を再起動し、その後 YouTube の高画質動画を再生してみると、[画質] の選択が [360p] 一択ではなく複数の選択肢が表示され、実際に選択できるようになりました。

もし、アドオンなど他の何者かが水面下で設定を変更しているか、他の設定項目との組み合わせで発生する問題だとしたら、media.windows-media-foundation.enabled の値だけでは改善されない可能性も残されていますが、当方ではこの項目の値を変更するだけで改善できました。

もうひとつ気になることがあります。
booklover さんがお使いの環境条件が不明ですが、投稿時のブラウザの User Agent から類推すると、Windows XP をお使いのように見受けられることです。
もしそうなら、OS の制約から Windows Media Foundation が適切に利用できていないのかもしれません。

いずれにしても、環境依存性の高い問題のようですから、この症状が起こるユーザー環境を丁寧に洗い出してみないことには、本当の原因も、その改善策も、見えてこないと思います。
上述した特定のプロファイル以外は、ぼくが直接・間接に扱える複数の Firefox で本件のような症状が出ているものは、いまのところありません。

とりあえず以上です。的外れな話だったらすみません。

お世話になっております。
丁寧なレスポンス、ありがとうございました。

残念ながら、ご教示のとおりやってもうまくいきませんでした。
特に、インストし直しと新規プロファイル作成をやってもダメというのが、非常に残念といいますか絶望的かなと....。

ただ、ツイッター検索では、私のような症状になっていない人もいるということなので、インストし直しでもダメというのが理解できないところで....
なんなんでしょうかね、この症状は。
とりあえず、firefoxの次のアップグレードを待つなど、多少放置して様子見かなと思っております。それまではchromeに退避します。

特に問題はありません。
リフレッシュは一部設定が引き継がれますので、そこに原因がある場合、問題は再発します。
https://support.mozilla.org/ja/kb/refresh-firefox-reset-add-ons-and-settings

下記、順にご確認を。(特に項目７)
https://support.mozilla.org/ja/kb/troubleshoot-and-diagnose-firefox-problems

Youtubeの画質を選択できなくなりました。


ふつう画質を選択するときは、動画画面の右下の歯車マークをクリックし、さらに「画質」をクリックすると、140pから1080pまで選択可能な画質が表示されるわけです。
しかし、私の場合、選択可能な画質として「360p」しか表示されないのです。
私がこの症状に気づいたのは今朝です。症状が出たのが、firefoxを40.0にアップグレードしてからなのか、Youtubeのインターフェイスがリニューアルしてからなのかは分かりません。


chromeでは、問題なくyoutube動画の画質を選択・調整できます（140pから1080pなどまで）。
なんとかしようと思い、firefoxの「リフレッシュ」もやったのですが、効果ありませんでした。
ネットで検索したら、私と同じ症状のかたもいました。



大変困っています。なにとぞご教示ください。よろしくお願いします。