返信ありがとうございます。

確認したところ、通りマンさんの仰るとおりでした。
こんな簡単なところを見落とすなんてorz
それぞれの音量バランスを調整し直します。

また、偶然的通行人さんの方法を
ttps://www.reddit.com/r/firefox/comments/35jyda/html5_vs_flash_player_youtube_volume_levels/
こちらも参考に試してみたところ、0.1~1.0ははっきりと分かる変化がありましたが、1.0~3.0は変化しませんでした。
参考程度にお知らせしておきます。

横から失礼します。

通りマン さんのご指摘の点は、しっかし確認してみるべきだとぼくも思います。それに加え、HTML5 Player に関する情報を書いておきます。

YouTube にアップロードされた動画や音声などのマルチメディアファイルのゲイン設定そのほかの要素も、エンドユーザーがそれらを再生する際の音量に影響すると思いますが、そうした個別要素は脇に置いて、「firefoxでyoutubeを再生した時だけ音が異様に小さい」について Firefox 側で対処できる事柄に絞って書きます。

YouTube という[u]サイトに特化して[/u]、Firefox で再生するマルチメディアの音量を決め打ちする方法は思いつきませんが、YouTube のメインプレーヤーが HTML5 Player であることを前提にするならば、ある程度は調整できるかもしれません。

about:config から、media.volume_scale という設定項目の値を調整することで、HTML5 Player の音量の倍率を調整できます。
初期値は 1.0 で、元の音源に対して 1 倍（等倍）の意味です。これを 1.2 、1.5 、2.0 …… のように大きくしていけば、再生音量は大きくなります。
逆に 0.8 、0.5 …… と小さくしていけば、再生音量は小さくなります。
ただし、これはあくまで "対症療法" に過ぎません。

【注意】
制約があります。
・YouTube 以外に HTML5 Player を使って再生する他サイトをよく利用するなら、そこのマルチメディアコンテンツの音量もこの設定の影響を受けます。
・YouTube のデフォルトではない Flash Player を意識的に使って再生している場合、つまり Firefox 本体の機能（HTML5 Player）ではなくプラグインの機能（Flash Player）で再生がおこなわれている条件下では、この設定は働きません。

（補足）
フォントが小さく読めないなどの視覚的な評価と同様に、音の大きい小さいといった聴覚的な評価もけっこうな個人差があるため、それを客観的に示すのはなかなか難しいと思います。
そういう観点をふまえたうえで申し上げるのですが、「firefoxでyoutubeを再生した時だけ音が異様に小さい」というのがどの程度のものなのか、ちょっと想像できません。
少なくとも当方の環境（Windows 8 / 7 と Firefox 40.0.3）では、普通に YouTube のマルチメディアコンテンツを再生して、そのように感じるケースはまずないからです。

個人差の範囲を超えて「音が異様に小さい」のだとすると、ewewgy さんのシステム環境または Firefox の環境のどこかに、そういう不正常な状態を生み出してしまう要因が潜んでいるのかもしれません。
いろいろ試されているとは思いますが、もしまだやっておられないのなら、次の公式サポート記事を参考に基本的なトラブルシューティングを試してみてはいかがでしょうか。
・基本的なトラブルシューティング
https://support.mozilla.org/ja/kb/troubleshoot-and-diagnose-firefox-problems

とりあえず以上です。的外れな話だったらすみません。

ニコニコ動画はFlash Playerで、YouTubeはHTML5プレーヤーで再生されいていると思うのですが、音量ミキサーで（Flash Playerではなく）Firefoxの音量を小さくしていませんか？

firefoxでyoutubeを再生した時だけ音が異様に小さくなります。
ニコニコやほかサイトなど、youtube以外は普通に聴けています。
また、google chromeでyoutubeを再生しても普通に聴けています。
音量ミキサーでいろいろ調節しているので、youtubeにマスター音量を合わせると、
ほかが大音量になってバランスが崩れるのでできればyoutubeの音だけを大きくする方法や直し方ありませんか？
youtubeのプレーヤーも最大です。

・windows7
・firefox39.0.3
・flash player18
アドオン
・adblock plus(無効化しても変化なし)
・auto pager(同上)
・greasemonkey
・セッションマネージャ
・テキストリンク