firewall内の自ドメインが mycompany.com、firewall内のsmtpサーバーがsmtp.mycompany.comであるとき、
proxyの例外に.mycompany.comを含めておかないとsmtpサーバーへ接続できないのは仕様ですか? バグですか?

smtp.mycompany.com がプロキシ経由の接続を拒絶しているのであれば、仕様です。
たとえ自ドメインであっても例外に入れておかなければ設定したとおりにプロキシを通して接続します。

_________________
[Desktop] Windows 10 Pro 22H2 (64bit) / Intel Core i7-2600 / Nvidia GeForce GTX 1650 GDDR6 / 32 GB Memory
[Laptop] Windows 10 Pro 22H2 (64bit) / Intel Core i5-520M vPro / Intel HD Graphics / 8 GB Memory
[Android] Android 13.0 (arm64) / Xperia 5 III (XQ-BQ42)
常用環境: Firefox ベータ版、リリース版 (Win64 x86-64, Android), Thunderbird ベータ版、リリース版 (Win64 x86-64)
テスト環境: Firefox (ESR, Nightly, Win64 x86-64, Android)
Cai/1.0 (Homo sapiens; N; Homo sapiens chemist; male; rv:0.0.4.2+)
-- いつまでたっても nightly