問題のファイルが格納されていた場所は挙げて頂いたフォルダで当ってます。
それと、All usersはシンボリックリンクなのは分かっていますが古いWindowsを今でもよく使う為長年の癖でAll usersを参照したので
その時の自己解決に至る迄の手順を書きました。しかし質問時の環境はあくまでもWindows 8.1なのでProgramDataと書くべきでした。
失礼しました。

それから、以前の質問での「気分が悪い」「不快」等の発言は設定等が何処にいったのか分からなくなったことと重なって実用に問題が
有るという意味も含めての発言です。
今回の場合は更新というソフトの基本的な部分に関わるものが自分の知識から気が付いたら変更されていたことで体調と相まって
混乱していました。良好であれば質問をせずにもっと早く自己解決に至っていたかもしれませんし、正確なフォルダ名を書けていない
こちらの分かりにくい自己解決の手順の書き方といい考えが回らないくらいに異常になってるので不快だと思われるのであれば
その部分はどうか無視して下さい。

[quote="pnhcpt"]All Usersを辿って行くとupdatesフォルダに幾つかのファイルが有りました。[/quote]
なるほど。
自分にトラブルが発生して調べないとわからないものです。参考になりました。
ちなみにその場所は C:\Users\All Users\Mozilla の下ということでよろしいでしょうか。
実際には C:\Users\All Users はシンボリックリンクで、C:\ProgramData が実体になりますので、C:\ProgramData\Mozilla ということになります。

それぞれ回答して頂き有難うございます。質問後に回答を頂く前に自己解決をしました。質問前に色々試した時に両名も挙げ
ている AppData\Local と辿って行った所に有るだろうというのを最初に考えて探したのですがupdatesのフォルダは空で何も無かった
為、その時は答えが分かりませんでした。

そして質問後に時間を置いて考え直した結果、更新を拾いに行く段階になった後でポリシー設定を行なったのが良くなかったのでは
と考えてネットの接続を切ってインストール先のフォルダからdistributionフォルダを退避させました。
そこからオプションを開いてポリシー設定は効いてないことを確認して、色々眺めていると更新動作の項目に「この設定はこの端末の
すべてのWindows アカウントと、インストール先を使用するすべてのプロファイルに適用されます。」という注意書きが有りました。

"すべてのWindows アカウント"の部分にもしかしてと思いファイラーから「保護されたオペレーティングシステムファイルを表示しない」をオフにして、ユーザー\の直下に有る普段は非表示にしてる All Usersを辿って行くとupdatesフォルダに幾つかのファイルが有りました。
フォルダ内の active-update.xmlの中身を見ると更新先として68.0.1の指定、他にも更新を拾いに行くアドレス等が書かれていたの
で、これだと思いそのupdatesフォルダを削除しました。
そこからブラウザを起動すると空のupdatesフォルダが自動で生成されて、更新を拾いに行こうとしてたバックグラウンドプロセスも
起動することはなくなりました。

その後ネットで検索すると様々なブログの古い内容ではactive-update.xml等が有るのは ユーザー名\AppData\Localと辿って行った
先だというので、多分オプションから更新を自動で確認しない項目が削除されたあたりのバージョンからこれらのファイルが格納される
のが \ユーザー名ではなく、\All Usersの方になったのだと思います。

[quote="偶然的通行人"]本件のようにユーザーの設定ミスや操作ミスで更新プロセスが進行してしまった場合は、ほかの "設定" でどうこうできる段階を過ぎていて、すでに更新を進める実行段階に入っていることになるので、それを止めるには更新プロセスの構成を断ち切るしかない[/quote]
まさにその通りで、原因となってるフォルダの中身を削除することでバックグラウンドプロセスが動作しなくなりました。
今後は設定とか、突然の通知での操作等を気を付けたいと思います。

別の観点から…
インストールディレクトリの「updater.exe」を更新したく無い状態のときにはリネームし、更新する場合は元に戻すのは如何でしょうか？

横から失礼します。
EarlgreyTea さんからのアドバイスと重複する内容ですが、一連の流れで書いてしまったのでそのまま投稿します。

[quote="pnhcpt"]最初に通知が来た時に更新を押してしまったせいで起動の度に更新を拾いに行こうとする様に
なってしまったと思うのですが、これを止めるにはどういう設定をすればいいのでしょうか？[/quote]
おそらく、すでに更新用のコンポーネントがダウンロードされていて、Firefox を起動するごとにそれが呼び出されるため、エンタープライズポリシーの設定では抑止されずに更新データをダウンロードしようとするのではないでしょうか。

一般的には AppData\Local\Mozilla\updates 、環境条件によっては C:\ProgramData とか、AppData\Local\VirtualStore あたりに、Mozilla\updates\ というフォルダー階層が生成されていて、そこに更新用のコンポーネントが存在するかもしれません。

あればフォルダーごと削除してください。

エンタープライズポリシー（Policy Engine による集中管理機能）の "DisableAppUpdate" を設定すれば、about:policies の説明にあるように "ブラウザの更新を禁止します" の結果を導けます。なので、必要があるなら、この設定を正確に施しておくことが大前提です。実際、pnhcpt さんのところでも、この設定がきちんと施されている環境では問題は起こらなかったようですし...。

本件のようにユーザーの設定ミスや操作ミスで更新プロセスが進行してしまった場合は、ほかの "設定" でどうこうできる段階を過ぎていて、すでに更新を進める実行段階に入っていることになるので、それを止めるには更新プロセスの構成を断ち切るしかない、というのが上記の対処です。

とりあえず以上です。的外れな話になっていたらすみません。


（おことわり）
現在、健康上の制約により不定期な書き込みしかできなくなっています。すぐに応答できない場面がかなり多くなりますことを、ご容赦ください。

[quote="pnhcpt"]最初に通知が来た時に更新を押してしまったせいで起動の度に更新を拾いに行こうとする様に
なってしまったと思うのですが、これを止めるにはどういう設定をすればいいのでしょうか？[/quote]
対処法として思いつくことを書いてみます。
状況を見たわけでも確かめたわけでもありませんので、その点ご了承ください。
[list]
[*]別プロファイルにてアップデートを完了させたうえで、アップデート前のバージョンをインストールし直す
[*]アップデートファイルをダウンロードする場所（たぶん ユーザーの AppData\Local\Mozilla\ ）にフォルダーが出来ていると思うので削除する[/list]

それで、pnhcpt さん、最後の段落は要らないですよね？
前の質問のときの「自分が使っていない物まで色々表示されて凄く気分が悪いです」もそうでしたが、そんな身の上話を聞かされても困ります。

バージョンは68でOSはWindows 8.1です。オプションから更新の確認を自動的に行なわない設定が削除されて以降
は、ポリシー設定で更新の確認を止めて自分の都合の良いタイミングで手動で更新をしていました。

複数のマシンを使っているのですがポリシー設定が上手くいってなかった環境が有り、昨日更新の通知が来た時に操作を
誤って更新を押してしまいました。ファイアウォールソフトが更新の為の通信を検知したのでその通信を遮断してブラウザを終了し
てネットワークを停止して、改めてポリシー設定を行ないしっかりと更新を許可しない設定になってるのをオプションで確認して
再度ネットを繋ぎ本体を起動しました。
しかし起動すると再びバックグラウンドでの更新をファイウォールが検知しました。
取り敢えずOSを再起動しましたが、ブラウザを起動する度に更新の試行を行うので試しにファイウォールで遮断せずに許可しまし
たがポリシー設定で更新を無効化してる為か何も起きず、その後もブラウザを起動する度に更新を拾いに行こうとします。

最初に通知が来た時に更新を押してしまったせいで起動の度に更新を拾いに行こうとする様に
なってしまったと思うのですが、これを止めるにはどういう設定をすればいいのでしょうか？

今後この様なことになっても困らないように自動での更新を拾いに行くのを止める方法を知りたいです。
ネットを検索しても自動更新関係は以前のオプションでの設定の話ばかりしか引っ掛からず、上記に対する対処方が
分かりません。ここ最近体調が悪くて休日に調べ物をしている時にこの様なことになり困り果てています。
公式のドキュメントを漁る気力も有りません。