拡張機能を自作で開発してみたのですがインストールしても、「このアドオンには安全な更新方法が用意されていません。」となり、起動しません。

* about:configでExtensionの互換性チェックを無効にする

ロケーションバーにabout:configと入力してEnterキーを叩く.
本当にabout:configを開くかと確認してくるので開くと答える.
フィルタにextensions.checkCompatibilityと入力.
extensions.checkCompatibilityをクリックして設定値をtrueからfalseへ変更
此でバージョンチェックを行わなくなる.
* Nightly Tester Toolsをつかう

上記のページのLinkを辿ってNightly Tester ToolsというExtensionをインストールする.
再起動後に他のExtensionをインストールするとバージョン互換としてインストールされる.

の2つの方法を試したのですがうまくいきません。
どうしたら動かせるようになるか教えてください。お願いします。

これはメッセージにあるままで、更新情報が安全な形で配布されないアドオンはインストールすることができません。
バージョンチェック回避の策は効果がありません。

具体的には、install.rdf の updateURL に記述された update.rdf の URI が https であるか、update.rdf を検証するための公開鍵が updateKey に記述されているかのどちらかが必要です。
updateURL を空にしておけば、デフォルトで https://addons.mozilla.org にチェックしに行くためインストール時のエラーは出なくなります (更新チェック時には当然エラーが出ますが)。

about:config からこのチェックを回避することもできますが、割愛します。

参考
Extension Versioning, Update and Compatibility - MDC
https://developer.mozilla.org/ja/extens ... patibility
Latest topics > Firefox 3で安全にアドオンを配布するための方法のまとめ - outsider reflex
http://piro.sakura.ne.jp/latest/blosxom ... eaddon.htm

_________________
[Desktop] Windows 10 Pro 22H2 (64bit) / Intel Core i7-2600 / Nvidia GeForce GTX 1650 GDDR6 / 32 GB Memory
[Laptop] Windows 10 Pro 22H2 (64bit) / Intel Core i5-520M vPro / Intel HD Graphics / 8 GB Memory
[Android] Android 13.0 (arm64) / Xperia 5 III (XQ-BQ42)
常用環境: Firefox ベータ版、リリース版 (Win64 x86-64, Android), Thunderbird ベータ版、リリース版 (Win64 x86-64)
テスト環境: Firefox (ESR, Nightly, Win64 x86-64, Android)
Cai/1.0 (Homo sapiens; N; Homo sapiens chemist; male; rv:0.0.4.2+)
-- いつまでたっても nightly