約5000個の音声ファイル（mp3)のノイズ除去を行いたいです。(多数のファイルをまとめて自動で)

Audacityを使用しての方法は分かりませんが、Sound Engineというフリーソフトのスクリプト機能を使用するのはいかがでしょう？
Sound　Engineのスクリプトについては以下のURLに詳しく書いてあります（頭にhをつけてください）
ttps://soundengine.jp/wordpress/soundengine_help/index/spec/script_spec/
スクリプトタブのスクリプトエディットに以下のスクリプトをコピペしてください（日本語部分にはやりたい処理に応じた数字などを代入）
[Folder Open]
[Noise Suppressor]
Param0=周波数
Param1=幅
Param2=スレショルド
Param3=効果／原音
Param4=音量
[Folder Save]
Sec=None
Extension=保存したい形式（wavならwav）
そのあとエディットの右にある「実行」ボタンを押して、処理したいファイルをまとめたフォルダを入力フォルダに選択し、保存先を選択してOKを押すと処理が始まります。
何か不明な点やうまくいかないことがあった場合は上記のURLのサイトを参考にすればいいと思います。