В цикле читаешь имя файла, заменяешь регекспом плохие символы на «_», даешь файлу новое имя.

for i in *;do j=«${i//[^A-Za-z0-9]/_}»;[ «$i» != «$j» ] && echo mv — «$i» «$j»;done

В целом работает, но отсутствует экранирование, что приводит к «bash: syntax error near unexpected token `('» при попытке исполнения команды. Есть ли простой способ обойти это, не дописывая замену ) => \)?

Удали echo из этой строки.

Удивительный мир, спасибо :D

http://search.cpan.org/dist/rename/

$ touch '@«$ |>*'
$ ls -1
@»$ |>*
$ perl-rename 's/[^[:alpha:][:digit:]]/_/g' *
$ ls -1
_______
$

А если в результате получится одинаковое имя у двух разных файлов?

То беда.