segmentation fault только для исполняемых бывает. ошибка появляется когда? когда команда инстол выполняется или когда приложение линкованное на эту либу выполняется?
Может вам не нужен xmms? Есть альтернатива - audacious на GTK. Или вы любитель старинных вещей? Шанс что с этим будут ковырятся достаточно мал. Это давно уже устарело и не разрабатывается.