Hay variedad de reproductores de MP3 que puden cumplir con ese fin, pero el que elegí yo por comodiad y hábito es el VLC. Desde esa página se puede descargar para variedad de distribuciones, como Debian, Ubuntu, Fedora, etc. Como es un programa de fuente abierta también está disponible el código.

Una vez instalado, podemos probarlo, sirve para reproducir películas (de hecho yo lo uso a para eso) reconoce subtítudos y funciona de maravilla con DVD's. Lo interesante es que también tiene una versión "no-gráfica" que se puede abrir con el comando

cvlc

Entonces la parte importante, cómo aprovecharlo con SSH. Primero nos logueamos en la computadora donde querramos ejecutar el reproductor:

ssh < usuario>@< computadora>

Navegamos hasta el directorio donde tengamos el mp3 que querramos reproducir y escribimos:

cvlc archivo-que-queremos-reproducir.mp3

Aparentemente el formato mp3 no es soportado por defecto en las distribuciones de Linux debido a problemas con su licencia así que lo que se debe hacer es instalar algunas librerías con el siguiente comando:

sudo apt-get install libxine1-ffmpeg gstreamer0.10-plugins-ugly

Antes el primer plugin tenía otro nombre: libxine-extracodecs por lo que es probable que si llegan a un post viejo sobre el asunto no se haya actualizado todavía.

Reiniciamos Amarok y todo debería estar funcionando.