Грузиться лучше с флешки, туда же музон грузить (правда не все старые матеря поддерживают загрузку с USB-устройств). Штатные CD-ROM и винт долго не проживут. Можно конечно приспособить винт от ноута. Но в этом случае надежность также ниже будет.
Если с софтом поработать - можно сделать без дисплея (эдакое embedded устройство получится) - допустим с управлением по LPT-порту.
Платформу, имхо, лучше выбирать ту, которая поменьше греется (например процессор VIA С3 - да и стоит он копейки). Можно на охлаждении сэкономить в пользу компактности.
ЗЫ. Хотя если так далеко заходить - то проще уже mp3-плеер собрать
(Например
http://www.walrus.com/~raphael/html/mp3.html) да прошивку контроллера подтюнить по своим вкусам - заодно функции бортового компа будет исполнять