-m 512

потом все замерло

а у малинки-то сколько рамы?

Если это про Silverlight, забудь про

win98.img

НЕ уверен, заведётся ли он на том образе XP, но я видел на 300Мб установленный.
А вообще, у меня RPi 3, и когда я сгорем смотрю на работу хрома обычного там (он, безусловно, гораздо быстрее, чем на второй, но имхо до сих пор подтормаживает, что некомфортно), а посему не слишком уверен в успешности твоей затеи...
Может, тебе проще под это самую дешманскую впску найти, если только торговый бот нужен на винде с сильверлайтом?

Понимаешь в чем дело, малинка у меня 24\7 работает как принт сервер, сканер, общий диск для файлов. а вот ПК в кол-ве 3шт между которым я бегаю не очень удобно и оставлять включенными ради одной вкладки в браузере не рентабельно. А к малинке всегда можно по удаленке подключится.

А ты по этой инструкции ставил, всё вплоть до каждого шага?
https://habrahabr.ru/post/276637/

все пункты выполнил.

-nographic -hda win98.img

А win98 разве умеет без графической карты работать? Может, оно не замерло, а грузится, а ты просто не видишь?

Этим ключем я только проверил работает ли вообще, без него те ошибки

подскажите хотя бы где копать, проблема так и не решена

Пробовали запускать с X11'ами или -nographic -vnc :0?
Много лет назад я запускал qemu-system-sparc на x86 (Pentium III, 1200MHz) — установка Solaris длинною в день...