Ставить с https://repo.radeon.com/amdgpu-install/latest/ubuntu/ затем amdgpu-install, оно всё нужное всосёт. Pytorch для него только nightly, описание и ссылки тут https://github.com/pytorch/pytorch/issues/132570