нужен ли для торрентов отдельный анонс сервер ?

Можно, если использовать DHT. Сервер (трекер) нужен для отдачи списка пиров, а также учёта статистики. DHT позволяет получать пиров без трекера. На самом торренте в этом случае не должно быть флага приватности, а у пользователей в клиентах должен быть разрешён DHT (по умолчанию обычно разрешён, но некоторые по разным причинам могут отключать).

Использую торренты для перекачки больших объемов данных между серверами.

Возможно удобнее будет использовать IPFS. Тоже p2p и тоже одновременно с нескольких пиров качается и т. д., но там нет некоторых ограничений торрента, например хэши делаются для блоков, а не для целиковых файлов, а также есть дедупликация на уровне этих самых блоков.