вот есть библиотека MPI .NET (BSD-like лицензия)
http://osl.iu.edu/research/mpi.net/
вопросы:
1) кто предоставляет услуги аренды кластера,
где можно запустить программу, использующую эту библиотеку?
2) Кто из них дополнительно имеет GPU?
3) сколько это стоит?