Пишут на бумажке, затем прототип и смотрят получилось ли?
Видимо, да. Можно считать это около математической деятельностью. И сами формальные семантики часто - переформулировки моделей уже известных в математике (haskell - system F, agda и coq - теория типов Мартина-Лёфа, cyclone - линейные типы и).
Рассуждения о семантиках и верификации реализаций могут проводится тоже формально и с помощью proof ассистентов.
Некоторые ссылки в порядке релевантности (ссылки по ссылкам тоже подойдут):
я ни разу не специалист - для меня формальные методы остановились на рассмотрении операционной семантики в процессе проектирования. ссылки из треда тоже утащу, почитаю на досуге :)