Форматировал раздел, можно исправить?

Не уверен, но скорее всего только бэкап.

Раз данные были «очень важные», значит есть бэкап - восстанови их из этого бэкапа.

Если бэкапа не было, значит нечего зведеть, что они «очень важные».

Если изначально был ext4 тип раздела и сделан luksFormat. Если обратно в ext4 форматировать? Данные то не перед вписывались ничем, 1 команда была выполнена.

Сам контейнер не затёрт же получается.

По этому снимаешь образ раздела и свои надругательства проводишь на его копиями, а сам оригинальный раздел и первичную копию этого раздела хранишь в укромном месте.

Выполнил mkfs.vfat /dev.sdx1 для очень важного luks раздела с копией важных данных по ошибке.

Да нет никакой ошибки. Добро пожаловать в новый цикл.

Раз данные были «очень важные», значит есть бэкап - восстанови их из этого бэкапа. Самые-самые важные по работе итак забекаплены 3 раза. А там просто важные, типо полного объёма фоток за прошлое лето (а не нескольких самых хороших), чертежей для хобби в свободное время (не имеющих коммерческой цены, но для меня важных), разных прошивок и инфы к ним сортированных удобно и другого. Эту часть можно найти, если понадобится, но займёт время собирать. И другие подобные важные для меня, но не критические как работа вещи.

Сначала бекап раздела сделай, потом testdisk или r-studio хватай и ковыряйся

Форматирование создается поверх luks. Поэтому с точки зрения формата там восстанавливать нечего. Проверь, что выдает по cryptsetup -v isLuks /dev/sdx1.

Не уверен, что получится в итоге, но совет самый главнй тебе: не ковыряйся на живом разделе, сделай его бэкап с помощью dd, и все эксперименты проводи уже на нем.

Сами данные может и не сильно пострадали, да только ты скорее всего убил мастер-ключ, он же data encryption key(DEK), им шифруются данные и без него их восстановить невозможно. Никак. testdisk, ddrescue — забудь, данные в таком случае потеряны навсегда(совсем навсегда!). Различных вариантов 256-битных ключей всего-то в 1000 раз меньше, чем атомов во вселенной.

Если есть хоть какая-то резервная копия заголовка LUKS — самое время восстанавливать раздел, если нет — ну это извините, куда деваться.

Если же мастер-ключ и ключевые слоты(key encryption key, KEK) не пострадали — делаешь cryptsetup luksOpen и дальше «классические» инструменты восстановления данных.

Это очень(ОЧЕНЬ) глупая идея. Никогда ничего не следует делать на «закрытом» контейнере, самая первая команда при работе с ним — cryptsetup luksOpen.

Данные то не перед вписывались ничем

А что по твоему делает комада mkfs.vfat?

Это сокращение от «Make File System VFAT». Т.е. при выполнении указанной команды на указанный контейнер записывается служебная информация для работы файловой системы FAT.

Но ты помимо прочего записан новую служебную информацию не просто на раздел, а на раздел на котором был шифрованный контейнейр.

Т.е. если бы у тебя файловая система, которую ты перезаписан служебной информацией FAT, была записана просто на раздел, то перезаписанную информацию восстановить можно было был пробовать.

Но у тебя был шифрованный контейнер на разделе, который ты и перезаписал.

Тебе в любом случае для доступа к файловой системе в контейнере его нужно открывать.

Но сейчас он у тебя перезаписан.

Попробуй конечно открыть, но я чествно сомневаюсь, что у тебя откроется контейнер

Поэтому тут уже вряд ли чем-то можно помочь.

Только восстанавиливать из бэкапа.

И как сказали уже - пробуй на копии, а не на исходном диске.