Не знаю как для хомяка, а для корня - однозначно btrfs, неоднократно эксперименты кривыми руками приводили к полной жопе, спасала только загрузка со снапшота.
ext3 это такая старая версия ext4, её ставить не имеет смысла. ntfs не очень надёжна, и права там кривые. fat — на любителя, опять с правами наверное будут проблемы. btrfs — могут быть небольшие проседания скорости из-за CoW (хотя я не замечал, но я и не проводил серьёзных тестов).
а что с ней? проверил целостность бэкапов, форматнул, раскатал новую и восстанавливай. да и не такая это операция, чтобы под нее что-то оптимизировать, даже если было бы что.
А вот тут я не знаю. Я это представляю так, будто гостевая ОС работает с абстракцией диска и подвоха на ждет, а тут внезапно на каждую запись идет фрагментация того, что система считала простым как три копейки носителем и все ее предположения (например про блоки) и оптимизации (например readahead) начинают служить больше злу, чем добру. Но как видишь, я далеко не эксперт. Просто напоролся на это как перелез везде на btrfs, нагуглил, что я 'got bitten by a CoW' и запомнил, что прозрачный CoW нужен не везде.
На btrfs можно создавать подразделы - соответственно свой на /, свой на /home. Количество подразделов практически не ограничено, они разделяют общее пространство, как папки - при создании нового подраздела переразбивать диск не нужно. Можно создавать снапшоты разделов (только на чтение или чтение-запись, на твой выбор), например /snap1 и /home/mysafesnap. В btrfs снапшоты - тоже подразделы. Благодаря CoW создание снапшота не потребует большого места на диске - будут записываться только изменения. Благодаря снапшотам можно безбоязненно экспериментировать с системой - перед опасной операцией, или если не хватает уверенности (вроде апгрейда системы) можно создать снапшот, на одном из них проапгрейдиться, если сломалось - удалить и вернуться на старый, если всё устраивает - удалить старый, остаться на новом. А можно держать оба. Если хочешь переустановить систему, можно установить её в новый подраздел, а когда перенесёшь все настройки/данные, удалить старую систему. Или можно держать несколько разных систем на одном btrfs разделе, в разных подразделах. Можно отправлять инкеремнтальные бэкапы (то есть не полный срез при каждом бэкапе, а разницу с предыдущим) на внешний носитель.
За счёт удобных бэкапов btrfs может оказаться надёжней других фс. Сама по себе она не так проверена временем, как, например ext4
Под линукс - xfs/ext4 - нормальные ФС для хомяка. Не надо слушать высеры про крутость btrfs и глюкодром на ext. Значительной разницы по скорости на обычном HDD и среднем железе вряд ли будет заметно на данный момент. Бэкапы на отдельный носитель - да, делать надо в ЛЮБОМ случае, если данные важны. btrfs вижу смысл использовать только если тебе нужен ее функционал, и то сегодня это весьма сомнительно.