Существует чтото вроде patch file system?

Overlayfs поверх чего угодно, любая ФС c рефлинками.

Возьми лучше любую систему управления версиями, скажем, Git.

снапшоты

Есть каскадные файловые системы: aufs, unionfs, overlayfs.

# mkdir mkdir /tmp/merged /tmp/tmpfs
# mount -t tmpfs tmpfs /tmp/tmpfs
# mkdir /tmp/tmpfs/changes /tmp/tmpfs/tmp
# mount -t overlay overlay -o lowerdir=папка/,upperdir=/tmp/tmpfs/changes,workdir=/tmp/tmpfs/tmp /tmp/merged

overlayfs конечно же решает твою проблему, но затраченные усилия того не стоят.

вместо того чтобы страдать фигнёй, сделай tmpfs, скопируй туда всё целиком, редактируй, тестируй, а потом отмонтируй и забудь.

tmpfs это здорово, но ТС не указал размер файла. Может это бигдата (которая в память не лезет, и на диске её экземпляры размножать накладно), или образ диска. Тогда понятно и стремление защитить оригинал от изменений, и нежелание связываться с git (который создаст как минимум одну упакованную копию файла в своей папке, помимо текущей).

git вообще не для бинарей, и, уж тем более, категорически не для многогигабайтных бинарей.

squashfs - и read-only, и поддерживает append. только как это будет по итогу выглядеть - я не представляю, если честно.

Тогда ещё log-structured. А что, непонятно же, что ТС имел в виду.

BTRFS+CoW.

https://jnotes.ru/create-lvm-snapshot-and-restore.html