Если почитать man mount, можно найти там такое:
Mount options for fat
(Note: fat is not a separate filesystem, but a common part of the msdos, umsdos and vfat filesystems.)
...
check=value
Three different levels of pickyness can be chosen:
r[elaxed]
Upper and lower case are accepted and equivalent, long name parts are truncated (e.g. verylongname.foobar becomes verylong.foo), leading and embedded spaces are accepted in each name part (name and extension).
n[ormal]
Like "relaxed", but many special characters (*, ?, <, spaces, etc.) are rejected. This is the default.
s[trict]
Like "normal", but names may not contain long parts and special characters that are sometimes used on Linux, but are not accepted by MS-DOS are rejected. (+, =, spaces, etc.)
Если посмотреть в Documentation/filesystems/vfat.txt
check=s|r|n -- Case sensitivity checking setting.
s: strict, case sensitive
r: relaxed, case insensitive
n: normal, default setting, currently case insensitive
А на самом деле, как оказалось, эти опции работают только для mount -v msdos, а в vfat — опция не проверяется вообще.
Причём символ ":" запрещён даже с msdos и check=strict, в то же время, как OpenBSD без проблем и с дефолтными опциями монтирования позволяет создать на FAT разделе файлы с двоеточиями в имени.