ключ - UUID, значение - до нескольких гигов, но в среднем 1мб.

Это называется «файловая система»

распределенность, лучше всего на базе одноранговой системы (без мастер ноды, или с прозрачным ее выбором)

Это называется «распределенная файловая система»

Файловая система

http://ceph.com/ceph-storage/object-storage/

А он уже готов? Но в любом случае, плюсую ceph как распределенное хранилище.

Это называется «файловая система»

нет, это называется key-value бд, файловая система это вариант иерархической бд

энтерпрайз... понимаю, понимаю.

А консистентность нужна? Каков объем данных?

Одобряю.

gpfs

cephfs не готов. А блобохранилище уже лет пять как работает.

Ищо есть https://github.com/chrislusf/seaweedfs для модных/молодежных.

нет, это называется key-value бд, файловая система это вариант иерархической бд

кто тебе мешает складывать все файлы в корне раздела и не создавать директории?

частично, достаточно атомарного создания, изменения не требуется

объем, порядка нескольких терабайтов

знание про некоторые особенности файловых сситем

кто тебе мешает складывать все файлы в корне раздела и не создавать директории?

Это даже на обычной фс нельзя сделать, не то что на распределенной.

ключ - UUID, значение - до нескольких гигов, но в среднем 1мб.

HDFS

mnesia

Все советователи HDFS как то всегда скромно молчат о задержках и количестве блобов которые может держать одна неймнода. Без кеша не взлетает вообще никак.

Белка, вот про hdfs: http://blog.cloudera.com/blog/2009/02/the-small-files-problem/

частично, достаточно атомарного создания, изменения не требуется

Атомарное создание есть везде. Самое интересное начинается при выпадании машин и/или дисков. Устроит ли тебя недоступность ключей неопределенное время? Если да, то можно попробовать что-то на базе hash-ring. Например, elliptics.

Самое интересное начинается при выпадании машин

Вот судя по требованиям народ хочет репликации а не партицирования (как там это правильно называется). Потому при выпадании машин все должно быть норм (ну кроме возросшей нагрузки на оставшиеся)

В hash-ring при выпадении машин съезжают диапазоны ключей, поэтому может получиться так, что данные без танцев с бубном прочитать нельзя, хотя они лежат на здоровых машинах.

там разве не консистентное хеширование?

спасибо, хотя они за 6 лет могли что то поменять