доступная память

Так выделить ее сразу и все дела

Память юзается под разные цели. Как то потоки, отедльные структуры данных. В основном тратится на создание потоков

может попытацца так (опытным путем)

void* ptr;
start = 1024 * 1024 * 1024; //гигабайт
end = 1024 * 1024; // мегабайт

mem = start;
while ((ptr = malloc(mem)) != NULL) {
mem = mem / 2;
}

ерунда.

точнее ИНОГДА это работает но крайне редко

если ты начнёш ф-ю main() этой ерундой то malloc на абсолютном большинстве систем НИКОГДА не вернёт NULL даже если доступной памяти осталось 1 байт

Это Frequently Unanswered Question ;-)
На самом деле в многопользовательской, мультизадачной операционной
системе этот вопрос не имеет практического смысла. Если даже в
какой-то момент ты сможешь определить, сколько система выделила
бы тебе памяти нет никаких гарантий, что последующий твой запрос
на память будет успешным - мало ли какой еще процесс запросил память.
Поэтому не парься - просто запрашивай память по потребности.

да и ещё нюанс. В твоём случае память целесообразней запрашивать через mmap(MAP_ANONYMOUSLY) вместо malloc() и иже с ним.

Чем это лучше? Ну вообще предпологается, чт на системе основная задача - моя, поэтому я думал определить макс кол-во доступной памяти, вычесто оттуда метров 200, и вперед

этот вопрос действительно так часто задается, что
я уже устал отвечать.

Onanim все правильно сказал. могу только добавить,
что есть флаг MAP_LOCKED (или можете сделать mlock
после mmap). другого способа _гарантированно_ получить
память в многопользовательской среде нет.

если sysctl_overcommit_memory == OVERCOMMIT_NEVER,
то вы можете более или менее рассчитывать на то,
что выделенная через mmap (без MAP_LOCKED) память
действительно для вас найдется в момент использования.
но и в этом случае нет гарантий что администратор
не сделает swapoff или кривой драйвер не заберет
себе всю память в системе.

> да и ещё нюанс. В твоём случае память целесообразней запрашивать через mmap(MAP_ANONYMOUSLY) вместо malloc() и иже с ним.

У меня есть серьезные подозрения, что на всех современных юниксах malloc больше определенного порога работает на mmap, а не на brk. Это совершенно точно так на FreeBSD - я давеча проверял. Порог - что-то в районе десятков или сотен килобайт, это уже запямятовал.

glibc под linux именно так себя и ведёт, порог насколько я знаю настраиваемый. В последних OpenBSD malloc ВСЕГДА напрямую транслируется в mmap.

насколько я понимаю непосредственное использовани mmap более гибко чем использование malloc(), но malloc при небольших обьёмах ~1K существенно более быстр.