Как установить 100 герц в разрешении 1024*768?

XFree86 4-й версии сами ставят наибольшую частоту развертки. А узнают они ее из параметров монитора и возможностей чипа видеокарты. Если чип или монитор 100 Гц не могут, то и не выставите вы ее. Загляните в /etc/X11/XF86Config-4, найдите Setion "Monitor" и впишите туда диапазоны частот развертки монитора (возьмите из паспорта на монитор). Только не советую обманывать с поддерживаемыми частотами - сгоревший монитор будет на вашей совести.

нихера эти иксы максимум не определяют у меня RivaTNT2 и монитор CTX 705 F в виндах 1024x768 без базаров 100 герц а в X хрен: 85 больше только через xvidtune

А как насчет фирменных драйверов NVIDIA?