в секции modeline как правило по нескко режимов с одинаковым разрешением но разной герцовкой. в секции же монитора указывается, какой диапазон частот (vert & horz) твой мониторий поддерживает, и для каждого разрешения выбирается режим с максимально возможной герцовкой, все остальные игнорируются напрочь. так что если параметры монитория в конфиге хороши, а хотимый режим недоступен, значит он просто неподдерживается. ещё бывает причина в clocks видеокарты; это первый параметр в modeline, а в параметре видеокарты можно задать вручную максимально возможный (может быть не для всех карт, и, вродебы, иногда так можно карточку пожечь напостоянно)
