man fontconfig или fonts.conf
google antialias. Вкратце, вместо того, чтобы рисовать маленькие буквы, сначала рисуются большие и затем уменьшаются до нужного размера. Получаем пиксели разных оттенков серого, из-за чего внешний вид символа лучше (наполовину серый цвет дает эффект "полупикселя", или что-то вроде того %) ). Это насколько я знаю...
