Понятно, что из 8-10 пикселей гладкая-круглая буква не получится. Но зачем? Это раньше, было разрешение экрана 800-1000 пикселей, поэтому шрифт был 8-10 пикселей. Сегодня разрешение экрана минмимум вдвое больше.
Поэтому, поставь шрифт 20 и не надо будет ничего сглаживать.
Если все-таки хочется «размазать», то зависит от DM, точнее даже от используемого «greeter».
Например, lightdm может использовать разные «greeter». Стандартный «lightdm-gtk-greeter», его настройки в /etc/lightdm… Там есть и шрифт и сглаживание.
А можно просто не разглядывать экран под лупой и тогда никакие сглаживания тебя интересовать не будут. Ну разве что кроме шоифтов 5х7 пикселей каких-нить.