Как правило, там всегда nl80211, т.к. для других драйверов используются «свои» версии hostapd и там в ридми каждого драйвера написано, что вписывать.
Если вы используете opensource драйвера, например, из ядра, или сами собираете backports, то там всегда nl80211. Строка 'driver=' описывает интерфейс работы с драйвером беспроводного адаптера, все mainline используют nl80211. Проприетарные, как правило, используют свои вариации IOCTL'ов и могут называться по-разному и, соответственно, их поддержка должна так же быть в hostapd, то есть своя версия этого приложения.