Оно работает через Xlib API, но без X сервера. Используется реализация Xlib поверх нативного API Xlibe. Xlibe – это древняя поделка ещё времён BeOS которую недавно откопали и начали активно допиливать.
В перспективе надо бы написать отдельный winehaiku.drv.