Передача данных по сети с низкой задержкой

На фрагментацию точно забивать не стоит, особенно если оборудование не супер умное. Можно на обеих сторонах поиграться с размерами буфера сокета(можно через опции сокета задать, а не глобально на всю систему менять). Ещё, можно сервер по ядрам развешать (опять же это можно сделать из кода сервера, но освободить полностью ядра от других процессов можно только из вне или с правами админа).

Я бы написал для текущей сети тест с помощью какого нить udpreplay или просто tcpdump, который шлёт примерно интересующий тебя набор данных(можно увеличить в 1.5-2 раза), и посмотреть, что можно выжать из конфига без полезной нагрузки а там уже ориентироваться далее.

Что-то очень странное при конфигурации точка->wi-fi->точка и такой низкой пропускной полосе, без промежуточных роутеров, загруженных свитчей, таких бешенных задержек быть не должно.

Смотри в сторону своего софта, мб фаерволов в системе, или своего приложения.

По wi-fi могу посоветовать таки посмотреть на состояние канала: использовать передатчики/приемники с макс числом антен, использовать 2.4GHz вместо 5, использовать более мощные передатчики, выбирать каналы wi-fi которые вообще никем не заняты или заняты по минимуму.

Но это это вряд ли все, чтобы именно wi-fi мог быть причиной таких бешенных задержек радиоусловия должны быть довольно сильно ужасными=)

использовать 2.4GHz вместо 5

Почему не наоборот?

Очевидно ж, чем меньше частота, то тем выше способность радиоволны проходить преграды/преодолевать расстояния.

кроме меньшей частоты есть еще и ширина полосы

«TCP small queues and WiFi aggregation — a war story» https://lwn.net/Articles/757643/

Я как бы не говорил, что 5 лучше 2.4, это не так. 5 рулят. Но очевидно, что 2.4 через пару стенок лучше проходит чем 5.

нужно погонять iperf3 на всех доступных частотах, тогда будет инфа сотка