nginx proxy - форвардинг запроса на несколько серверов

Ну зависит от того, как у тебя работают эти три сервера. Если в серверной части этих серверов не хочется городить возможность отмены запроса, то пишешь просто модуль для hedged запросов для nginx, если хочется все же отменять, то tied. Искать по speculative tasks/hedged requests.

Не, отменять ничего не нужно. Нужно просто броадкастить запрос и брать ответ с первого сервака.

С первого сервака или с первого пришедшего ответа?

https://nginx.org/en/docs/http/ngx_http_mirror_module.html

С первого сервака

пиши модуль - там не сложно, ну, конечно если в сишку можешь

Да, именно это и нужно вопрошающему.

Правда, реализовано оно почему-то аццкими костылями. Но кто на код смотрит? :)

Почему костылями? Все вынесено в конфиг — наруливай как тебе надо.

Я о костылях в способе реализации. И из-за них лезет в том числе невозможность миррорить тело запроса без его полной буферизации.

А как ты хотел? Чисто технически поясни. Я другого пути не вижу, т.к. разные бекенды в разное время получат запрос и в разное время ответят — так и так буфер нужен из которого всем надо раздать.

Можно как в случае одного бекенда без буферизации: если он медленно отвечает, то временно прекращать приём данных. При нескольких бекендах - ждать самого медленного.

ну я в код особо не вникал, но реализовано оно через внутренний механизм subrequest'ов.

оно для другого и этот миррор не обязательно на апстрим полетит.

можно например в njs послать.

Спасибо большое за совет! Помогло.