Множественный upstream для nginx

Haproxy добавь и все

Haproxy перед nginx. Нужно раскидать по бэкэндам. Имхо втыкать ещё один haproxy не «комильфо».

в сторону try_files смотри

Проблема в том, что try_files воспринимает только один именованный location. (Последний) Всё остальное отдаёт как статику.

Попытался решить с помощью дополнительных апстримов. Тока оверхед уж очень большой получился

upstream balancer_phy_dc {
    server 127.0.0.1:8080; # Phy
    server 127.0.0.1:8081 backup; # Dc_All_balancer
}

upstream balancer_dc_all {
    server 127.0.0.1:8082; # Dc
    server 127.0.0.1:8083 backup; # All
}

upstream phy_backend {
        server A;
}

upstream dc_backend {
        server B;
}

upstream all_backend {
        server C;
}

server {
    listen       80;
    location / {
      proxy_pass http://balancer_phy_dc;
    }
}
server {
    listen       127.0.0.1:8080;

    location ~ \.php$ {
        fastcgi_pass   phy_backend;
    }
}
server {
    listen       127.0.0.1:8081;
    location / {
      access_log off;
      proxy_pass http://balancer_dc_all;
    }
}

server {
    listen       127.0.0.1:8082;

    location ~ \.php$ {
        fastcgi_pass   dc_backend;
    }
}

server {
    listen       127.0.0.1:8083;

    location ~ \.php$ {
        fastcgi_pass   all_backend;
    }
}

Емнип, у nginx в перечислении апстримов есть ещё такой параметр - weight

weigt даёт распределение. Из офф документации

    server backend1.example.com weight=5;
    server 127.0.0.1:8080       max_fails=3 fail_timeout=30s;
    server unix:/tmp/backend3;

В вышеприведённом примере каждые 7 запросов будут распределены так: 5 запросов на backend1.example.com и по одному запросу на второй и третий серверы.

У меня чуть чуть другая задача.

У тебя server1...3 у каждого апстрима свои что ли?

Да. Первая группа - это контейнеры в рамках физической машины. Вторая - в рамках датацентра Третья - по всем датацентрам.

То есть, пока есть контейнеры на машине - нельзя ходить на другие. Когда их нет - то по датацентру. Если и в ДЦ нет, тогда по всему кластеру.

Как без колхоза сделать - хз.

Просто я, исходя из имён, подумал, что одни и те же сервера используются. А без колхоза - это, наверное, апстрим-кластер делать с весами, приоритетами, Джеком Блэком и шлюзами...

глянь-ка, что люди вытворяют! http://stackoverflow.com/a/28337170

тоже вариант, кстати. вместо 404 можно любую другую ловить..

Интересный хак! попробую заиспользовать.