Посоветуйте стек технологий для задачи

Попробуй bottle.py - http://bottlepy.org/docs/dev/deployment.html

с разными серверами, рекомендую bjoern, без обращения к БД дает 20к запросов в секунду.

event-овые опять таки однопоточные,

Кто мешает форкать event-driven сервер?

да и доступ в SQL их блокирует.

Ты видимо используешь синхронный драйвер для общения с базой. Попробуй http://search.cpan.org/~mlehmann/AnyEvent-DBI-2.3/DBI.pm

Если не ошибаюсь, даже Джаннга умеет городить отдельные потоки для клиентов. Но если даже твистед не подошел, возможно стоит смотреть в сторону celery

Глянь в сторону cowboy на erlang.

Более каноничного юз-кейса для Go и не придумаешь.

Кто мешает форкать event-driven сервер?

Да, в общем-то, никто не мешает, конечно. nginx это доказывает :) Но готовых event-driven серверов, которые нормально форкаются, я не нашёл, вероятно плохо искал.

Ты видимо используешь синхронный драйвер для общения с базой.

Да, синхронный. Этот модуль, конечно, видел, но callback-и для работы с базой, на мой взгляд, крайне не удобны. По крайней мере в моём алгоритме я не очень понимаю как их правильно применить. Поэтому мне был бы удобнее именно многопоточный сервер без этой асинхронной мороки :)

Я пробовал твистед в тредах, примерно такой:

#!/usr/bin/python

from BaseHTTPServer import HTTPServer, BaseHTTPRequestHandler
from SocketServer import ThreadingMixIn
import threading

class Handler(BaseHTTPRequestHandler):
    def do_GET(self):
        self.send_response(200)
        self.end_headers()
        self.wfile.write('Hello world!')
        return

    def log_message(self, format, *args):
        return

class ThreadedHTTPServer(ThreadingMixIn, HTTPServer):
    """ blah """

if __name__ == '__main__':
    server = ThreadedHTTPServer(('', 5001), Handler)
    server.serve_forever()

Во, про Го забыл, гляну, сенкс!

в новости про .Net была ссылка на бенчмарки: https://www.techempower.com/benchmarks/

О какая красота, спасибо! Прям глаза разбегаются :)

Конечно же OpenResty, к черту все эти мидлвари.

https://openresty.org/en/benchmark.html

https://github.com/openresty/lua-resty-mysql

Java /thread

Поэтому мне был бы удобнее именно многопоточный сервер без этой асинхронной мороки :)

Даже если запросы будут приходить равномерно, при 1000rps*0.2s = 200 одновременно исполняющихся запросов в каждый момент времени. В реальности, с неравномерным распределением по времени можно ожидать и 400-500. Просто шедулить такое количество процессов/тредов - уже неплохая нагрузка и задержки. И это на первое время, без запаса и подтупливаний mysql

Да, уже положил в бенчмарке на него глаз вкупе с LuaJIT. Попробую.

Вот с жабой связываться не очень хочется, уж лучше Go. Не люблю как-то ея, хотя плюсов у неё много.

Это да, шедулинг оверхед будет приличный, но такие пики будут достаточно редко, да и сервер будет мощный. Просто для асинхронного программирования я, наверное, не готов, да и не программер йа, в общем :) Мускуль потенциально заменим на что-то более производительное типа Redis.

В общем, попробовал Go с fasthttp-routing модулем - красота! 170к запросов в секунду хеллоуворолдовых выдал, 20 ядер занял на ура. Похоже это то, что нужно. Тут скорее СУБД загнётся, а не мидлварь.

OpenResty как-то не порадовал :( На hello-world-е:

worker_processes 6;

pid /tmp/nginx.pid;
error_log stderr error;

events {
    worker_connections  16384;
}

http {
    resolver 127.0.0.1;
    access_log off;

    server {
        listen 5001;

        location / {
            content_by_lua 'ngx.print("Hello!")';
        }
    }
}

Переписал логику на Go, производительность более чем устраивает, scalability просто супер. Всем спасибо! Тему, думаю, можно считать закрытой.