докер несколько инстансов и общий порт

Ты хочешь load-balancing?

Ты хочешь load-balancing?

Тоже об этом подумал. Ставь перед контейнерами nginx/haproxy или что там сейчас модно.

я хочу запустить локально несколько сайтов на разработку,прописать домены в etc/hosts и одновременно заниматься несколькими проектами

Добавь nginx и проксируй через него. Это самое правильное решение.

в каждый docker-compose.yml добавить nginx? а как он стартанет?

Один nginx, в нем создать виртуальные хосты, каждый вирт. хост будет reverse-proxy к конкретному сайту.

сделать отдельный контейнер с nginx и в нем прописать все домены и пути к сайтам?

Да

Используй traefik он с docker-compose нормально интегрируется. Если для продакшена, то лучше nginx и docker-compose в проде не используют.

планирую для отладки на локальном компе

Значит traefik