как в java можно запустить несколько jar ?

никак

То есть, придется вылезать за пределы jvm, сокеты, очередь сообщений, файлы итп.

С одной стороны, никак. JVM может запустить только одну программу. С другой стороны, можно написать запускающую программу, которая будет вызывать нужные классы последовательно или параллельно в разных потоках. Последовательный запуск особенно прост:

ClassName1.main(new String[]{arg1, arg2});
ClassName2.main(new String[]{arg1, arg2, arg3});

Мне кажется что то, что ты хочешь, называется JavaEE. В общем, тебе нужен Application Server, например, Wildfly.

чтобы они могли общаться

между собой никак не связаны

Таки зачем им тогда общаться?

Но мне кажется вы хотите какой-то вариант кэша, от общедоступных и "кроссплатформенных" типа memcache до того же coherence под weblogic если нужна j2ee и вообще джаваинтерпрайз.

Запустить в отдельном потоке.

я хочу как в эрланге

Брокер сообщений называется то, что ты ищешь. Всякие rabbitmq и т.п., ищи брокер для java, на крайняк, можно использовать Redis с его каналами.

А как там?

Вообще в java можно использовать хоть нативную shared memory, но имхо если у вас там не полтора скрипта для локалхоста то надо брать нормальные решения - с переносимостью, масштабированием и вот этим всем. Может если подробнее описать задачу форумчане смогут подсказать какие-то подходящие решения.

брокеров дофига. для Java самое нативное - Apache MQ. Но ему нужно не то.

Bobby_, если ты ищешь синхронные вызовы, то тебе: REST, SOAP, RMI

Никак.

Для взаимодействия между программами, исполняемых под управлением различных _экземпляров_ JVM, используйте JMX.

Так они никак не связаны, или общаются? Как это выглядит? Если там просто импорты прописаны, то надобавляй жарников в classpath, они друг-друга увидят. Если там dependency injection, то надо пользовать какой-нибудь фреймворк типа спринга или ejb. Пока что не очень понятно что конкретно ты хочешь. А прямого доступа к памяти ты в жаве не получишь что в одной jvm что в разных, без разницы.

есть app_controler. он управляет жизненным циклом приложения (app). Скажем start|stop|restart|suspend. Между собой app никак не связаны или связаны очень быстрым каналом типа shared buffers в рамках одной vm.

https://github.com/landlord/landlord

но ты делаешь херню.

похоже, что ты эволюционировал до архитектуры JavaEE: https://ru.m.wikipedia.org/wiki/Java_Platform,_Enterprise_Edition

твое описание очень похоже на EJB: https://ru.m.wikipedia.org/wiki/Java_Platform,_Enterprise_Edition

https://ru.m.wikipedia.org/wiki/Enterprise_JavaBeans