Создаю свой окно а в нем хочу запустить другое приложение

типа что-бы оно (приложение) в качестве RootWindow получили хендл моего окна

и что-бы оно (окно приложения) было без декораций

В качестве RootWindow не получится. По-любому нужна поддержка в запускаемом приложении. Если же возможность такая есть, то можно воспользоваться расширением XEmbed, или практически во всех тулкитах к нему обертки есть.

А есть ли возможнть у уже открытого окна поменять rootwindow?

Поищи на freshmeat. Там такой проект уже есть...

>

Вам надо дождатся carrot он вам всё рааскажет. ;)

А пока поройтесь по тредам неделю назад етот вопрос обсуждался и даже примеры были

ничего не могу найти не на свежем мясе ни здесь :(
натыкните кто может

Поройся в девелопмент во всех моих треда на околоиксовые темы. Найдёш минут за 15