Каким образом панелька детектирует к какому приложению относится окно?

у каждого окна есть id. Вот на sway например очень наглядно у firefox с id 21 открыты 3 окна с разными подномерами

https://i.imgur.com/AEai28u.jpg

Это вопрос не к пользователям десктопа а к разработчикам конкретных оконных менеджеров, как у них там идентифицируются окна и как они сопоставляются с процессами. Я знаю только то, что «окно» это сущность в памяти х-сервера или композитного менеджера, которую попросило создать какое то приложение. И приложение может попросить создать много окон.

Вот меня как раз интересует как эта иерархия встроенных айдишников строиться и как мне в этот процесс вклиниться.

Надо искать api для конкретного оконного менеджера

Надо будет пробовать но кажется это решается просто написанием desktop файла

что бы это не значило

Если не цитировать спеки, то по сути нужно проделать то, что делает хромой при привращении вкладки в приложение.

Глянь исходники плагина plugins/tasklist/tasklist-widget.c для xfce4-panel. Там все понятно.