Странные процессы в htop

ps ux

Не видно ж нифига.

проблема в том что в ps их не видно

Так найди этот бинарник да посмотри, что там.
Есть руткиты которые подменяют: top, ps, ssh и так далее (популярные бинарники в основном). А вот сторонние программы они не подменяют, поэтому видно будет не везде. И да top не всегда удачно заменяется, если при запуске top видишь warning, то это скорей всего данный случай и есть.
Попадает такое обычно через словарный пароль к ssh.

ps aufx

Вангану что это потоки на не процессы, в настройках htop можно включить древовидное отображение, тогда будет видно что это за процесс

как искать «этот бинарник»?

нету

спасибо. это был скайп.