ну возьми из исходников скомпили программу

Чего то я не понимаю.

Есть готовая прога (рпм пакет) для работы которой необходимы разные внешние библиотеки. Если взять исходник проги и скомпилировать то не получиться ли тоже самое?

попробуй rpm --nodeps, потом ldd <твоя программа> выдаст тебе кучу нужных ей библиотек, поищи их в своей системе, если есть похожие, поставь симлинки, если нет -- выдирай из рпм-ов и просто копируй в /usr/local/lib

все это очень загаживает систему

Я бы не стал выдирать библиотеки из rpm'ов - потом
забудешь откуда что взялось и будешь трахаться и искать.
Все просто - хочет программа чего-то, заходишь в это чего-то и
смотришь описание.
Мне, например, в sylpheed'е поддержка gpgme никуда не уперлась,
но сульфид ее хочет.
Естественно, что поставил без этого gpgme, gnupg и всего остального
хвоста из ненужных мне библиотек.
Если проги не собираешь сам, снеси пакеты *-devel.
А еще можно зайти в каталог с либами и сделать strip -g *
(убьет всякий мусор из библиотек отладочный - они будут гораздо
меньше весить).

РедХат7.3: не могу достать исходники из рпм.

Имеются исходники в виде рпм пакета!? Не могу их достать оттуда, рпм -ивх не помогает (из под рута): error: нельзя создать sourcedir: /usr/src/redhat/SOURCES

Я вручную дополнил каталоги /usr/src/redhat/SOURCES - српм-ки
стали ставиться.