Присвоить домен для ip:port

Если вебсервер - apache, то читайте про переменную VirtualHost. Если nginx - вам поможет переменная server_name.

Далее - если ваш хостер/впс предоставляет dns-серверы - покупаете домен и настраиваете dns, инструкцию вам дадут регистратор домена и хостер. Если dns-серверы не предоставляются - почитайте про настройку bind9.

купить домен и остаться с носом

Можно на кошках потренироваться

Поднять виртуальный хост на 80 порту вебсервера, который при обращении к домену проксирует запросы на http://ip_address:port/Joomla. Если вебсервер работает на nginx, я могу скинуть пример конфига.

Всем спасибо за ответы) Теперь есть куда мыслить =) somestuff - благодарю, но я у меня уже настроено всё под apache2 =) Буду добивать)

DNS (точнее «A» и «AAAA» DNS записи, используемые при подключении по HTTP) отвечает за получение IP-адреса из доменного имени. Порт там не фигурирует.
Т.е. DNS может сказать что example.com это 10.0.0.1, но не может сказать что example.com это 10.0.0.1:1234 или 10.0.0.1:1234/somedir

Настрой веб сервер на использование стандартного 80-го порта, перемести свою жумлу в корень сайта (т.е. перемести содержимое директории /Joomla в ту директорию в которой находится директория /Joomla).

Пара советов на будущее:
apache давно пора закапывать. Для тестового сервера «на поиграться» он ещё как-то сойдёт, но для сайта у которого будет больше десяти посетителей в день его надо как минимум прикрыть nginx-ом.
Joomla тоже лучше закопать. Как по мне уж лучше WordPress, по нему хоть документация толковая и плагинов приемлемого качества до чёрту.