Выдрать айпишник, стоящий в конце строки:

rex='([0-9]+\.){3}[0-9]+$'
if [[ '[18:45:35] BAD ATTEMPT: 178.234.102.249' =~ $rex ]]; then echo ${BASH_REMATCH[0]}; fi
178.234.102.249

Слэши поменяй на обратные перед скобочками.

Такое не работает: ^/[.*/] BAD ATTEMPT: <HOST>$

да, во первых \[.*\], во вторых надо использовать не просто пробел, а что-то типа \s+ (PCRE/GNU-ERE).