Нет не использует. Да и не может. -mmmx, -msse - это всего лишь указания компилятору что в коде могут встречаться соответствующие инструкции. Сам он делать их за тебя не будет. Максимум чего можно добиться - это сделать так чтобы для операций с плавающей точкой использовались соответствующие операции. Но никто их не будет векторизовать. Так что большого выиигрыша ты не получишь. Вот опции: -mfpmath=sse (можно -mfpmath=sse,387 для одновременного использования и sse и обычного floating point unit, но говорят это глючно и не работает).