Вопрос такой - почему windows машина настолько всеядна

MS-way!

где рыть чтобы это все нормально выглядело на centos?

Какой веб-сервер? Локаль системы, думаю, тут не при делах. Могу ошибаться.

Локаль системы utf-8, и в apache по дефолту она же.
На centos - php 5.2.17, apache 2.2.15 backend, nginx 1.0.14 frontend, mysql 5.5.22
На windows 2003 server - Apache 2.2.20, Mysql server 5.2, Php 5.2.13

Кстати говоря, еще попробовал перенести на один сервер с freebsd 8.2, та же самая проблема.

С какой локалью инициализированы таблицы/базы в MySQL?
Навскидку, попробовал бы изменить локаль апача на 1251. Вероятность небольшая.
NginX принимает статику, не думаю что он может влезать в это. Хотя я бы проверил чистый апач.

база сравнение utf8_general-ci , часть таблиц в utf-8, часть в cp1251. Попробовал все таблицы сконвертировать в utf-8. проблемы с поиском остались.

Большую часть проблем убралось когда я файлы php, html и тд перевел в utf-8. Проблема только с этим поиском осталась.
Но больше всего меня раздражает что на win сервере всё это работало нормально, на *nix вылезло куча проблем. И с другими сайтами иногда тоже возникали похожие проблемы.

Но больше всего меня раздражает что на win сервере всё это работало нормально, на *nix вылезло куча проблем.

Гнойник вскрылся ))

По поводу поиска, может быть дело в индексах. Я MySQL никогда не использовал.

порядок переноса

короче если отображаются из другой кодировки - значит так перевел все в utf-8

выгрузи sql и просмотри его на наличии другой кодировки

иначе модули или файло сценариев делает плохо дело - но тогда весь поиск должен поплыть