Пришлось обновить Xorg с 1.6.0 до 1.6.2+ (1.6.3)
затем drm/mesa/kernel/xf86-video-ati из git
теперь работает kms/dri2
производительность 3d выросла в 2 раза, редирект opengl окон с композитингом работает как и положено, при dri2, ни мерцает, видео через xv тоже немерцает.
radeon 4850
Неужели дождались :)
И напоследок, кто-то предложил мерять производительность таким способом - /usr/lib/xscreensaver/glblur -fps
45 fps : Mesa DRI R600 (RV770 9442) 20090101 TCL DRI2