Замена Mutter на Compiz в Gnome

Нет.

Вообще зависит от того, о каком гноме идет речь. gnome-shell это плагин к mutter, соответственно если ты заменишь wm (если сможешь еще, там все прибито гвоздями), то потеряешь щель. В gnome2 или mate можно заменить легко, но там, сам понимаешь, не mutter.

gnome-shell это даже не плагин. это и есть wm. mutter - библиотека, которую gnome-shell использует для управления окнами

Если только с Gnome Flashback.