Gnome é uma interface gráfica. Ele gerencia as janelas, pois as mesmas estão dentro da interface gráfica.
Portanto, Gnome também é um gerenciador de janelas, mas é errado definilo como gerenciador de janelas, pois da a impressão que o Gnome só faz isso, deixando de lado a administração dos menus, a forma de trabalhar...
Resumindo, gnome é uma interface grafica e uma das funções da interface grafica é gerenciar as janelas que trabalham dentro dele.
Metacity é o decorador de janela padrão do GNOME, ele gerencia as bordas das janelas, permitindo que mudemos de cor e forma de trabalhar.
Existe varios "skins" para mudar a borda da janela, mudando sua cor, formato e forma da janela trabalhar, por exemplo, eu utilizo borda 100% transparente nas janelas.
Como o metacity gerencia as bordas, ele gerencia também os botões de fechar, minimizar e restaurar, podendo em alguns casos, a gosto do usuário e do "skin" selecionado, mudar os botões de posição e/ou adicionar um outro botão com mais uma função.
Por esse motivo, podemos dizer que o metacity é também um gerenciador de janelas, pois ele pode definir a forma como a janela vai trabalhar.
Eu utilizo o emerald para esse trabalho.
O Nautilus é o gerenciador de arquivos padrão do Gnome, para entender, podemos dizer que ele é a janela.
Sua função é permitir que naveguemos entre as pastas de forma rápida e intuitiva.
Portanto:
Qual seria a diferença entre o gnome com nautilus + metacity; para o xfce com nautilus + metacity?
Gnome (Interface grafica) + nautilus (Gerenciador de arquivos - "Janelas") + metacity (Decorador de janela - Gerenciador de borda de janela)
XFCE (Interface grafica) + nautilus (Gerenciador de arquivos - "Janelas") + metacity (Decorador de janela - Gerenciador de borda de janela)
XFCE é uma interface gráfica diferente do gnome, não tem os mesmos recursos do gnome e administra tudo de forma diferente.
Existe outras interfaces graficas, como KDE, por exemplo.
Qual a diferença entre nautilus e metacity?
Metacity gerencia a bordada janela, sua aparência e, dependendo do caso, como as bordas trabalharão.
Nautilus é o gerenciador de arquivos, para que entenda, pode-se dizer que ele é a janela.
Nautilus e metacity estão dentro do gnome e são apenas dois dos poderosos recursos que essa interface gráfica oferece.
Outras interfaces gráficas podem, ou não, trabalhar com o Nautilus e o metacity.
Dependendo da interface que utilize, você trabalhar com um gerenciador diferente do nautilus e outro decorador de janelas diferente do metacity, assim como eu utilizo o Emerald ao invés do metacity para realizar essa tarefa.