jadir, acho que eu já tive este mesmo problema. Apanhei muito para resolver e, por causa disso mesmo, deixei registrado em um arquivo para uso futuro (na eventualidade da caca acontecer de novo). Então, vai aí embaixo um "cut and paste" desse registro que fiz. O texto é meio longo porque registrei tudo.
--------------------------------
Já usava o Compiz há bastante tempo no notebook mas ao alterar uma opção do Compiz em Área de Trabalho ou em Efeitos (não me recordo exatamente qual), não consegui mais abrir nada pois quando clicava em uma opção (p.ex., Sistema, para acessar Preferências e o Compiz), as janelas (ou caixas de diálogo) que apareciam eram pretas com molduras mostrando todo o espectro de cores e sem as opções. Tentei mudar a Aparência (clicando com o botão direito na área de trabalho) e também não consegui pois abria a tal caixa de diálogo toda preta. Até mesmo para clicar no ícone de liga/desliga, a caixa que abria era preta e eu era obrigado a sair pressionando o Power Off mesmo.
Tentei entrar através do modo recovery mas não adiantou. Entrei no modo de segurança do Gnome (e aconteceu o mesmo das telas pretas).
Dei boot também pelo Live CD (na verdade, pelo cartão SD bootável) e, seguindo uma sugestão que vi na web, fui à pasta /home/ubuntu/.config e apaguei o arquivo compiz mas igualmente não adiantou.
Eu imaginava que uma alternativa possível era eu conseguir desativar o Compiz mas não dava nem para abrir a janela do terminal pois não conseguia chegar à janela do terminal já que qualquer caixa que tentava abrir aparecia toda preta (inclusive o <ALT+F2>).
Solução:
-- ao dar o boot, entrei no modo de recuperação (recovery mode) como root (uma das opções que aparece quando se entra naquele modo).
-- desinstalei o compiz com o comando
sudo apt-get remove compiz compiz-gnome emerald fusion-icon
(não tenho certeza se um dos componentes era compiz-gnome ou compiz-fusion – no entanto, no 1º comando que dei, com um dos dois, veio a mensagem dizendo que aquele pacote não existia e aí usei o outro).
-- vieram algumas mensagens dizendo que alguns pacotes não haviam sido removidos e sugeria o uso de
sudo apt-get autoremove
-- fiz e fiquei com a impressão de que removeu mais do que deveria (aparentemente, mais pacotes foram removidos além daqueles que ele havia informado não ter removido – mas pode ter sido apenas uma impressão minha)
-- voltei a dar o boot. Quando o sistema entrou normalmente, estava com o sistema de janelamento básico (apenas 2 desktops, é claro que sem o compiz e com outras coisas bem simplificadas).
-- executei o Synaptic e instalei o compiz-gnome
-- depois que o instalei, entrei em Sistema > Preferências > Gerenciador de configurações do CompizConfig
-- as opções que havia eram em quantidade menor do que as anteriormente existentes (antes do “pau”)
-- voltei ao Synaptic, procurei por compiz e instalei outros pacotes. Não me recordo o que instalei adicionalmente mas, ao final, estavam marcados os seguintes pacotes (entre outros): compiz, compizconfig-backend-gconf, compizconfig-settings-manager, compiz-core, compiz-fusion-plugins-extra, compiz-fusion-plugins-main, compiz-gnome, compiz-plugins, compiz-wrapper, emerald, fusion-icon
-- reconfigurei o compiz mas agora com todo o cuidado e deixando o mínimo de opções marcadas.
--------------------------------
Deve haver um jeito mais fácil de resolver mas foi dessa forma que o novato aqui conseguiu sair do outro lado.
Um abraço.