Esse posso dizer que é o grande problema desta versão do Ubuntu e na verdade nem sei se o causador dele é o Unity/compiz, ou a placa gráfica ou até mesmo ambos, mas se observar pelo fórum há inúmeros relatos desse problema de encerrar a sessão e voltar para tela do GDM. Alguns falam ao ver vídeos no player em tela cheia, outros no uso normal do navegador firefox, etc.
O certo mesmo é que não tem razão de ser, pode ocorrer nas mais variadas situações e, às vezes, até parece que desapareceu, mas de repente, lá está ocorrendo outra vez.
Pelo visto até seus desenvolvedores nem sabem o que causa isso, pois nenhuma das pouquíssimas atualizações desde o lançamento, resolveu o caso.
PS: Hoje vi atualizações do compiz e unity, vamos ver se o problema desaparece ou será mais um alarme falso, hehehe.