Você está usando o driver correto da nVidia ? Tem uns 3 diferentes, para placas antigas, por exemplo. Verifique isso.
Dê uma olhada também nos logs do servidor X (/var/log/Xorg.0.log, ou algo parecido) e veja as mensagens de erro.
Poste mais informações aqui, senão não tem como ajudar.