Bom, então vou tentar explicar um provável motivo...
No bios temos as informações de varias resoluções tanto para CRT como DVI .. independentemente da placa...
Por sua vez o X tenta ler primeiro a informação que a placa de vídeo transmite, mais ou menos assim:
X diz: Oi placa de video tudo bem?
Placa diz: Sim, vamos começar o trabalho.
X diz: informe primeiro, as resoluções, freqüências e taxas de atualização a que é capaz de operar.
Placa diz: Ok brow.. tae > 1600x1200 85hz@w160~h50....
Agora obvio o X e a placa devem falar a mesma linguagem, caso contrario da nisso
X diz: Oi placa de video tudo bem?
Placa diz: wt* you'r saying?
A partir desse momento o X ignora as informações da placa e lê as do BIOS, é ai que da erro, o Bios acaba informando uma resolução não suportada e o X achando que está tudo bem vai em frente.. durante o boot do ubuntu ( o splash image ) usa-se a resolução 1024x768@60hz sempre pois não é controlado pelo X, apos o boot ( iniciando gdm ) o X tenta usar a resolução mais alta que o Bios informou...
esses são dados de um artigo que li recentemente sobre o X, e tentei "traduzir" pra uma linguagem mais compreensível.. e por acaso a informação bate com esse problema, pois placas ATI não tem uma boa historia de amizade com o X...
lembrando que a placa de video fala uma linguagem entendida pelo monitor.. existe uma padrão, mas caso o monitor não entenda a placa de video usa a que ele entende... mas bom melhor parar a explicação por aqui, ta ficando grande e afinal não vai ajudar... desculpem!