Olha só, uso do recordmydesktop desde 2009 e nunca tive problemas com ele.
Tem todos os codecs instalados para reproduzir o arquivo .ogv corretamente? Os pacotes gstreamer plugins base, bad, good e ugly estão instalados?
Usou o VLC para assistir o vídeo .ogv?
Não sei a configuração do seu hardware, mas as vezes se a opção "encode on the fly" estiver marcada, dá problema em algumas máquinas, principalmente se não tiver muita potência.
A resolução da tela também pode dar problema, mas geralmente dá pra assistir ao vídeo, apenas a voz fica fora de sincronização com o vídeo.
No aguardo de mais informações!