Mas, você está querendo instalar pacotes RPM no Ubuntu? Se precisar fazer isso, use o alien, que pode ser instalado com um apt-get install alien. Aí você converte o pacote RPM para DEB, que é o usado no Ubuntu, com este comando, como root:
alien VMware-server-1.0.3-44356.i386.rpm
Ele gera um outro arquivo, agora com a extensão .deb. Para instalar, é só digitar, como root:
dpkg -i <nome do arquivo convertido>