Olá, antes de mais nada tente dar um update e um upgrade no linux,
sudo apt-get update
sudo apt-get upgrade
depois instale os programas desejados, no meu caso eu utilzo:
sudo apt-get install apache2 php5 php5-gd mysql-server phpmyadmin.
após a instalação o mysql vai pedir que coloque um login e senha, coloque no mysql e no phpmyadmin tbm.
depois que estiver configurado, acesse o servidor dedicado, caso não saiba o IP que colocou em sua máquina (servidor), acesse:
sudo vi /etc/network/interfaces
nesta opção vc vai editar o seu ip do servidor, após feito isto vc acessa: ip-servidor/phpmyadmin