O teu post está confuso, mas segundo percebi não tens o composite activo.
Quanto ao computador, aguenta perfeitamente, porque o compiz,beryl e afins usam a memória da placa gráfica e não a do sistema (e mesmo com 768mb dá perfeitamente).
Para activares o composite:
sudo cp /etc/X11/xorg.conf /etc/X11/xorg.conf-bkp
sudo gedit /etc/X11/xorg.conf
Procuras por Extensions até encontrares Section "Extensions"
Em baixo deves de ter Option "Composite" "Disable" (caso não tiveres, adicionas a linha Option "Composite" "Enable"; caso tiveres, mudas de Disable para Enable).
Salvas e fazes ctrl+alt+backspace
Caso o ambiente gráfico não iniciar correctamente depois do ctrl+alt+backspace, fazes ctrl+alt+f1, logas com o teu utilizador e fazes:
sudo cp /etc/X11/xorg.conf-bkp /etc/X11/xorg.conf
sudo /etc/init.d/gdm restart