No terminal (Ctrl + Alt + T), digite:
sudo aptitude install language-support-pt language-pack-pt language-pack-gnome-pt-base language-pack-gnome-pt
Depois de instalado, procure por Suporte a Idiomas, selecione o idioma Português Brasil e manda aplicar em todo o sistema.