Se vc. usou o tutorial indicado, basta vc. apagar:
1) a pasta sunbird no diretório /opt;
2) o link que vc. criou em /usr/bin com o nome sunbird;
3) a entrada de menu (o arquivo sunbird.desktop).
Faça isso como root pelo próprio nautilus (alt + F2: gksudo nautilus). Procure também por uma pasta ".sunbird" (o ponto na frente indica que é um arquivo oculto, então marque a opção para exibi-los no nautilus - ou use ctrl + h) na sua pasta home. Se achar, também pode apagar.
A dupla apt/synaptic não encontrou porque vc. instalou "na mão" e não há qualquer registro da instalação no seu sistema.