Sempre que um pacote for instalado, é realizado o download do mesmo e armazenado em cache?
Sim. E em atualizações também. O Ubuntu (e talvez todas as distros baseadas no Debian) mantêm os pacotes .deb dos aplicativos baixados num cache. Fica numa pasta do sistema no qual não lembro agora.
É possível instalar um pacote e fazer com que o mesmo seja excluído do cache após a instalação?
No Synaptic tinha uma opção que depois de baixado o pacote, ele automaticamente apagava o .deb no cache. Não sei se tem isso na Central de Programas.
Se quiser apagar *todo* o cache dos .debs, tem um comando que faz isso: sudo apt-get clean (utilizado por alguns para liberar espaço no HD)
Após instalado o pacote desejado, este pode fazer uso de cache para rodar?
Se for apenas uma lista de repositório, acho que sim (não tenho certeza). Mas se estiver falando dos pacotes .deb do cache, eles só são usados para instalar o aplicativo em si. Depois de instalado o aplicativo, creio que o pacote .deb não é mais necessário, a não ser que queira instala-lo novamente.