Já que o pendrive dá boot normalmente tanto no notebook quanto no desktop, então não há um problema com o pendrive, tudo funciona normalmente com ele e com o Ubuntu nele instalado, portanto, vamos eliminar essa variável já que nela tudo funciona e, por consequência nada há a fazer, pois considerar o pendrive irá apenas complicar o raciocínio sem adicionar nada.
O que resulta então no cenário é uma instalação do Lubuntu feita num hd externo, possivelmente através de uma conexão USB, que consegue dar boot quando conectado num determinado notebook, porém não consegue quando conectado a um determinado desktop.
Uma possibilidade inicial são portas USB de tipos diferentes entre o notebook e o desktop, que fazem com que haja leitura do hd externo no notebook e não no desktop.
Um segunda possibilidade é quanto ao tipo de setup de uma máquina e outra, do tipo BIOS convencional ou UEFI, evidentemente supondo que em ambos os computadores foi colocada a ordem correta de boot no setup.
Nesse desktop onde o hd externo não dá partida no Ubuntu o que mais há instalado nele?