Vou explicar o que ta acontecendo.
Instalei no pen drive, dou boot por ele, na hora de instalar crio a partição para o Ubuntu e instala na boa, só que quando reinicia, não da opção de boot e vai direto para o Windows, ele não instala o GRUB. Tem como resolver isso pelo Windows?
E se seleciono a primeira opção de instalação, para instalar internamente com o Windows, ele reinicia e volta para a tela de instalação num ciclo infinito.