No seu caso, o sistema iniciará mesmo com o Windows. Não aparecerá a tela de escolha de sistema na hora do boot.
Para que você abra o Ubuntu, vá ao menu iniciar e procure pelos programas recentemente instalados. Lá, provavelmente você encontrar algo relacionado ao Linux, talvez um atalho com o nome da distribuição ou com o nome do programa usado para fazer a instalação, neste caso, talvez o Wubi.
Essa forma de instalação, do Ubuntu dentro do próprio Windows, é boa para que você tenha uma noção de como é o sistema Linux. No entanto, você obterá ganhos de desempenho e verá como realmente é ser um usuário Linux quando fizer a instalação em outra partição criando assim um dual boot.
Nesse caso, aparecerá o menu para escolher o sistema operação no boot, como você perguntou. E ainda neste caso, o sistema será carregado por inteiro sem a interferência do Windows.
Para fazer a instalação em outra partição, não se esqueça de fazer um backup antes do redimensionamento do seu disco rígido, para eliminar o risco de perder seus dados. Se você quiser mesmo instalar o Linux em outra partição para poder escolher entre Windows e Ubuntu na hora do boot, no forúm temos muita informação com relação à esse assunto.
Se tiver qualquer dúvida, estamos à disposição. E antes que eu esqueça: parabéns por instalar o Ubuntu, você acaba de entrar no mundo Linux. Seja bem vindo!