Erro cabuloso, acho que há algo errado aí...
Sobre o executável, que eu me lembre é simplesmente "boinc" sem nenhuma extensão.
Agora estou em casa e não costumo rodar o seti@home por aqui, já usei demais esse programa, mas ultimamente estou meio parado, assim que eu chegar no trampo posso conferir no meu PC de trabalho o nome exato do arquivo.
edit:
Acabei de ver aqui, é simplesmente "boinc" o nome do arquivo executável, e na real você poderia substituir todos os executáveis do diretório no processo, copie e cola na pasta de instalação os arquivos:
boinc
boinccmd
boinc_cmd
boincmgr
Depois tente executar manualmente, ou reiniciando o computador, caso ele tenha a inicialização automática.