O mais famoso é o Lilypond todo em modo texto.
Eu uso, mas ainda não acostumei ainda, vi até um front end para ele, mas sinceramente, achei pior do que fazer em modo texto, tem vários tutorias na net, vou passar o que tenho usado, passo a passo.
http://erasmo.info/lilypond/tutorial/PS.: A resultado final quanto a parte gráfica, achei superior a do finale, fora o fato de que a correção de erros é mais prática no lilypond.
Difícil é migrar, porque são outras leis, outra linguagem, mas ele é muito menos limitado que o finale, principalmente por ser em modo texto, as possibilidades são muito maiores e não é difícil, só é diferente, dá uma olhada, acho que vai gostar.