Ola movidoalinux,
Não entendi a parte de um 'segundo servidor'. Tentou utilizar apenas UM servidor para o load balance? Aqui trabalhamos com apenas um server, com tres placas de rede, sendo duas para os modems routers e a outra para rede local. Temos um link da Brasil telecom e outro da GVT. Nas regras do tutorial que voce passou é assim que estão explicando, se não estou enganado. No mais, sobre o tutorial que voce esta seguindo, acho que as regras estão certas, acredito que tenha algum detalhe que esta ficando para tras.
É complicado porque requer testes, mas vai postando ai pra trocarmos idéias e se conseguir, diga o que fez.
abraços e até mais.