Olá,
Estranho, eu estou utilizando o Firefox 2 e funciona tudo perfeitamente.
Eu instalei todos os plugins necessários no Firefox 3. Foi só entrar em um site que precisava de Java, e o Firefox já detectou a necessidade, apareceu uma lista, escolhi e instalou. Isso para Java, Flash, etc.
Depois que vi que o Google Toolbar não funcionava, instalei a versão 2. Dei o comando:
rm -rf ~/.mozilla
Como vi em um blog, é para limpar a pasta e não dar conflitos de plugins.
E pronto, entrei em sites que precisam de Java e funcionou normal.
Tente dar o comando acima, talvez funcione. Mas ele vai apagar todos os seus plugins atuais.
Outra coisa que pode ter acontecido é que você talvez tenha instalado aquela versão opensource do flash ou java, que ainda não funciona muito bem em alguns sites.