acho que não tem como...
man firefox
se o que você tá querendo é fazer os links de outros programas abrirem na mesma janela em nova aba, instale a extensão
Tabbrowser Preferencescom ela você pode ajustar isso facilmente
depois de instalado, vá em editar > preferências > navegação por abas
na primeira opção ali você já vai ver: "abrir links que abrem janelas em" e na terceira também: "abrir links de outros programas em"
aí só seleciona nova aba