Verifique essas duas possibilidades:
RarCrackhttp://rarcrack.sourceforge.net/Está nos repositórios do Ubuntu
rarcrack - Password cracker for rar archives
sudo apt install rarcrackNa página acima indicada há instruções de como usar e ainda a possibilidade de instalar direto de lá se preferir compilar.
John the Ripper password crackerhttp://www.openwall.com/john/Acho que o pacote no repositório do Ubuntu é esse:
john - active password cracking tool
Então, para instalar:
sudo apt install johnHá uma versão Pro paga e que vem no formato .deb, mas não pesquisei à respeito quais seriam as diferenças, se é que há, parece que a versão de entrada começa em US$ $39,95 até US$ 185,00 com direito a suporte etc e tal, claro, depende de quão valioso e importante é o seu arquivo e o conteúdo dele e, assim, o custo/benefício.
