Existem muitos programas para comparar dois arquivos como o diff que você citou, tendo também o meld e o kdiff que são versões gráfica do diff em GTK e QT, respectivamente.
Mas esse detalhe de "em qualquer ordem" complica as coisas.
Acho mais fácil você ordenar as linhas dos dois arquivos e só depois comparar com o diff.