Tentei a seguinte combinação de teclas e funcionou: Alt Gr + Shift + ?.
Resultado: ¿ (mesmo se não aparecer aqui, deve aparecer no Libreoffice e em qualquer programa do Ubuntu)
Só pra constar: o Alt Gr é a tecla Alt direita do teclado, e não a esquerda.
Você ainda pode usar o Mapa de Caracteres do Ubuntu (oriundo do Gnome, por sinal) e procurar pela interrogação invertida lá. Caso esteja usando Ubuntu com Unity, basta digitar "mapa de caracteres" na busca. Caso esteja usando Ubuntu com modo gráfico Gnome2, basta ir em Aplicativos -> Acessórios -> Mapa de Caracteres. Uma vez que abra o programa e encontre a interrogação invertida lá (estão entre os primeiros caracteres exibidos), é só dar um clique duplo, e em seguida copiar e colar o caractere que aparece no campo de rótulo "Texto para copiar".
Outra forma que é tida como paliativo ideal das combinações numéricas da tecla Alt, é o recurso de digitação de caracteres Unicode no Ubuntu. Funciona mais ou menos assim:
Se você abrir o Mapa de Caracteres do Ubuntu e procurar pelo caractere de interrogação invertida, deve notar que lá é exibido o código Unicode desse caractere, que no caso é U+00BF.
Se quiser digitar esse caractere através desse recurso de digitação, você segura Ctrl + Shift + u. Ao fazê-lo, aparecerá uma letra u sublinhada, onde em seguida você digita o código do caractere, que no caso é 00BF, e pressiona Enter. Ficaria mais ou menos assim na tela:
u00BF
Após teclar Enter:
¿
Isso vale não só pra interrogação invertida, como para qualquer caractere Unicode exibido no Mapa de Caracteres, como por exemplo a exclamação invertida (¡).