Finalmente encontrei tempo para ler. No momento, o que mais me intriga é a implicação para a medição da qualidade/integridade de contextos mais longos: experimentos foram realizados com até 500 tokens sem degradação.
Obviamente, tudo dentro do contexto original. Agora, minha expectativa atual (estou errado?): o ROPE traria uma degradação contínua na precisão rotativa até um ponto de ruptura onde a invertibilidade não seria mais possível?