Provavelmente, este é um caso em que a IA distorceu os detalhes, e ele apenas deu uma olhada rápida no resultado, sem sinalizar o problema. Isso acontece o tempo todo com modelos de programação e causa bugs. É impressionante ver a mesma coisa em um trabalho publicado.
Tanto na escrita quanto no código de computador, na minha opinião, a regra para a IA da geração atual (mesmo a de última geração) é simples: não a use para pensar, e nem mesmo para escrever — use-a para digitar. Quanto mais da carga cognitiva você mantiver para si e deixar o bot apenas digitar, melhor será o resultado.