Recentemente, fiquei impressionado e divertido ao saber sobre o VaultGemma, um projeto recente do Google para pré-treinar um modelo de aprendizado de máquina com privacidade diferencial. Resumindo: - primeiro LLM sem memorização detectável de dados de treinamento - todos os truques do livro, 100 vezes mais poder computacional, chegou ao nível do *GPT-2*
