Assisti à apresentação de Jason Wei (autor do artigo sobre CoT) no Stanford AI Club na semana passada. Finalmente estou começando a entender por que a estética se tornou tão importante na era da IA. O senso estético é uma forma de verificação intuitiva, difícil de quantificar em uma função de recompensa para IA. A possibilidade de a IA entrar em determinado campo não depende do grau de especialização desse campo. Dependendo da área, depende se os resultados podem ser verificados rapidamente. Qual o significado? Resolva problemas de matemática e saiba em um segundo se a resposta está certa ou errada. Portanto, a IA aprendeu matemática competitiva em apenas dois anos. É possível saber em um segundo se o código pode ser executado ou não. Portanto, a IA já é muito boa em escrever código. Em algumas áreas, a IA tem dificuldades em distinguir o bem do mal e em criar boas funções de recompensa. Só pode depender da experiência humana e do senso estético. Assim que as indústrias desenvolverem sinais de recompensa inteligentes e eficazes, poderão ser rapidamente invadidas pela IA. O vídeo original pode ser encontrado nos comentários.
@_jasonwei compartilhou bastante conteúdo, durante ceyoutube.com/watch?v=b6Doq2… O princípio da verificabilidade ali mencionado me inspirou bastante. https://t.co/0CFFJv8Z8B