Thread de Sriram Krishnan (@sriramk)

Passei a ter sentimentos contraditórios em relação aos termos "AGI" e "ASI" para descrever para onde essa tecnologia está caminhando. Por um lado, a IAG desempenhou um papel fundamental na motivação de pessoas talentosas que se dedicaram intensamente a esse problema (@demishassabis, @ShaneLegg, @ilyasut, entre muitos outros) e possibilitou o fluxo de capital que tornou possíveis muitos dos nossos avanços. Por outro lado, "AGI" ou "ASI" ou qualquer variante atualmente prejudica ativamente o debate sobre como a tecnologia mais interessante da nossa geração é construída e utilizada. a) Não é uma descrição precisa de para onde estamos indo, pelo menos não da forma como a maioria das pessoas interpreta o termo. Veja as conversas recentes com @karpathy e @dwarkesh_sp e você perceberá imediatamente o quão longe estamos de algo que se assemelhe à verdadeira inteligência humana. Nenhuma prova de que isso vá acontecer, e os prazos continuam se expandindo. Estamos construindo tecnologias muito úteis que podem transformar a forma como as empresas funcionam ou como a tecnologia é desenvolvida, mas isso não tem nada a ver com "inteligência geral". b) O termo tornou-se tão sobrecarregado que quase não encontrei duas pessoas que o definam da mesma maneira ou que concordem com os prazos (se já o alcançamos ou se ainda faltam 30 anos). É por isso que cada postagem de blog sobre IAG (Inteligência Artificial Geral) precisa criar sua própria definição local para prosseguir. Eu concordo em grande parte com a visão de @random_walker sobre por que "inteligência" é usada de forma quase incoerente. c) Mais importante ainda, evoca medo — ligado ao uso histórico na ficção científica e na filosofia (pense em 2001: Uma Odisseia no Espaço, Ela, qualquer coisa que invoque a singularidade) que não tem nada a ver com a árvore tecnológica em que estamos atualmente. Isso torna qualquer discussão sobre IA incrivelmente fácil de antropomorfizar e desviar para hipóteses. Talvez precisemos de um termo diferente para o que estamos tentando construir ao final de tudo isso e o que isso significa para os negócios e a sociedade.