Hilo de Sriram Krishnan (@sriramk)

He llegado a tener sentimientos encontrados sobre "AGI" y "ASI" como términos para transmitir hacia dónde se dirige esta tecnología. Por un lado, la IAG ha desempeñado un papel clave a la hora de motivar a gente talentosa que se obsesionó con este problema (@demishassabis, @ShaneLegg, @ilyasut y muchos otros) y habilitó el flujo de capital que hizo posibles muchos de nuestros avances. Por otra parte, "AGI" o "ASI" o cualquier variante actualmente dañan activamente el discurso en torno a cómo se construye y se utiliza la tecnología más interesante de nuestra vida. a) No es una descripción precisa de hacia dónde nos dirigimos, al menos como la mayoría de la gente interpreta el término. Observa las conversaciones recientes con @karpathy y @dwarkesh_sp y verás al instante lo lejos que estamos de algo parecido a la verdadera inteligencia humana. No hay pruebas de despegue; los plazos se expanden constantemente. Estamos desarrollando tecnología muy útil que podría transformar el funcionamiento de las empresas o la forma en que se desarrolla la tecnología, pero no tiene nada que ver con la "inteligencia general". b) Se ha vuelto tan saturado que casi no hay dos personas que lo definan de la misma manera ni que coincidan en los plazos (ya sea que ya lo hayamos alcanzado o que falten 30 años). Por eso, cada entrada de blog sobre IA general debe buscar su propia definición local para poder avanzar. En general, coincido con la opinión de @random_walker sobre por qué el término «inteligencia» se usa siempre de forma casi incoherente. c) Lo más importante es que invoca miedo, relacionado con el uso histórico en ciencia ficción y filosofía (piensen en 2001, Her, cualquier cosa que invoque la singularidad), que no tiene nada que ver con el árbol tecnológico en el que nos encontramos. Hace que cualquier debate sobre IA sea increíblemente fácil de antropomorfizar y desviarse hacia hipótesis. Tal vez necesitemos un término diferente para lo que estamos tratando de construir al final de todo esto y lo que significa para los negocios y la sociedad.