Se você quiser entender se a IA representará uma ameaça para a humanidade no futuro, como você constrói um sinal de rastreamento? O trabalho de Hjalmar no METR (um instituto de pesquisa em segurança de IA) concentra-se na construção de um "painel de alerta precoce" para monitorar duas capacidades futuras: - Capacidade de replicação descontrolada: A IA consegue adquirir recursos de forma autônoma e manter sua própria existência, tornando impossível para os humanos "simplesmente desligá-la"? - Pesquisa e Desenvolvimento Automatizados em IA: A IA pode desenvolver sua própria IA, levando a um crescimento explosivo de suas capacidades? Esses dois fatores são bastante interessantes: a incapacidade de desligar a energia e o crescimento explosivo contínuo podem ser uma condição necessária para ameaçar a humanidade...
Carregando detalhes do thread
Buscando os tweets originais no X para montar uma leitura limpa.
Isso normalmente leva apenas alguns segundos.