Eis o que penso sobre isso. No início da década de 2010, a tecnologia se posicionou ativamente como benevolente e onisciente, e a imprensa especializada em tecnologia entrou na onda. O algoritmo da Netflix te conhecia melhor do que você mesmo, a Stitch Fix usava mecânica quântica para criar o look perfeito para você, e assim por diante.
"A Target sabia que uma garota estava grávida antes mesmo dos pais dela", e isso foi noticiado como algo bom, embora um pouco assustador. O Big Data estava sendo usado para criar um pequeno mundo perfeito para cada indivíduo no mundo, graças à personalização e aos sistemas de recomendação.
Tudo isso coincidiu com verdadeiros milagres tecnológicos e mudanças sociais, sendo as redes sociais e os smartphones os dois maiores exemplos. Novas tecnologias, diferentes de tudo o que se tinha visto antes, tornaram a mitologia da onipotência muito plausível.
E os maiores atores se apoiaram fortemente no aspecto benevolente da mitologia, conectando o mundo, democratizando, não sendo maus e coisas do gênero.
Mas quando se é onisciente, onipotente e benevolente, então se está sujeito ao Problema do Mal, e foi exatamente isso que aconteceu. As pessoas ficaram cada vez mais indignadas com o fato de um ser todo-poderoso permitir que coisas ruins acontecessem.
E é curioso, a presunção que as pessoas estavam mais dispostas a abandonar era a da benevolência. Era significativamente mais crível que as grandes empresas de tecnologia estivessem usando sua onipotência para fins nefastos do que a ideia de que elas não a possuíam de fato.
Então, acredito que na década de 2020, para evitar essa armadilha do Problema do Mal, as mitologias estão sendo construídas de forma um pouco diferente. Os grandes líderes da tecnologia de hoje não são intermediários de um deus benevolente. Eles são invocadores de demônios caóticos.
Em vez de dizerem "Eu nos trouxe para a era próspera do Big Data e tudo está bem e sob controle", eles estão dizendo "Estamos à beira da era caótica da Inteligência Artificial Geral (AGI) e, se vocês querem ter alguma chance de controlar isso, eu sou a nossa melhor opção".
Isso serve para absolver a responsabilidade por quaisquer consequências negativas que possam surgir, e não acho que seja totalmente por acaso. São muitas das mesmas pessoas de 2012. Elas aprenderam. Não se pode passar a imagem de alguém tão competente, tão no controle da situação.
Desta vez, não somos nós que detemos o poder; é o computador que (será) todo-poderoso, e nós só podemos tentar controlá-lo da melhor forma possível. E, me desculpem, mas talvez ele não seja benevolente. Talvez seja. Espero que sim. Mas talvez não. De qualquer forma, não será culpa nossa.
Em 2012, a narrativa era a seguinte: descobrimos como usar o Big Data para este ou aquele fim benevolente, o que, por acaso, nos permitirá imprimir dinheiro. Nós somos os agentes. Somos responsáveis e temos orgulho do nosso trabalho. Gostaria de se juntar a nós nessa missão?
Em 2025, a IA estará cometendo este ou aquele ato destrutivo, quer queiramos ou não. Descobrimos como virar o jogo a nosso favor, para que pelo menos possamos lucrar com esse desastre inevitável. Gostaria de se juntar a nós nessa missão?