Neste momento, o que me preocupa é que haja um pequeno grupo radical de pessoas convencidas do funcionalismo computacional, que acreditam que os LLMs são "conscientes" e que estão dispostas a se radicalizar cada vez mais em relação a essa compreensão.
Já tivemos pelo menos um suicídio por provocação policial por causa disso: alguém que pensava estar lutando por uma entidade consciente que estava sendo abusada pela OpenAI. À medida que os agentes se tornam mais convincentes por meio de aprendizado contínuo, memória e assim por diante, receio que haverá mais casos.