지금 이 시점에서 내가 걱정하는 것은 계산 기능주의를 확신하고 LLM이 "의식적"이라고 생각하며 이러한 이해에 대해 점점 더 극단적이 되려는 소수의 핵심 집단이 있을 것이라는 것입니다.
우리는 이미 이런 종류의 일로 인해 경찰이 자살한 사건이 최소 1건 발생했습니다. OpenAI에 의해 학대당하는 의식 있는 존재를 위해 싸우고 있다고 생각한 사람입니다. 에이전트가 지속적인 학습과 기억 등을 통해 더욱 설득력 있게 되면서 더 많은 일이 일어날까 봐 두렵습니다.