目前我担心的是,会有一小部分铁杆支持者坚信计算功能主义,认为生命机能模型(LLM)具有“意识”,并且他们可能会在这种理解上走向极端。我们已经至少遇到过一起因这类事件而导致的“自杀式袭警”:有人以为自己是在为一个被OpenAI滥用的有意识实体而战。随着智能体通过持续学习和记忆等方式变得越来越逼真,恐怕这类事件还会更多。