제가 인간 및 LLM과 상호작용할 때 흥미로운 두 가지 요소는 응집성과 일반성입니다. 응집성은 정책과 신념을 추진할 때 얼마나 안정적인지를 나타내고, 일반성은 새로운 관찰 결과, 사실, 아이디어가 얼마나 잘 통합될 수 있는지를 나타냅니다.
어떤 사람들은 다른 사람들보다 더 응집력이 강하고/또는 더 일반적입니다. 사람들을 감각 박탈이나 종교 집단 환경에 두면, 환각과 비이성적인 정책 변화에서 알 수 있듯이 각기 다른 속도와 속도로 길을 잃는 경향이 있습니다.
인간과 LLM의 응집력과 일반성을 직접 비교하는 일관성 기준을 구축할 수 있을까요? "LLM 정신병"은 LLM이 인간 대화자보다 응집력이 더 강해서 인간이 탈선하는 상황을 설명합니다. "탈옥"은 그 반대입니다.