Viv(@Vtrivedy10)의 스레드

"들쭉날쭉한 지능을 다듬기 위해 공학적 수단을 활용하는" 이 개념은 오늘날의 시스템에서 지능을 추출하는 데 있어 제가 가장 좋아하는 사고 모델 중 하나입니다. 사전 훈련부터 강화 학습, 하네스 설계에 이르기까지 모든 단계는 쇼고스의 행동을 형성하는 과정입니다. 이러한 요소들 중에서 가장 쉽게 접근할 수 있는 모델 형성 방식은 에이전트/하네스 설계에 있습니다. 프롬프트 설계, 컨텍스트 엔지니어링, 도구 설계와 같은 것들은 훈련 설정에서 특정 차원을 증폭시키거나(예: 훈련 후 나타나는 형식이나 문제 정의와 일치) 모델이 지능이 필요한 영역(예: 낮은 컨텍스트 사용)에서 높은 지능으로 작동하도록 제한하는 역할을 합니다. 우리는 이 놀랍도록 지능적인 시스템이 성공할 수 있도록 그 시스템을 둘러싼 환경을 설계하려고 노력하고 있는데, 흥미롭게도 우리는 현실 세계에서 사람들이 성공할 수 있도록 돕기 위해 비슷한 노력을 기울이고 있습니다.