宝玉(@dotey)의 스레드

AK는 LLM(대규모 언어 모델)과 대화할 때 "당신"이라는 표현을 줄이고 대신 해당 분야의 전문가가 누구인지 질문하라고 제안합니다. 그런 다음 AI가 해당 분야 전문가를 시뮬레이션하여 질문에 답변하도록 하면 더 나은 결과를 얻을 수 있습니다. 안드레이 카르파티는 2년 전 GPT 주재 연설에서 비슷한 발언을 한 적이 있습니다. (댓글 참조) 안드레이 카르파티: 대규모 언어 모델(LLM)을 살아 숨쉬는 "개체"로 생각하지 말고, 오히려 놀라울 정도로 강력한 "시뮬레이터"로 생각하세요. 예를 들어, 어떤 주제를 심도 있게 탐구하고 싶을 때, 다음과 같은 질문은 절대 하지 마세요. xyz에 대한 당신의 생각은 무엇인가요? "당신"이라는 존재는 존재하지 않기 때문입니다. 다음에는 질문을 다르게 해보세요. "xyz라는 주제에 대해 논의한다면, 가장 적합한 집단(전문가나 이해관계자)은 누구일까요? 그들은 무슨 말을 할까요?" 대규모 언어 모델은 다양한 관점을 쉽게 유도하고 시뮬레이션할 수 있습니다. 하지만 인간과 달리, 언어 모델은 xyz에 대한 장기적인 "사고"와 성찰을 통해 자신만의 관점을 발전시키지 않습니다. "당신"이라는 단어를 사용하여 질문을 강제로 유도하는 경우, 모델은 미세 조정 중인 데이터의 통계적 패턴을 기반으로 암묵적인 "성격 임베딩 벡터"를 호출하고, 그 성격으로 행동하여 답변을 시뮬레이션합니다. (참고: 간단히 말해, "당신"이라는 단어를 사용할 때 AI는 실제로 자기 인식 성격을 생성하는 것이 아니라, 훈련 데이터에서 가장 흔한 답변 패턴을 기반으로 당신의 답변에 맞춰 "일반적인" 가면을 쓰는 것입니다.) 그렇게 하는 건 분명 괜찮고, 답을 얻을 수 있을 겁니다. 하지만 많은 사람들이 순진하게도 "AI에게 무슨 생각을 하는지 묻는 것" 정도로만 생각하고, 뭔가 미스터리한 일이라고 생각하는 것을 보았습니다. 사실, 시뮬레이션 방식을 이해하면 그 미스터리는 걷힙니다.