Thread de 宝玉 (@dotey)

AK sugere que, ao interagir com um LLM (Modelo de Linguagem Amplo), você use menos frases com "você" e, em vez disso, pergunte quem são os especialistas na área. Em seguida, deixe a IA simular os especialistas para responder às perguntas. Isso produzirá melhores resultados. Andrej Karpathy fez uma declaração semelhante há mais de dois anos no Discurso sobre o Estado do GPT. (Ver comentários) Andrej Karpathy: Não pense nos Grandes Modelos de Linguagem (LLMs) como "entidades" vivas e pulsantes, mas sim como "simuladores" incrivelmente poderosos. Por exemplo, quando quiser explorar um tópico em profundidade, nunca pergunte: Qual a sua opinião sobre xyz? Porque não existe algo como "você". Da próxima vez, tente reformular a pergunta: "Se fôssemos discutir o tema xyz, qual seria o grupo de pessoas mais adequado (como especialistas ou partes interessadas)? O que eles diriam?" Grandes modelos de linguagem podem facilmente orientar e simular uma ampla variedade de perspectivas. No entanto, diferentemente dos humanos, eles não desenvolvem seus próprios pontos de vista por meio de "pensamento" e reflexão a longo prazo sobre xyz. Se você insistir em usar a palavra "você" para forçar uma pergunta, o modelo será forçado a invocar um "vetor de incorporação de personalidade" implícito com base nos padrões estatísticos dos dados que está ajustando, e então agirá como essa personalidade para simular uma resposta para você. (Observação: Simplificando, quando você pergunta "você", a IA está apenas usando uma máscara "genérica" ​​com base nos padrões de resposta mais comuns nos dados de treinamento para corresponder à sua resposta, em vez de realmente gerar uma personalidade autoconsciente.) Fazer isso é perfeitamente aceitável e você obterá a resposta. Mas notei que muitas pessoas, ingenuamente, reduzem a questão a "perguntar à IA o que ela pensa", considerando-a algo misterioso. Na verdade, uma vez que você entende como a simulação funciona, esse véu de mistério se dissipa.