Hilo de 宝玉 (@dotey)

AK sugiere que, al hablar con un LLM (modelo de lenguaje extenso), se deberían usar menos frases con "tú" y, en su lugar, preguntar quiénes son los expertos en el campo. Después, dejar que la IA simule a los expertos para que respondan las preguntas. Esto producirá mejores resultados. Andrej Karpathy hizo una declaración similar hace más de dos años en el Estado de GPT. (Ver comentarios) Andrej Karpathy: No piense en los Grandes Modelos de Lenguaje (LLMs) como "entidades" vivas y que respiran, sino más bien como "simuladores" increíblemente poderosos. Por ejemplo, cuando quieras explorar un tema en profundidad, nunca preguntes: ¿Qué piensas de xyz? Porque no existe tal cosa como "tú". La próxima vez intenta hacer la pregunta de forma diferente: Si debatiéramos el tema de xyz, ¿quiénes serían el grupo de personas más adecuado (como expertos o partes interesadas)? ¿Qué dirían? Los modelos lingüísticos amplios pueden guiar y simular fácilmente una amplia variedad de perspectivas. Sin embargo, a diferencia de los humanos, no desarrollan sus propios puntos de vista mediante el pensamiento y la reflexión a largo plazo sobre xyz. Si insiste en usar la palabra "usted" para forzar una pregunta, el modelo se verá obligado a invocar un "vector de inserción de personalidad" implícito basado en los patrones estadísticos de los datos que está ajustando, y luego actuará como esa personalidad para simular una respuesta. (Nota: En resumen, cuando pregunta "usted", la IA simplemente aplica una máscara "genérica" ​​basada en los patrones de respuesta más comunes en los datos de entrenamiento para que coincida con su respuesta, en lugar de generar una personalidad autoconsciente). Hacerlo está bien, y obtendrás la respuesta. Pero he visto que mucha gente, ingenuamente, lo reduce a "preguntarle a la IA qué piensa", pensando que es algo misterioso. De hecho, una vez que entiendes cómo se simula, ese velo de misterio se desvela.