A curto prazo — antes de chegarmos à IA sobre-humana — precisamos de transparência sobre como os modelos são treinados e avaliados. Acho que Claude é uma IA muito boa. Fico feliz que a Anthropic esteja tentando treinar Claude para ser um assistente útil, em vez de um operador de negócios implacável. No entanto...
Não quero acabar numa situação em que as IAs mais implacáveis — criadas pelas empresas de IA mais implacáveis — vençam. Quero IAs extremamente úteis e honestas que nos ajudem a compreender nossa situação. Não quero IAs competitivas que sejam mais poderosas do que todos nós.