Dès les débuts d'EA, j'étais curieux de découvrir les sensibilités et les modes de pensée décrits dans cet article. Mais toute évaluation d'EA se doit de prendre en compte ses dérives flagrantes, notamment cette idéologie apocalyptique mêlant culte sexuel et machine divine.
L'un des secrets du succès d'EA est de convaincre les gens d'ignorer les dynamiques sectaires évidentes et autres signaux d'alarme, et de s'en tenir au « niveau de l'objet ». En réalité, ce concept de « niveau de l'objet » est une valeur rationaliste fondamentale. Mais dissocier le « niveau de l'objet » de la morale est leur cadre de référence, et je le rejette.
Il y a une raison pour laquelle le label EA est si mal vu que certains développeurs le fuient. Il y a un véritable effet d'entraînement : une réalité déplorable qu'on ne peut ignorer sous prétexte de se concentrer uniquement sur les points positifs. Ces problèmes font aussi partie intégrante d'EA.
Je pense qu'il est important que tous ceux qui s'opposent à EA, quelles que soient leurs raisons, ne laissent pas cette entreprise redorer son image en ce moment. Le risque est réel, d'autant plus qu'elle représente une menace moins évidente à Washington et qu'elle adopte une position raisonnable sur l'IA pour l'instant.