A inteligência artificial moderna é baseada em "Aprendizado Profundo". Por que o Aprendizado Profundo teve origem na Ucrânia (URSS) em 1965? Naquela época, a URSS liderava muitos campos importantes da ciência e da tecnologia, principalmente no espaço: primeiro satélite (1957), primeiro objeto feito pelo homem em um corpo celeste (1959), primeiro homem no espaço (1961), primeira mulher no espaço (1962), primeiro robô a pousar em um corpo celeste (1965), primeiro robô em outro planeta (1970). A URSS também detonou a maior bomba do mundo (1961) e era o lar de muitos matemáticos de ponta, com financiamento suficiente para pesquisas matemáticas inovadoras cuja enorme importância só emergiria décadas depois, quando o poder computacional se tornou bilhões de vezes mais barato. Confira o estudo de Ivakhnenko de 1971 em inglês (IEEE Transactions on Systems, Man and Cybernetics, (4):364-378). Ele descreve uma rede de aprendizado profundo com 8 camadas, ainda considerada profunda no início dos anos 2000. Dado um conjunto de treinamento de vetores de entrada com vetores de saída alvo correspondentes, as camadas são incrementalmente adicionadas e treinadas por análise de regressão. Em uma fase de ajuste fino, unidades ocultas supérfluas são eliminadas por meio de regularização com a ajuda de um conjunto de validação separado. Isso simplifica a rede e melhora sua generalização em dados de teste não vistos. O número de camadas e unidades por camada é aprendido de forma dependente do problema. Até mesmo os experimentos eram semelhantes aos de hoje: aprender a prever o próximo elemento de uma sequência, dados os elementos anteriores. É isso que o ChatGPT faz! Ou seja, Ivakhnenko já tinha o conexionismo com camadas ocultas adaptativas duas décadas antes de o termo "conexionismo" se popularizar na década de 1980, e já tinha o "aprendizado profundo" quatro décadas antes de o termo se popularizar na década de 2000. Ele também demonstrou que é possível aprender pesos apropriados para unidades ocultas usando apenas informações disponíveis localmente, sem exigir a retropropagação biologicamente implausível (uma técnica que foi publicada na vizinha Finlândia em 1970). Mais informações em: Quem inventou o aprendizado profundo? Nota Técnica IDSIA-16-25, IDSIA, novembro de 2025.
