HOC / HVM / Bend의 상태에 대한 간략한 개요: - 약 1년 전, 우리는 Bend1을 출시했습니다. - 클로저를 실행하는 최초의 언어 + GPU에서 빠른 obj 할당자 - 최대 10000개 이상의 코어까지 거의 이상적인 속도 향상 - Interaction Nets를 위한 엄격한 런타임인 HVM2 기반 문제점: - 해석 오버헤드는 여전히 상당하다 - 1코어 OCaml / JavaScript / 등을 능가하는 풀 RTX 4090 - 큰 실제적 제한(int24, IO 없음, 패키지 없음) - Python 구문에도 불구하고 여전히 사용하기 어려웠습니다. - 대부분의 개발자는 재귀적으로 생각할 수 없다는 것이 밝혀졌습니다. - 지연 평가와 호환되지 않음(β-최적이 아님!!) 저는 위의 문제들에 실망했습니다. 동시에, 심볼릭 AI의 초석인 프로그램 합성 문제에 최적 평가를 적용하는 것에 대해 점점 더 낙관적인 생각을 갖게 되었습니다. 실패한 아이디어였지만, "고칠 수 있다"는 강한 확신이 있었습니다. 저는 결정을 내렸습니다. HVM2를 버리고(💀) 제 "상호작용 계산"에 기반하고 β-최적성을 특징으로 하는 HVM1의 근본으로 돌아가기로 했습니다. HVM1을 대폭 다듬고 개선하여 Haskell로 작성된 프로토타입인 HVM3를 만들었습니다. 그 후 HVM3를 사용하여 최적 평가자에 대한 프로그램 합성을 이해하고 연구했습니다. 이는 매우 어려운 작업이었고, 제 인생의 약 1년을 희생해야 했지만, 결과는 긍정적이었고, 이제 저희 시스템은 효율성과 기능 면에서 모든 기존 대안을 능가합니다. 이제 우리는 이 모든 것을 가져와서 원시 C로 런타임/컴파일러를 구현하여 이를 견고하게 만들고 있습니다. 이를 통해 겸손한 Mac Mini 클러스터(🥹)에서 가능한 한 효율적으로 실행하고 API를 통해 전 세계에 제공할 수 있습니다. 10월에 출시할 예정이었지만, 예상보다 시간이 더 많이 걸리는 몇 가지 과제가 아직 남아 있습니다. 우선, SupGen을 사용하여 Lean 증명을 찾는 것은 중첩을 매우 신중하게 처리해야 하는데, C에서 이를 수행하는 것은 실제로 엄청나게 어렵습니다. 하지만 상황이 꾸준히 진행되고 있고 이미 많은 것을 이루었으며, Bend2/HVM4는 올해 또는 2026년 1분기에 출시될 것으로 예상합니다. Bend2에는 다음이 있습니다. - 지연/최적 모드를 갖춘 병렬 CPU 런타임(!!!) - 16 / 32 / 64 비트 int, uint 및 float (최종) - 가벼운 C 상호 운용성(Zig와 유사!)을 통한 임의의 IO - 시간 부족으로 아직 CUDA는 없지만 충분히 가능합니다. - 가장 중요한 점: SupGen 통합 SupGen은 Bend2의 핵심 혁신이자 새로운 기능입니다. 전통적인 AI가 *아닙니다*. 예제와 사양을 기반으로 코드를 생성할 수 있는 완전히 새로운 기술입니다. 많은 사람들(특히 딥러닝 분야 종사자들)이 순수한 기호 탐색으로 얼마나 많은 것을 이룰 수 있는지에 완전히 놀라실 것 같습니다. 무엇보다도 그들의 반응이 정말 기대됩니다.
또한 언급하는 것을 잊었습니다. - Bend2는 JavaScript/Haskell로 내보내므로 Bend 생태계에서 지원을 기다리지 않고도 일반 앱을 작성하는 데 사용할 수 있습니다. - Bend2는 안타깝게도 "병렬로 실행될 수 있다면 병렬로 실행될 것"이라는 약속을 어길 것입니다. 이 약속은 *분명히* 지연 계산과 호환되지 않기 때문입니다. (식이 표시될 때까지 기다리거나 병렬로 축소해야 하는데, 둘 다 할 수는 없습니다.) 향후 HVM2에 직접 업데이트하여 완전한 엄격 모드를 제공하고 싶지만, 시간이 부족하여 현재로서는 이에 중점을 두고 있지 않습니다. 긍정적인 면을 살펴보면, GPU에서 지연 모드를 실행할 수 있을 것이라고 생각합니다. 실제로는 이것이 완전한 엄격 병렬 처리보다 훨씬 나을 것이라고 생각합니다. - WeFunder 캠페인은 아직 진행 중이지만 저는 적극적으로 참여하지 않고 있으며 출시 후 종료될 예정입니다.