meng shao(@shao__meng)의 스레드

[오픈소스 추천] NVIDIA NeMo 스킬 NVIDIA의 오픈 소스 툴셋은 LLM의 다양한 "기술"을 향상시키는 데 중점을 두고 있습니다. 이는 데이터 생성부터 모델 학습 및 평가에 이르기까지 전체 프로세스를 포괄하는 엔터프라이즈급 엔드투엔드 개발 프레임워크입니다. 주요 기능 모듈 1. 유연한 추론 시스템: 다양한 추론 백엔드를 지원하며, API 서비스, 로컬 서버 및 대규모 클러스터 간에 자유롭게 전환할 수 있습니다. 또한 TensorRT-LLM, vLLM, sglang 및 Megatron과 같은 주요 추론 엔진을 통합합니다. - 단일 GPU부터 수만 개의 GPU까지 유연한 확장성 제공 2. 종합적인 모델 평가 프로그램은 다양한 핵심 영역을 포괄하는 광범위한 평가 기준을 지원합니다. • 수학적 추론: AIME 및 HMMT와 같은 경시대회 수준의 문제를 포함합니다. • 형식적 증명: MiniF2F, ProofNet 등과 같은 간결한 언어로 정리 증명을 지원합니다. • 코딩 능력: SWE-bench 및 LiveCodeBench와 같은 실용적인 프로그래밍 과제 • 과학 지식: 물리학, 화학, 생물학 등의 분야에 대한 전문적인 지식 • 명령어 준수, 긴 문맥 처리, 도구 호출, 다국어 지원, 음성 처리와 같은 기타 요소 3. 모델 훈련은 NeMo-RL 및 Verl 훈련 프레임워크를 통합하여 강화 학습과 같은 고급 훈련 기법을 지원합니다. 핵심 성과 프로젝트는 NVIDIA의 여러 중요한 연구 발표를 지원했습니다. • OpenReasoning 시리즈: 당시 수학, 코딩 및 과학적 추론 분야에서 최첨단(SOTA) 수준을 달성했습니다. • OpenMathReasoning: 306,000개의 수학 문제와 320만 개의 상세 풀이가 포함된 데이터 세트입니다. • OpenMathInstruct-2: 1,400만 쌍의 수학 문제-답변으로 구성된 대규모 명령어 미세 조정 데이터 세트입니다. 기술적 특징 1. 모듈식 설계: 각 구성 요소는 독립적으로 사용하거나 조합하여 완전한 학습-평가 파이프라인을 구성할 수 있습니다. 2. 확장성: 동일한 코드베이스를 노트북과 슈퍼컴퓨터 클러스터에서 모두 실행할 수 있습니다. 3. 생태계 통합: NVIDIA의 AI 인프라 및 툴체인과의 심층적인 통합 오픈 소스 프로젝트