Keep on to blur preview images; turn off to show them clearly

AI researcher & teacher @SCAI_ASU. Former President of @RealAAAI; Chair of @AAAS Sec T. Here to tweach #AI. YouTube Ch: https://t.co/4beUPOmf6y Bsky: rao2z


行道途中。非求速成,惟求通达。 2023 年扎进AI ,打通Know-How,不少赚钱项目,踩过坑,也见过光。 围城里待得够久了,出来聊聊世界,聊聊技术、聊聊赚钱。


行道途中。非求速成,惟求通达。 2023 年扎进AI ,打通Know-How,不少赚钱项目,踩过坑,也见过光。 围城里待得够久了,出来聊聊世界,聊聊技术、聊聊赚钱。




Cofounder and Head of Post Training @NousResearch, prev @StabilityAI Github: https://t.co/LZwHTUFwPq HuggingFace: https://t.co/sN2FFU8PVE

![[开源推荐] NVIDIA NeMo Skills
NVIDIA 开源的工具集,专注于提升 LLM 的各种"技能",它是一个企业级端到端的完整开发框架,涵盖了从数据生成到模型训练再到评估的全流程。
主要功能模块
1. 灵活的推理系统
· 支持多种推理后端:可以在API服务、本地服务器和大规模集群之间自由切换
· 集成主流推理引擎:TensorRT-LLM、vLLM、sglang和Megatron
- 从单GPU到数万GPU的弹性扩展能力
2. 全面的模型评估
项目支持广泛的评估基准测试,覆盖多个关键领域:
·0数学推理:包括AIME、HMMT等竞赛级题目
· 形式化证明:支持Lean语言的定理证明(MiniF2F、ProofNet等)
· 代码能力:SWE-bench、LiveCodeBench等实际编程任务
· 科学知识:物理、化学、生物等领域的专业问题
· 指令遵循、长上下文、工具调用、多语言、语音处理等其他维度
3. 模型训练
集成NeMo-RL和verl训练框架,支持强化学习等高级训练技术。
重要成果
项目已经支持了NVIDIA多个重要的研究发布:
· OpenReasoning系列:在数学、代码和科学推理上达到当时的SOTA水平
·OpenMathReasoning:包含306K数学问题和320万个详细解答的数据集
· OpenMathInstruct-2:1400万数学问答对的大规模指令微调数据集
技术特色
1. 模块化设计:各个组件可以独立使用,也可以组合成完整的训练-评估流水线
2. 规模灵活性:同一套代码可以在笔记本电脑和超级计算机集群上运行
3. 生态集成:深度集成NVIDIA的AI基础设施和工具链
开源项目 [开源推荐] NVIDIA NeMo Skills
NVIDIA 开源的工具集,专注于提升 LLM 的各种"技能",它是一个企业级端到端的完整开发框架,涵盖了从数据生成到模型训练再到评估的全流程。
主要功能模块
1. 灵活的推理系统
· 支持多种推理后端:可以在API服务、本地服务器和大规模集群之间自由切换
· 集成主流推理引擎:TensorRT-LLM、vLLM、sglang和Megatron
- 从单GPU到数万GPU的弹性扩展能力
2. 全面的模型评估
项目支持广泛的评估基准测试,覆盖多个关键领域:
·0数学推理:包括AIME、HMMT等竞赛级题目
· 形式化证明:支持Lean语言的定理证明(MiniF2F、ProofNet等)
· 代码能力:SWE-bench、LiveCodeBench等实际编程任务
· 科学知识:物理、化学、生物等领域的专业问题
· 指令遵循、长上下文、工具调用、多语言、语音处理等其他维度
3. 模型训练
集成NeMo-RL和verl训练框架,支持强化学习等高级训练技术。
重要成果
项目已经支持了NVIDIA多个重要的研究发布:
· OpenReasoning系列:在数学、代码和科学推理上达到当时的SOTA水平
·OpenMathReasoning:包含306K数学问题和320万个详细解答的数据集
· OpenMathInstruct-2:1400万数学问答对的大规模指令微调数据集
技术特色
1. 模块化设计:各个组件可以独立使用,也可以组合成完整的训练-评估流水线
2. 规模灵活性:同一套代码可以在笔记本电脑和超级计算机集群上运行
3. 生态集成:深度集成NVIDIA的AI基础设施和工具链
开源项目](/_next/image?url=https%3A%2F%2Fpbs.twimg.com%2Fmedia%2FG8qmI4abMAA2s3-.jpg&w=3840&q=75)
邵猛,中年失业程序员 😂 专注 - Context Engineering, AI Agents. 分享 - AI papers, apps and OSS. ex Microsoft MVP 合作 - 私信/邮箱:shaomeng@outlook.com 📢 公众号/小红书: AI 启蒙小伙伴
