推理或许是最有价值的新兴软件类别。 随着模型变得越来越智能,经济价值越来越高,计算资源将越来越多地用于从模型中抽取样本。 如果您想在 OpenAI 从事推理方面的工作,请联系 gdb@openai.com。请在邮件中描述您曾参与过的优秀团队,以及您为团队目标所做的贡献。同时,也请说明您在推理、大规模系统优化或其他领域积累的经验和专业知识。 有很多令人兴奋的问题需要解决,从深入理解模型前向传播(包括模拟/寻找创新的优化机会);到系统级效率,例如推测性解码或 kv 卸载或工作负载感知负载均衡;再到大规模管理和可观测的庞大舰队。
正在加载线程详情
正在从 X 获取原始推文,整理成清爽的阅读视图。
通常只需几秒钟,请稍候。