추론은 아마도 가장 가치 있는 신흥 소프트웨어 범주일 것입니다. 모델이 더욱 스마트해지고 경제적으로 가치가 높아짐에 따라 컴퓨팅은 모델에서 샘플을 추출하는 데 점점 더 많이 사용될 것입니다. openai에서 추론 관련 업무를 맡고 싶다면 gdb@openai.com으로 연락하세요. 자신이 소속되었던 뛰어난 팀에 대한 설명과 해당 팀의 목표 달성을 위한 기여도를 포함하세요. 또한 추론, 대규모 시스템 최적화 또는 도메인 전문 지식을 쌓은 다른 분야에서의 경험도 명시하세요. 모델 포워드 패스를 심층적으로 이해하는 것(최적화를 위한 창의적 기회 찾기/시뮬레이션 포함)부터 추측적 디코딩이나 kv 오프로딩 또는 워크로드 인식 로드 밸런싱과 같은 시스템 수준의 효율성, 대규모 플릿을 관리하고 관찰 가능하게 만드는 것까지 다양한 흥미로운 문제가 있습니다.
스레드를 불러오는 중
깔끔한 읽기 화면을 위해 X에서 원본 트윗을 가져오고 있어요.
보통 몇 초면 완료되니 잠시만 기다려 주세요.