崗位職責:
1. 大模型架構設計
? 設計千億參數級大模型架構,解決NLP/CV多模態業務場景問題
? 開發基于Transformer、MOE等架構的分布式模型系統
2. 高效訓練優化
? 主導多卡分布式訓練,應用ZeRO-3/梯度檢查點/混合精度訓練技術
? 優化DeepSpeed/Megatron-LM等框架的集群資源利用率
? 實現訓練吞吐量提升與顯存占用優化
3. 模型調優與部署
? 運用RLHF(Reinforcement Learning from Human Feedback)進行對齊優化
? 設計Prompt
Engineering策略提升zero-shot能力
? 開發模型量化/蒸餾方案,推動千億模型端側部署
4. 多模態技術研發
? 構建CLIP/BLIP/ViLT等跨模態對齊系統
? 開發多模態統一表征框架,支持圖文/視頻/3D多模態理解
? 優化多模態模型的跨域遷移能力
5. 技術前瞻研究
? 跟蹤ICML/NeurIPS等頂會技術動態,主導關鍵技術預研
? 構建大模型技術中臺,形成專利產出
任職要求:
1. 基礎要求
? 本科及以上學歷,計算機/數學相關專業
? 具有大模型研發經驗,完整參與過億級參數模型項目
2. 技術能力
? 精通PyTorch生態,掌握HuggingFace/ColossalAI等工具鏈
? 深入理解Transformer/BERT/GPT等架構及Attention機制
? 具備8卡以上分布式訓練調優經驗,熟悉NCCL通信優化
3. 專業能力
? 精通多模態表征學習,有跨模態檢索/生成項目經驗
? 掌握LoRA/Adapter等高效微調方法,具備RLHF實戰經驗
? 熟悉LLM評估體系(HELM/LongBench等)
4. 工程能力
? 熟練使用Python/C ,能進行CUDA層優化



-
電氣·電力·水利
-
1000人以上
-
國內上市公司
-
北京市順義區竺園路天竺保稅區泰達科技園1-2號樓