大模型開發(fā)工程師-實習(xí)
適用專業(yè)
計算機(jī)
適用年級
高年級
截止時間
2023-06-30
工作地區(qū)
北京
公司介紹
小米
互聯(lián)網(wǎng)大廠
世界500強(qiáng)
https://www.mi.com/
崗位職責(zé)
協(xié)助負(fù)責(zé)大模型的部署和監(jiān)控,包括實現(xiàn)高效推理和減少資源消耗,保證服務(wù)的穩(wěn)定性,對接各種應(yīng)用落地 。
崗位要求
1、熟悉常用的深度學(xué)習(xí)框架tensorflow、pytorch等;
2、熟悉tensorRT、Triton等主流模型服務(wù)框架;
3、有分布式環(huán)境中部署和管理模型的經(jīng)驗;
4、有模型推理加速、提升服務(wù)吞吐量的相關(guān)經(jīng)驗。
投遞方式