999视频在线免费观看,国产精品一二二区,亚洲国产香蕉视频,中文字幕有码在线视频,亚洲日本另类,中国三级黄色大片,成人中文字幕在线观看

崗位職責(zé)

1、負(fù)責(zé)深度學(xué)習(xí)在線推理引擎的設(shè)計(jì)與開(kāi)發(fā)，打造低延時(shí)，高吞吐的推理引擎；

2、參與神經(jīng)網(wǎng)絡(luò)加速技術(shù)的調(diào)研、探索和落地；

3、負(fù)責(zé)nlp大模型在實(shí)際業(yè)務(wù)場(chǎng)景中落地。

任職要求

1、本科及以上學(xué)歷，具備豐富的模型推理加速算法經(jīng)驗(yàn)，熟悉各類(lèi)主流加速庫(kù)，如：tensorrt / cudnn / mkl / xla等；熟悉各類(lèi)ir，包括不限于onnx；

2、熟悉主流深度學(xué)習(xí)框架：tensorflow / pytorch，熟悉主流推理引擎：triton / openvino；

3、有算子開(kāi)發(fā)經(jīng)驗(yàn)，具備深度學(xué)習(xí)模型性能分析和優(yōu)化能力；

4、熟悉圖優(yōu)化、混合精度、剪枝、編譯優(yōu)化技術(shù)，有實(shí)操業(yè)務(wù)落地經(jīng)驗(yàn)的優(yōu)先；

5、熟悉模型部署優(yōu)化，如模型量化、模型壓縮，模型轉(zhuǎn)換，模型稀疏化等；

6、熟練掌握c/c++/python編程，有大模型端到端落地經(jīng)驗(yàn)者優(yōu)先；

7、熟悉pytorch源碼者優(yōu)先。