工作職責(zé)【薪資面議】
1.打造貝殼自己的異構(gòu)計(jì)算平臺(tái),應(yīng)對(duì)大模型訓(xùn)練、推理對(duì)基礎(chǔ)設(shè)施的挑戰(zhàn),幫助貝殼實(shí)現(xiàn)智能化目標(biāo);
2.深入理解業(yè)務(wù)需求,幫助業(yè)務(wù)快速有效的使用深度學(xué)習(xí);
3.負(fù)責(zé)深度優(yōu)化核心計(jì)算庫(kù),包括服務(wù)器的異構(gòu)計(jì)算框架以及常用計(jì)算庫(kù)優(yōu)化;
4.負(fù)責(zé)模型結(jié)構(gòu)在不同硬件上壓縮,量化,稀疏化,裁剪方面的加速落地實(shí)現(xiàn);
5.負(fù)責(zé)算法性能評(píng)估和分析,制定技術(shù)規(guī)劃和性能標(biāo)準(zhǔn),關(guān)鍵競(jìng)爭(zhēng)力補(bǔ)齊;
6.異構(gòu)計(jì)算平臺(tái)的產(chǎn)品化和服務(wù)化;
任職資格
1.熟悉qwen、deepseek、sdxl、flux等主流模型,熟練掌握C++/Pythoy語(yǔ)言;
2.有大模型推理和訓(xùn)練加速等經(jīng)驗(yàn)優(yōu)先,熟悉sglang、vllm、pytorch、deepspeed等框架優(yōu)先;
3.熟悉主流的并行編程以及性能優(yōu)化技術(shù);
4.有很強(qiáng)的分析問(wèn)題和解決問(wèn)題的能力,有強(qiáng)烈的責(zé)任心;
5.統(tǒng)招本科及以上學(xué)歷,5年及以上工作經(jīng)驗(yàn);