国产福利酱国产一区二区|亚洲精品一区二区三区成人|9l肥熟女福利视频导航|91嫩草国产线永久在线观看|免费99在线视频播放|明明成人免费高清在线观看

更新于 8月1日

數(shù)據(jù)采集與流處理工程師

5000-10000元
  • 石家莊裕華區(qū)
  • 3-5年
  • 本科
  • 全職
  • 招1人

職位描述

數(shù)據(jù)抽取數(shù)據(jù)埋點HadoopHiveFlask云計算/大數(shù)據(jù)
職責:
  1. 負責建設(shè)與維護實時和離線數(shù)據(jù)采集管道,接入業(yè)務(wù)數(shù)據(jù)庫、日志、消息隊列以及外部 API;實現(xiàn) CDC、批量同步等采集方式。
  2. 搭建流處理框架,重點掌握 Apache Flink 的 DataStream API 和 Flink SQL(Flink SQL 支持在流處理和批處理作業(yè)中使用 ANSI 標準 SQL );根據(jù)實際場景進行狀態(tài)管理、窗口計算和事件時間處理,保證數(shù)據(jù)按需清洗與聚合。
  3. 負責 Kafka 等消息系統(tǒng)的運維與優(yōu)化,保證高吞吐和低延遲,并實現(xiàn) Exactly-Once 語義 。
  4. 參與批流一體架構(gòu)的落地,與架構(gòu)師共同制定技術(shù)方案,編寫數(shù)據(jù)采集與清洗組件,保障數(shù)據(jù)質(zhì)量、監(jiān)控和告警。
任職要求:
  • 本科以上學歷,3 年以上大數(shù)據(jù)開發(fā)經(jīng)驗;熟悉 Linux、網(wǎng)絡(luò)和容器化部署。
  • 扎實的編程能力(Java/Scala/Python),精通 Kafka 或 Pulsar 等消息隊列;熟悉數(shù)據(jù)采集工具(Flink CDC、Debezium、Maxwell 等)。
  • 深刻理解 Flink 的流式計算模型:Flink 通過真正的流式數(shù)據(jù)流引擎在數(shù)據(jù)到達時立即處理,區(qū)別于微批架構(gòu);同時提供嚴格的一次處理語義和事件時間處理能力 。
  • 熟悉 Spark、Flink、Hadoop 等大數(shù)據(jù)生態(tài);了解數(shù)據(jù)湖文件格式(Iceberg/Delta/Hudi)。
  • 理解元數(shù)據(jù)管理和數(shù)據(jù)質(zhì)量監(jiān)控,具備自動化運維能力。

工作地點

石家莊裕華區(qū)環(huán)球智匯中心-C座西塔23樓

職位發(fā)布者

韓先生/數(shù)智中心

昨日活躍
立即溝通
公司Logo河北鵬鵠信息科技有限公司
河北鵬鵠信息科技有限公司(以下簡稱“公司”)創(chuàng)立于2021年9月30日,公司作為河北省內(nèi)首家專注于人工智能技術(shù)賦能智慧交通領(lǐng)域的創(chuàng)新型科研單位,依托自身專注于AI、大數(shù)據(jù)治理、物聯(lián)網(wǎng)技術(shù)領(lǐng)域不斷深耕,同時基于自有國際化前沿團隊先進的研發(fā)、應用能力優(yōu)勢及多項技術(shù)專利加持,根植于交通運輸行業(yè),尤其是針對省內(nèi)各級高速路、國省干線及農(nóng)村公路的“建、管、養(yǎng)、運”全流程工作環(huán)節(jié),不斷予以“信息化”、“智慧化”的深層次、多維度賦能。公司自創(chuàng)建以來,一直堅持“輕量化智慧交通”的產(chǎn)品研發(fā)、應用理念,緊緊圍繞國家“十四五規(guī)劃建設(shè)綱要”及“交通強國建設(shè)綱要”等國家政策文件對智慧交通領(lǐng)域的相關(guān)提升要求,堅持問題導向,不斷因地制宜,提供定制化服務(wù),利用人工智能賦能傳統(tǒng)道路機電設(shè)備,模擬人腦的發(fā)現(xiàn)、思維過程,極大降低人為誤判干擾,提升各級無人值守能力,使其實現(xiàn)大幅智慧化提升;同時利用行業(yè)領(lǐng)先的數(shù)據(jù)融合技術(shù),極大降低智能化硬件設(shè)備的投入及管控系統(tǒng)平臺的重復建設(shè),大大降低客戶智慧化提升的各項投入成本,為河北省內(nèi)各級道路管養(yǎng)部門及企業(yè)提供了各類有針對性的“精細化”、“模塊化”智慧交通提升方案,其中“長大橋隧智慧管理平臺”、“交通大腦系統(tǒng)”及“數(shù)據(jù)中樞系統(tǒng)”等產(chǎn)品已在省內(nèi)各級地市縣級道路管養(yǎng)部門進行成功布設(shè)搭建,并獲得各級客戶的高度認可,為省內(nèi)各級道路的智能化提升工作做出卓越貢獻。
公司主頁