千尋CORS如何做到“每秒服務(wù)百萬(wàn)用戶”
千尋CORS特別“穩(wěn)”,用過(guò)的人都知道。撐起千尋服務(wù)穩(wěn)定性的,是一項(xiàng)名為“高并發(fā)”的技術(shù)能力。
什么是“高并發(fā)”?“高并發(fā)”是指大量用戶(終端)的快速接入。對(duì)于網(wǎng)絡(luò)平臺(tái)而言,如果不具備良好的高并發(fā)處理能力,輕則引發(fā)服務(wù)中斷,重則引起服務(wù)器宕機(jī)。
2021年 ,千尋位置高精度位置服務(wù)平臺(tái)的高并發(fā)能力已經(jīng)達(dá)到了每秒百萬(wàn)級(jí),也就是說(shuō)每秒鐘能夠?yàn)槌^(guò)百萬(wàn)級(jí)的用戶來(lái)同時(shí)提供高精度定位的服務(wù)。
這不僅是行業(yè)里面的冠軍,對(duì)標(biāo)整個(gè)互聯(lián)網(wǎng)也是一個(gè)高水平能力。這是如何做到的呢?下面小編將從系統(tǒng)能力、運(yùn)維能力兩個(gè)層面,分析其中的技術(shù)要點(diǎn)。
系統(tǒng)能力|水平擴(kuò)展基于分布式服務(wù)架構(gòu)設(shè)計(jì)的千尋位置高精度位置服務(wù)平臺(tái),具有“海量用戶”的服務(wù)擴(kuò)展能力,增加服務(wù)器就可以服務(wù)更多用戶。在具體的實(shí)現(xiàn)路徑上,主要分為4步:第一步:自研SpaceX 高性能分布式框架千尋位置的服務(wù)具有覆蓋廣、規(guī)模大、實(shí)時(shí)性要求高等特點(diǎn),需要千尋位置高精度位置服務(wù)平臺(tái)以高度的靈活性,實(shí)現(xiàn)效率最大化。針對(duì)這樣的情況,2015開(kāi)始,千尋位置自主研發(fā)了內(nèi)部代號(hào)為SpaceX的高性能分布式應(yīng)用框架。
SpaceX框架:可以將一個(gè)龐大的計(jì)算任務(wù)劃分為若干個(gè)小任務(wù),并分配給每臺(tái)計(jì)算機(jī)。計(jì)算機(jī)集群通過(guò)并行處理提高了效率,在統(tǒng)一管理控制下,完成大規(guī)模信息處理任務(wù)。國(guó)家北斗地基增強(qiáng)系統(tǒng)“全國(guó)一張網(wǎng)”的解算,就是通過(guò)SpaceX框架,分成幾千個(gè)小網(wǎng)任務(wù),分布在上百臺(tái)機(jī)器同時(shí)進(jìn)行解算。
第二步:快速?gòu)?fù)制數(shù)據(jù)的擴(kuò)展塢程序Switch千尋位置針對(duì)快速?gòu)?fù)制國(guó)家北斗地基增強(qiáng)系統(tǒng)“全國(guó)一張網(wǎng)”能力,研發(fā)了一個(gè)擴(kuò)展塢程序,它被命名為Switch。Switch將算法產(chǎn)生的網(wǎng)格數(shù)據(jù)復(fù)制多份,再將復(fù)制的數(shù)據(jù)分發(fā)給下游用戶。
第三步:提高效率,集中處理為提升處理性能,千尋位置高精度位置服務(wù)平臺(tái)中熱點(diǎn)識(shí)別應(yīng)用會(huì)將用戶分布較多的區(qū)域識(shí)別出來(lái),將相同地區(qū)用戶集中到一塊處理,大大提升性能,降低服務(wù)器壓力,達(dá)到降本增效效果。
第四步:用戶均勻分布,降低平均排隊(duì)時(shí)間用戶連接服務(wù)時(shí),千尋位置高精度位置服務(wù)平臺(tái)會(huì)有專門的負(fù)載均衡SLB應(yīng)用來(lái)指導(dǎo)用戶應(yīng)該去哪個(gè)服務(wù)器處理。這樣每個(gè)服務(wù)器的壓力均衡,用戶平均等待時(shí)間就降低了。
系統(tǒng)能力|服務(wù)高可用千尋位置高精度位置服務(wù)平臺(tái)除了要去支撐用戶,還要保證服務(wù)的高可用。千尋位置做了多套服務(wù)冗余備份,在數(shù)據(jù)中心之下分為6個(gè)可用區(qū)和3個(gè)隔離集群。
6個(gè)可用區(qū),主要就是防止單機(jī)房故障,可用區(qū)的概念有點(diǎn)像當(dāng)?shù)氐臋C(jī)房;·3個(gè)隔離區(qū)群,是按照千尋位置的業(yè)務(wù)群體進(jìn)行劃分的。由于不同行業(yè)(智能電子設(shè)備、汽車、測(cè)繪RTK)對(duì)于高精度位置服務(wù)的要求和標(biāo)準(zhǔn)不同,隔離區(qū)群能夠做到互補(bǔ)干擾。
系統(tǒng)能力|自我保護(hù)千尋位置高精度位置服務(wù)平臺(tái)在流量突增的時(shí)候擁有自我保護(hù)機(jī)制,主要是精準(zhǔn)流控和熔斷機(jī)制。
一、精準(zhǔn)流控有6種影響因素,主要包括算法A/B群灰度、鏈路規(guī)則、用戶應(yīng)用、產(chǎn)品、區(qū)域、百分比,按照這6種因素不同的排列組合,可以形成適合不同用戶的策略。比如有一種策略,只適合廣東地區(qū)電力,那有這種路線規(guī)劃的話就可以把這個(gè)服務(wù)精準(zhǔn)的去推到這個(gè)客戶上面。
二、熔斷機(jī)制的建設(shè)。千尋位置的服務(wù)其實(shí)是有容量的,比如說(shuō)現(xiàn)在容量是1億,那突然來(lái)了2億流量,千尋位置的高精度位置服務(wù)平臺(tái)能去做到一個(gè)自我保護(hù),優(yōu)先保證服務(wù)好前1億用戶。隨著服務(wù)器擴(kuò)展,逐漸去支持到后來(lái)涌入的2億流量。
運(yùn)維能力|快速診斷基于系統(tǒng)可視化和智能化定位能力,千尋位置高精度位置服務(wù)平臺(tái)可以進(jìn)行問(wèn)題的快速定位。
系統(tǒng)可視化能力由業(yè)務(wù)監(jiān)控大屏、應(yīng)用處理能力監(jiān)控大屏、云資源服務(wù)狀態(tài)監(jiān)控大屏組成。從這三個(gè)維度,系統(tǒng)就完完全全變成一個(gè)透明化。
業(yè)務(wù)監(jiān)控大屏實(shí)時(shí)呈現(xiàn)用戶在線數(shù)量、整體分布、定位狀態(tài)、特定用戶群體以及在線的工具(測(cè)距、定位、回放);· 應(yīng)用處理能力監(jiān)控大屏核心呈現(xiàn)用戶實(shí)時(shí)連接數(shù)、每秒新增連接數(shù)、每秒下線連接數(shù);·云資源服務(wù)狀態(tài)監(jiān)控則能查看CPU使用情況、內(nèi)存使用情況、TCP網(wǎng)絡(luò)連接狀態(tài)等。
智能化定位能力由系統(tǒng)控制臺(tái)、網(wǎng)格異常分析、基站異常分析構(gòu)成,能夠主動(dòng)判斷用戶服務(wù)是否正常、問(wèn)題是否由基站引起以及是否由周邊環(huán)境影響。
運(yùn)維能力|快速恢復(fù)千尋位置高精度位置平臺(tái)具有從問(wèn)題中快速恢復(fù)的能力,在實(shí)施層面分為快速響應(yīng) 、記錄通知、啟動(dòng)預(yù)案 、 工具化處理4個(gè)步驟。
首先,千尋位置設(shè)置了7*24小時(shí)值守的應(yīng)用監(jiān)控室,第一時(shí)間響應(yīng)問(wèn)題;其次,千尋位置應(yīng)急響應(yīng)平臺(tái)記錄事件,并通過(guò)電話、軟件系統(tǒng)通知相關(guān)運(yùn)維、開(kāi)發(fā)等處理人員;再次,日常處理預(yù)案留有記錄,運(yùn)維人員結(jié)合系統(tǒng)流程 + 工具,自動(dòng)化操作減少失誤,達(dá)到快速恢復(fù)的能力;最后,將日常標(biāo)準(zhǔn)流程歸納提煉之后,都升級(jí)為工具化執(zhí)行,不需要人工干預(yù),在提高效率的同時(shí),也避免了因人為導(dǎo)致的不可控因素。
運(yùn)維能力|故障演練混沌工程是在分布式系統(tǒng)上進(jìn)行實(shí)驗(yàn)的學(xué)科。模擬功能性測(cè)試、性能測(cè)試、極端場(chǎng)景測(cè)試,通過(guò)長(zhǎng)時(shí)間測(cè)試,發(fā)現(xiàn)系統(tǒng)以常規(guī)測(cè)試手段難以模擬和測(cè)試的BUG。
混沌工程主要解決極端的情況,比如說(shuō)網(wǎng)絡(luò)中斷、服務(wù)器宕機(jī)等,它通過(guò)長(zhǎng)時(shí)間測(cè)試,頻繁的去驗(yàn)證,訓(xùn)練出系統(tǒng)級(jí)的反應(yīng)能力并加以鞏固,在真正遇到問(wèn)題的時(shí)候給予反應(yīng)。
更多相關(guān)
腳步丈量能否被無(wú)人機(jī)測(cè)繪“無(wú)情”取代
隨著空間技術(shù)、計(jì)算機(jī)技術(shù)和信息技術(shù)的發(fā)展,人類實(shí)現(xiàn)了從空中和太空中觀測(cè)地球的理想,遙感正是實(shí)現(xiàn)這一理想的利器。通過(guò)有人飛機(jī)航空遙感和衛(wèi)星遙感的方式,獲取地球表面的信息,不僅成本昂貴,也受到回歸周期...
徠卡機(jī)器人全站儀助力三等水準(zhǔn)測(cè)量
一、前言 目前高程測(cè)量方法一般分為幾何水準(zhǔn)測(cè)量、GPS水準(zhǔn)測(cè)量和三角高程測(cè)量三大類。采用傳統(tǒng)水準(zhǔn)的方法測(cè)定點(diǎn)與點(diǎn)之間的高差,所得到的地面點(diǎn)高程精度較高,普遍用于建立國(guó)家高程控制點(diǎn)及測(cè)定高等級(jí)地形...
Trimble天寶DINI03電子水準(zhǔn)儀的基本原理
天寶電子水準(zhǔn)儀DINI03又稱數(shù)字水準(zhǔn)儀,基于自動(dòng)安平水準(zhǔn)儀為基礎(chǔ),在望遠(yuǎn)鏡光路中增加了分光鏡和讀數(shù)器(CCDLine),光機(jī)電測(cè)一體化的高科技產(chǎn)品采用條碼尺和圖像處理電子系統(tǒng)。具有大圖形顯示界面,圖...
南方測(cè)繪、思拓力兩測(cè)繪儀器廠商各行其道助力測(cè)繪職業(yè)教育事業(yè)發(fā)展
南方測(cè)繪助力國(guó)際測(cè)量技能競(jìng)賽 南方測(cè)繪公司技術(shù)人員正在為參賽選手做賽前水準(zhǔn)儀培訓(xùn) 11月20日至22日,測(cè)量技術(shù)國(guó)際技能競(jìng)賽在廣東工貿(mào)職業(yè)技術(shù)學(xué)院舉行,來(lái)自剛果、蒙古、緬甸、老撾、柬埔寨、吉爾...
高原測(cè)繪紀(jì)實(shí)
為完成第三次全國(guó)土地調(diào)查的外業(yè)控制山區(qū)項(xiàng)目,2018年6月,我們這支東北測(cè)繪隊(duì)伍接到任務(wù)后,立即厲兵秣馬,挺進(jìn)西北,入住葉城。次日早上5點(diǎn)半大家就已經(jīng)洗漱用餐完畢,并把測(cè)繪儀器裝備及厚棉衣捆扎裝車...
徐劍平口述40個(gè)春秋攢下的測(cè)繪光陰故事
80屆航測(cè)培訓(xùn)班結(jié)業(yè)留念(后排右一為徐劍平) 我相信品格是有代際傳承的,父親是軍人,我從他那里繼承了堅(jiān)毅和果敢。剛成年時(shí)上山下鄉(xiāng),性格要強(qiáng)的我勞動(dòng)時(shí)不甘人后,上下跳板裝卸重物時(shí)不慎崴腳,當(dāng)時(shí)并未...
破壟斷 可用于測(cè)繪 中科院研制“三維相機(jī)”為地面精準(zhǔn)畫像
從中科院長(zhǎng)春光學(xué)精密機(jī)械與物理研究所了解到,丁亞林研究員團(tuán)隊(duì)研制出高分辨率的大視場(chǎng)三線陣相機(jī),將其搭載在飛機(jī)上對(duì)地面拍攝,可獲得飛行范圍內(nèi)的高精度三維立體照片。該成果打破了國(guó)外同類技術(shù)壟斷,可用于...
徠卡TS16測(cè)量機(jī)器人,為測(cè)繪而生!
徠卡測(cè)量系統(tǒng)TPS產(chǎn)品總監(jiān)Hans-MartinZogg向您講述徠卡TS16測(cè)量機(jī)器人全站儀將帶來(lái)哪些全新體驗(yàn)。 Q1:徠卡TS16全新出發(fā),是否值得擁有? 當(dāng)今無(wú)論是基礎(chǔ)建設(shè),還是傳統(tǒng)測(cè)...