鯨品(pǐn)堂|業務係統(tǒng)核心模(mó)塊資料訪問性能優(yōu)化實戰

2024-07-08 708

隨著業務係統的雲化轉型不斷推(tuī)進,業務量呈現顯著(zhe)增長,對(duì)業務係(xì)統的性(xìng)能和資源管理提出了更高要求。在這樣的背景下,實現係(xì)統資源使用與性能指標的均衡成為保障生產係統高效穩定運行的核(hé)心任務。


在性能優化的範疇內(nèi),核心業務係統對於用戶信息查詢的處理能(néng)力需具備高度性能及精確性,這部分優化向來(lái)都是最具挑戰性的任務。普通的緩存機製往往無(wú)法滿足這些嚴(yán)格(gé)的需求。因此(cǐ),我們采取了分布式內存數據庫(kù),即高級緩存策(cè)略,於應用客戶端構(gòu)建起高效且精確的本地緩存機製,以應對這一難題。然而,隨(suí)著用戶數量及數據(jù)量的持續增長(zhǎng),高速緩存對內存資源(yuán)的消耗也在持續擴(kuò)大。如何在內存占用與業務性能之間達成有(yǒu)效(xiào)的平衡,成為係統後續演進及效能提升的(de)關鍵所在。


為解決相關問題,国产亚洲熟妇在线视频科技提出了一種創新的性能優化策(cè)略。該策略主要涉及對係統內各模塊中相同維度數據查詢頻率的深入分析,以開發出(chū)高頻(pín)數據緩存技術,目標是減少批量話單處理中(zhōng)的重複數據查詢效率問題,實現(xiàn)無幹擾的高精(jīng)度數據緩存複用。


在(zài)某(mǒu)省的雲遷移項目實際對賬操作中,這項技術與高速緩存技術相融合,成功實現了性能(néng)的整體提升,範圍在2.4至7倍之間,同(tóng)時顯著(zhe)減少了應(yīng)用服務器(qì)的內存占用,降低了約20%。最終,實現了超過23萬(wàn)的話單處理(lǐ)端到端性能提(tí)升,以及(jí)部分模塊40萬+的處理性能巨幅增長。


圖片關鍵詞

某省采用(yòng)新方案後的業務係統性能優化效果


01
業務係統資料查詢優化迫在眉睫


係統實現了應用與數據的(de)解(jiě)耦,極大地提升了係統的並發處理能力。然而,在某些關鍵業務場景中,數據(jù)訪問的時延成為性(xìng)能瓶頸,尤其是在批價、合賬、提醒及賬期應用等環節。這些業務對數(shù)據訪問(wèn)的速度要求極高,主要體現(xiàn)在以下幾個方麵:


圖片關鍵詞


為了應對這些挑戰,采用高(gāo)速緩存技術進行大規模(mó)用戶資料的映射存儲成為一種有效的策略。這不僅確保了數據的準(zhǔn)確性,還提高(gāo)了數據訪問的本地響應速度。然而,隨著用戶資料量(liàng)的持續(xù)增長,單(dān)個宿主機的內存占用也從200+GB上升到了400+GB。這種趨勢表明,單靠高速緩存技術已難以滿足(zú)現有需求。


因此,在高頻查詢(xún)、批量查詢的業務場(chǎng)景下,如何在減少內存占用的同時,確保核心業務(wù)係統中用戶資料(liào)的低時延查詢(xún),已成為優化業務係統(tǒng)性能的關(guān)鍵任務(wù)。這不僅是技(jì)術上的挑戰,更是業務發展(zhǎn)的必然要求。


02
業務係統資料訪問場景分析


為了解決上述問題,我(wǒ)們對業(yè)務數據的訪問特性進行了深入分(fèn)析。在排除了涉及(jí)賬期應用的全麵遍曆查詢情況後,問題(tí)的核心集中在批量查詢和高頻率查詢的場景上。



高頻查詢(xún)類(lèi)業務性能(néng)瓶頸分析


在(zài)處理話單業務的場景中,高(gāo)頻查詢指的是那(nà)些頻繁需要進行數據檢索的操作(zuò)。在雲計算的架構下(xià),每次對數據(jù)的訪問都會引起一定(dìng)的網(wǎng)絡性能損(sǔn)失。隨著這種訪問頻率的(de)增加,係統的整體性能將以指(zhǐ)數方式遞減。


圖片關鍵詞

某省話單壓測數據訪問(wèn)與訪問頻率匯總


在實(shí)際操作中,以實例數據為核心的高頻訪問操作往往(wǎng)涉(shè)及對單個話單(dān)的(de)訪問超過6次,且頻繁出現對相同數據的重複查詢。通過深入的場景配(pèi)置分析,我們追溯到這(zhè)一現象的根源在於話單處理的內部屬性與外部屬性之間的顯著差異。在處理(lǐ)話單的過程中,尤其是(shì)對於(yú)定(dìng)價領域的參照(zhào)值,常常需要結合外部屬性進行操作。這些外部屬性各自獨立,互不幹涉,也因此無法自動判斷數據是(shì)否可以進行關聯複用。



批量查詢類業務性能(néng)瓶頸分析


批量查詢的設計意圖在於一次性通過遠程交互獲取多項數據,以此顯(xiǎn)著降低單條數據檢索的等(děng)待時間。理論上,這種平均(jun1)化的時間延遲不應(yīng)對係(xì)統性能產生根本性的影響,即使不使用高速緩存。然而(ér),實際的測試表(biǎo)現(xiàn)並未達到預期(qī)標準。


圖片關鍵(jiàn)詞

並發批量查詢時萬兆網上行帶寬占滿


監控數據顯示,一旦(dàn)部分表從高速緩存中移出,組網的萬兆帶寬會立即被占滿。這表明,單從業務場景和監控數(shù)據進行分析已不足夠,需要結(jié)合更細致的業務訪問操作進行綜合分析,並對每張表的訪問頻率和帶寬資源占(zhàn)用進行量化。


為(wéi)了細致分析業務實際訪問的操作,團隊迅速完善了業務數據訪問(wèn)接口的調用鏈埋點,實現了表級別的接口數據采集。同時,對訪問維度(dù)進(jìn)行了數據接口級別的埋點,特別關注了關鍵維(wéi)度如銷售品、用戶和實例等。通過對163355條話單的測試分析,我(wǒ)們(men)獲得了以下關鍵數據:


圖片關鍵詞

某省話單壓測數(shù)據訪問與帶寬關係匯總


通過數據分析,發現產品實例關係表的批量查(chá)詢操作中,單次查詢平均返回(huí)1083條記錄,每條數據的網絡開銷極小(xiǎo)。然而,在12萬TPS的負載(zǎi)下,這種操作將達到萬(wàn)兆帶寬(kuān)的上限,這與監控驗證的結(jié)論相符。



資料訪問場景分析總結(jié)


綜(zōng)上所述,對(duì)業務(wù)係統資(zī)料訪問中的(de)性能損耗(hào)就能做到有的放矢:


對於涉及(jí)高頻重複查詢的表。使用高速緩存方案存儲會占用幾百GB的內存(cún),而全集數據使用並不頻繁,導致大量內存均(jun1)存在(zài)冗餘浪費。因此(cǐ),需(xū)要重新設計更合理的緩存策略。



對於涉及批量查詢的產品實例關係(xì)表。業務會在短期內掃描大量數據,導致萬兆網帶寬立即占滿(mǎn),而產生影(yǐng)響的表僅為產品實例(lì)關(guān)係表。因此,需要考(kǎo)慮采用高速緩存並隻對單表進行緩存支持。


通過(guò)這種分治(zhì)策略,我們可以針對(duì)性地解決(jué)複雜問題,選(xuǎn)擇適當的場景應用高速緩存,並對高(gāo)頻重複(fù)數據查詢的場景進行優化,從(cóng)而實現業務係統全流程的性能提升。


03
在業務係(xì)統資料訪問流程優化中有的放矢



高頻查詢類業務優化:高頻資料緩存技術


當前(qián)麵對的(de)主要問題是優化處理高頻重複訪問的表操作,實現減少內存開銷的前提下,完成業(yè)務性(xìng)能的優化提升。


首(shǒu)先,在(zài)該特征下,存儲在高速緩存中的大部分數據都非熱頻數據,導致緩(huǎn)存資源利用率不高。因此,需要將(jiāng)對應場景的(de)數據從高速緩存中移出,從而節約大量內存資源,確保應用係統的資源充足。


其次,將這些重複訪(fǎng)問的表按維度進行劃分,區分出存在重複數據查詢的場景,考(kǎo)慮在重複(fù)數據訪問的過程中(zhōng)降低性能損耗。


最後,還要考慮對複(fù)雜業務係統的穩定性、準確性的(de)影響,如何提升技術方案的可控(kòng)性也是重中之重。


綜上所述,對技(jì)術方(fāng)案提出了如下四點要求:

圖片(piàn)關鍵詞(cí)


為了實現上述特征,團隊結合現狀給出了一種高頻資料緩存技術,在不依賴任何(hé)第三(sān)方組件的基礎上,對數據訪問層(DAO)進行了有(yǒu)效地優化,具體方案如下:


圖片關鍵詞


方案結合(hé)當前業務現狀和產品特性,在DAO層采取了一係列先進的緩存管(guǎn)理策略,確保數(shù)據處理的優(yōu)化與資源的最大化利用:


零侵入的方案實(shí)踐效(xiào)果:得益於業務係統架構的高可擴展性及先進性,高頻資料緩存方案在DAO層就能完(wán)成維度數據緩存,對業務流程完全零(líng)侵入。



高準確的緩存留存機製:數據在DAO層(céng)按指定維度進行緩存,對相同維度的個性化SQL進行動態拆分處理,實現了(le)單次緩(huǎn)存匹配多個數據接口的效果(guǒ)。應用在處理完指定批次話單數據後,還會及時銷毀緩存中的數據,確保數據的準(zhǔn)確有效。



精細化的數據緩存策略:業務係統應用針對每個批次(cì)的話單數據,特別是那些需要頻繁訪問且數據量較大的(de)數據(jù),執行專門的緩存策略(luè)。這些數據按紅黑樹進行存儲,被緩存到定製的私有內存中,從而顯著減少了係統與外部任何數據源的交互頻率和相關開(kāi)銷。這不僅提高了數據處理(lǐ)的響應速(sù)度,也優化(huà)了係統資源的(de)使用,單進(jìn)程開銷低於20MB。


通過這些策略的實施,業務係統(tǒng)不僅提高了處理效率,還確保了數據的安全性和準確性,為(wéi)生產業務提供了更加(jiā)可靠和高(gāo)效的服務。



批量訪問類業務優化:高速緩存單表適配


在特定的批量訪問情境中,可能會出現帶寬資(zī)源被過(guò)度(dù)消耗的情況,其(qí)根本(běn)原因在於一次性檢索返回的數據量過大。鑒於該(gāi)省(shěng)的產品實例關聯表數據不超過3億條,預計內存消(xiāo)耗約為20GB。因此,我們建議采用高(gāo)速緩(huǎn)存結合單(dān)表支持的策略,以此來顯著降低帶(dài)寬使(shǐ)用,緩(huǎn)解服務器負荷(hé),同時確(què)保數據訪問的高效性和精確性。


04
係統優化成效(xiào)


隨著業務範圍的持續擴展,業務係統正(zhèng)遭遇日益增長的(de)性能壓力。為了解(jiě)決這些挑戰並提高係統效率,我們的團隊采取了一係列創新技術策略,特別是對高頻數據緩存的優化工作:


☑️ 我們成功地整合了高速(sù)緩存技術與業務係統的緩存策略,從而對業務係統的數據查詢性能進行了深度優化。這一改進顯著加快了數據處理速度,縮短了係統響應時間,同時顯著降低了網絡帶寬(kuān)的負荷,有效釋放了冗餘的內存資源。


☑️ 此外,這些措施還顯著增強了係統的可擴展(zhǎn)性和可靠性,使其能夠應對未來業務的快速(sù)擴展和增長。這些優化確保了業務係統能夠持續(xù)提供高效、便捷且穩定的服務,滿足當前需求,也為未來可能的變化和技(jì)術升級(jí)奠定了堅實基礎。


☑️ 至關重要的是,這次的係統優化為後續的業(yè)務係統模(mó)塊性能提升提供(gòng)了(le)寶貴的經驗和指導方向。通過不斷的技術創新和優化,業務係統將更(gèng)好(hǎo)地適應業務需求,同時也能提供更廣(guǎng)泛(fàn)的支持和價值創造。


總之,本次優化提(tí)升了業務係(xì)統的性能和(hé)穩定性,也為應(yīng)對未(wèi)來的挑戰和利用新機遇做好了充分準備,確保業務係統能夠在動態的市(shì)場環境中實現持續的高質量發展。


官方微信公眾號

国产亚洲熟妇在线视频雲計算科技股份有限(xiàn)公司(sī) 版權所有 2003-2023

蘇ICP備10224443號-6       蘇公網安備 32011402011374號

国产亚洲熟妇在线视频-亚洲熟妇AV乱码在线观看-亚州国产AV一区二区三区伊在-中文字幕无码人妻少妇免费视频-欧美 日韩 人妻 高清 中文-熟妇人妻中文字幕无码老熟妇-丰满熟女人妻一区二区三-亚洲精品字幕