在分布式存儲(chǔ)系統(tǒng)(包括OceanBase這樣的分布式數(shù)據(jù)庫)的使用中,,我們經(jīng)常會(huì)提到“一致性”這個(gè)詞,,但是這個(gè)術(shù)語在不同的系統(tǒng),、不同人的心目中有不同的內(nèi)涵,很容易造成混淆,。想象一個(gè)簡(jiǎn)單的存儲(chǔ)系統(tǒng),,只有一個(gè)客戶端(單進(jìn)程)和一個(gè)服務(wù)端(單進(jìn)程服務(wù)),。客戶端順序發(fā)起讀寫操作,,服務(wù)端也順序處理每個(gè)請(qǐng)求,,那么無論從服務(wù)器視角還是從客戶端視角,后一個(gè)操作都可以看到前一個(gè)操作的結(jié)果,。然后,,系統(tǒng)變的復(fù)雜一些,系統(tǒng)還是單個(gè)服務(wù)進(jìn)程(單副本),,但是有多個(gè)客戶端并發(fā)進(jìn)行操作,。這個(gè)模型下,多個(gè)客戶端的操作會(huì)互相影響,,比如一個(gè)客戶端會(huì)讀到不是自己寫的數(shù)據(jù)(另一個(gè)客戶端寫入的),。一般單機(jī)并發(fā)程序就是這樣的模型,比如多個(gè)線程共享內(nèi)存的程序中,。 萬萬沒想到,分布式存儲(chǔ)系統(tǒng)的一致性是......!宿遷魏晉元興分布式存儲(chǔ)架構(gòu)實(shí)戰(zhàn)
隨著網(wǎng)絡(luò)帶寬的高速增長,,在軟件上的消耗已成為網(wǎng)絡(luò)性能的瓶頸,,而通過繞過CPU實(shí)現(xiàn)高性能傳輸?shù)腞DMA網(wǎng)絡(luò)成為分布式存儲(chǔ)不錯(cuò)的選擇。RDMA(RemoteDirectMemoryAccess),,可以簡(jiǎn)單理解為網(wǎng)卡完全繞過CPU實(shí)現(xiàn)兩個(gè)服務(wù)器之間的內(nèi)存數(shù)據(jù)交換,。其作為一種硬件實(shí)現(xiàn)的網(wǎng)絡(luò)傳輸技術(shù),可以大幅提升網(wǎng)絡(luò)傳輸效率,,幫助網(wǎng)絡(luò)IO密集的業(yè)務(wù)(比如分布式存儲(chǔ),、分布式數(shù)據(jù)庫等)獲得更低的時(shí)延以及更高的吞吐。初的RDMA是實(shí)現(xiàn)在IB(Infiniband)上,,由于其新的硬件技術(shù)棧成本比較高,,主要用于HPC(高性能計(jì)算)等少數(shù)場(chǎng)景。而新的技術(shù)發(fā)展下,,能夠?qū)崿F(xiàn)在以太網(wǎng)上使用RDMA,。 金華聯(lián)想分布式存儲(chǔ)架構(gòu)實(shí)戰(zhàn)分布式存儲(chǔ)是未來數(shù)字產(chǎn)業(yè)生態(tài)系統(tǒng)構(gòu)建與新基建的重要引擎。
Ceph:目前應(yīng)用廣的開源分布式存儲(chǔ)系統(tǒng),,已得到眾多廠商的支持,,許多超融合系統(tǒng)的分布式存儲(chǔ)都是基于Ceph深度定制。而且Ceph已經(jīng)成為LINUX系統(tǒng)和OpenStack的“標(biāo)配”,,用于支持各自的存儲(chǔ)系統(tǒng),。Ceph可以提供對(duì)象存儲(chǔ)、塊設(shè)備存儲(chǔ)和文件系統(tǒng)存儲(chǔ)服務(wù),。同時(shí)支持三種不同類型的存儲(chǔ)服務(wù)的特性,,在分布式存儲(chǔ)系統(tǒng)中,是很少見的。a,、Ceph沒有采用HDFS的元數(shù)據(jù)尋址的方案,,而且采用CRUSH算法,數(shù)據(jù)分布均衡,,并行度高,。而且在支持塊存儲(chǔ)特性上,數(shù)據(jù)可以具有強(qiáng)一致性,,可以獲得傳統(tǒng)集中式存儲(chǔ)的使用體驗(yàn),。b、對(duì)象存儲(chǔ)服務(wù),,Ceph支持Swift和S3的API接口,。在塊存儲(chǔ)方面,支持精簡(jiǎn)配置,、快照,、克隆。在文件系統(tǒng)存儲(chǔ)服務(wù)方面,,支持Posix接口,,支持快照。但是目前Ceph支持文件的性能相當(dāng)其他分布式存儲(chǔ)系統(tǒng),,部署稍顯復(fù)雜,,性能也稍弱,一般都將Ceph應(yīng)用于塊和對(duì)象存儲(chǔ),。c,、Ceph是去中心化的分布式解決方案,需要提前做好規(guī)劃設(shè)計(jì),,對(duì)技術(shù)團(tuán)隊(duì)的要求能力比較高,。特別是在Ceph擴(kuò)容時(shí),由于其數(shù)據(jù)分布均衡的特性,。
與傳統(tǒng)的存儲(chǔ)架構(gòu)使用RAID模式來保證數(shù)據(jù)的可靠性不同,,分布式存儲(chǔ)采用了多副本備份機(jī)制。在存儲(chǔ)數(shù)據(jù)之前,,分布式存儲(chǔ)對(duì)數(shù)據(jù)進(jìn)行了分片,,分片后的數(shù)據(jù)按照一定的規(guī)則保存在集群節(jié)點(diǎn)上。為了保證多個(gè)數(shù)據(jù)副本之間的一致性,,分布式存儲(chǔ)通常采用的是一個(gè)副本寫入,,多個(gè)副本讀取的強(qiáng)一致性技術(shù),使用鏡像,、條帶,、分布式校驗(yàn)等方式滿足租戶對(duì)于可靠性不同的需求,。在讀取數(shù)據(jù)失敗的時(shí)候,系統(tǒng)可以通過從其他副本讀取數(shù)據(jù),,重新寫入該副本進(jìn)行恢復(fù),,從而保證副本的總數(shù)固定。當(dāng)數(shù)據(jù)長時(shí)間處于不一致狀態(tài)時(shí),,系統(tǒng)會(huì)自動(dòng)數(shù)據(jù)重建恢復(fù),,同時(shí)租戶可設(shè)定數(shù)據(jù)恢復(fù)的帶寬規(guī)則,小化對(duì)業(yè)務(wù)的影響,。 關(guān)于分布式存儲(chǔ),你需要知道的真相,。
分布式存儲(chǔ)的興起與互聯(lián)網(wǎng)的發(fā)展密不可分,互聯(lián)網(wǎng)公司由于其數(shù)據(jù)量大而資本積累少,,而通常都使用大規(guī)模分布式存儲(chǔ)系統(tǒng),。與傳統(tǒng)的高duan服務(wù)器、高duan存儲(chǔ)器和高duan處理器不同的是,,互聯(lián)網(wǎng)公司的分布式存儲(chǔ)系統(tǒng)由數(shù)量眾多的,、低成本和高性價(jià)比的普通PC服務(wù)器通過網(wǎng)絡(luò)連接而成。其主要原因有以下三點(diǎn)(1)互聯(lián)網(wǎng)的業(yè)務(wù)發(fā)展很快,,而且注意成本消耗,,這就使得存儲(chǔ)系統(tǒng)不能依靠傳統(tǒng)的縱向擴(kuò)展的方式,即先買小型機(jī),,不夠時(shí)再買中型機(jī),甚至大型機(jī),?;ヂ?lián)網(wǎng)后端的分布式系統(tǒng)要求支持橫向擴(kuò)展,即通過增加普通PC服務(wù)器來提高系統(tǒng)的整體處理能力,。(2)普通PC服務(wù)器性價(jià)比高,,故障率也高,需要在軟件層面實(shí)現(xiàn)自動(dòng)容錯(cuò),,保證數(shù)據(jù)的一致性,。(3)另外,隨著服務(wù)器的不斷加入,,需要能夠在軟件層面實(shí)現(xiàn)自動(dòng)負(fù)載均衡,,使得系統(tǒng)的處理能力得到線性擴(kuò)展。 分布式存儲(chǔ)系統(tǒng)通過復(fù)制協(xié)議將數(shù)據(jù)同步到多個(gè)存儲(chǔ)節(jié)點(diǎn),,并確保多個(gè)副本之間的數(shù)據(jù)一致性,。舟山集中式分布式存儲(chǔ)有哪些
分布式存儲(chǔ)在數(shù)據(jù)治理場(chǎng)景中的價(jià)值定位及優(yōu)勢(shì)解讀。宿遷魏晉元興分布式存儲(chǔ)架構(gòu)實(shí)戰(zhàn)
分布式存儲(chǔ)是一種數(shù)據(jù)存儲(chǔ)技術(shù),,通過網(wǎng)絡(luò)使用企業(yè)中的每臺(tái)機(jī)器上的磁盤空間,,并將這些分散的存儲(chǔ)資源構(gòu)成一個(gè)虛擬的存儲(chǔ)設(shè)備,,數(shù)據(jù)分散的存儲(chǔ)在企業(yè)的各個(gè)角落。分布式存儲(chǔ)系統(tǒng),,是將數(shù)據(jù)分散存儲(chǔ)在多個(gè)du立的設(shè)備上,。傳統(tǒng)的網(wǎng)絡(luò)存儲(chǔ)系統(tǒng)采用集中的存儲(chǔ)服務(wù)器存放所有數(shù)據(jù),存儲(chǔ)服務(wù)器成為系統(tǒng)性能的瓶頸,,也是可靠性和安全性的焦點(diǎn),,不能滿足大規(guī)模存儲(chǔ)應(yīng)用的需要。分布式網(wǎng)絡(luò)存儲(chǔ)系統(tǒng)采用可擴(kuò)展的系統(tǒng)結(jié)構(gòu),,利用多臺(tái)存儲(chǔ)服務(wù)器分擔(dān)存儲(chǔ)負(fù)荷,,利用位置服務(wù)器定位存儲(chǔ)信息,它不但提高了系統(tǒng)的可靠性,、可用性和存取效率,,還易于擴(kuò)展。 宿遷魏晉元興分布式存儲(chǔ)架構(gòu)實(shí)戰(zhàn)
江蘇魏晉元興智能科技有限公司是一家智能技術(shù),、計(jì)算機(jī)技術(shù)研發(fā),、技術(shù)咨詢,技術(shù)轉(zhuǎn)讓:軟件開 發(fā),、銷售;信息系統(tǒng)集成服務(wù):機(jī)電產(chǎn)品,、計(jì)算機(jī)及配件、 電線電纜,、儀器儀表,、電子元器件、機(jī)械設(shè)備,、機(jī)電設(shè)備 節(jié)能設(shè)備,、辦公用品、攝影器材,、文化用品,、通訊設(shè)備、體 育器材,、消防器材銷售;綜合布線工程,、水電工程、園林綠 化工程,、室內(nèi)裝飾工程,、土石方工程設(shè)計(jì)、施工,,提供勞務(wù) 服務(wù);企業(yè)形象策劃:企業(yè)管理咨詢:家用電器銷售,、維 修;文化藝術(shù)交流活動(dòng)組織、 策劃,。( 依法須經(jīng)批準(zhǔn)的項(xiàng) 目,,經(jīng)相關(guān)部門批準(zhǔn)后方可開展經(jīng)營活動(dòng))的公司,,是一家集研發(fā)、設(shè)計(jì),、生產(chǎn)和銷售為一體的專業(yè)化公司,。公司自創(chuàng)立以來,投身于網(wǎng)絡(luò)安全,,VR,MR,,VR,AI,,視頻監(jiān)控安防,,出入口門禁失控制,是數(shù)碼,、電腦的主力軍,。魏晉元興智能不斷開拓創(chuàng)新,追求出色,,以技術(shù)為先導(dǎo),,以產(chǎn)品為平臺(tái),以應(yīng)用為重點(diǎn),,以服務(wù)為保證,,不斷為客戶創(chuàng)造更高價(jià)值,提供更優(yōu)服務(wù),。魏晉元興智能始終關(guān)注數(shù)碼,、電腦行業(yè)。滿足市場(chǎng)需求,,提高產(chǎn)品價(jià)值,,是我們前行的力量。