什么是分布式存儲呢,?如果一個存儲系統(tǒng),,不管是對象,、塊,、文件,、kv,、log,、olap,、oltp,,只要對所管理的數(shù)據(jù)做了Partitioning&Replication,,不管姿勢對不對,其實都可以歸納于分布式存儲,。分布式存儲就是:Partitioning以多機scale,,Replication以災備容錯。復制是解決可用性,,可擴展性和高性能的關(guān)鍵,。為了災備,數(shù)據(jù)需要冗余存儲,;為了高可用,,服務需要hotstandby,。缺乏災備的系統(tǒng)難以在生產(chǎn)環(huán)境使用。元數(shù)據(jù)和數(shù)據(jù)的維護均離不開復制,,復制可轉(zhuǎn)移而不可消除,。復制引出了多副本一致性問題,而一致性保證需要考慮各種軟件和硬件故障,,以及誤操作,。 分布式存儲系統(tǒng),是將數(shù)據(jù)分散存儲在多臺單獨的設備上,。蕪湖大規(guī)模分布式存儲的一般架構(gòu)
隨著網(wǎng)絡帶寬的高速增長,,在軟件上的消耗已成為網(wǎng)絡性能的瓶頸,而通過繞過CPU實現(xiàn)高性能傳輸?shù)腞DMA網(wǎng)絡成為分布式存儲不錯的選擇,。RDMA(RemoteDirectMemoryAccess),,可以簡單理解為網(wǎng)卡完全繞過CPU實現(xiàn)兩個服務器之間的內(nèi)存數(shù)據(jù)交換。其作為一種硬件實現(xiàn)的網(wǎng)絡傳輸技術(shù),,可以大幅提升網(wǎng)絡傳輸效率,,幫助網(wǎng)絡IO密集的業(yè)務(比如分布式存儲、分布式數(shù)據(jù)庫等)獲得更低的時延以及更高的吞吐,。初的RDMA是實現(xiàn)在IB(Infiniband)上,,由于其新的硬件技術(shù)棧成本比較高,主要用于HPC(高性能計算)等少數(shù)場景,。而新的技術(shù)發(fā)展下,,能夠?qū)崿F(xiàn)在以太網(wǎng)上使用RDMA。 浙江大規(guī)模分布式存儲企業(yè)分布式存儲在數(shù)據(jù)治理場景中的價值定位及優(yōu)勢解讀,。
分布式存儲的興起與互聯(lián)網(wǎng)的發(fā)展密不可分,,互聯(lián)網(wǎng)公司由于其數(shù)據(jù)量大而資本積累少,而通常都使用大規(guī)模分布式存儲系統(tǒng),。與傳統(tǒng)的高duan服務器,、高duan存儲器和高duan處理器不同的是,互聯(lián)網(wǎng)公司的分布式存儲系統(tǒng)由數(shù)量眾多的,、低成本和高性價比的普通PC服務器通過網(wǎng)絡連接而成,。其主要原因有以下三點(1)互聯(lián)網(wǎng)的業(yè)務發(fā)展很快,而且注意成本消耗,,這就使得存儲系統(tǒng)不能依靠傳統(tǒng)的縱向擴展的方式,,即先買小型機,不夠時再買中型機,,甚至大型機,。互聯(lián)網(wǎng)后端的分布式系統(tǒng)要求支持橫向擴展,,即通過增加普通PC服務器來提高系統(tǒng)的整體處理能力,。(2)普通PC服務器性價比高,,故障率也高,需要在軟件層面實現(xiàn)自動容錯,,保證數(shù)據(jù)的一致性,。(3)另外,隨著服務器的不斷加入,,需要能夠在軟件層面實現(xiàn)自動負載均衡,,使得系統(tǒng)的處理能力得到線性擴展。
分布式存儲系統(tǒng)中的多臺服務器通過網(wǎng)絡進行連接,。但是我們無法保證網(wǎng)絡是一直通暢的,,分布式系統(tǒng)需要具有一定的容錯性來處理網(wǎng)絡故障帶來的問題。一個令人滿意的情況是,,當一個網(wǎng)絡因為故障而分解為多個部分的時候,,分布式存儲系統(tǒng)仍然能夠工作。分布式存儲系統(tǒng)需要使用多臺服務器共同存儲數(shù)據(jù),,而隨著服務器數(shù)量的增加,,服務器出現(xiàn)故障的概率也在不斷增加。為了保證在有服務器出現(xiàn)故障的情況下系統(tǒng)仍然可用,。一般做法是把一個數(shù)據(jù)分成多份存儲在不同的服務器中,。但是由于故障和并行存儲等情況的存在,同一個數(shù)據(jù)的多個副本之間可能存在不一致的情況,。這里稱保證多個副本的數(shù)據(jù)完全一致的性質(zhì)為一致性,。 淺談分布式存儲中的網(wǎng)絡通信。
分布式存儲的種類和比較:分布式存儲包含的種類繁多,,除了傳統(tǒng)意義上的分布式文件系統(tǒng),、分布式塊存儲和分布式對象存儲外,還包括分布式數(shù)據(jù)庫和分布式緩存等,,但其中架構(gòu)無外乎于三種,;以HDFS(HadoopDistributionFileSystem)為代biao的架構(gòu)是典型的代biao。在這種架構(gòu)中,,一部分節(jié)點NameNode是存放管理數(shù)據(jù)(元數(shù)據(jù)),另一部分節(jié)點DataNode存放業(yè)務數(shù)據(jù),,這種類型的服務器負責管理具體數(shù)據(jù),。這種架構(gòu)就像公司的層次組織架構(gòu),namenode就如同老板,,只管理下屬的經(jīng)理(datanode),,而下屬的經(jīng)理,而經(jīng)理們來管理節(jié)點下本地盤上的數(shù)據(jù),。 五大主流分布式存儲技術(shù)對比分析,,你 pick 哪一種,?蕪湖大規(guī)模分布式存儲的一般架構(gòu)
小編帶你了解分布式存儲的好處。蕪湖大規(guī)模分布式存儲的一般架構(gòu)
說到分布式存儲,,我們可能都會聯(lián)想到軟件定義存儲(SoftwareDefinedStorage,,即SDS)。代biao全球存儲廠商的權(quán)wei協(xié)會SNIA(全球網(wǎng)絡存儲工業(yè)協(xié)會)對SDS定義:軟件定義存儲包括管理面的標準接口和自動化,,以及數(shù)據(jù)面Scale-out的塊,、文件和對象存儲服務?;蛟S我們需要把鏡頭投向21世紀初期,,Google提出分布式存儲架構(gòu)的概念并予以實踐,在其強大的技術(shù)和維護團隊支撐下,,實現(xiàn)了基于在標準服務器上部署自研分布式存儲軟件,,構(gòu)建成大規(guī)模存儲集群,以應對其互聯(lián)網(wǎng)搜索業(yè)務帶來的海量數(shù)據(jù)流,。 蕪湖大規(guī)模分布式存儲的一般架構(gòu)
江蘇魏晉元興智能科技有限公司主要經(jīng)營范圍是數(shù)碼,、電腦,擁有一支專業(yè)技術(shù)團隊和良好的市場口碑,。魏晉元興智能致力于為客戶提供良好的網(wǎng)絡安全,,VR,MR,VR,,AI,,視頻監(jiān)控安防,出入口門禁失控制,,一切以用戶需求為中心,,深受廣大客戶的歡迎。公司秉持誠信為本的經(jīng)營理念,,在數(shù)碼,、電腦深耕多年,以技術(shù)為先導,,以自主產(chǎn)品為重點,,發(fā)揮人才優(yōu)勢,打造數(shù)碼,、電腦良好品牌,。魏晉元興智能秉承“客戶為尊、服務為榮,、創(chuàng)意為先,、技術(shù)為實”的經(jīng)營理念,全力打造公司的重點競爭力。