麻豆黑色丝袜jk制服福利网站-麻豆精品传媒视频观看-麻豆精品传媒一二三区在线视频-麻豆精选传媒4区2021-在线视频99-在线视频a

千鋒教育-做有情懷、有良心、有品質(zhì)的職業(yè)教育機(jī)構(gòu)

手機(jī)站
千鋒教育

千鋒學(xué)習(xí)站 | 隨時(shí)隨地免費(fèi)學(xué)

千鋒教育

掃一掃進(jìn)入千鋒手機(jī)站

領(lǐng)取全套視頻
千鋒教育

關(guān)注千鋒學(xué)習(xí)站小程序
隨時(shí)隨地免費(fèi)學(xué)習(xí)課程

當(dāng)前位置:首頁  >  技術(shù)干貨  > ES底層數(shù)據(jù)持久化的過程?

ES底層數(shù)據(jù)持久化的過程?

來源:千鋒教育
發(fā)布人:wjy
時(shí)間: 2022-09-19 16:30:11 1663576211

  通過分步驟看數(shù)據(jù)持久化過程:write -> refresh -> flush -> merge

  write 過程

ES底層數(shù)據(jù)持久化的過程1

 

  一個(gè)新文檔過來,會存儲在 in-memory buffer 內(nèi)存緩存區(qū)中,順便會記錄 Translog(Elasticsearch 增加了一個(gè) translog ,或者叫事務(wù)日志,在每一次對 Elasticsearch 進(jìn)行操作時(shí)均進(jìn)行了日志記錄)。

  這時(shí)候數(shù)據(jù)還沒到 segment ,是搜不到這個(gè)新文檔的。數(shù)據(jù)只有被 refresh 后,才可以被搜索到。

  refresh 過程

ES底層數(shù)據(jù)持久化的過程2

 

  refresh 默認(rèn) 1 秒鐘,執(zhí)行一次上圖流程。ES 是支持修改這個(gè)值的,通過 index.refresh_interval 設(shè)置 refresh (沖刷)間隔時(shí)間。refresh 流程大致如下:

  1.in-memory buffer 中的文檔寫入到新的 segment 中,但 segment 是存儲在文件系統(tǒng)的緩存中。此時(shí)文檔可以被搜索到

  2.最后清空 in-memory buffer。注意: Translog 沒有被清空,為了將 segment 數(shù)據(jù)寫到磁盤

  3.文檔經(jīng)過 refresh 后, segment 暫時(shí)寫到文件系統(tǒng)緩存,這樣避免了性能 IO 操作,又可以使文檔搜索到。refresh 默認(rèn) 1 秒執(zhí)行一次,性能損耗太大。一般建議稍微延長這個(gè) refresh 時(shí)間間隔,比如 5 s。因此,ES 其實(shí)就是準(zhǔn)實(shí)時(shí),達(dá)不到真正的實(shí)時(shí)。

  flush 過程

  每隔一段時(shí)間—例如 translog 變得越來越大—索引被刷新(flush);一個(gè)新的 translog 被創(chuàng)建,并且一個(gè)全量提交被執(zhí)行

ES底層數(shù)據(jù)持久化的過程3

 

  上個(gè)過程中 segment 在文件系統(tǒng)緩存中,會有意外故障文檔丟失。那么,為了保證文檔不會丟失,需要將文檔寫入磁盤。那么文檔從文件緩存寫入磁盤的過程就是 flush。寫入磁盤后,清空 translog。具體過程如下:

  所有在內(nèi)存緩沖區(qū)的文檔都被寫入一個(gè)新的段。緩沖區(qū)被清空。一個(gè)Commit Point被寫入硬盤。文件系統(tǒng)緩存通過 fsync 被刷新(flush)。老的 translog 被刪除。

  merge 過程

  由于自動刷新流程每秒會創(chuàng)建一個(gè)新的段 ,這樣會導(dǎo)致短時(shí)間內(nèi)的段數(shù)量暴增。而段數(shù)目太多會帶來較大的麻煩。 每一個(gè)段都會消耗文件句柄、內(nèi)存和cpu運(yùn)行周期。更重要的是,每個(gè)搜索請求都必須輪流檢查每個(gè)段;所以段越多,搜索也就越慢。

  Elasticsearch通過在后臺進(jìn)行Merge Segment來解決這個(gè)問題。小的段被合并到大的段,然后這些大的段再被合并到更大的段。

  當(dāng)索引的時(shí)候,刷新(refresh)操作會創(chuàng)建新的段并將段打開以供搜索使用。合并進(jìn)程選擇一小部分大小相似的段,并且在后臺將它們合并到更大的段中。這并不會中斷索引和搜索。

ES底層數(shù)據(jù)持久化的過程4

 

  一旦合并結(jié)束,老的段被刪除:

  新的段被刷新(flush)到了磁盤。 ** 寫入一個(gè)包含新段且排除舊的和較小的段的新提交點(diǎn)。新的段被打開用來搜索。老的段被刪除。

ES底層數(shù)據(jù)持久化的過程5

  合并大的段需要消耗大量的I/O和CPU資源,如果任其發(fā)展會影響搜索性能。Elasticsearch在默認(rèn)情況下會對合并流程進(jìn)行資源限制,所以搜索仍然 有足夠的資源很好地執(zhí)行。

tags:
聲明:本站稿件版權(quán)均屬千鋒教育所有,未經(jīng)許可不得擅自轉(zhuǎn)載。
10年以上業(yè)內(nèi)強(qiáng)師集結(jié),手把手帶你蛻變精英
請您保持通訊暢通,專屬學(xué)習(xí)老師24小時(shí)內(nèi)將與您1V1溝通
免費(fèi)領(lǐng)取
今日已有369人領(lǐng)取成功
劉同學(xué) 138****2860 剛剛成功領(lǐng)取
王同學(xué) 131****2015 剛剛成功領(lǐng)取
張同學(xué) 133****4652 剛剛成功領(lǐng)取
李同學(xué) 135****8607 剛剛成功領(lǐng)取
楊同學(xué) 132****5667 剛剛成功領(lǐng)取
岳同學(xué) 134****6652 剛剛成功領(lǐng)取
梁同學(xué) 157****2950 剛剛成功領(lǐng)取
劉同學(xué) 189****1015 剛剛成功領(lǐng)取
張同學(xué) 155****4678 剛剛成功領(lǐng)取
鄒同學(xué) 139****2907 剛剛成功領(lǐng)取
董同學(xué) 138****2867 剛剛成功領(lǐng)取
周同學(xué) 136****3602 剛剛成功領(lǐng)取
相關(guān)推薦HOT
快速通道
主站蜘蛛池模板: 又大又硬又黄又刺激的免费视频| 女神捕电影高清在线观看| 两个人看的www视频免费完整版| 午夜老司机在线观看免费| 天堂mv免费mv在线mv观看| 亚洲免费综合色在线视频| 免费精品99久久国产综合精品| 欧美特黄a级高清免费大片| 日日操影院| 国产日韩欧美| 国产欧美日韩综合精品二区| 最近中文字幕高清中文字幕电影二| 日本高清免费不卡在线播放| 男人猛桶女人| 精品国产v无码大片在线看| 免费看黄色a级片| 最近中文字幕免费mv视频7| 日本一区中文字幕日本一二三区视频| 美女张开腿男人桶| 蜜中蜜3在线观看视频| 视频二区三区国产情侣在线| 国产对白在线观看| 美女一级一级毛片| 性美国xxxxx免费| 免费国产黄网站在线观看视频| 狠狠色综合色综合网络| 色戒720p| swag在线| 国产精品国产三级国产普通话| 九九九精品视频免费| 99热99在线| 日韩色在线观看| 国产高清日韩| 亚洲精品自产拍在线观看动漫| 午夜性爽快| 伊人动漫| 久久成人免费播放网站| 性之道在线观看| 公车揉捏h| 果冻传媒麻豆电影| 国产亚洲欧美精品久久久|