色五月色开心色婷婷色丁香,五月婷婷丁香花综合网,婷婷丁香五月激情综合在线,五月婷婷六月丁香动漫,婷婷丁香五月激情综合在线,丁香花中文字幕在线观看,播五月色五月开心五月网,开心激情综合网,狠狠色丁香婷婷综合最新地址,丁香视频在线观看,狠狠做六月爱婷婷综合av,久久激情五月丁香伊人

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

eMMC BKOPS機(jī)制深度解析:從MMC協(xié)議到閃存后臺維護(hù)

eMMC BKOPS機(jī)制深度解析:從MMC協(xié)議到閃存后臺維護(hù) “MMC”這個詞我第一次認(rèn)真對待是在一次遠(yuǎn)程排查Android開發(fā)板卡頓的時候。設(shè)備連續(xù)寫了幾十GB日志界面開始間歇性掉幀dmesg里全是timeout重試SSH偏偏又能連上。同事丟過來一句“看看mmc bkops是不是在忙?!边@一句話把我從文件系統(tǒng)層直接按到了存儲芯片層。翻完eMMC 5.1規(guī)范才意識到這顆不起眼的黑色BGA芯片牽扯的是閃存介質(zhì)、控制器固件、內(nèi)核驅(qū)動三層協(xié)作的一整套邏輯。這也是為什么現(xiàn)在搜“MMC”相關(guān)熱詞幾乎都會帶著bkops一起出現(xiàn)——它就像eMMC的“加班時間表”平時看不見一出現(xiàn)就影響著設(shè)備性能。這篇就把這條線從頭捋一遍從MMC的起源講到eMMC內(nèi)部原理再拆開bkops這個關(guān)鍵詞最后落到工程實踐里的避坑經(jīng)驗。1. 三個字母MMC在不同圈子里各指什么1.1 先把最容易混淆的三樣?xùn)|西分清楚MMC這個縮寫在不同領(lǐng)域里各有歸宿。Windows運維那邊CLI里敲mmc打開的是微軟管理控制臺攝影圈老玩家口中的MMC是九十年代末的多媒體存儲卡而在嵌入式、手機(jī)、平板、工控設(shè)備領(lǐng)域我們說的MMC幾乎都指向eMMC——embedded MultiMediaCard嵌入式多媒體卡。如果你拆過一臺老安卓手機(jī)的主板會看到存儲部分是一顆焊死的黑色方形芯片絲印上可能有“eMMC”“Toshiba”“Samsung”之類的字樣它就是eMMC。這里有個容易混的點MMC插卡、SD卡、eMMC三者是“血緣關(guān)系”但不是同一物種。MMC卡MultiMediaCard1997年由SanDisk和西門子推出的可拆卸存儲卡外形比SD卡略厚今天的新設(shè)備基本見不到了。SD卡從MMC演進(jìn)而來兼容MMC協(xié)議但增加了安全認(rèn)證與版權(quán)保護(hù)機(jī)制外形更薄后來統(tǒng)治了相機(jī)和開發(fā)板市場。eMMC在MMC協(xié)議基礎(chǔ)上為嵌入式場景重度改造直接焊在板上不可拆卸內(nèi)部自帶控制器整個存儲系統(tǒng)被封裝成一顆標(biāo)準(zhǔn)芯片。這三者的關(guān)系可以這樣記eMMC是“焊死的SSD思維產(chǎn)物”SD卡是“能拔下來的MMC后代”。但它們在命令協(xié)議層面共享了大量設(shè)計基因。1.2 一條時間線從可拆卸卡到手機(jī)標(biāo)配MMC的歷史起點是1997年MMCAMultiMediaCard Association成立。之后MMC標(biāo)準(zhǔn)歷經(jīng)1.0、2.0、3.0幾個版本數(shù)據(jù)線從1位擴(kuò)展到8位速度從2.5MB/s爬升到幾十MB/s。1999年前后SD卡從MMC分支出去SD卡在消費市場上反超了MMC但MMC協(xié)議本身沒有死而是換了一條賽道活著。2004年前后MMCA并入JEDEC固態(tài)技術(shù)協(xié)會eMMC標(biāo)準(zhǔn)體系正式建立。此后JEDEC連續(xù)發(fā)布多個大版本eMMC 4.3引入Boot分區(qū)、RPMB重放保護(hù)內(nèi)存塊、可靠寫等能力這階段eMMC開始成為智能手機(jī)存儲標(biāo)配。eMMC 4.4 / 4.41完善系統(tǒng)喚醒、分區(qū)切換邏輯老設(shè)備上常見。eMMC 4.5加入緩存、Sanitize徹底擦除和本文重點的BKOPS機(jī)制。eMMC 5.0引入HS400模式理論帶寬達(dá)到400MB/s同時支持增強(qiáng)類可配置分區(qū)。eMMC 5.1修正了一批生產(chǎn)制造和可靠性細(xì)節(jié)是目前最后也是使用最廣的eMMC版本。后來UFSUniversal Flash Storage在中高端手機(jī)上逐步取代eMMC但eMMC沒有因此消失——它憑借低成本和成熟生態(tài)在平板、電視盒子、車載、工業(yè)設(shè)備、網(wǎng)絡(luò)設(shè)備里依然是海量存在?!皬S商還在大批量采購eMMC”這件事本身就說明這個標(biāo)準(zhǔn)依然有很強(qiáng)的工程價值。1.3 為什么廠商愿意為“標(biāo)準(zhǔn)化的閃存管理”買單早年用裸NAND做產(chǎn)品是件痛苦的事。三星、海力士、閃迪、東芝各家的顆粒接口不同、壞塊策略不同、ECC算法不同即使同一家廠商不同制程的顆粒行為也天差地別系統(tǒng)軟件得為每顆顆粒單獨適配開發(fā)周期和故障率都居高不下。eMMC的意義在于把NAND顆粒、控制器、FTL固件Firmware Translation Layer全部封裝進(jìn)一顆標(biāo)準(zhǔn)芯片對外暴露一套統(tǒng)一、穩(wěn)定的MMC命令接口。主控端不再需要關(guān)心底層顆粒是SLC、MLC還是TLC也不需要知道壞塊管理怎么實現(xiàn)更不用糾結(jié)磨損均衡算法是否有坑。系統(tǒng)只需要會發(fā)MMC命令、處理響應(yīng)就能穩(wěn)定使用任意供應(yīng)商的eMMC芯片。這種“標(biāo)準(zhǔn)化封裝”對產(chǎn)品研發(fā)來說省掉了大量底層適配工作對供應(yīng)鏈來說則意味著可以靈活切換多家顆粒供應(yīng)商而無需修改主板和驅(qū)動。用一句工程上的話總結(jié)eMMC把閃存管理的復(fù)雜度從系統(tǒng)軟件轉(zhuǎn)移到了芯片內(nèi)部代價是性能和靈活性稍打折扣但換來的是極大的通用性。2. 拆開一枚eMMC芯片BGA封裝里的三個角色2.1 引腳與物理接口CLK、CMD、DAT[7:0]和那些電源拿到一顆eMMC芯片最直觀的是它的BGA封裝常見球數(shù)在153、169、186等規(guī)格。引腳里最重要的幾組是CLK時鐘線主機(jī)提供決定傳輸速率。HS400模式下時鐘頻率可達(dá)200MHz。CMD雙向命令/響應(yīng)線主機(jī)發(fā)命令、設(shè)備回響應(yīng)都走這一條線。這里注意CMD線只有一根所以命令交互是半雙工的。DAT[7:0]8位雙向數(shù)據(jù)線實際支持1/4/8位三種總線寬度。位數(shù)越高一次吞吐越大。RST_n硬件復(fù)位低電平有效。這個引腳能讓eMMC在系統(tǒng)異常時快速回到初始狀態(tài)省掉軟件復(fù)位流程。VCC、VCCQ等電源引腳VCC供給主閃存核心VCCQ供給信號接口和控制器邏輯。不同速率模式對VCCQ的電壓要求也不同HS400通常要求1.8V。值得一提是eMMC的數(shù)據(jù)線是可配置的。系統(tǒng)上電后默認(rèn)工作在1位模式軟件讀取EXT_CSD了解設(shè)備能力后再通過SWITCH命令切換到4位或8位模式。如果驅(qū)動在初始化階段沒有正確配置總線寬度你會發(fā)現(xiàn)eMMC讀寫的吞吐低得可疑但并不會報錯——這就是那種“查了半天參數(shù)最后發(fā)現(xiàn)總線在8位模式下沒切過去”的問題。2.2 MMC協(xié)議的工作邏輯命令、響應(yīng)與塊傳輸MMC協(xié)議是典型的主從架構(gòu)。主機(jī)是唯一的發(fā)起方設(shè)備只能被動響應(yīng)。所有操作都由主機(jī)發(fā)送命令開始設(shè)備在完成命令后返回一個或多個響應(yīng)字。說人話就是主機(jī)問一句設(shè)備答一句全程不允許設(shè)備主動開口。初始化流程大概是這樣的CMD0GO_TO_IDLE把所有設(shè)備都拉到空閑態(tài)。CMD1SEND_OP_COND主機(jī)探測設(shè)備電壓范圍和工作條件直到設(shè)備返回“上電完成”。CMD2ALL_SEND_CID讓設(shè)備上報自己的身份信息CID包括廠商ID、產(chǎn)品名、序列號等信息。CMD3SET_RELATIVE_ADDR給設(shè)備分配一個短地址RCA之后的操作都用這個地址尋址。CMD9/CMD7等讀取CSD選定當(dāng)前操作的設(shè)備。CMD6SWITCH讀取或?qū)慐XT_CSD寄存器這是后續(xù)配置分區(qū)、總線寬度、DDR模式、bkops的關(guān)鍵命令。讀寫數(shù)據(jù)的流程則更直接主機(jī)發(fā)CMD17讀單塊或CMD18讀多塊再發(fā)CMD24寫單塊或CMD25寫多塊。多塊寫之前還可以用CMD23指定塊數(shù)避免由于邊界不確定導(dǎo)致跨塊寫被設(shè)備放大。這里要理解一個關(guān)鍵點MMC設(shè)備暴露給主機(jī)的地址空間是線性的、邏輯的。主機(jī)眼里這是一個又一個4KB的塊但設(shè)備內(nèi)部把這些邏輯塊映射到物理頁。這種“主機(jī)只管邏輯地址”的設(shè)計大大降低了上層軟件復(fù)雜度代價是每次寫放大、垃圾回收的實際情況主機(jī)并不能實時完全掌握。2.3 控制器和固件的三件大事映射、回收、磨損均衡eMMC內(nèi)部負(fù)責(zé)存儲管理的是一個微型“SSD主控”它內(nèi)置了FTL固件負(fù)責(zé)把上層邏輯地址翻譯成閃存物理地址。為什么要這套機(jī)制因為NAND閃存有兩條物理鐵律必須先擦除才能寫入而且擦的最小單位是塊Block一般大小為幾MB。寫的單位是頁Page一般4KB或8KB但寫入量小于一頁時也會占掉整頁多余空間稱為“寫放大”。因此如果主機(jī)要覆蓋寫某個邏輯頁里的幾個字節(jié)FTL不會真的去覆蓋那塊物理頁而是把新數(shù)據(jù)寫入一個空閑物理頁再把邏輯到物理的映射表更新過去。原來那個物理頁就變成了“無效頁”等這一塊里無效頁攢多了控制器會觸發(fā)垃圾回收把仍有效的頁搬家到別的空閑塊然后整塊擦除。磨損均衡也在這里做文章。垃圾回收會讓有些塊被反復(fù)擦寫有些塊卻幾乎沒動過。FTL要做的是讓所有物理塊的擦寫次數(shù)盡量接近否則個別塊提前到壽命上限整個設(shè)備的可用容量就會縮水。動態(tài)磨損均衡處理頻繁更新的熱數(shù)據(jù)塊靜態(tài)磨損均衡則會把長期不動的靜態(tài)數(shù)據(jù)搬去磨損較少的塊讓那些低頻塊也參與消耗。這三件事全部由控制器在芯片內(nèi)部悄悄完成不占用主機(jī)CPU。這也是為什么eMMC“只是個存儲芯片”但對系統(tǒng)體驗的影響卻可以很大——控制器內(nèi)部一旦忙碌外面的命令就會排隊等待表現(xiàn)在應(yīng)用層就是I/O延遲波動。3. bkops這條熱搜詞背后閃存為什么要“偷偷加班”3.1 閃存不自律數(shù)據(jù)保持、讀干擾和擦寫不對稱如果你只看FTL的日常似乎只要GC和磨損均衡做好就夠了。但閃存還有一些更陰間的物理特性需要在“沒事做”的時候定期維護(hù)這類維護(hù)操作就是Background Operations簡稱BKOPS。第一個問題叫數(shù)據(jù)保持。NAND閃存里的電荷會隨時間慢慢泄漏尤其是TLC和QLC顆粒電荷窗口小泄漏風(fēng)險高。一顆eMMC設(shè)備可能出廠后放在倉庫里半年再上電讀取時發(fā)現(xiàn)某頁的比特翻轉(zhuǎn)已經(jīng)超出ECC糾錯能力。設(shè)備內(nèi)部的讀刷新Read Refresh機(jī)制要把那些快要失效的物理頁讀出來重新編程一遍防止靜默數(shù)據(jù)損壞。第二個問題叫讀干擾。頻繁讀同一個塊會讓相鄰塊里的浮柵電荷受到影響久而久之也會出現(xiàn)位錯誤??刂破餍枰ㄆ趻呙枘切┳x密集的區(qū)域把內(nèi)容搬到新位置并擦掉被“讀亂”的原始塊。第三個問題是磨損均衡的滯后性。FTL的靜態(tài)磨損均衡不會每次寫入都立即執(zhí)行因為頻繁搬動靜態(tài)數(shù)據(jù)反而會造成額外寫放大??刂破鲿鹊较到y(tǒng)有一定空閑資源時分批次地調(diào)整那些磨損不均的塊。這些維護(hù)操作必須在設(shè)備上電后、主機(jī)發(fā)命令的間隙完成因為eMMC不知道下一秒會不會掉電。如果它永遠(yuǎn)等不到“空閑”就會在主機(jī)的下一次讀寫時強(qiáng)行插隊表現(xiàn)出來就是突發(fā)延遲。3.2 Manual BKOPS與Auto BKOPS兩種觸發(fā)方式的門道eMMC 4.5開始JEDEC正式把BKOPS機(jī)制寫進(jìn)規(guī)范。大體分為Manual BKOPS和Auto BKOPS兩種。Manual BKOPS手動后臺操作邏輯如下主機(jī)在合適的時候執(zhí)行SWITCH命令去讀EXT_CSD里的BKOPS_STATUS字段。該字段會給出一個狀態(tài)常見狀態(tài)包括無需操作No BKOPS、需要操作BKOPS Needed、緊急操作BKOPS Urgent。如果狀態(tài)顯示需要或緊急主機(jī)通過SWITCH寫入BKOPS_START告訴設(shè)備“你可以執(zhí)行后臺維護(hù)了”。設(shè)備開始內(nèi)部維護(hù)期間主機(jī)依然可以發(fā)其他命令但性能必然受影響。設(shè)備維護(hù)完成后再把BKOPS_STATUS清回No BKOPS狀態(tài)。Auto BKOPS則更進(jìn)一步。如果主機(jī)在EXT_CSD的BKOPS_EN字段里寫入使能值設(shè)備就可以在內(nèi)部自己判斷時機(jī)在命令間隙自動啟動后臺維護(hù)不必每次都等主機(jī)來“催”。問題恰恰出在這里Auto BKOPS會讓設(shè)備更積極地做維護(hù)但也更不可控。你沒法精確知道它什么時候在“偷偷加班”某次大數(shù)據(jù)量寫入撞上它內(nèi)部GCI/O延遲就可能突然抬升。Manual BKOPS雖然可預(yù)期卻要求驅(qū)動和系統(tǒng)設(shè)計者配合好在空閑窗口主動觸發(fā)如果一直不觸發(fā)設(shè)備只能被迫在工作時刻占用帶寬體驗更差。內(nèi)核里對這兩種模式的取舍標(biāo)準(zhǔn)概括起來就是Devices with poor random write performance often benefit from enabling BKOPS。這句話翻譯成人話就是顆粒越差越需要系統(tǒng)主動幫它安排“加班時間”。3.3 一個真實卡頓案例持續(xù)寫入后性能為什么會崩我在調(diào)試那臺開發(fā)板時復(fù)現(xiàn)性能問題的方式很簡單用dd做幾百兆的持續(xù)寫入同時監(jiān)控iostat。正常前幾秒寫吞吐能到幾十MB/s。持續(xù)寫入幾十秒后吞吐會掉到個位數(shù)并且伴隨明顯的RTO波動。iostat里w_await從十幾毫秒飆到幾百毫秒甚至上秒。這時候查dmesg能看到mmc0: Timeout waiting for hardware interrupt這就是典型的設(shè)備內(nèi)部正在做維護(hù)而主機(jī)等不到響應(yīng)。繼續(xù)用mmc-utils的extcsd讀取可以看到BKOPS_STATUS已經(jīng)處于非No BKOPS狀態(tài)說明設(shè)備覺得自己“有事要做”但主機(jī)沒有及時給它維護(hù)窗口。這個案例復(fù)盤時問題不是設(shè)備壞了而是系統(tǒng)里IO調(diào)度策略太激進(jìn)。我們把所有線程都壓著寫沒有給eMMC留下任何空閑間隙設(shè)備找不到機(jī)會執(zhí)行內(nèi)部GC只能在下一次命令時強(qiáng)行“插隊”把性能波動放大給了每一個上層應(yīng)用。3.4 實操觀測在Linux下查看bkops狀態(tài)與壽命信息想驗證eMMC有沒有在忙后臺操作Linux下最直接的路徑是sysfs和mmc-utils。查看設(shè)備基本信息和壽命估算cat /sys/block/mmcblk0/device/life_time cat /sys/block/mmcblk0/device/pre_eol_infolife_time文件的格式通常是兩個十六進(jìn)制數(shù)分別對應(yīng)類型A和類型B的壽命估算。值越小越好例如0x01通常表示壽命消耗在10%以內(nèi)。pre_eol_info正常值是0x1對應(yīng)“Normal”如果出現(xiàn)0x2Warning甚至0x3Urgent說明保留塊耗盡程度已經(jīng)到了警告線。用mmc-utils看EXT_CSDmmc extcsd read /dev/mmcblk0在輸出里重點找這些字段BKOPS_EN0x01表示Auto BKOPS已使能。BKOPS_STATUS0x00表示當(dāng)前無需后臺操作非0則表示有維護(hù)需求。PRE_EOL_INFO生命周期預(yù)警信息。DEVICE_LIFE_TIME_EST_TYP_A / TYPE_B類型A/B的壽命估算。生產(chǎn)環(huán)境下建議把這些信息接入告警平臺定期記錄壽命消耗曲線。如果一臺設(shè)備life_time在很短時間從0x01跳到0x06不要猶豫優(yōu)先查散熱、掉電次數(shù)和寫入壓力大概率是環(huán)境或配置出了問題。4. 從手機(jī)到工業(yè)設(shè)備eMMC的真實應(yīng)用圖景4.1 手機(jī)上的eMMC存量巨大、體驗寬窄不一手機(jī)是eMMC最經(jīng)典的戰(zhàn)場。安卓早期到中期的存儲幾乎全靠eMMC從eMMC 4.3到5.1每一代升級都在解決體驗問題。后來UFS憑借全雙工、命令隊列等特性把順序讀速度拉到了千兆級別成為旗艦機(jī)首選。但定位入門機(jī)和低端平板的設(shè)備到今天仍在大量使用eMMC。eMMC在手機(jī)里的運行方式簡單直觀Boot1分區(qū)存放引導(dǎo)加載器Boot2分區(qū)常用來放恢復(fù)系統(tǒng)RPMB分區(qū)存密鑰、防回滾計數(shù)器等安全數(shù)據(jù)用戶數(shù)據(jù)區(qū)則被分區(qū)成system、vendor、data等。啟動過程中ROM先讀Boot1拉起bootloaderbootloader再通過MMC命令讀取用戶分區(qū)的system鏡像逐步加載內(nèi)核和文件系統(tǒng)。由于eMMC內(nèi)部沒有命令隊列同一時刻只能有一個命令在跑所以多線程隨機(jī)讀寫很容易排隊。這就是為什么低端機(jī)玩一會兒微信就覺得卡——大量小文件隨機(jī)寫擠在一條命令隊列里吞吐自然上不去。UFS引入命令隊列后這個瓶頸被解除了但成本也上去了。4.2 工業(yè)與車載場景對壽命、溫度和確定性的苛刻要求消費級eMMC已經(jīng)很成熟但工業(yè)和車載場景對存儲的要求要嚴(yán)苛得多。溫度是第一個分水嶺。普通消費級eMMC工作溫度通常在-25°C到85°C工業(yè)級可以做到-40°C到85°C有些車規(guī)級產(chǎn)品甚至要求-40°C到105°C。溫度對NAND電荷保持的影響是指數(shù)級的高溫加速泄漏低溫又影響寫入穩(wěn)定。選型時一定要看顆粒供應(yīng)商明確標(biāo)注的溫度等級別拿消費級片子冒充工業(yè)級用。壽命是第二個問題。車載設(shè)備往往要服役7到10年行車記錄儀一類設(shè)備會持續(xù)寫入視頻流。選TLC還是MLC、留多少OPOver-Provisioning空間、控制器固件的磨損均衡策略是否激進(jìn)這些直接決定幾年后設(shè)備是否突然“變磚”。經(jīng)驗上長時間連續(xù)寫入的場景盡量選壽命余量更大的顆粒類型或更高等級eMMC并配合溫度管理措施散熱片不是可選項。RPMB在工業(yè)和車載里也扮演重要角色。安全啟動的密鑰、設(shè)備唯一ID、防止固件回滾的計數(shù)器都存放在RPMB里利用HMAC-SHA256做訪問認(rèn)證能有效防止冷數(shù)據(jù)被惡意重放。如果新板卡連RPMB的基礎(chǔ)讀寫都調(diào)不通基本是密鑰管理流程和驅(qū)動配合沒做好。4.3 選型決策eMMC、UFS、SD卡還是裸NAND選存儲方案不要只迷信參數(shù)表先看你的系統(tǒng)軟件棧、成本約束和生命周期再決定接口。維度eMMCUFSSD卡裸NAND接口8位并行半雙工M-PHY串行全雙工SD協(xié)議/SPI自定義最高理論速度400MB/sHS400830MB/s起幾十到200MB/s取決于主機(jī)實現(xiàn)命令隊列無有無無軟件復(fù)雜度低中低高壞塊/磨損管理芯片內(nèi)部處理芯片內(nèi)部處理設(shè)備端主機(jī)必須自己做使用場景手機(jī)/平板/工業(yè)/車載旗艦手機(jī)/筆記本/高性能嵌入式相機(jī)/樹莓派/消費電子定制SSD/極簡系統(tǒng)裸NAND看著便宜但把FTL、壞塊管理、ECC全交給主機(jī)端開發(fā)周期和風(fēng)險會顯著拉高不適合大多數(shù)產(chǎn)品團(tuán)隊。SD卡接口簡單但可靠性、溫度范圍和固定安裝方式都不如焊接式方案。UFS性能最好但成本高而且啟動流程、固件適配相對復(fù)雜。對絕大多數(shù)中低端嵌入式產(chǎn)品來說eMMC仍然是性價比和可靠性最平衡的選項。5. 工程落地避坑記錄對齊、掉電與壽命監(jiān)控5.1 分區(qū)對齊一個小設(shè)置影響整盤GC效率eMMC內(nèi)部光看邏輯塊地址好像很規(guī)律但物理頁、物理塊之間有固定對齊關(guān)系。如果系統(tǒng)給eMMC分區(qū)時起始扇區(qū)不是整數(shù)倍塊邊界對齊比如一個4KB塊被分成兩個分區(qū)跨邊界的寫入就會被FTL拆成多次內(nèi)部操作垃圾回收復(fù)雜度上升寫放大系數(shù)跟著惡化。排查方法很簡單parted /dev/mmcblk0 align-check optimal 1如果顯示不理想重新分區(qū)時讓起始扇區(qū)為8192的整數(shù)倍對應(yīng)4MB對齊這是一個兼顧性能和兼容性的常用做法。很多量產(chǎn)腳本里用fdisk時默認(rèn)起始扇區(qū)是2048在eMMC上雖然也能用但并不是所有顆粒的最優(yōu)選擇。別嫌這步麻煩分區(qū)對齊不對齊在長期運行后的壽命和性能差異是能測出來的。5.2 掉電保護(hù)別以為eMMC能扛住一切eMMC控制器有緩存和內(nèi)部映射表掉電瞬間正在寫入的數(shù)據(jù)不一定落盤。雖然大多數(shù)eMMC有掉電恢復(fù)機(jī)制能保證已經(jīng)返回“寫成功”的數(shù)據(jù)不丟但如果系統(tǒng)沒有正確使用刷新命令數(shù)據(jù)可靠性還是打折扣。Linux下常見的坑是文件系統(tǒng)雖然掛在ext4上但沒明確開啟barrier或者上層應(yīng)用不關(guān)心fsync。壓力測試時大文件寫入看著完成了實際上數(shù)據(jù)還躺在內(nèi)存頁緩存里一斷電就丟。更隱蔽的是控制器內(nèi)部的寫緩存需要發(fā)送FLUSH_CACHE命令才能真正落盤。做掉電測試時我的做法是準(zhǔn)備一套循環(huán)腳本交替寫入隨機(jī)數(shù)據(jù)和校驗數(shù)據(jù)。每次寫完固定大小數(shù)據(jù)后調(diào)用fsync并記錄數(shù)據(jù)位置。隨機(jī)時間點切斷電源。重新上電后掛載文件系統(tǒng)并校驗已記錄的數(shù)據(jù)內(nèi)容。反復(fù)跑幾十輪才能對板子的掉電可靠性有底。只做一次冷啟動驗證根本不叫測試。5.3 用sysfs和mmc-utils做壽命監(jiān)控eMMC的壽命不會突然歸零它有明確的“提前量”。定期讀取下面這些信息能幫你預(yù)判設(shè)備剩余壽命。mmc extcsd read /dev/mmcblk0 | grep -E PRE_EOL|LIFE_TIME|BKOPS把每次讀取的結(jié)果記錄下來配合時間戳形成趨勢圖。如果看到pre_eol_info從Normal變成Warning就要開始規(guī)劃設(shè)備輪換或減少寫入了。如果BKOPS_EN一直處于未使能狀態(tài)而設(shè)備又頻繁出現(xiàn)性能抖動可以嘗試在系統(tǒng)啟動早期啟用Auto BKOPS再觀察延遲曲線。有些設(shè)備的壽命信息只能在“可編程區(qū)域”里讀少量廠商還會故意隱藏部分字段。遇到這種情況先確認(rèn)你使用的mmc-utils版本和內(nèi)核版本是否較新再查廠商手冊是否有專有命令。5.4 三個真實踩坑記錄坑一某批次設(shè)備使用半年后壽命估算數(shù)據(jù)異常偏高。排查鏈路是先看dmesg有無異常ECC錯誤再看life_time并配合寫入量估算最后發(fā)現(xiàn)是量產(chǎn)階段的持續(xù)寫入壓力測試次數(shù)過多導(dǎo)致顆粒磨損集中。解決方法是調(diào)整產(chǎn)測流程將全盤寫測試從每臺多次改為抽檢并加軟件升級階段白名單避免每臺機(jī)器都重復(fù)整盤刷寫。坑二開發(fā)板在做持續(xù)數(shù)小時的日志寫入測試時出現(xiàn)周期性卡頓。我一度以為是文件系統(tǒng)問題后來抓取iostat發(fā)現(xiàn)w_await周期性飆升再讀BKOPS_STATUS確認(rèn)是有后臺操作發(fā)生。解決方式是調(diào)整測試腳本每寫一段數(shù)據(jù)后主動追加sleep間隙同時在內(nèi)核配置里打開Auto BKOPS讓設(shè)備提前利用這些間隙做維護(hù)卡頓現(xiàn)象明顯緩解??尤彻た卦O(shè)備在高溫老化工序后上報的啟動時間變長。排查發(fā)現(xiàn)是高溫箱內(nèi)溫度達(dá)到85°C以上NAND讀干擾和電荷泄漏加重FTL頻繁做讀刷新和重試。解決方案是把老化溫度上限調(diào)低到70°C并在老化后的開機(jī)流程里增加文件系統(tǒng)自檢同時加入溫度降額控制邏輯高溫環(huán)境下主動限制寫入頻率。這三個坑有一個共同點都不是eMMC芯片“壞了”而是系統(tǒng)沒有充分理解存儲介質(zhì)的工作方式。對齊、掉電、溫度、維護(hù)窗口這些詞看起來是參數(shù)手冊里的小字實際卻是決定產(chǎn)品長期可靠性的關(guān)鍵?;氐介_頭那個問題“mmc bkops”為什么會被反復(fù)搜索因為它代表了eMMC性能世界里最不可預(yù)測的那部分。對普通開發(fā)者來說建議不要只停留在“性能變差就換芯片”的層面先學(xué)會看BKOPS_STATUS、壽命字段和寫放大數(shù)據(jù)很多時候優(yōu)化一個后臺操作的窗口比整體更換存儲方案更有效。我現(xiàn)在做新板卡選型時都會把BKOPS機(jī)制是否可調(diào)、壽命監(jiān)控是否有標(biāo)準(zhǔn)接口放進(jìn)評估表。存儲這行沒有玄學(xué)所有看似突然的故障翻開手冊都能找到源頭。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
93人人操人人| 在线观看日韩av不卡| 五月婷婷六月天| 青草成人免费视频一COm| 欧美激情总合网| 国产精品高潮呻吟av久久4虎| 99热精品在线| 日熟女| 亚洲的天堂网| 人妻天天夜夜爽一区二区| 国产色图乱伦| 在线情色电影 91大 | 天天做天天爱| 一级做a爰片性色毛片久久| 色五月天AV| 亚洲精品aa久久伊人| 97射欧美| 91成人国产综合久久精品蜜月| blacked精品一区国产| 天天干18禁| 五月黑AⅤ| 亚洲精品三区在线观看| 清纯唯美综合| 日本久久999| 天美国产三级传媒| 成人资源中文字幕在线观看天天| 国产一区二区av综合| 欧综合网| 色综合久久夜色精品国产天堂| 精品人妻美妇91job| 欧美亚洲天堂| 又黄又硬又粗又长国产视频| 久久亚州大香蕉| 台湾肥佬网一区二区三区| 日韩一级片| 亚洲av综合色区图片亚洲| 深夜国产福利| 人妻激情视频| av橘色网站| 大香蕉综合在线| 天天操av懂色| 日本超碰在线国产一区| 99亚洲精品| 九九伊人网| 3D污黄视频在线观看| 国产精品ⅴ无码大片在线看.| 日韩精品 欧美激情| 亚洲啪啪啪啪视香蕉| 在线天堂999| 天天综合精品| 中美日韩毛片| 内射中出日韩在线观看视频| 日日躁夜夜躁狠狠躁超爽| 综合日韩激情另类图片| 毛片17S| 亚洲五月天激情| 日本一本道A级黄色毛片试看60分钟| 99视频这有这里有精品| 久热精品在线国产| av天堂精品久久| 亚洲另类小说卡通动漫| 亚州性色| 蜜臀久久久国产| 亚洲国产一区二区三区在线| 五月天开心网| 五月婷在线| 婷婷五月激情综合| 爽爽淫人网| 日本道久久综合色色| 亚洲一区二区久久久久| 韩国一级AAA| 国产日韩精品无码去免费专区国产| 免费国产视频| 欧美成人免费在线观看| 一本大道不卡一二三区| 欧美东京热精品A∨| 国产亚洲女v在线观看| 四虎午夜影院| 亚洲偷拍自拍在线视频| 99热这里只有精品99| 尤物一级在线免费观看| 成人影 天天操 亚洲| av操操不卡| 欧美一区二区成人一卡| 97资源站日韩| A 在线网址| 日本www操操操| 国产激情av女片自拍| 九九aV| 免费人成在线观看网站品爱网| 韩国一级婬片A片无码天美| 物业黑人 AV一区| 人妻熟女一区二区| 91搡老女人老妇女老熟女歌词翻译| 2017av无码免费无线播| 五月天婷精品激情| 久久久久9久久久久| 人人澡综合涩| 欧美春色| 亞洲久久直播| 欧美三级免费伊人| 超碰美女97| 精品一区二区三区免费古装毛片香港三级日本三级人妇 | 婷婷丁香五月综合| 欧美日本天堂| 淫淫综合网| 亚洲欧洲综合av在线| 青娱乐国产盛宴视频| 另类图片五月天| 丝袜内射| 大香蕉线| 韩国三级色呦呦| 欧美亚洲天天| 国产精品一区二区三区四区五区| 亚洲久草AV色图| 99自拍视频在线| 色官网在线| 亚洲国产一区二区三区在线| 抽插亚洲无码| 在线视频日韩欧美国产| 九九九九九九九九九五码| 青青草在线视频播放器| 精品国产一区探花在线观看| 熟女乱伦二区| 色综合20p| 欧美韩日精品99综合| 2018天天干在线视频| 爽爽淫人网| 偷拍片久久| 青青青国产手线观看视频2| 久久9免费视频| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 亚洲图片激情综合另类| 亚洲一区二区三区欧美日韩| 好爽免费视频,| 69视频入口| www.色婷婷| 久久久青青草| 亚洲图片偷拍视频区| 青青草字幕AV| 1级黄色夫妻对换性交免费看| 99热这里是精品| 久久久久久中文| 狠狠色噜噜狠狠狠狠狠色综合久久| 国产又大又粗又色生活片亚洲国产精品成人久久久综合免费 | www.人人摸在线视频| 黄片国产精品一区二区| 青青欧美| 综合久久欧美| 清纯唯美综合| 美女淫穴| 亚洲精品中文字幕一区在线视频| 欧美在线综合| 国产日韩精品人妻久久久久色欲网站| 18岁禁 茉莉成人久久| 久久国产成人精品国产成人亚洲| 精品国产污一区二区三区| 96久久久久久久| 嫩草影院在线观看精品 | 亚洲日韩人妻中文字幕一区| 免费人人搞97| 99热这里只有精品地址| 蜜臀99久久精品| 免费看欧美美女黄色大片| 精品大全99999| 亚洲成人美女无吗| 夜夜操av亚洲一区二区| 日本一级二级三级网站| 91在线丝袜| 男人的天堂亚洲| 人妻天堂三区| wwe 天天干.com| 奇米狠999| 中文字幕人妻色偷偷久久皮| 郑州宾馆老熟女露脸啪啪| 人妻少妇久久| 97爱免费插| 欧美1区二区三区公司| 欧美日本不卡| 久久丁香| 肏逼福利网站| 9丨久久九九九| 亚洲影院小综合| 91干熟女| 午夜120视频在线观看| 91亚.色| 欧美日韩222| 精品成人动漫一区二区| 国产丝袜高跟美女av免费观看| 久草福利在线资源站| 伊人久久AV诱惑悠悠| 色噜噜人妻丝袜AV资源| 五月丁香综合激情| 久久成人午夜精品影院| 久久大黄片| 91精品免费| 国产高清1234区| 91强热人妻| 一级婬片120分钟试看| 欧美性五月| 精品国产乱码久久久久久久久1| 久久久久久亚洲Av无码| 亚洲综合首页| 欧美日韩中文字幕不卡| 青草伊人久久| 久久日本熟女精品一区| 亚洲免费精品一区| 熟妇熟女视频一区二区三区| 狠狠五月天| 午夜精品人妻二区三区| 91一区二区| 日本亚洲熟女视频| 另类小色呦| 中文字幕美女91| 欧美se综合| 肉丝中文无码高清| 天美av在线观看| www.丁香五月| 精精夜夜| 六月丁香婷| 约操熟妇| www欧美性爱| 91成人久久 | 久久久精品视频免费观看| 八戒午夜福利理论片| 国产精品suv一区| 蜜桃视频精品一区二区三区| 日本一区二区电影网站| 艳美熟妇先锋一二三区| 91在线美女| 99.色网| 精品久久久亚洲AV成人网站| 色五月av| 91狠| 成人日韩欧美| 91撸色网 玖玖网 欧美| 97色冈| 91neishe| 熟女一区二区| 97超碰人操| 久久久精品日本一道| 操99| 日本美女性生活久久久久久久| 久久久人体| 色情综合网| 91青视频| 久久超碰大香蕉| 青青欧美| 九九九久久久| 欧美性生活免费网| 性做久久久久久久| 日本熟妇人妻中出视频| 91久久久久久久久久久| 九九热免费在线国产视频伊人五月| 99国产在线绯色一区| 伊人久久大香线蕉亚洲五月天,青草青草欧美日本一区二区,欧美日产欧美日产国产 | a级理论午夜日本| 天天躁日日躁XXXXYY| 亚洲天堂中文字| 入口操逼网站| 国产欧美日韩女同性恋ww喷水精品| AV天堂电影网| 久久高清无码夜夜操| 情色大香蕉| 蜜臀久久99精品久久久久久无删减 | 91内射| 被男人吃奶很爽的毛片| wwwss在线观看| 国产欧美日韩在线观看麻豆传媒公司| 99999精品成人| nuu12国产麻豆精品| 中文字幕激情小说| 色欲日韩欧美在线一区| 色九九九| 视频二区美腿制服人妻欧美| a片偷拍视频| 亚洲国产高清福利视频| 97国伦国色| 少妇500双飞99| 日韩电影免费网站麻豆视频| 看免费一级在线播放毛片| 久久精品中文字幕无码l| 伊人97超碰| 中文字幕人乱码中文字的预防方法 | 久久大陆| 在线观看啊啊啊啊啊| 欧美夜夜草视频| 2020国产精品| 久久久久国产精品人妻aⅴ天堂| 91无码西班牙视频在线| 能在线播放的国产三级| 99精品网站| 岛国999| 99中文字幕| 岛国成人av在线播放网址| 久久精品一区| 波多野结衣AV无码一区| 禁片 高清 在线观看视频网站| 学生妹天天看| 使劲用力艹少妇视频一区二区| 国产一区在线播放| 九九热精品免费视频| 97色欧洲| 亚洲最新中文字幕免费| 欧美精品在线观看| 天堂性色| 午夜精品视频777| 亚洲性感丝袜诱惑在线观看| 人人操人人插人人摸人人干| 天美传媒国产原创中文字幕亚洲欧美另类 | 大香蕉中文在线| 1769一区二区| 嗯~啊~快点 死我视频免费看网站| 情趣丝袜无码操逼视频| 欧美高清性猛交| 久久老女人| 天天欧美色| 久久久久久久久一区二区三区| 久久精品亚洲成a人天堂| 毛片麻豆91糖心精品毛情片| 嗯啊抽插大香蕉网页| 亚州中文字幕超碰97| 人人干人人操人人爱| 99re在线观看| a级成人毛片免费视频高清| 国产精品无码AV网站| 日韩天天综合| 五月天色电影| 中文字幕第95页| 人人操人人搞人人草| 偷拍五区| 欧洲熟妇xxXx欧美老妇裸体| 91综合天天| 校园春色 男人天堂| www国产精品| sss视频华人在线| 伊人一区二区在线播放| 人妻内射一区二区在线视频| 91色久| 秋霞午夜视频一区二区| 国产美女口爆吞精视频| 嗯嗯啊啊好疼| 亚洲精品国产专区在线观看| 91无码人妻| 91精片| 国产又大又粗又色生活片亚洲国产精品成人久久久综合免费 | 狠狠干,狠狠操| 欧美日韩资源| 青娱乐大香蕉| 日韩一级片在线看| 九九九精品成人免费视频小说| 视频在线观看一二三区| 74成人在线| 青青操少妇| 国产真乱mangent| 久草久日| 热久久精品| 2018天天干在线视频| 综合网少妇| yazhousetuoumei| 亚洲精品第一| 日韩AV无码网站| 人妻少妇精品无码专区二区密桃| 国产日本熟女顶级一区二区三区视频 | 26uuu国产| 欧美18老人禁| 欧美午夜熟妇黑人精品91| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 91宗合网| 蜜臀久久99精品| 五月婷在线| 女同女同恋久久级三级| 99福利社| 97在线无精品 | 99久草| 任你干在线视频| 午夜男人天堂| 久/久精品99看9| 日韩熟女乱伦中出| 欧美大香蕉久| 亚洲人妻在线精品| 天天天操天天天爱| 91精产一区二区三区| 亚洲AV无码| 欧美精品成人在线播放| 麻豆国产精品午夜视频| 久久国产乱子伦精品免费女,网站| 久久人人爽av亚洲精品天堂桃色| 欧美色图中文字幕| 九九亚洲| 国产免费一区二区三区最新不卡| 日本色色的视频| 日韩一级成人毛片免费观看| 日本黄色大片一级视频免费麻豆| 日韩免费三级黄片电影| 亚洲欧洲日本精品中文a∨| 日夜伊人网| 国产综合久久久麻桃个| 四虎在线视频| 97中文字幕九区| 二三四区精品| 后入式999| 国产免费一区| 久久久久人| 91碰碰| 天天碰操中国年青熟妇| 日欧毛片久久| 久久视网78| 99啪啪| 欧美一级特黄淫片在线观看| 人人插人人摸人人| 大香蕉强奸乱伦| 九月丁香综合网| 伊人久久大香线蕉无码| 人人摸人人摸人人干| 黄色视频特级毛片| 福利视频一区二区微拍| 91在线无码精品秘 软件| 色婷久久| 91狠| 欧洲亚洲人妻无码中字久久三区四区| 色狠人在线99| 中文一区在线日| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 激情小说图片亚洲首页| 精品欧美А∨无码黑人大荫蒂| 国产美女在线精品免费看| 国产精品麻豆成人av| 精品久久久久久无码| 中文字幕乱妇免费视频| 大色综合| 亚洲一区二区中文字幕| 中文字幕在线观看二区三区| 亚洲人成网www| 九九九九九九亚洲| 久污| 国产强奸乱伦无码视频| 天天做日日做天天欢。| 久久精品99| 色好看av| 偷拍盗拍亚洲色图图片| 搞中出久久| 狠狠操天天干| 九月AV| 97超碰影音| 久久精品国产亚洲5555| 亚洲蜜桃V妇女| 久热久一区二区三区| 九九热精彩视频| 国产97色在线| 超碰人妻天天干| 欧美熟女少妇| 亚洲精品久久久久久| 国产午夜视频| 国产熟女无套内射| 亚洲最大的综合性av| 91天天日| 日韩精品资源| 中文字幕亚洲热播人妻| 最新AVzaixian| 久久人妻一区二区三区高清| 国产又黄又爽又刺激久久久久久| 亚洲九月丁香| 夜夜久久| 精品人妻中文字幕高清| 97综合在线| 欧美亚洲激情一二三| 少妇久久久久久| av天堂手机版追回| 熟女久久久| 国产高清精品一区二区三区毛片| 欧洲综合视频| 999熟女精品| 人人操,人人插| 天天插天天射| 中文字幕成人乱码熟女精品国50| 思思热免费视频观看| 国产天美欧美| 久久六六| av在线人气| 色哟哟av| 久久一区二区三区入口| 97干综合网| 黄色在线网站| 九九九九免费高| 亚洲成人在线高清| 美女高潮视频91| 天堂v无码免费视频| 熟女人妻一区二区三区| 日韩人妻精品| 亚洲好看强奸乱伦| 欧美精品三区| 色一色综合网| 伊人麻豆传媒| 亚洲男人天堂2019| 色777999综合| 人妻av在线| 日本在线伊人啪啪| 六六久久日韩不卡| 人人摸人人入| 91AV老熟女视频| 欧美精品庄| 日本一区三级韩国| 好属操| 91精品成人www| 日本一二三免费久久| 久久丁香五月婷婷| 天天干人人看综合| 97超碰久| 91人妻Pr| 加勒比海色香蕉婷婷| 婷婷五月天成人网| 色波多| 亚洲一区二区专区-国产丝袜精品丝袜-成人AV| 免费日韩黄片| 人妻蜜桃臀| 男人的天堂不卡一区二区| 屁股久久久久久久| 天天弄欧美| 无码av永久免费专区网站| 嗯嗯嗯啊啊在线观看| 亚洲精品色| 国产黄色视频久久| 一级黄碟在线观看| 久久精品国产亚洲AV片多多| 亚洲色婷婷综合久久久久中文| 欧苏综合色综合| 青草精品视频-日本久久久久网站| 狼天天狼天天大香蕉| 成人一级性爱| 国产精品9999| 欧美一区二区成人一卡| 婷婷五月天激情网| 日本日逼高清| 青青青青操国内视频在线| 久久綜合很很很| 日韩av不卡在线看| 狠狠躁伊人中文字幕| 啊啊啊97视频| 91操碰| 巨爆乳一区二区爆乳区| 色臀AV| 劲爆欧美人妖三区91| www.狠狠干.coom | 欧美天天干| 久久超碰大香蕉| 精品少妇后入一区二区三区四区人妻巨乳 | 日韩性色b| 亚洲天堂男人网| 色九九九九| 亚洲麻豆精品二区三区| 欧美激情另类一区二区| 婷婷色综合欧美日韩| 亚洲熟女人妻中文字幕一区二区| 久久综合久色欧美综合狠狠| 亚洲色资源| 国产免费一区二区在线A片视频| 欧美Ⅴ性爱| 欧美 亚洲精品首页| 裸体美女久久久| 日韩av色图综合| 99日韩| 操逼操操操91| 免费在线黄片视频| 久久首页| 国产探花日韩援交| 91免费看一区二区三区| 日逼97| 亚洲清纯综合| 97色97好| 一本一道人妻久久一区二区三区 | 久久精品| 九热中文字幕| 人妻激情视频| 在线五区| 啊啊啊啊啊好大好舒服想要| 欧色综合| 天天爽夜夜欢视| 91嫩草欧美| 91jk色拍| 欧美精品 - 91爱爱| 25国产精品免费观看| 丁香九月激情| 婷婷五月色| 激情五月综合网| 加勒比大香蕉视频在线| 国产久久一区二区午夜| 色噜噜人妻av 中文字幕| 成年女人一区| 成人老鸭窝人人在线视频| 亚洲91亚洲| 亚洲91极品| 三级片大波波| 97超碰巨乳| 亚洲性猛| 男人的天堂久久| 中文字幕一区二区无码成人| 色逼综合| 日韩啪啪视频| 国产精品一区二区手机看片| 亚洲97久久精品亚洲| 免费黄色A片| 99re视频在线观看这里只有精品| 91精品国产综合久久久蜜臀| 丝袜天堂| 亚洲天堂自拍| 久久精品成人一区二区三区蜜臀| 大香蕉视频啪啪啪啪| 欧美色图91| 自拍偷拍草一草| 成人26uuu| 91强热人妻| 成人影院永久免费观看网址| 丝袜熟女一区二区三区| 日本视频一区二区三区| 亚洲成人碰碰| 欧洲精品人妻| 国产女人9999| 天天综合网91| 外国91| 久久青青草原免费视频| 青青操综合网| 女优视频第10页| 中文字幕高清20页视频| 人人澡人人弄| 9久热这里只有精品| 欧美性生活男人的天堂| 国产亚洲在线观看| 欧洲精品人妻| 日本中文字幕不卡视频| 亚洲另类电影| 国产丝袜美女诱惑| 国产精品久久久久9999小说| 精品成人无码| 操b网站亚洲无码| 亚洲男人天堂2017| 性爱av在线免费观看| 久久久久久波多野吉衣高潮| 9999久久久久| 手机在线A片| 97AV爱| 久久岛国| 亚洲欧美经典一区二区| 日产成人久久| 亚洲免费成人在线高清无码视频| 超碰午夜在线| 97色碰| 又大又白奶子| 天天亚洲| 超碰免费在线| 色综91| 9久精品| rion磁力链接| 激情视频网址| 啊啊啊啊啊,啊啊啊啊好舒服,操我舒服啊啊啊 | 午夜福利国产欧美日韩夜夜| 精品少妇后入一区二区三区四区人妻巨乳| 亚洲做性| 欧美日韩操逼嗦吊| 日欧毛片久久| 在线观看无码三级少妇| 久久、1234| 国产AV色黄看到爽| 欧美久久婷婷| 国产精品自拍xxxx| 啊啊啊好疼| 亚洲欧美天堂在线| 日本精品999| 在线综合 亚洲 欧美中文字幕| 亚洲天堂精品日韩电影| 人妻少妇精品一区二区三区| 抽插亚洲无码| 91九久| 免费自拍三级综合| 男人的天堂在线| 黄色av片三级三级三级免费看| 欧洲大香蕉| 97色在线| 丰满熟女一区二区三区在线播放| 操美女人妻| 国产对白刺激视频| 91美女视屏| 国产在线激情视频| 熟女熟妇一区二区三区视频| www久久久| 操国产高清| 97超级欧美| 日操粉逼逼| 97爱亚洲| 国产婷婷一区| 国产又色又爽又舒服的三级视频| 凌辱美少妇久久aV| 日韩三级一区| 丁香九月 婷婷| 国产不卡的视频 | 久操视频这里只有精品| 青青草久久一区网| 激情网色| 久久一二三四| 欧美 亚洲 另类 综合| 青青草天天亲夜夜操网| 日韩性爱一级片| 欧美第二页午夜| www.狠狠干.coom | 色官网色综合| 中文字幕99999| 欧美人人天天网| 盗摄 精品 另类 一区| 自拍内地三级在线观看| 欧美综合色,www| 婷婷丁香一区二区三区| 99精品久久| 国产家庭乱伦性爱视频| 热热热热日日漂亮永久永久国产日| 97香蕉碰碰人妻国产欧美| 一级二级在线观看| 欧美综合综合| 99久久综合| 校园春色综合| 色青青久久影视| 天天躁日日躁成人字幕aⅴ| 91精品国产91久久久久久久久久久久| 色性综合| 国产视频一区二区免费| 爱妃国产亚洲视频中文字幕| 肥臀熟女一区二区三区视频| 九九热视频这里只有精品| 日韩有码一区三区| 亚洲一区二区精品福利| 天堂а√在线最新版在线 | 日本久久精品| 成人性爱视频在线看| 人人操天天爽| 丁香六月综合激情| 国产又操| 国产精品女生av| 日本中文熟女视频| 九九九免费视频| 国产一二三福利视频网| 视频在线97| 中文字幕人乱码中文字的预防方法| 日日干日日操五月天伦理视频| 91九九| 欧美性爱日韩性爱| 青娱乐欧美激情一区二区 | 久久蜜桃综合网| 婷婷五月天激情小说| 人、人、摸,人、人、草| 91九九| 亚洲美女av无码| 999999精品| 亚洲丝袜少妇在线| 97伊人| 超碰97 线线 在现| 97久久久久| 91熟女丨91老女人| 96久久久久久久| 久久久人妻| 一起草在线视频| 成人小说另类在线| 98人妻精品一区二区色欲| 偷拍 欧美 日韩| 秋霞一级鲁丝片A片| 色黄污美女啪啪啪免费网站| а√天堂资源官网在线资源| 国产精品一区av在线| 韩三级a视频在线观看| 热久久国产| 天天色黄色影院天天操| 国产综合永久精品日韩鬼片| 精品偷拍13p欧美dodk视频| 欧美东京热精品A∨| 精品v日韩欧美国产| 大香蕉五月天| 亚洲国产第一页综合视频| 91精品国产综合久久久蜜臀| 99热精品青草在线| 97 九色| 91N综合网在线| 91青青| 久久久9999| 天天看天天在线精品| 国内毛片国产专区二| 一区二区免费电影久久| 亚洲一卡2卡3卡4卡乱码网站| 91操人| 日韩乱码Av| 亚洲熟女乱熟乱熟妇综合网二区| 国产精品毛片| 97久久精品| 日韩一级特黄av毛片| 免费看日产一区二区三区| www鬼畜国产男人的天堂| 欧美日韩国产电影| 人妻熟妇一区二区三区| 尤物视频视频官网| 人人射人人操人人摸| 日韩AV一区二区三区四四| 麻豆国产第一| 天天躁日日躁狠狠狠躁| 日韩在线一区高清在线| 日本3级一区二区免费| 天美一二三在线观看Av| 亚洲男人天堂视频| 91综合色噜噜| 日本精品第一视频在'| 超碰激情808| 亚洲久草AV色图| 九九九九九九九九九国产精品| 亚洲国产成人福利在线观看| 亚洲五月天激情| 久久久专区| 东京热天堂网| 久久久夜夜嗨免费视频| 夫妻四区五区六区| 亚洲色图A| 91人妻做a观看视频| 亚洲 欧美 中文 日韩超碰| 久久这里| 思思热在线视频免费| 婷婷丁香在线| 97久久久久久久久久| 五月天激情四射| 99r九九| 加勒比性爱成人在线| 九九精品99| 性欧美体内射精| 伊人超碰97| 色蜜AV| 亚洲无码99| 精品免费囯产一区二区三区| 秋霞成人一级在线观看| 很很很很操| 黄色电影在线播放综合网站| 欧美伦乱爱| 久久东京国产精品视频| 亚洲精品国产拍免费91在线| 混色激情av| 久久av成人无码免费| 色婷婷日韩精品一区二区三区| 色播五月丁香| 乱伦熟女专区| 日逼97| 日本网色| 涩涩涩综合| 天天干嫩逼网| 狠狠2050在线观看| 久久最新免费视频23| 欧美成人四级在线播放| 精品欧美乱码久| 亚洲国产精品久久久男人的天堂| 日本熟妇人妻中出视频| 又粗又长又大国产不卡| 国产精品色| 久久国产视频专区一二三| 美女黄频a美女大全免费皮| 麻豆国产97在线| 亚洲日精品| 久久久久久91香蕉国产| 操久久久久久| 婷婷丁香五月激情啪啪| 午夜精品久久久久久久久久蜜桃| 国产97av| 久久久91| 91青青| 少妇内射www在线观看视频| 天天干天天日天天射黄色| 久久精品毛片免费不卡| 日韩激情啪啪啪| 国产91av在线播放| 日韩免费在线观看不卡| 91少妇人妻| 日本欧美不卡| 91白虎| 久久嫩草| 欧美超碰97| 亚洲色欧美| 人人妻碰人人免费| 日韩无码三级影院| 欧美性生活男人的天堂| 日韩精品国产一区二区| 欧美大香蕉专区网| 欧美日韩 强奸乱伦| 风流老熟女一区二区三区l| 欧亚乱色熟女一区二区| 懂色AV蜜臀无码精品APP| 久碰视频| 青青草大香蕉在线视频| 日产成人久久| 另类欧美色| 黄色电影在线播放综合网站| 黑人娇小av在线播放| 亚洲影院小综合| 91超碰碰在线| 五月丁香激情四射| 国产h片在线观看视频| 欧美不卡在线美女| 成人久久精品| 欧美72网页| 免费视频观看60秒| 国产精品久久泡妞网站| 欧美在线播放| 成人激情无码在线视频| 91蜜臀熟女| 无毛精品| 狠狠色噜噜狠狠狠狠2018| 巨爆乳一区二区爆乳区| 东京太热久久久| 熟人人妻少妇精品久久| 日本激情免费大片| 蜜桃久久久久久| 五月天AV资源| 欧洲综合色图| 国产超碰| 久热99999| 无套内射人妻在线播放| xxx亚洲午夜天堂| 欧美精品庄| 婷婷AV一区二区三区| 日本男人插女人的逼黄色| 曰韩人妻中文字幕在线| 99热婷婷| 易易A毛视频| 国产精品一区午夜福利| 欧美猛交黑寡妇中文字幕| 放黄片放3级黄片没穿衣服| 九九九九九九九精品视频| 被操高清无码视频| 欧美久久九九| 国产9l 大屁股| 欧美另类色图片| 激情小说亚洲色图| 久久一二区四| 日本国产欧美一区三区二区| 1024香蕉视频| 欧美色偷偷| 久久理论字幕视频| 婷婷激情四射| xxx亚洲午夜天堂| 久久久久久69国产一区二区| 欧美大干日韩| 一区二区偷拍拍视频| 日韩少妇无码| 一区 欧美 日韩 麻豆| 老司机深夜影院18未满| 亚洲春色欧美| 自拍欧美| 国产精品久久久久综合| 67914在线兔费成人视频| 91N欧美| 国产一级不卡在线观看| 精品国产乱码久久久久久久久久毛片 | 成人性爱电影一区二区| 白丝被操91| 91欧美少妇| 99精品热| 天天日少妇逼AV| 伊人五月天婷婷| 亚洲天堂男| 久久精品国产精品| 女一区二区| 国产中午字一暮区| 91五月天| 久久婷婷在线观看视频| 999久久久精品国产| 色情乱伦AV| 免费久久一级毛片大黄| 亚洲美女AV无码| 男同专区一区二区三区在线| 色香伊人| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 天天综合网网欲色| 青青色在线观看| 午夜男人的天堂| 综合网欧| 国产精品亚洲日韩骚欢乐谷最新地址发布页huanieguty性屋娱乐妖精视频 | 97网址97| 91久精品| 9久久9综合| 日逼五月天| 欧美综合站| 欧美超碰9798| 69AV女优男人的天堂| 99啪| 999九九精品| 亚洲97网站| 嗯嗯啊啊啊好爽| 曰本特级特黄特色黄色A级网站高清在线免费看 | 日本www操操操| 狠狠激情综合狠狠操中文字幕| 日本在线激情一区二区三区| 91GD.COM| 99热婷婷| 伊人国产av| 97精品中文字幕| 91天天综合网| 一本色道久久综合精品婷婷| 超碰97精品| 日韩三级天堂在线观看| 美女黄色一级A视频| 青青操在线亚洲视频观看欧美在线 | 色欲久久久久综合网| 午夜爽爽爽在线观看永久入口姬片| 无码少妇精品一区二区60岁老人| 青青草自拍视频在线播放| 亚洲一二三精品久久网| 骚货 中文字幕 av| 国产乱子伦一区二区三区在线观看| 国产又黄又粗又猛大片| 亚洲精品日日夜夜52| 一区二区精品更新提醒| 美女天天干| 极品尤物女神在线观看| 97爱亚洲综合色| 熟妇一区二区| 啊视频在线| 绯色AV粉色AV蜜臀AV| 天天干18禁| 五月婷婷激情网| 国产尤物在线三区| 老司机深夜影院18未满| 欧美男人亚洲天堂| 亚洲图片色图欧美另类| 亚洲乱色视频一区、二区在线| 熟女熟妇一区二区三四区| 高清成年美女黄网站免费大全 | 九九久久九九久久| 国产AV人人夜夜澡人人爽麻豆| 99av| 国产高潮AA片免费看| 久久久久久裸体| 国产超碰人人操| 色区97| 91婷婷伊人狠人| 天天激清| 亚州综合AⅤ| 欧美色视频在线| 欧亚韩国999| 中文无码一二三区| 精品国产乱码| 一二三区精品视频| 欧美亚洲美少妇一区二区| 亚洲蜜桃V妇女| 青青在线视频日韩欧美| 狠狠干2020| 欧亚第一综合网| 国产无马av| 中英熟女操女| 午夜视频久久久| 亚洲瓯美色图| 国产精品亚洲一区二区三区四区| 99热欧美| 国产欧美日韩臀| 欧美九9 9 9| 久久精品国产亚洲AV片多多 | 丝袜剧情| www.亚洲黄色| 日本 免费 一区二区三区 久久香蕉 | 国产一区二区三区白丝| 国产福利夜| 懂色AV蜜臀无码精品APP| 国产精品高潮呻吟av久久4虎| 欧美,日韩,中文,另类| 刺激精品视频| 久久久五月天| 思思热免费视频观看| 无套内射人妻在线播放| 毛片久久| 久久久久久久久999| 欧美丝袜中文字幕07在线| 少妇久久久免费| 校园春色 亚洲| 欧美亚洲韩国视频十五区| 美女网站黄页| 91老熟女老女人国产老太| 超碰 另类 欧美 | 色婷婷成人综合| 欧美一区二区日韩传媒搭讪精品| 极品白嫩美女白浆成人福利在线看| 欧美 亚洲精品首页| 日韩中文字幕熟妇人妻| 99精品热| 91校园春色长篇| 国产高清在线观看欧美| 国产综合永久精品日韩鬼片| 葡萄牙性视频一二区| 91黑丝露脚| 97资源站久久| 久热影视| 影音先锋一区二区在线资源| 18禁无码永久免费无限制| 欧美骚少妇| 欧美嫩性色| 亚洲码在线中文在线观看| 超碰伊人在线| 殴美,日韩国产伦精品| 无码WWW免费视频网站| 人妻激情视频| 久久久婷婷| 黄网在线播放| 婷婷超| 丝袜美女诱惑 91 视频| 国产后入精品| 玖玖爱免费观看视频| 另类欧美色| 欧美97日韩精品| 日本久久久久久久久| 操迟操逼在巾线Fre看| 极品肉射| 国产AV人人夜夜澡人人爽麻豆| 超碰久久性爱| 操逼逼中文字幕| 一二三区操逼国产91| 蜜臀久久99精品久久久久电影| 美女人妻色网站| 深爱五月婷婷| 人人爱人人操人人性| 日韩免费一级性爱视频| 本道在线| 最新中文字幕av| 国产视频一区二区三区久久亚洲天堂| 啊啊啊在线观看| 东北老熟女| 999九九九九国产动| 国产精品91ai| 五月天偷拍| 中文字幕在线日亚洲9| 丁香六月激情| 在线播放成人高清免费视频| 久久久无码精品人妻二区| 欧美激情久| 久久色一区二区| 青青草密桃在线播放| 久久99久久99精品免视看婷婷| 欧美精品久久96人妻无码| 射久久| 色婷婷日韩精品一区二区三区| 亚洲日产专区婷婷| 人妻 制服 日韩 中文 在线| 超踫中文字幕| 能看的av| 在线不卡视频| 操99| AAAAAAAAA黄片| 萌白酱自拍视频| 国产A v无码专区| av在线播放国产一区| 久久久9999| 日韩精品99久久久久久中文字幕| 亚洲欧美国产成人综合不卡| 51国产午夜精品视频| 久久欧洲| a在线视频免费观看| 欧美日韩97在线| 91天堂视频| 91色爽欧美| 青青草视频这里只有精品| 欧美日韩国产三级黄色| 老熟女91| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV |