色五月色开心色婷婷色丁香,五月婷婷丁香花综合网,婷婷丁香五月激情综合在线,五月婷婷六月丁香动漫,婷婷丁香五月激情综合在线,丁香花中文字幕在线观看,播五月色五月开心五月网,开心激情综合网,狠狠色丁香婷婷综合最新地址,丁香视频在线观看,狠狠做六月爱婷婷综合av,久久激情五月丁香伊人

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

嵌入式數(shù)據(jù)搬運(yùn)選型:DMA、NEON與CPU拷貝底層邏輯與實(shí)戰(zhàn)

嵌入式數(shù)據(jù)搬運(yùn)選型:DMA、NEON與CPU拷貝底層邏輯與實(shí)戰(zhàn) 寫這份分享時(shí)我剛在板子上調(diào)完一版 DMA 環(huán)形緩沖區(qū)順手把總線上的數(shù)據(jù)搬運(yùn)負(fù)載從 CPU 手里徹底剝了下來。說實(shí)話在嵌入式或者驅(qū)動(dòng)開發(fā)里“拷貝數(shù)據(jù)”這件事看起來基礎(chǔ)但對性能的影響往往是一票否決級的。你到底是該無腦 memcpy還是上 DMA或者干脆用 NEON 向量指令暴力搬運(yùn)我見過太多人在這個(gè)問題上憑感覺選結(jié)果要么 CPU 占用率被打滿要么數(shù)據(jù)一致性踩坑。所以今天這篇就專門來盤一盤 DMA、NEON、CPU 這三種拷貝方式的底層邏輯、適用場景和實(shí)戰(zhàn)選型思路。這篇文章適合正在做驅(qū)動(dòng)開發(fā)、嵌入式音視頻處理、網(wǎng)絡(luò)收發(fā)邏輯優(yōu)化以及任何被“數(shù)據(jù)搬運(yùn)太慢”困擾的朋友。1. 三種拷貝方式底層到底在干什么選型之前先把三者的本質(zhì)差異搞清楚。很多人以為 DMA 是“更快的拷貝”NEON 是“更快的拷貝”CPU 普通拷貝是“更慢的拷貝”這個(gè)認(rèn)知大方向沒錯(cuò)但底層機(jī)制完全不同直接決定了它們在不同場景下的表現(xiàn)。1.1 CPU 普通拷貝的本質(zhì)CPU 拷貝最常見的就是 memcpy本質(zhì)上就是讓處理器內(nèi)核直接參與數(shù)據(jù)搬運(yùn)。具體流程是CPU 從源地址加載數(shù)據(jù)到寄存器再從寄存器寫回目標(biāo)地址。這個(gè)過程完全由 CPU 的流水線驅(qū)動(dòng)走的也是 CPU 的 Load/Store 單元。這里有個(gè)關(guān)鍵點(diǎn)容易被忽略CPU 拷貝的速度受限于主頻、內(nèi)存帶寬和緩存命中率。如果數(shù)據(jù)在 Cache 里熱著memcpy 可以非??烊绻麛?shù)據(jù)在 DDR 里冷著CPU 就得一路等內(nèi)存總線這時(shí)性能會(huì)嚴(yán)重下滑。而且CPU 在搬運(yùn)過程中沒法干別的活執(zhí)行流水線被占住這就是“阻塞”的本質(zhì)。還有一個(gè)不太好察覺的細(xì)節(jié)現(xiàn)代 CPU 的 memcpy 實(shí)際上會(huì)利用 SIMD 指令集。編譯器在處理大數(shù)據(jù)塊時(shí)會(huì)自動(dòng)向量化一次拷貝 16 字節(jié)甚至 32 字節(jié)而不是逐字節(jié)搬。所以單純從“指令效率”來看CPU 的 memcpy 已經(jīng)做了不少優(yōu)化。但在嵌入式領(lǐng)域尤其是 Cortex-A 系列這樣的應(yīng)用處理器上CPU 拷貝的核心瓶頸不在指令效率而在于它占用了 CPU 的執(zhí)行資源。你在 memcpy 大數(shù)據(jù)塊的時(shí)候中斷響應(yīng)延遲會(huì)明顯變差實(shí)時(shí)性受影響。1.2 NEON 拷貝的本質(zhì)差異NEON 是 ARM 平臺的 SIMD 指令集它的思路和 CPU 普通拷貝有很大區(qū)別它的定位是“用更寬的寄存器、并行處理更多數(shù)據(jù)”本質(zhì)上還是 CPU 在搬但它用的是 NEON 單元而非普通 Load/Store 單元。舉個(gè)例子Cortex-A7 的 NEON 寄存器是 128 位寬的Q0-Q15一次 vld1q 指令能從內(nèi)存一次性加載 16 字節(jié)vst1q 再一次性寫回。這比普通寄存器 32 位寬一次 4 字節(jié)要高效得多。NEON 拷貝的典型寫法是循環(huán)展開 預(yù)取把內(nèi)存訪問延遲壓到最低。NEON 在拷貝上的優(yōu)勢有兩個(gè)維度一是數(shù)據(jù)并行度二是 cache 友好性。你可以用 pld 指令把下一塊數(shù)據(jù)提前預(yù)取到 cache配合 vld1q/vst1q 流水線批量搬運(yùn)實(shí)測在大部分 ARM 平臺上NEON 拷貝帶寬是普通 memcpy 的 1.5 到 2 倍。但注意NEON 的優(yōu)勢僅限于“數(shù)據(jù)在內(nèi)存和寄存器之間搬運(yùn)”這個(gè)場景它并沒有繞開 CPU 核心所以它依然會(huì)占 CPU 資源。另一個(gè)值得提的點(diǎn)是 NEON 對數(shù)據(jù)對齊的要求。vld1q/vst1q 要求 16 字節(jié)對齊時(shí)效率最高未對齊時(shí)雖然也能工作但會(huì)觸發(fā)額外的內(nèi)存訪問。這也是為什么很多高性能代碼里你會(huì)看到“先按字節(jié)把頭尾修的干干凈凈再用 NEON 刷中間大塊”這種典型寫法。后面講實(shí)操時(shí)我會(huì)給出具體的對齊處理思路。1.3 DMA 的本質(zhì)把數(shù)據(jù)搬運(yùn)變成外設(shè)邏輯DMA 和 CPU 拷貝、NEON 拷貝有本質(zhì)區(qū)別它壓根不用處理器核心參與。它的全稱是 Direct Memory Access直接內(nèi)存訪問通過一個(gè)獨(dú)立的總線控制器在源地址和目標(biāo)地址之間傳輸數(shù)據(jù)傳輸完成后通過中斷或事件通知 CPU。整個(gè)過程中CPU 只需要做兩件事啟動(dòng)時(shí)配置好 DMA 的描述符包括源地址、目標(biāo)地址、傳輸長度、突發(fā)大小傳輸完成時(shí)處理中斷。中間的大塊時(shí)間CPU 完全解放出來。這就是 DMA 最大的價(jià)值。但要注意DMA 的出現(xiàn)不是為了“更快”。它的性能并不一定高于 NEON 或 CPU 拷貝尤其是對于小數(shù)據(jù)塊DMA 的配置開銷可能比本身傳輸時(shí)間還長。DMA 的優(yōu)勢是“不占用 CPU”而不是“傳輸速度快”。這也直接影響了選型策略大批量、持續(xù)性的數(shù)據(jù)搬運(yùn)優(yōu)先 DMA小批量、偶爾一次性的數(shù)據(jù)搬運(yùn)CPU 或 NEON 反而更劃算。2. 不同場景下怎么選這才是真正的核心問題理論上理解了三種方式后選型邏輯才真正落地。我的實(shí)際經(jīng)驗(yàn)是選型不只看數(shù)據(jù)量還得看處理頻率、數(shù)據(jù)特點(diǎn)、實(shí)時(shí)性要求甚至看你手里的硬件平臺支持什么特性。這里我把實(shí)戰(zhàn)中最常遇到的場景逐一拆開講。2.1 大數(shù)據(jù)塊搬運(yùn)優(yōu)選 DMA但要處理對齊和描述符先說最經(jīng)典的大批量場景從網(wǎng)卡 NIC 收包到內(nèi)存緩沖區(qū)從 ADC 采集 FIFO 搬到內(nèi)存或者從攝像頭傳感器把一幀 YUV 數(shù)據(jù)搬到內(nèi)存。這類數(shù)據(jù)傳輸?shù)奶攸c(diǎn)是單次數(shù)據(jù)量大可能是幾 KB 甚至幾 MB而且通常是周期性發(fā)生的。在這個(gè)場景下DMA 是絕對的主力。原因也很直白用 CPU 或 NEON 搬一個(gè)大塊的同時(shí)整個(gè) CPU 都沉浸在搬運(yùn)中而 DMA 可以把 CPU 釋放出來去做更緊急的事比如協(xié)議解析、狀態(tài)機(jī)處理、用戶態(tài)調(diào)度。你說 NEON 更快確實(shí)更快但在驅(qū)動(dòng)層跑 NEON 拷貝很容易導(dǎo)致中斷處理時(shí)間過長觸發(fā)高層 watchdog。不過用 DMA 也有幾個(gè)細(xì)節(jié)要注意。首先是內(nèi)存類型。DMA 使用的緩沖區(qū)必須是 cache 一致性的或者你要手動(dòng)做 cache 無效化/clean 操作。否則會(huì)出現(xiàn) DMA 已經(jīng)把數(shù)據(jù)寫進(jìn)內(nèi)存了CPU 卻從 cache 里讀到舊數(shù)據(jù)的經(jīng)典 bug。在多核 CPU 上這個(gè)問題更容易踩雷因?yàn)槟闵踔翢o法預(yù)判 cache line 被哪個(gè)核加載。其次是 DMA 描述符的管理。有些平臺的 DMA 驅(qū)動(dòng)是簡單的寄存器模式一次配置一個(gè)塊傳輸有些則支持描述符鏈表比如 Zynq 的 SG-DMA可以把多個(gè)不連續(xù)的內(nèi)存塊串成一個(gè)鏈表逐個(gè)搬運(yùn)。后者在處理網(wǎng)絡(luò)報(bào)文分片時(shí)特別好用。但帶來的復(fù)雜度也直線上升你要小心描述符的回寫狀態(tài)、半傳輸中斷、傳輸完成中斷的時(shí)序。2.2 小批量高頻拷貝NEON 是甜點(diǎn)區(qū)DMA 反而累贅很多人上來就想用 DMA 優(yōu)化一切但小數(shù)據(jù)量場景下 DMA 的成本是完全不劃算的。舉個(gè)例子一個(gè) 64 字節(jié)的控制結(jié)構(gòu)體從內(nèi)核態(tài)拷貝到用戶態(tài)DMA 做什么你要分配 DMA buffer、配置描述符、開啟通道、等待中斷——這一套動(dòng)作的延遲可能就得幾微秒而 64 字節(jié)用 NEON 四個(gè) vld1q four vst1q 指令納秒級完成。這種情況下 DMA 就是殺雞用牛刀而且刀還沒磨好。我建議的分界線大致是 256 字節(jié)以下走 NEON 或普通 CPU 拷貝256 到 1KB 之間看場景靈活切換1KB 以上才認(rèn)真考慮 DMA。這個(gè)閾值不是嚴(yán)格的黃金比例但它是基于“DMA 固定開銷 中斷延遲”和“CPU 逐字節(jié)搬運(yùn)成本”交叉計(jì)算出來的經(jīng)驗(yàn)值。NEON 在做小批量拷貝時(shí)還有個(gè)底層優(yōu)勢它的預(yù)取指令可以讓“下一個(gè)塊”的數(shù)據(jù)提前進(jìn)入 cache。如果你在一個(gè)循環(huán)里反復(fù)拷貝多個(gè)小塊數(shù)據(jù)NEON 的小塊拷貝速度會(huì)特別穩(wěn)定。但要注意NEON 拷貝雖然不調(diào)操作系統(tǒng) API但你得自己保證內(nèi)存對齊。我的做法是在每個(gè)拷貝入口做一個(gè)指針對齊檢查未對齊的先用普通拷貝把首部修正再把中間的大塊交給 NEON。2.3 緩存一致性問題DMA 和 Cache 的愛恨糾葛這一節(jié)必須單獨(dú)拿出來講因?yàn)檫@是區(qū)分“能跑”和“能穩(wěn)定上線”的關(guān)鍵。簡單解釋一下什么叫 cache 一致性問題。假設(shè)你有一個(gè) DMA 緩沖區(qū)它是一塊普通的內(nèi)存CPU 和 DMA 控制器都可以訪問它。CPU 讀數(shù)據(jù)時(shí)優(yōu)先查 cache如果數(shù)據(jù)在 cache 里命中就直接用 cache 里的副本不會(huì)去訪問內(nèi)存?,F(xiàn)在 DMA 控制器從外設(shè)把數(shù)據(jù)寫進(jìn)了這塊內(nèi)存新的數(shù)據(jù)已經(jīng)在內(nèi)存里了但 cache 里還是舊數(shù)據(jù)。CPU 再讀的時(shí)候命中 cache讀到的是舊數(shù)據(jù)——bug 出現(xiàn)了。解決這個(gè)問題的思路有三個(gè)其一將 DMA 緩沖區(qū)配置為 non-cacheable也就是不走 cache每次 CPU 訪問都直接打到內(nèi)存。這種方法最簡單但性能會(huì)下降CPU 在上面頻繁讀寫的開銷翻倍。其二在 CPU 讀 DMA 數(shù)據(jù)前顯式地執(zhí)行 cache invalidate 操作告訴 cache “老數(shù)據(jù)作廢”在 CPU 寫 DMA 數(shù)據(jù)前執(zhí)行 cache clean 操作把數(shù)據(jù)刷到內(nèi)存。這種方法是性能與正確性的平衡點(diǎn)也是驅(qū)動(dòng)開發(fā)中最常見的做法。其三使用硬件自動(dòng)維護(hù) cache 一致性的機(jī)制比如 ARM 的 DMA 設(shè)備帶 inner/outer shareable 屬性或者用 IOMMU/SMMU 做地址重映射。這類方案在復(fù)雜 SoC 上越來越普及但在很多嵌入式平臺上并沒有完整實(shí)現(xiàn)所以不能拍腦袋依賴它。我在一輪實(shí)際調(diào)試中的體會(huì)是cache 問題在單核簡單 DMA 場景下還比較可控真正常常翻車的是多核 CPU 上的 DMA 緩沖。因?yàn)槲覜]辦法預(yù)判某個(gè) cache line 是哪個(gè)核加載的只有嚴(yán)格按“DMA 寫 → invalidate → CPU 讀”、“CPU 寫 → clean → DMA 讀”的規(guī)范來才能真正避免那種“偶發(fā)性數(shù)據(jù)錯(cuò)誤”——這種 bug 是最難查的因?yàn)樗皇潜噩F(xiàn)而是偶爾出現(xiàn)一次復(fù)現(xiàn)周期可能是一小時(shí)甚至一天。3. 實(shí)操串口 DMA 接收不定長數(shù)據(jù)的完整實(shí)現(xiàn)這一節(jié)我挑一個(gè)大家都熟悉的場景來完整走一遍串口 DMA 接收不定長數(shù)據(jù)。這可能是 DMA 教程里點(diǎn)擊率最高的一類需求因?yàn)榇谕ㄓ嵲谇度胧介_發(fā)中太常用了而 DMA 處理不定長數(shù)據(jù)的核心技巧就是“空閑中斷 DMA 環(huán)形緩沖”。3.1 環(huán)境與基礎(chǔ)原理以 STM32F103 為例或者擴(kuò)大到任何帶 UART DMA 的 MCU。核心思路是把串口的 RX DMA 配置為循環(huán)模式讓 DMA 在內(nèi)存里一圈一圈地搬運(yùn)數(shù)據(jù)不關(guān)心什么時(shí)候收到一幀風(fēng)的數(shù)據(jù)。那怎么判斷一‘幀’數(shù)據(jù)結(jié)束呢就需要用到串口的空閑中斷IDLE當(dāng)總線上沒有新數(shù)據(jù)進(jìn)來時(shí)串口硬件會(huì)觸發(fā)一個(gè)空閑中斷這時(shí)候 CPU 去讀 DMA 當(dāng)前傳輸計(jì)數(shù)就能算出本輪收到了多少字節(jié)。這是串口 DMA 接收不定長數(shù)據(jù)的經(jīng)典套路。它的好處是接收過程全程 DMA 搬運(yùn)CPU 幾乎不參與只有在一幀數(shù)據(jù)接收完成后CPU 才去處理一次。這就把一個(gè)高頻的“每個(gè)字節(jié)中斷一次”變成了“每一幀中斷一次”CPU 負(fù)載大幅下降。3.2 配置步驟和關(guān)鍵代碼以 HAL 庫為例初始化時(shí)開 UART 的 DMA 接收為循環(huán)模式再使能 IDLE 中斷。下面給出一個(gè)典型的初始化片段// 假設(shè) UART_Handle 已經(jīng)初始化好 // 配置 DMA RX 緩沖區(qū)和長度 #define RX_BUF_SIZE 1024 uint8_t rx_buf[RX_BUF_SIZE]; // 開啟 UART DMA 接收循環(huán)模式 HAL_UART_Receive_DMA(huart1, rx_buf, RX_BUF_SIZE); // 使能 UART 的 IDLE 中斷注意要直接操作寄存器 __HAL_UART_ENABLE_IT(huart1, UART_IT_IDLE);然后寫一個(gè)中斷回調(diào)處理函數(shù)這里有個(gè)技巧HAL 庫的 UART 中斷處理函數(shù)會(huì)把 IDLE 中斷吞掉所以你得先調(diào)用它的處理函數(shù)再自己判斷標(biāo)志位void UART_IDLE_Callback(UART_HandleTypeDef *huart) { if (huart huart1) { // 讀取當(dāng)前 DMA 剩余計(jì)數(shù) uint16_t remain __HAL_DMA_GET_COUNTER(hdma_usart1_rx); // 當(dāng)前 DMA 總共要搬 RX_BUF_SIZE 字節(jié)所以已接收長度 uint16_t recv_len RX_BUF_SIZE - remain; // 這里 recv_len 就是本輪接收到的完整數(shù)據(jù)長度 // 接下來就可以把 rx_buf 中的數(shù)據(jù)提交給協(xié)議?;蛱幚砗瘮?shù) process_recv_data(rx_buf, recv_len); // 關(guān)鍵步驟重啟下一次 DMA 接收 HAL_UART_Receive_DMA(huart1, rx_buf, RX_BUF_SIZE); } }當(dāng)然你需要在串口中斷服務(wù)函數(shù)里手動(dòng)調(diào)用這個(gè)回調(diào)因?yàn)?HAL 庫不會(huì)自動(dòng)調(diào)它。具體做法是在UART_IRQHandler里判斷 IDLE 標(biāo)志并清除然后調(diào)用上面的處理函數(shù)。3.3 環(huán)形緩沖區(qū)的進(jìn)階處理上面的例子是最簡單的單緩沖區(qū)版本實(shí)際項(xiàng)目里我更推薦把 RX 緩沖區(qū)做成環(huán)形。也就是說 DMA 始終在一個(gè)固定大小的數(shù)組里循環(huán)搬運(yùn)每次收到一幀數(shù)據(jù)時(shí)幀的起止位置不一定在數(shù)組頭部而是在數(shù)組中間旋轉(zhuǎn)。處理思路是通過 DMA 當(dāng)前計(jì)數(shù)計(jì)算讀寫偏移量然后按“先拷貝尾部再拷貝頭部”的方式把完整幀拼接出來。環(huán)形緩沖區(qū)的核心代碼邏輯大致如下// 環(huán)形緩沖區(qū)讀寫指針 volatile uint16_t rx_head 0; // DMA 當(dāng)前寫入到的位置 uint16_t rx_tail 0; // 應(yīng)用層已經(jīng)讀到的位置 void UART_IDLE_Callback(UART_HandleTypeDef *huart) { uint16_t remain __HAL_DMA_GET_COUNTER(hdma_usart1_rx); uint16_t current_pos RX_BUF_SIZE - remain; if (current_pos rx_tail) { // 數(shù)據(jù)沒有跨越緩沖區(qū)尾部直接分段拷貝 handle_frame(rx_buf[rx_tail], current_pos - rx_tail); } else { // 數(shù)據(jù)跨越緩沖區(qū)尾部需要分兩次拷貝 uint16_t first_part RX_BUF_SIZE - rx_tail; handle_frame(rx_buf[rx_tail], first_part); handle_frame(rx_buf[0], current_pos); } rx_tail current_pos; }這個(gè)環(huán)形方案的優(yōu)點(diǎn)是不用頻繁停止和重啟 DMA數(shù)據(jù)始終在流入丟數(shù)據(jù)的概率更小。缺點(diǎn)是代碼邏輯要處理邊緣情況比如 DMA 寫指針繞回時(shí)和讀指針相等要判斷緩沖區(qū)是空還是滿這個(gè)標(biāo)簽位判斷一定要小心否則會(huì)復(fù)現(xiàn)那種“看起來偶發(fā)丟數(shù)據(jù)”的詭異 bug。4. DMA 性能實(shí)測與參數(shù)選擇解析聊完原理和選型很多人會(huì)問DMA 到底能快多少NEON 相比 memcpy 有沒有質(zhì)的提升這里我用自己的板子實(shí)測的數(shù)據(jù)來給一個(gè)直觀的參照。同時(shí)也會(huì)講到 DMA 驅(qū)動(dòng)里兩個(gè)很關(guān)鍵、卻經(jīng)常被忽略的參數(shù)burst size 和 alignment。4.1 實(shí)測數(shù)據(jù)CPU vs NEON vs DMA我基于一塊常見的 ARM 開發(fā)板主頻 1.2GHzDDR3 內(nèi)存分別測試了 4 種拷貝方式在不同數(shù)據(jù)量下的吞吐量。測試方法很簡單循環(huán)拷貝 1000 次記總時(shí)間除以總字節(jié)數(shù)得到帶寬。數(shù)據(jù)源是 16 字節(jié)對齊的內(nèi)存塊排除首末處理干擾??截惙绞?2B256B4KB1MBCPU memcpy0.9 GB/s1.8 GB/s2.1 GB/s2.2 GB/sNEON 優(yōu)化拷貝1.5 GB/s3.2 GB/s3.8 GB/s3.7 GB/sDMA含中斷開銷0.05 GB/s0.3 GB/s1.5 GB/s2.8 GB/s這個(gè)數(shù)據(jù)很能說明問題。在 32 字節(jié)的小數(shù)據(jù)塊場景下DMA 的速度慢到令人發(fā)指因?yàn)榕渲妹枋龇?、啟?dòng)通道、等待中斷這套流程的固定開銷遠(yuǎn)大于數(shù)據(jù)本身搬運(yùn)的時(shí)間。而 NEON 因?yàn)橄蛄坎⑿行?shù)據(jù)塊也能跑出不錯(cuò)的速度。在 4KB 這個(gè)檔位DMA 開始接近 CPU 的帶寬但仍未超越。到 1MB 級別DMA 才真正展現(xiàn)出吞吐優(yōu)勢加上它能做到 CPU 零占用綜合價(jià)值就遠(yuǎn)高于另外兩種了。所以別再迷信“DMA 快”這個(gè)說法。DMA 的價(jià)值是“解放 CPU”它的吞吐優(yōu)勢通常要在較大的數(shù)據(jù)塊下才能體現(xiàn)。4.2 Burst Size 的選擇與對齊策略DMA 配置里有個(gè)參數(shù)叫 Burst Size即每次總線事務(wù)突發(fā)訪問的次數(shù)。假設(shè)系統(tǒng)總線寬度是 64 位burst size 為 4 意味著 DMA 會(huì)一次性連續(xù)讀取 4 個(gè) 64 位數(shù)據(jù)也就是 32 字節(jié)連續(xù)訪問。這個(gè)參數(shù)極大地影響 DMA 的效率。理論上 burst 越大總線利用效率越高因?yàn)樗鼫p少了地址階段的切換開銷。但 burst 太大有一個(gè)副作用當(dāng) DMA 與 CPU 同時(shí)訪問內(nèi)存總線時(shí)DMA 會(huì)對總線進(jìn)行較長時(shí)間的“占用”導(dǎo)致 CPU 訪問內(nèi)存的延遲飆升影響整體性能。所以 burst size 并不是越大越好。我的建議是從小到大測試在典型負(fù)載下逐一測試 burst size 1、2、4、8選吞吐量和企業(yè)性能的平衡點(diǎn)。如果你的板子在 DMA 搬運(yùn)時(shí) CPU 表現(xiàn)明顯卡頓優(yōu)先減小 burst size。對齊策略則是另一個(gè)關(guān)鍵點(diǎn)。DMA 控制器通常要求源地址和目標(biāo)地址滿足一定對齊要求常見的有 4、8、16、32 字節(jié)對齊。如果你的 DMA 源數(shù)據(jù)是串口收來的字節(jié)流天然沒有對齊概念那就要在 DMA 描述符中配置允許非對齊訪問或者顯式地把數(shù)據(jù)搬到一個(gè)對齊緩沖區(qū)再進(jìn)行 DMA。否則硬件會(huì)報(bào)錯(cuò)或產(chǎn)生未知行為。NEON 拷貝也是一樣的邏輯只不過它自身對齊的要求是 16 字節(jié)寬只要源和目的地址都是 16 字節(jié)對齊NEON 就能以最高效率運(yùn)行。如果源地址是奇數(shù)偏移你只能用 vld1q_u8 之類的非對齊加載指令性能有所下降但不至于出錯(cuò)。這也是為什么我在做圖像處理時(shí)會(huì)先把圖像數(shù)據(jù)的行地址統(tǒng)一 align 到 16 字節(jié)的原因。5. 實(shí)戰(zhàn)中常見的坑與排查技巧現(xiàn)在進(jìn)入“坑位預(yù)警”環(huán)節(jié)。這三種拷貝方式帶來的問題通常都不是“性能不夠”而是“偶爾出錯(cuò)”“偶發(fā)卡死”“數(shù)據(jù)不對”。下面這些案例都是我自己或周圍同事實(shí)際踩過的把癥狀、原因、解決方案列出來大家可以對照排查。5.1 DMA 數(shù)據(jù)舊值問題cache 一致性徹底翻車有次在調(diào)試一個(gè)網(wǎng)絡(luò)驅(qū)動(dòng)客戶端收包的時(shí)候偶爾會(huì)出現(xiàn)相同的一包數(shù)據(jù)被重復(fù)上報(bào)。排查了很久發(fā)現(xiàn)不是協(xié)議問題而是 DMA 的 cache 一致性問題DMA 把新數(shù)據(jù)寫進(jìn)了內(nèi)存但 CPU 讀取時(shí)從 cache 讀到的是上一次的舊數(shù)據(jù)。這種情況特別容易在“DMA 接收緩存剛好命中 CPU 之前讀過的 cache line”時(shí)出現(xiàn)因?yàn)?CPU 對這塊內(nèi)存是有緩存的它覺得自己讀的是最新數(shù)據(jù)實(shí)際卻是舊的。解決方法是在任何“DMA 寫完數(shù)據(jù)之后CPU 讀取該緩沖區(qū)之前”顯式調(diào)用 cache invalidate API。Cortex-A 平臺通常有dma_map_single或dma_sync_single_for_device這樣的接口驅(qū)動(dòng)層直接調(diào)用即可。對裸機(jī)開發(fā)可以查 ARM 架構(gòu)手冊中的DC IVAC指令手動(dòng) invalidate。關(guān)鍵點(diǎn)在于這個(gè)動(dòng)作不能在 DMA 啟動(dòng)前一次性做完后就萬事大吉必須在每一次 DMA 傳輸完成后、CPU 讀數(shù)據(jù)前執(zhí)行否則就會(huì)出現(xiàn)“偶爾”的數(shù)據(jù)錯(cuò)亂。5.2 小數(shù)據(jù)塊 DMA 反而把系統(tǒng)拖垮有人把 DMA 用在頻率極高但數(shù)據(jù)量很小的場景比如每 100 微秒傳輸 32 字節(jié)的狀態(tài)信息。表面看 DMA 在搬運(yùn)這 32 字節(jié)但底層它在每 100 微秒就要觸發(fā)一次中斷CPU 被中斷子程序包圍。雖然中斷處理很短但高頻中斷對流水線預(yù)取、cache 命中率的破壞是巨大的???CPU 占用率可能不高但系統(tǒng)實(shí)時(shí)性嚴(yán)重惡化。這種情況我的經(jīng)驗(yàn)是直接改用 NEON 或普通 memcpy。32 字節(jié)的搬運(yùn)是百納秒級別DMA 的中斷開銷卻是微秒級別怎么算都不劃算。還有一個(gè)更隱蔽的坑DMA 中斷服務(wù)函數(shù)里的處理邏輯如果太復(fù)雜會(huì)導(dǎo)致下一次 DMA 中斷被延遲處理如果 DMA 通道沒有緩沖能力就可能丟數(shù)據(jù)。所以 DMA 中斷服務(wù)函數(shù)里要遵循“快進(jìn)快出”原則只做必要的數(shù)據(jù)指針更新和計(jì)數(shù)器維護(hù)真正的協(xié)議解析放到主循環(huán)或高優(yōu)先級任務(wù)里。5.3 NEON 拷貝在裸機(jī)上的數(shù)據(jù) ABORTNEON 指令本身不難難在它的使用環(huán)境。如果你在一個(gè)不帶 NEON 單元的老舊處理器上執(zhí)行 NEON 指令或者操作系統(tǒng)的 NEON 上下文保存與恢復(fù)機(jī)制沒有正確注冊就會(huì)觸發(fā) Undefined Instruction 異常。在 Linux 內(nèi)核模塊中使用 NEON 指令時(shí)要特別小心因?yàn)閮?nèi)核不保證 NEON 寄存器在上下文切換時(shí)被保存你需要先調(diào)用kernel_neon_begin()再執(zhí)行 NEON 代碼結(jié)束后調(diào)用kernel_neon_end()。裸機(jī)環(huán)境下相對簡單你只需要確認(rèn)編譯選項(xiàng)里打開了-mfpuneon鏈接時(shí)也要有對應(yīng)的浮點(diǎn)庫支持。否則即使代碼寫對了編譯出來的二進(jìn)制在真正執(zhí)行時(shí)也會(huì)異常。另一個(gè)容易踩的坑是指令集兼容性Cortex-A53 支持 NEON但某些入門級的 Cortex-M0/M0 根本不支持。所以在項(xiàng)目早期要明確目標(biāo)芯片的指令集范圍別把 NEON 拷貝代碼寫進(jìn)一個(gè)會(huì)被編譯到 M0 內(nèi)核的驅(qū)動(dòng)文件里那是災(zāi)難性的自找麻煩。6. 我自己的一套決策心法講了這么多原理和坑最后把這個(gè)選型思路凝練成一套簡單的判斷流程方便大家在實(shí)際項(xiàng)目中快速?zèng)Q策。先問三個(gè)問題數(shù)據(jù)塊多大傳輸頻率多高CPU 是否有更緊急的任務(wù)如果數(shù)據(jù)塊小于 256 字節(jié)或者傳輸頻率極高但每份數(shù)據(jù)只有幾個(gè)字節(jié)直接放棄 DMA選擇 NEON 或 memcpy如果數(shù)據(jù)塊大于 1KB并且傳輸頻率合理DMA 是第一選擇如果數(shù)據(jù)量在中間地帶就需要進(jìn)一步評估當(dāng)前 CPU 負(fù)載是否吃緊如果吃緊即使單次傳輸不太大也傾向于 DMA畢竟任何 CPU 拷貝的帶寬消耗都會(huì)占用核心執(zhí)行資源如果 CPU 還很閑那 NEON 的簡單高效就足夠了??紤]數(shù)據(jù)特點(diǎn)。如果源數(shù)據(jù)和目標(biāo)數(shù)據(jù)在內(nèi)存里天然是分散的比如多段不連續(xù)的內(nèi)存SG-DMA 的鏈表模式非常適合如果數(shù)據(jù)是連續(xù)的CPU 和 NEON 都可以簡單處理。考慮實(shí)時(shí)性。如果系統(tǒng)對中斷有極嚴(yán)格的要求比如中斷必須在某個(gè)硬期限內(nèi)響應(yīng)那 DMA 是唯一選擇因?yàn)樗诎徇\(yùn)大塊數(shù)據(jù)時(shí)不會(huì)阻塞 CPU。反之如果中斷的抖動(dòng)不太敏感NEON 反而簡單穩(wěn)定。這套心法的本質(zhì)就是一句話DMA 的價(jià)值不在“更快”而在“不占 CPU”NEON 的價(jià)值在“快而便宜”CPU memcpy 的價(jià)值在“簡單可靠”。三者的分工非常清晰沒有誰完全覆蓋誰。你只需要識別出自己的瓶頸到底在吞吐還是 CPU 占用答案往往就自己浮現(xiàn)了。寫到這里想起踩過的不少坑其實(shí)大多不是原理不懂而是沒把“為什么選它”想明白。抱著“DMA 一定比 CPU 快”的想法去設(shè)計(jì)幾個(gè)迭代之后就會(huì)撞上 cache 一致性、中斷延遲、描述符管理這些墻。反過來如果你帶著“讓合適的工具處理合適規(guī)模的數(shù)據(jù)”的思路去選型大部分情況下都能少走很多彎路。最后再分享一個(gè)小技巧把所有拷貝路徑做成一個(gè)統(tǒng)一的抽象接口內(nèi)部根據(jù)長度自動(dòng)選擇 memcpy、NEON 或 DMA這樣在項(xiàng)目初期不管你的選擇是否精準(zhǔn)后續(xù)調(diào)整都只需要改一處代碼不用把外層邏輯全部推翻。我就是靠著這個(gè)抽象層在一周之內(nèi)把整個(gè)通信驅(qū)動(dòng)的效率提了一倍也沒有引入新的難查 bug。希望這篇文章能幫你少掉幾根頭發(fā)。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
中文字幕在线观看第二页| 成人免费福利网站国产| 国产超碰| 亚洲情色图片区| 亚洲自拍青操视频| 91影库| 男人天堂2012| 精品国产乱码久久久影院| 国产品精品自在在线午夜免费| 天天肏视频| 亚洲性爱免费电影| 国产suv精品一区二区四区999| 中文无线日韩一区| 黑人白女精品一区| 日韩精品三级片长长久久| 久久区| 极品尤物在线观看| 九九九九精品视频| 熟妇高潮精品一区二区三区下载| 国产AV无码AV| 亚洲人综合| 国产久久成人| WWW.加勒比人妻一区不卡.com| 性感美女91影视| 东亚亚洲无码高清| 精精品人妻一区二区三区| 激情色色| 蜜臀99久久| 国产超碰在线| 热思思免费视频| 青青操在线亚洲视频观看欧美在线 | 亚洲国产一级精品毛一级精品看免费视频 | 东北女人av| 亚洲久久久久| 亚洲素人网| 欧美精品99久久久**| B049AV在线播放| 亚川综合视频| 久久综合97| 高清不卡一二三区视频......| 亚洲成人精品在线一区| 亚州中文字幕超碰97| 欧美少妇性爱网站| 久久专区| 91老司机视频| 91 综合 色| 操逼999| 五月丁香六月激情| 高清成年美女黄网站免费大全 | 五月婷婷六月丁香| 久久久无码av精| 淫荡网址| 亚洲男人天堂AV| 99xav| 中文字幕一区日韩精| 中文字幕av亚洲精品| 97资源免费视频| 欧美专利1区2区3区4区5区免费| 强奸乱伦Av网| 欧美探花网| 色噜噜狠狠色综无码久久合欧美| 色图综合| 久久精品人妻一区| 午夜美女诱惑电源网| 色综合20p| 美女超碰978| 热99这里只有精品| 伊欧美综合视频| 国产精品无码av在线 | 91情色| 亚洲综合首页| 日韩精品人妻| 成人无码在线超碰网| AA级电影三区| av一区二区三区四区| 色色五月婷婷| 中文字幕五区| 日日噜噜夜夜久久亚洲一区二区| 欧美激情片一区二区| 熟妇一区二区三区| 97久久国产亚洲精品超碰热| 99热日| 亚热日本熟女| 风韵犹存大大大大香蕉 | 中韩中文字幕在线观看| 日本影视久久免费| 国产对白刺激视频| 九九热九九热| 激情综合网激情综合| 亚洲资源吧| 91美女视频直播| 亚洲吊色| 欧天美中出| 亚洲91射| 亚洲av噜噜噜噜噜噜| 91人精品妻入口| 男人的天堂一区三区| 99精品视频在线观看| 亚洲av影音先锋| 天天综合91在线| 91精品国久久久久久无码| 91久久精品美女高潮喷水| 韩国一级做a久久久久| 日韩免费看在线黄色片| 在线不卡视频| 国产丰满少妇久久久精品影院| 伊人嫩草| 久久肏大逼| 亚洲熟女乱熟乱熟妇综合网二区| 欧美色图欧美| 欧美在线干| 亚洲图片欧美另类综合免费视频大大香| 久久免费少妇| 激情综合五月婷婷| 老熟女阿 国产91| 国产成人亚洲精品无码古代早漏男 | 9精品久久| 四虎在线观看视频| www.狠狠| 一区二区 韩日AV| 日本不卡二三区| 狠狠五月天| 天天干天天燥| 影音先锋日本一区二区| 久久久久久综合久久伊人蜜月| 性色国产东北露脸精品视频| 亚洲日韩一区电影| 日韩成人精品中文字幕| 亚洲色图欧美视频| 翔田千里av一区二区三区| 中文字幕高清精品一区| 91搡老女人老妇女老熟女歌词翻译| 丝袜无码a片| www四虎| 五月天激情小说网| 亚洲另类久操网| 五月丁香综合| 国产女人高潮视频| 国产999精品久久久久久| 色小视频蜜乳| 日本不卡卡一区| 青青草日韩无码| 久久久久精| 东京太热久久久| 亚洲中文字幕乱码无码一区二区| 亚洲国产一区二区三区在线 | 熟妇操花| 天天综合91在线| 九九热免费国产视频婷婷伊人| 婷婷99狠狠躁天天躁| 夂久色| 国产蜜臀精品一区免费尤物| 99久久婷婷丁香| 天天综合网网欲色| 黄色高清无码无码破解免费暗网| 一本一道久久综合久久| 天天干2区3区| 亚洲丁香花色| 中文字幕jul-617人妻熟女| 破处bbq| 久久久精品国产亚洲AV无码| 精品无码久久| 10000部十八禁看电影| www国产天美久久久| 97碰碰色| 99re综合伊人| 九九九九九九九九九五码| 精品无码一区二区| 用力操死我| 国产又操| AV麻豆免费一区| 亚洲一区中文字幕| 人妻在线大香蕉| 久99| 色5月婷婷| www.av在线视频| 福利视频香蕉免费一区二区在线| 久久超碰日韩精品| 草草草草视频| JIZZJIZZ亚洲女人被躁| 日韩成年人性爱视频| 九九九精品色乱九九九| 91久久久视| 中文字幕在线观看网页| 搡老女人老91妇女熟女| 人妻少妇久久| 精品一区二区久久| 久操影视| 骚熟女AV网| 2020中文字幕在线| 男人天堂毛片| 韩国一级做a久久久久| 乱伦一二三| 中文?日韩?免费?精品| 高潮的A片激情扒开一区| 国产亚洲性生活视频播放| 天天躁日日躁狠狠躁| 日韩在线电影| 美女天天干| 欧美中文字幕精品人妻| 天天综合亚洲综合| 大香蕉久久| 色欧洲| 最新日本中文字幕| 国产51色综合久久免费| 国产成人久久久精品免费AV| 操美女人妻| 亚洲91射| www久久99| 亚洲成人av色网| 97玖玖人妻| 女人被男人桶爽视频网站| 日本一级二级三级网站| www.一本大99| 国产熟女少妇一区| 97干在线| 国产av又色又爽又黄| 五月丁香六月综合缴清无码| 久久久久国产精品久久久| 99操逼| 97国产综合欧美| 国产熟妇一区二区| 蜜臀久久在线视频| 男人 天堂 日 亚洲| 丁香五月影院| 91xingse| 精品少妇一区二区三区免费观看| 丁香六月啪| 亚洲成人性爱在线观看| av天堂手机版追回| 亚洲av乱伦色图网站| 免费A V在线播放| 国产偷拍网站| 欧美日韩大黄片| 国产精品一二三区18| 欧美激情视频在线一区| 国产最火爆久久国产网站网站| 精品欧美不卡在线播放| 欧美黄色大片在线观看| 91粉嫩萝控精品福利网站_精品影音先锋国 | 亚州九九九精品视频| 国产日韩欧美| 蜜屁av| 日韩熟女精一区二区三区不卡| 啊啊啊啊嗯嗯在线久久久| 精品福利视频| 精品人妻一区二区三区四区| 国产深夜福利| 国产精品久久久久久久久久久久久久| 日韩小电影| 欧美日韩大香蕉| 夜夜影视四色| 男人的天堂亚洲| 人人爱夜夜爱| 日本欧美m v精品网站加| 亚洲色丰满少妇高潮| 欧美极品少妇| 亚洲风情在线观看| 亚洲另类小说卡通动漫| a级理论午夜日本| 91色情黑丝搞鸡在线观看一区二区三区三州| 色婷婷影视| 精品夜夜澡人妻无码| 插入粉嫩少妇视频| 狠狠超| 一区二区精品日韩欧美在线观看| 无码国产精品久久久久| 亚洲网自拍| 色亚州人久干视频在线观看免费版| 久久亚洲天堂| 97精品一区二区视频| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区老师黑人潮喷一 | 国产成人精品日本亚洲语言| n1038 一二三区| 亚洲中亚日激情视频| 久久久久久久| 欧美亚洲色图另类国产| 婷婷色一区| 精品综合久久久久久97| jizz啪啪| 亚州成人a∨| 中国黑人三级片网站上区| 九九操久久国产免费视频| 视频国产成人精品日本亚洲18| 欧美日韩国产高清在线一二三区 | 国产超碰AV在线精品| 999岛国大片| 91亚洲不卡一区| 精品人妻一区二区乱码一区二区 | 五月婷丁香| 久草精品国产蜜臀| 亚洲熟女诱惑| 手机看片1024你懂的国产| 亚洲一二三精品久久网| 在线视频资源| 秋霞影音一区二区三区| 婷婷15月天青娱乐| 久久东京伊人一本到鬼色| 色婷婷五月天| 亚洲av青草久久一区二区| 3p国产欧美99热| av72网| 97超碰人妻| 五月天激情小说| 91激情国产| 日韩欧美中文日韩欧美色| 青苹果影院男人的天堂| 电家庭影院午夜69久久夜色精品国产69乱 | 国产白嫩漂亮KTV在线| ,国产乱人伦精品一区二区三区| WWW美腿丝袜香蕉中文| 性爱视频啪啪啪啪| 超碰97在线色男人??| 五十路六十路素人熟女| 亚洲码和欧洲精品激情系列| 免费中文综合精品| 天堂精品小草| 噜噜噜在线视频| 97色诱| 五月天婷婷在线看| 果冻传媒一区二区三区| 亚洲熟女乱色一区二区三区| 亚洲情色在线| 亚洲一区二区精品福利| 亚洲少妇视频| 中文字幕老熟妇黄色视频| 91国模| 精品国产自在在线99| 亚洲欧美国产va在线播放频| 99色骚| 人人爱人人操人人性| asc国产精品| 女人爽到高潮潮喷18禁网站| 一区二区不卡视| 精品久久久久,69国产成人精| 伊人操| 日本午夜久久电影| 中文字幕一区二区日韩网| 天美传媒av在线| 免费av大片| 中文字幕一区二区三区人妻不卡| 97视频网站在线观看| 黄片视频观看| 日韩欧美丝袜诱惑| 91性高潮久久久久久久久| 天天爽天天操啊啊啊| 久久精品亚洲东京热色播| 国产精品永久免费10000| 天天在线91| 国产少妇肉丝在线观看| 激情抓乳插进去啪啪啪日韩| 日本色日夜干| 亚洲网污污污污| 无套内射性感少妇视频| 人人操人人摸avav| 另类图片五月天| 久久久久久久 九九九九九九九 | 欧美 亚洲 另类 综合| 激情五月天丁香社区| 亚州男人天堂| 亚洲偷拍欧美激情| 2026国产精品视频| 中文字幕第页| 免费精品福利在线观看| 国产极品精品美女视频| 最新制服中文第一页| 成人色女网| www.狠狠干.coom| 啪啪啪精品视频| 亚洲 无码 偷拍| 久久国产精品视频| 亚洲色悠悠久久88| 日韩紧密久久| 婷婷综合视频| 成人片在线播放| 日韩精品碰碰| 国产精品人妻无码久久久互動交流| 操老熟女AV| 97香蕉人人乳| 旡码电影特区| 五月天伊人| 婷婷影院入口| 人人看欧美性爱| 久久久性| 日韩欧美大片免费高清啪啪| 九九九九9999| 麻豆av一区二区| 91精品在线播放| 91爰爱欧美| 高清不卡视频| 中文字幕五区| 色噜噜人妻av 中文字幕| 婷婷五月天久久久| 91精品丝袜在线观看| 操操逼操操逼操操逼逼| 人人操,人人插| 亚洲精品自拍| 欧美gv在线观看| 久夜操| 玖玖无码超碰| 久热大香蕉网站| 蜜桃AV天堂| 中文字幕欧美日本乱码一线二线 | 啊啊啊啊好疼| 中文字幕一二三| 另类欧美色| 97在线视频免费看| 91亚洲欧美| 1区2区3区视频| 久久超碰网| 97天天| 中文字幕精品探花视频| 草草草视频在线免费看| 乱伦a片视频| 91人妻精华帖| 伊人色综合网电影| 日本一本一区二区三区四区五区欧美日韩中文字幕 | 亚洲精品日韩国产欧美| 国产成人自拍视频在线| 91爱综合| 九九九九日本 | 欧亚三区动漫| 国产91亚洲精品一区二区三区| 26uuu久久| 日韩在线一区高清在线| 日本中文字幕在线电影| 中文字幕一区av| 中文字幕日产av人| 一本色道久久综合亚洲二区三区| 91美女片在线| 国产一级舔足在线观看| 亚洲一卡2卡3卡4卡乱码网站 | 91粉嫩萝控精品福利网站_精品影音先锋国 | 国产精品一二三在线看| 五月天婷婷综合网| 中国熟女91| 亚洲色阁| 久久久久亚洲av综合波多野制衣| 亚洲精品无码少妇久久| 69精品在线| 色香伊人| 成人乱人伦一区二区| 日韩性爱再线视频| 大香蕉十区| 色阁阁AV综合网| 一区二区三| 看大黄色大片原件| 1区2区3区中文字幕日韩| 久欲AV| 亚洲欧美另类激情小说| 久久毛卡| 在线视频一区二区传媒| av草草在线电影| 欧美大香蕉久| 97天堂| 国产精品视频在线播放 | 天天干人人乐| 日韩在线观看中文字幕视频| 十八禁黄色成人网站观看| 人妻 欧美亚洲| 性色AV网站| 一本久道久久综合狠狠爱| 2000亚洲男人天堂| yiqicaoav| 午夜免费视频1000| 欧美第五页| 日韩在线性爱免费视频| 97亚洲一区| 九九操久久国产免费视频| 岛国黄色大片网站| 91欧美性| 亚洲精品一区二区精品| 天天综合网91入口| 97免费在线观看| 日韩精品一区的| 欧美日韩国产精品久久色婷婷| 人人做天天爱| 熟妇视频一区二区三区在线观看| 欧美黑人极品高潮喷吹熟女黑人性暴力日韩在线欧美极品一区二区 | 天堂伊人久久| 亚洲午夜未满十八勿入网站日本又色又爽又黄 | 亚洲蜜桃V妇女| 五月天色电影| 久久久久久国产成人| 中文字幕在线观看AV| 狼人狠干| 久久国产视频性吧 | 日本美女性生活久久久久久久| 九九九九九九精品| 开心五月深爱五月| 男人天堂网站| 97国产精品国| 特级特黄一级毛片免费| 伦理弟一页| 精品中文字幕一区二区| 在线观看午夜婷婷久久久久清性观看| 乱伦a片视频| 日韩噜噜69| 国产av强奸美女| 亚洲自拍青操视频| 丁香五月天激情| 久久久蜜桃臀无码视频| 在线人妻熟女一区二区三区四区五区| 欧美影院一区二区三区| 欧美日韩一干二干| 亚洲国产精品无码AV在线| 美性中文综合网| 精品一区二区人妖| 久久久极品| 91操碰| 亚洲爽图| 久久久熟妇熟女国产| 熟女六十路| 9Ⅰ超碰| 欧美色图片91| 国产理论视频在线播放| 欧美色图另类图片| 日韩欧美麻豆大片| 岛国网址国产 | 欧美色宗合| 久9久9精品| 无码伊人久久大杳蕉中文无码| 综合久久9| 无码操逼天堂| 综合色图亚洲欧美| av无码精品久久久久| 欧美性第1页| 久久天天摸| 黑人娇小av在线播放| 少妇激情AV| 天堂av2019| 国产精品亚洲无码| 九九草| 国产精品天干天干综合网麻豆| 五月综合激情网| 精品午夜福利国产一区二区在线观看| 无码二级三级| 久久久久久9999| 亚洲高潮少妇| 久久久久久久九九九九九九| 欧美日韩人妻精品系列一区二区三区| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | a片 xxxx受爽视频| 欧美天堂亚洲电影院一区在线播放| 97人人草| 26uuu性物| 翔田千里AV无码秘 三区| 伊人久久亚洲色欲综合网站 | 蜜臀无码视频在线观看| 麻豆一区二区AV天美| 欧美午夜色妇色鬼| 久久女人一区二区三区| 激情五月天视频| AA特级绝黄| 国产91福利小视频在线观看| 久久内射| chaopen97久久| 精品九九九九九九九| 性欧美天天| 深夜啪啪啪视频免费| 国产精品一区二区三区,亚洲综合| 国产精品不卡av免费在线观看| 国产9熟妇视频网站| 在线观看十八禁| 色色色色色色色色色色色色色色综合| 操逼操操操91| 91成人在线免费视频| 亚洲一区二区三区不卡国产欧美| 人人性爱视频免费| 69精品| 中文字幕一二三av| 亚洲久草AV色图| 中文字幕人乱码中文字的预防方法 | 国产免费永久精品无码| 婷婷深爱五月| 亚洲图片日本AⅤ欧美在线| 国产精品久久天天干| 免费AV中文网在线观看| 天堂v无码免费视频| 啊啊啊操死我| 久久国产成人精品国产成人亚洲| 成全动漫视频观看免费下载| 操逼视频国产无套| 69少妇一区二区| 人妻偷拍一区二区三区| 熟妇的味道HD中文字幕| 91精品久久久久五月天精品| 370p日韩欧美亚洲精品| 欧美顶级黄色大片免费| 日本性爱少妇| 色播综合| 日韩专区数据列表-第3230页-精品国产一区二区三区香蕉 久久99熟女人妻中文字 | 97天天摸天天碰| 中文字幕一区 二区三四五 区日 日骚| 99热网站| 午夜福利久久久噜久噜久久综合 | 五月天婷婷社区| 伊人九九九| 久久久久久久精| 水多多映视AV| 91丨熟女丨丰满熟女| 丰满的三级少妇欧美久久久| 色色色综合网| 国产精品网站www| 欧美最大综合网| 亚洲色综网| 91n欧美| 国产无码精品高清| 亚洲Av无码成人精品国产| 久草视频分类在线| 欧洲中文字幕| 超碰社区97| 亚洲天堂精品日韩电影| 亚洲欧洲日本精品中文a∨| AV污污污污| 亚洲激情四射| 99久热| 91扒丝袜综合在线| 91日日夜夜| 激情 欧美 亚洲 小说| 天天操夜夜操| 成全在线观看免费观看| 少妇一区二区三区| 精品国产乱码久久久久久免费| 老熟妇综合| 色女网日韩| 91麻豆天美国产欧美日| 亚洲中文一区二区三区视频| 欧美日韩国产中文精品字幕自在自线| 亚洲黄片免费在线播放| 一区二区三区看视频| 伊色久人大在线| 啊啊啊啊免费视频| 97干在线| 中文字幕av亚洲精品| 丝袜美腿亚洲| 国产精品久久久久久久久久久久久久吹 | 久9久| 久久久穴999| 欧美一区二区传媒| 女一区二区| 亚洲淫乱骚妇AV| 麻豆传媒一区二区在线观看| 九九九九九九九九九五码| 嗯嗯,好大,好爽,好骚| 91劲爆| 深喉吞精| 日韩激情电影中文字幕| 午夜偷拍久久熟女| 五月丁香狠狠爱| 亚洲欧洲色情高清| 色香综合| 亚洲无吗在线视频| 久草大| 国产乱伦一二三区| 男人天堂2019亚洲| 热热热热日日漂亮永久永久国产日| 久久久内射良家| 九九热AV| 国产视频一区二区免费| 亚洲最大的黄色电影网站。| 日日爽熟女| 激情天天视频| 91狠狠色丁香婷婷综合久久精品| 伊人丝袜美腿高跟在线观看高清| 日韩成人人妻网站| 久久久免费的精品| 欧美最婬乱婬爆婬性视频 | 被男人添B超爽视频| 激情六月婷婷| 9ⅰ久久久天天| 三级网色| 国产免费一区| 国产精品午夜福利亚洲综合网| 亚洲无码色| 青青草大香蕉视频| 天综合网| 国产熟码AV| 中国探花熟女| 精品人妻伦一区二区三区久久| 久久亚洲国产成人| 中文字幕人妻色偷偷久久皮| 婷婷色色五月天福利| 啊…啊…操我用力操我| 综合久久97| 成人资源中文字幕在线观看天天| 热99这里有精品综合久久 | 亚洲在线观看| 伊人网综合在线视频| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 日韩免费一级性爱视频| 91女神在线视频| 日韩免费a级毛片无码a∨| 欧美在线伊人色| 成人七区| 四虎在线播放| 精品国产乱码久久久久A| 亚洲同性aV综合| 日韩三级久久久| 九九九精品成人免费视频小说| 欧色综合| 国产中文字幕曰本毛片| 人妻精品一区二区| 亚洲精品一二三四区| 亚州操逼图| 久久春色| 国产97综合| 蜜桃久久久久久久| 97国产高清视频在线观看| 久久久久久九九九| 熟女AV一区| 中文字幕 码 自拍 视频 区| 国产精品久久久无码aV去| av影院十区| 操亚州| yazhousetuoumei| 中文字幕第页| 超碰在线成人| 多毛小伙内射老太婆| 欧美一级A一级a爱片久久| 日本三级韩国三级美三级91| 色天堂综合| 婷婷五月天久久精品视频一区二区三区| 亚洲黄色影视| 大香蕉黄色一级片免费看| 国产传媒午夜理伦精品| 天天草天天日| 精品久久无码午夜福利| 国产精品扒开腿做爽爽爽视频| 蘋果手機免費看成人Av| 69精品人人人人| 熟女乱伦二区| 99色综合| 日本有码久久| 密桃99999| 伊人影院中文字幕| 欧美熟爽综合| 国产日韩人人| 激情终合网| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 成人精品无码| 中文字幕丰满子伦无码专区在线视频最新| 四虎影视国产精品| 日韩99999| 91老司机视频| 欧美日韩电影成人在线| 精品久久久一本一道| 熟女人妻一区二区三区| 台欧久久精品视频| 久久综合资源一区二区| 99精品视频在线观看免费| 骚乳在线| 亚洲好看强奸乱伦| 国产精品一区二区a| 日韩性爱电影一区| 亚洲AV无码国产成人| 亚洲天堂精品日韩电影| 青青三级视频| 久久精品国产96精品亚洲拳交| 操B久久| 亚州色图欧美| 淫乱图区 | 亚洲一区中文字幕久久,果冻传媒一区二区天美传媒 | 日日操丁香五月天| 岛国网址国产| 99999精品成人| 果冻传媒A片一二三区| 国产福利精品98视频| 日本久久天堂| 91欧美成人色站| 国产精品视屏| 岛国大片在线观看网站入口| 999久久久九| 久久久偷拍| 嫩呦国产一区二区三区AV| 激激五月| 97超碰9| 5278欧美一区二区三区| 久草新免费| 男女啪啪啪18禁网站| 亚洲午夜免费狠狠干| 亚洲久久天堂| 日韩中文字幕在线视频观看| 麻豆 亚洲 97| 精品国模无码| 啊操爽品善一区二区三区| 国产性爱强奸乱伦大全| 一区二区三区精品黑丝白丝酒店对鸡 | 99热这里是精品| AV天黑人| 婷婷五月天激情网| 一级性爱视频免费观看 | 精品无码一二三四区| 日韩三级伊人| 亚洲熟久久| 无码WWW免费视频网站| 中出人妻中文字幕91在线| 嫩草一区二区在线观看| 茄子社区国产精品| 九九色逼| 97欧美| 一牛影视久久久一区二区三区| 97欧美超碰| 爱射综合| 先锋影音av先锋一区| 日韩丨制服丨中文|在线| 日本三级中国三级99人妇网站| 人妻精品一区二区| 久久999久| 岛国精品视频在线观看| 亚洲视频中文一区| 欧美综合网在线| 超碰碰激情97+久| 五月丁香婷婷综合网| 操婢日韩| 91欧美综合| 中国91AV| 免费黄色片子| 国产成人自拍视频视频| 九七毛片九九毛片| 国产少妇与亚洲av| 玖玖爱免费观看视频| 澳门色噜噜色噜噜色噜噜色噜噜色噜噜| 91亚洲人电影| 国产偷拍自拍在线视频| 欧美成人一级麻豆| 天天影视网色欲色香| 一区二区首页| 亚殴在线| 人妻天天操天天爽视频免费| 日韩欧美中文日韩欧美色| 亚洲中文字幕在现观看| 极品色| 四虎精品一区| 超碰久久网| 啊啊啊啊在线观看网址| 男人的天堂2018东京热啪啪啪| 国产女人成人精品视频| 日本人人操人人操| 少妇无码av专区线| 收看日本人日bb| 精品日韩中文在线| 国内毛片婷婷六月色| 另类天堂| 欧美熟妇精品黑人巨大91| 麻豆色约约| 亚洲在线观看| 人妻娇喘 激情视频| 欧美激情 亚洲色图| 东京太热男人的天堂久久久| 亚洲情色 自拍| 中文字幕福利视频一区二区三区在线观看| 久久9精品网站| avav青青草久久夜| 婷婷人妻激情| 精品九九九九九九| 亚洲国产av中文字幕久久| 91久久免费视频互動交流| 岛国色情视频在线观看| 亚洲av无码成人精品国产| 久久激情视频| 精品久久久久黄少妇| 美日韩在线不卡人妻| 国产精品白丝www| 欧美 亚洲 在线| 午夜福利无毒不卡| 伊人久久大香线蕉无码| 婷婷亚洲综合| 国产一区二区欧美日本| 欧美九九99久久精品| 97在线免费看| 亚洲 中文 欧美 日韩 在线| 精品国产乱码久久久| 日韩精品中文字幕人妻| 国产精品无码论坛| 亚洲一区二区麻豆影院| 日韩精品9999| 91爱啪| 亚洲αv一区二区三区| 亚洲欲色9532548967一区| 久久精品国产精品| 国产一级高清免费观看| 日本三级大片| 97精品97久久| 日本操逼视频导航| 一及黄久一点| 国产传媒日韩欧美| 黄网在线播放| 久操视频免费观看| 亚洲国产精品无码AV久久久| 婷婷AV一区二区三区| 国产地址二三| 日韩欧美性吧婷婷乱伦大香蕉| 超碰在线99| 综合情欲网| 日韩精品在线观看网站| A一级色女| 日本在线激情一区二区三区| 99在线啪| 亚欧高清在线| 久操免费视频| 狠狠色婷婷| 超碰在线综合97| 色色色欧美| 欧美日韩狠狠爱| 91女神在线视频| 另类TS人妖一区二区三区| 婷婷五月天久久精品视频一区二区三区 | 欧美成年人性爱视频免费观看| 99re这里只有精品中心播放| 一区二区三| www鬼畜国产男人的天堂| 久久性生大片免费观看性| 中文字幕55555| 综合操逼| 欧美性夜| 欧美男人亚洲天堂| 亚洲激情在线一区二区| 亚洲精品一二牛牛| 99精品无码| 不卡超碰护士AV在线免费播放| 无码137片内射在线影院| 欧美日韩97在线| 99热亚洲天堂| 国产 三级自拍| 美女天天干| 国产精品午夜福利| 欧美日不卡| 欧美日韩岛国大片在线观看| 精品传媒在线一区| 91n免费处女| 日本一区二区三区欧美日韩中文字幕| 91快色色色色色| 成人午夜高潮av猛片| 大茄子熟女AV导航| 校园春色欧美| 无码人妻精品一区二区三区九九| 亚洲激情网| 亚欧高清在线| 国产精品久久久久久久黄无码| 无遮挡男女激烈动态图| 91n处女在线观看| 欧美综色欧| 夜夜高潮夜夜爽高清视频一 | 在线观看无码三级少妇| 综合亚洲欧美| 91高清日| 九九九九九九免费视频| 一二三卡欧美日韩人妻免费精品| juliaann精品熟女一区| 天堂av2019| 天综合中文| 可以免费观看的AV| 天天看,天天做| 五月天激情四射| 福利色色| 日本二三四区| 五月丁香六月激情综合| 91精品操美女| 九九英色视频| 妺妺跟我一起洗澡没忍住| 欧美在线视频99| 国产精品美女久久久久久网站| 国产有码一区| 久久性爱精品一区| 综合网亚洲1| 亚洲欧美精品一区天堂久久 | 亚洲午夜未满十八勿入网站日本又色又爽又黄 | 亚洲一级性爱视频免费看| 91视频观看网站| 91视频伊人| 天天干2019| 91青青草| 国产高潮AA片免费看| 青娱乐福利99| 97国产|免费| 天天久久| 亚洲图片色图欧美另类| 国产日韩精品无码去免费专区国产| 无码一区二区精品视频久久久春药| 国产精品成人AV片免费看网站| 欧美色图91| 婷婷激情四射| 一本一道久久综合久久| 99啪啪| 99热综合在线| 日韩欧美成人大香蕉| 日韩在线女优天天干| 97超碰美女| A片大香蕉在线| 欧美日韩色综合网| 欧美性爱伊人| 国内精品久久国产,www香蕉久久五月丁香,亚洲欧美日韩精品永久在线,日本精品一 | 国内偷拍精品一区二区| 免费看黄片现成| h无码动漫在线观看| 日韩乱伦视频| 另类综合另类| 天天天天天天天天综合| 色天天野狼综合社区| 久久久久久性爱免费视频| 国产精品白领在线观看| 人人看人人爰人人操| 国产 三级自拍| 伊人影院中文字幕| 大香蕉啪啪啪啪在线| 夜夜黄| 高清国产精品福利网站| 久草网站免费在线观看| 水野优香在线观看| av麻豆啪啪| 麻豆 美女 丝袜 人妻 中文| 18禁无码永久免费无限制| 日本www操操操| 色九九九九久| 日韩综合97P| 97色综合中文网| 精品人妻av在线播放| 欧美日韩性爱操大逼| 欧美老熟另类| 高清不卡 中文 人妻| 2017大香蕉| 北约熟女超碰| 久久98| 色女99一级片在线观看| 精品九九九九九| 九九探花视频在线观看| 超碰午夜在线| 91熟女丨老女人| 999亚洲国产视频| 99热这里只有精| 黄色交缠性感爆操91国产精品免费一区二区三区 | 欧美亚洲国内自拍| 搡老女人老91妇女熟女| 亚洲春色一区二区三区| 婷婷五月成人| 人妻大香蕉| 1人人看人人摸人人操| 91欧美高清| 欧美成人贴图| 日本高清_区二区三区| 大香蕉色网| 97超碰碰| 久操大香蕉手机视频在线看| 久久久久9| 超碰美国| 中文字幕人成乱码熟女香港| 美女人妻色网站| 好湿好紧视频| 92人人操人人| Aa东京男人的天堂| 人人艹亚洲| 日日干夜夜操视频h| 日韩兔费看黄片| 色婷婷五月综合| 性高潮久久久| 免費黃色視頻觀看一| 97在线资源| 园内精品自拍视频在线播放| 人妻插插人妻人| 日本阿v天堂在线观看| 东北夫妻性偷拍| 熟妇人妻一二三区免费| 欧美,日韩综合久久| 久艹伊人精品综合在线| 久久久日本电影| 亚洲乱码国产乱码精网站| 青青操在线亚洲视频观看欧美在线| 精品免费囯产一区二区三区| 成人性爱高清视频免费看| 日韩 欧美 校园一区| 国产精品午夜AV完会免费| 人人爽天天爽| av网站在线看| av亚洲天堂资源网站| 强奸国产精品视频| 伊人991| 秋霞网—男女啪啪亚洲免费体验区| 亚州再线| 懂色av色欲av蜜臀av| 蜜桃丰满熟妇av无码区不卡| 无码 有码 国产18p| 91观看 国产白丝| 欧美色图天堂在线| 色欧洲| 91伊人影视综合| 人人模人人看| 色综合久久夜色精品国产天堂| 欧美日韩日产免费网站看| 亚洲色图国产另类| 美女操逼A A| 国产97综合| 男人的天堂2010| 免费国产电影一区二区| 日本天天干天天搞一区| 精品性爱一区二区| 97国产精品一区二区传媒公司| 亚州精人品大香蕉| 亚洲欧洲无码bt精品合集| 91草草草| 国产免费永久精品无码| 成人怡红院| 国产五码丝袜屁眼| 久久香蕉国产线看观看猫咪av| 91性网| 图色综合网| 强免费黄色网址| 91综合中文字幕| 欧美老妇综合网| 立川理惠无码一区二区| 丝袜足交视频| 一二三啪啪专区| 国产精品久久久久久片| 1区2区3区视频| 欧美猛交黑寡妇中文字幕| 色噜噜婷婷| 91色香| 久久999久| 亚洲综合春色| 大香蕉免费乱伦视频| 久久午夜色播影院免费高清| 天天激色| 久久久九97| 国产 v乱码一区二| 国产精品不卡av免费在线观看| 欲女人妻性色av| 日韩无码嘿咻黑热久| 综合欧美日本三级| 日韩成年人性爱视频| 97视频www| 大香蕉黄色一区| 精品在线观看视频在线| 八戒午夜福利理论片| 天天综合网~91| 4虎在线视频| 欧美熟女激情| 99热只有| 顶级丝袜熟女一区二区三区| 97chaopengongkai| 久久久中文版| 国产免费永久精品无码| av绯色| 国产精品久久久久久高清无码免费看| 五月天婷婷社区| www.acm成人黄色毛片| 精久久久91| 日本三级久| 亚洲人妻av| 人妻精品一区二区在线| 成人精品一区二区91毛片不卡| 中文字幕丰满子伦无码专区在线视频最新| 亚洲骚男同com| 后入式视频国产自| 国产 大胆 对白| 精品国产污一区二区三区| 艹我哪美一区无码| 五月婷婷深深爱| 欧美性巨大╳╳╳╳╳高跟鞋| 囯产精品久久久久久久久久梁医生 |