色五月色开心色婷婷色丁香,五月婷婷丁香花综合网,婷婷丁香五月激情综合在线,五月婷婷六月丁香动漫,婷婷丁香五月激情综合在线,丁香花中文字幕在线观看,播五月色五月开心五月网,开心激情综合网,狠狠色丁香婷婷综合最新地址,丁香视频在线观看,狠狠做六月爱婷婷综合av,久久激情五月丁香伊人

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營(yíng)的一線實(shí)戰(zhàn)洞察。

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流

Jetson Virtual Channel驅(qū)動(dòng)實(shí)戰(zhàn):多路虛擬顯示與編碼推流 我最早接觸 Jetson 上的 Virtual Channel Driver是在一個(gè)需要把 8 路 USB 攝像頭畫面分別送進(jìn) 8 個(gè)容器進(jìn)程做推理的場(chǎng)景里。板子是 Jetson Orin NX 16GB系統(tǒng)是 JetPack 5.1.2。當(dāng)時(shí)最頭疼的問(wèn)題不是模型跑不動(dòng)而是顯示鏈路太擠所有容器都要去搶同一個(gè) DRM device動(dòng)不動(dòng)就報(bào)resource busy或者某個(gè)進(jìn)程一崩潰整個(gè) framebuffer 都被拉垮。后來(lái)把 Virtual Channel 這套機(jī)制徹底吃透之后才明白這其實(shí)是一套“把單個(gè) GPU 顯示輸出虛擬化成多條獨(dú)立視頻通路”的驅(qū)動(dòng)框架。它解決的核心矛盾就是 Jetson 這種嵌入式設(shè)備上“物理顯示接口少、但要跑的應(yīng)用多”的資源爭(zhēng)搶問(wèn)題。這篇文章我打算把自己從內(nèi)核驅(qū)動(dòng)到用戶空間從設(shè)備樹改動(dòng)到容器調(diào)度的完整排查思路和實(shí)操記錄整理出來(lái)。不管你是只想讓一個(gè)無(wú)界面程序能跑 EGL還是想實(shí)現(xiàn)真正的多路虛擬顯示通道這篇都值得你從頭看一遍。1. 內(nèi)容整體設(shè)計(jì)與思路拆解1.1 Virtual Channel 到底解決什么問(wèn)題先明確一個(gè)概念Nvidia Jetson 里的 Virtual Channel Driver和你在 x86 PC 上裝的NVIDIA VIRTUAL DISPLAY也就是給無(wú)頭服務(wù)器用的虛擬顯示器驅(qū)動(dòng)不完全是一回事但設(shè)計(jì)動(dòng)機(jī)非常像。Jetson 的顯示子系統(tǒng)基于 Tegra DRM/KMS 架構(gòu)硬件上有幾個(gè) display controllerDC、每個(gè) DC 又有若干 overlay planes然后輸出到 HDMI、DP、DSI、eDP 這些物理接口。問(wèn)題是物理接口是有限的。Orin NX 最多也就一個(gè) HDMI 和一個(gè) DP或者通過(guò)擴(kuò)展板引出更多但本質(zhì)也就那么幾條。如果我想同時(shí)跑一個(gè) 4K 視頻在 HDMI 上輸出兩個(gè)容器各自渲染自己的 UI 到虛擬屏另一個(gè)進(jìn)程用 NvVideoEncoder 抓取“屏幕內(nèi)容”推流到網(wǎng)絡(luò)。這時(shí)候物理接口根本不夠用。Virtual Channel 的做法是在 display controller 和物理 connector 之間插入一條虛擬的 encoder/connector 鏈。它不綁定物理輸出而是把渲染好的 framebuffer 直接交給下游消費(fèi)者比如 NVMM 做視頻編碼或者 nvrm 做 2D blit。每條虛擬通道對(duì)用戶態(tài)來(lái)說(shuō)看起來(lái)就是一個(gè)完整的 DRM device 或 connector可以獨(dú)立modeset、獨(dú)立page_flip互不干擾。這里有個(gè)很關(guān)鍵的設(shè)計(jì)取舍虛擬通道不做硬件的實(shí)際掃描輸出而是把“顯示”的終點(diǎn)從物理屏幕改成了內(nèi)存或下游硬件模塊。這意味著你繞過(guò)了物理鏈路的所有限制分辨率受接口約束、帶寬受線材約束、數(shù)量受接口數(shù)量約束但代價(jià)是你要自己負(fù)責(zé)把虛擬通道的內(nèi)容“搬運(yùn)”到真正需要的地方。NVIDIA 在用戶態(tài)提供了nvdisplay、NvMedia、EGLStream等接口來(lái)干這件事。1.2 為什么選擇驅(qū)動(dòng)層而非純用戶態(tài)方案可能有人會(huì)說(shuō)我不用 Virtual Channel直接在用戶態(tài)用 EGL 創(chuàng)建 pbuffer surface離屏渲染不也能做到“不依賴物理顯示”嗎確實(shí)可以但那只是把問(wèn)題往后推了。純用戶態(tài)的離屏渲染有幾個(gè)局限無(wú)法復(fù)用顯示控制器的合成能力。Tegra 的 display controller 帶硬件合成器hardware composition能把多層 plane 按 Z-order 合成后輸出。你用 pbuffer 就等于放棄了這個(gè)硬件加速所有合成都要走 GPU 或者 CPU帶寬和延遲都不劃算。無(wú)法被 NvVideoEncoder / NvMedia 直接消費(fèi)。Jetson 上做硬編推流最省電的路徑是渲染 → framebuffer → NVMM → NvVideoEncoder。這個(gè)鏈路的中間環(huán)節(jié)Virtual Channel 能提供零拷貝的 buffer 流轉(zhuǎn)。你走用戶態(tài)自建 buffer繞過(guò) DRM 的 dma-buf 框架就要自己處理 cache 一致性、格式轉(zhuǎn)換、同步非常痛苦。多進(jìn)程共享麻煩。DRM/KMS 本來(lái)就有 atomic commit、in-flight page_flip 這些機(jī)制來(lái)協(xié)調(diào)多進(jìn)程訪問(wèn)。Virtual Channel 繼承了這個(gè)機(jī)制而用戶態(tài)自定義方案得自己實(shí)現(xiàn)互斥和生命周期管理。所以 Virtual Channel 的本質(zhì)是在 DRM 框架內(nèi)把“顯示設(shè)備”虛擬化讓上層無(wú)感知地使用標(biāo)準(zhǔn)的drmModeSetCrtc/drmModePageFlipAPI又能拿到標(biāo)準(zhǔn) dma-buf 往下游傳遞。這對(duì)中間件層比如 GStreamer、ROS、容器運(yùn)行時(shí)非常友好幾乎不需要改代碼就能接進(jìn)來(lái)。1.3 與桌面級(jí) NVIDIA 虛擬顯示驅(qū)動(dòng)的異同如果你裝過(guò) NVIDIA 數(shù)據(jù)中心 GPUA100、L40S 這些的驅(qū)動(dòng)會(huì)看到一個(gè)Virtual Display選項(xiàng)。那個(gè)方案的原理是驅(qū)動(dòng)在缺少物理顯示器的情況下仍然提供一個(gè)虛擬 EDID 和顯示模式列表讓 X server 或 Wayland compositor 認(rèn)為有一臺(tái)顯示器接著。它主要解決的是headless 場(chǎng)景下 GUI 程序無(wú)法啟動(dòng)的問(wèn)題。Jetson 的 Virtual Channel 更進(jìn)一步它不僅僅是“假裝有顯示器”而是提供多條可獨(dú)立管理的虛擬顯示管道每條管道都可以綁定不同的 plane、不同分辨率、不同刷新率并且能把輸出內(nèi)容導(dǎo)到編碼器或者其他硬件模塊。這是為嵌入式“多路并發(fā)顯示 多路編碼”這類負(fù)載量身定做的。所以我會(huì)把 Virtual Channel 理解成一個(gè)位于 DRM KMS 層之上的虛擬化適配層它的目標(biāo)是讓每一個(gè)虛擬顯示通道都具備完整的 CRTC/Encoder/Connector 語(yǔ)義同時(shí)將實(shí)際的掃描輸出終點(diǎn)替換為下游硬化模塊或內(nèi)存緩沖。2. 核心細(xì)節(jié)解析與驅(qū)動(dòng)側(cè)實(shí)現(xiàn)要點(diǎn)2.1 內(nèi)核側(cè)Tegra DRM 與虛擬 channel 的掛載方式先從內(nèi)核角度看。Jetson LinuxL4T的顯示驅(qū)動(dòng)主要文件在drivers/gpu/drm/tegra/上游內(nèi)核的 tegra-drm和 NVIDIA 自己維護(hù)的nvidia-oot內(nèi)核模塊常見(jiàn)路徑/usr/src/nvidia/nvidia-oot/drivers/video/tegra/dc/。Virtual Channel 的實(shí)現(xiàn)集中在 NVIDIA 的 out-of-tree 驅(qū)動(dòng)里上游主線 tegra-drm 是不包含完整虛擬通道邏輯的。關(guān)鍵節(jié)點(diǎn)tegra_dc模塊負(fù)責(zé) display controller 的初始化、模式設(shè)置、plane 管理。tegra_dc_ext這是 NVIDIA 特有的擴(kuò)展接口用戶態(tài)nvdisplay/libdrm通過(guò)它訪問(wèn)擴(kuò)展能力包括 virtual channel 的創(chuàng)建、屬性設(shè)置、buffer 導(dǎo)入導(dǎo)出。nvdisplay設(shè)備節(jié)點(diǎn)通常是/dev/nvdisp這樣的字符設(shè)備配合/dev/dri/card0使用。NVIDIA 用戶態(tài)棧libnvrm、libnvbuf_utils和它交互完成 buffer 的分配、映射、轉(zhuǎn)為 dma-buf。一個(gè) Virtual Channel 在驅(qū)動(dòng)里通常對(duì)應(yīng)一個(gè)struct tegra_dc_ext_virtual_channel名稱可能隨版本變化。創(chuàng)建時(shí)指定支持的顯示模式通常繼承自某個(gè)物理顯示器的 EDID或者手動(dòng)指定一個(gè) mode使用的 plane 數(shù)量是否啟用 CRC 校驗(yàn)用于調(diào)試是否綁定到某個(gè)下游消費(fèi)者。從設(shè)備樹角度你會(huì)在 DT 里看到類似這樣的節(jié)點(diǎn)示意實(shí)際以 JetPack 對(duì)應(yīng) BSP 為準(zhǔn)display15200000 { compatible nvidia,tegra194-dc; nvidia,dc-ext tegra_dc_ext; nvidia,enable-virtual-channel; nvidia,dc-virtual-channels 8; /* 最大虛擬通道數(shù) */ }; tegra_dc_ext { compatible nvidia,tegra-dc-ext; nvidia,dc-ext-virtual-channel; };在內(nèi)核啟動(dòng)日志里如果你看到類似tegra-dc-ext: virtual channel 0 created這樣的輸出說(shuō)明驅(qū)動(dòng)已經(jīng)在初始化時(shí)把虛擬通道建好了。注意不同 L4T 版本的啟動(dòng)日志格式不一樣有的版本不會(huì)顯式打印需要靠調(diào)試節(jié)點(diǎn)確認(rèn)。2.2 用戶態(tài)可以看到什么對(duì)于應(yīng)用層來(lái)說(shuō)Virtual Channel 最直觀的表現(xiàn)是modetest或drm_info里出現(xiàn)額外的 connector。我自己的 Orin NX 上接了一個(gè) HDMI 顯示器之后modetest的輸出大致是Connector 0HDMI-A-1物理Connector 1Virtual-0虛擬通道 0Connector 2Virtual-1虛擬通道 1每個(gè) Virtual connector 都帶自己的 modes 列表。默認(rèn)情況下NVIDIA 驅(qū)動(dòng)會(huì)根據(jù)物理顯示器的 EDID 克隆一份可用的 mode 列表給虛擬通道保證格式對(duì)齊。如果你需要自定義分辨率比如讓虛擬通道輸出 1920x108030 但物理屏是 4K60需要用drmModeCreatePropertyBlob設(shè)置一個(gè)自定義 mode。用戶態(tài)程序操作虛擬通道和操作物理顯示器的區(qū)別在于要顯式指定 connector/encoder 的 type。舉個(gè)例子如果用 DRM 原生命令直接設(shè)置drmModeConnector *connector drmModeGetConnector(fd, connector_id); /* 手動(dòng)選擇一個(gè)虛擬 connector然后正常 SetCrtc 就行 */ drmModeSetCrtc(fd, crtc_id, fb_id, 0, 0, connector-connector_id, 1, mode);但我不推薦直接用 libdrm 裸寫因?yàn)?Jetson 提供了更順手的封裝接口。后面實(shí)操部分會(huì)詳細(xì)講。2.3 數(shù)據(jù)流的完整鏈路從渲染到輸出一個(gè) Virtual Channel 的典型數(shù)據(jù)流是這樣的應(yīng)用創(chuàng)建 EGL surface使用EGL_NV_stream_consumer_eglimage或EGL_KHR_gl_colorspace擴(kuò)展把渲染目標(biāo)綁定到 dma-buf。dma-buf 導(dǎo)入到 DRM framebufferdrmModeAddFB2WithModifiers然后 commit 到某個(gè) virtual channel 的 CRTC。Tegra display controller 執(zhí)行合成把 plane 內(nèi)容寫到指定的內(nèi)存地址而不是物理顯示接口的 scanout FIFO。用戶態(tài)再通過(guò)NvVideoEncoder/NvMedia把這塊內(nèi)存當(dāng)作輸入源做硬件編碼或者通過(guò)libnvbuf_utils導(dǎo)出給其他進(jìn)程使用。這里最核心的優(yōu)化點(diǎn)是第 3 步合成后的輸出直接進(jìn)入 NVMM 管理的 memory pool后續(xù)編碼器拿到的就是連續(xù)物理內(nèi)存映射避免了 CPU 拷貝和格式轉(zhuǎn)換。如果你只需要“在無(wú)物理顯示器的情況下讓 EGL 跑起來(lái)”其實(shí) Virtual Channel 不是唯一選擇NVIDIA 還提供了 headless EGL 模式選 EGL platform 為 headless。但它勝在提供了完整的 DRM modeset 語(yǔ)義下游工具鏈如 GStreamer 的drmvideosink能直接工作。3. 實(shí)操過(guò)程與核心環(huán)節(jié)實(shí)現(xiàn)3.1 環(huán)境準(zhǔn)備與版本確認(rèn)先看一下自己手上的環(huán)境確保走通這條路。我實(shí)機(jī)的系統(tǒng)信息硬件Nvidia Jetson Orin NX 16GB 開發(fā)套件JetPack5.1.2對(duì)應(yīng) L4T 35.4.1內(nèi)核5.10.120-tegraNVIDIA 維護(hù)分支rootfsUbuntu 20.04 aarch64重要用戶態(tài)包libdrm、libnvbuf-utils、libnvmedia、nvidia-l4t-core用下面命令確認(rèn)關(guān)鍵組件在不在dpkg -l | grep -E libnvbuf|nvidia-l4t-core|libdrm ls /dev/dri/ ls /dev/nvdisp*如果/dev/dri/card0存在說(shuō)明 tegra-drm 已經(jīng)加載。/dev/nvdisp是 NVIDIA 擴(kuò)展接口沒(méi)有它Virtual Channel 基本玩不轉(zhuǎn)。JetPack 默認(rèn)帶了的如果你用的是自定義內(nèi)核可能沒(méi)有編譯tegra_dc_ext就得重新配內(nèi)核選項(xiàng)。3.2 用 modetest 確認(rèn)虛擬通道是否可用我建議第一步先用 libdrm 自帶的工具驗(yàn)證。JetPack 里沒(méi)預(yù)裝 modetest需要自己裝 libdrm-tests。sudo apt install libdrm-tests modetest -M tegra -p如果屏幕輸出里能看到多個(gè) connector包括一個(gè) HDMI 和幾個(gè) Virtual說(shuō)明內(nèi)核側(cè)已經(jīng)創(chuàng)建好了。如果沒(méi)有看到虛擬 connector可以看看內(nèi)核模塊加載參數(shù)。NVIDIA 的 tegra-dc-ext 默認(rèn)就會(huì)創(chuàng)建但有的 BSP 配置里虛擬通道數(shù)量由設(shè)備樹nvidia,dc-virtual-channels決定0就表示禁用。這種就得改 DT overlay 重新編譯比較麻煩一般到手版本不會(huì)禁。3.3 創(chuàng)建并配置一個(gè) Virtual Channel我實(shí)際踩過(guò)的場(chǎng)景需要把 1280x72030 的虛擬顯示內(nèi)容送進(jìn) H.264 編碼器推給遠(yuǎn)端的 WebRTC 客戶端。3.3.1 方案 A用 NvDisplay EGL 的官方路徑推薦這是我認(rèn)為最穩(wěn)定、最少踩坑的方式打開/dev/nvdisp通過(guò)NvDisplayGetVirtualChannelConfig查詢當(dāng)前虛擬通道能力。用NvDisplayCreateVirtualChannel創(chuàng)建一條通道指定 mode 數(shù)組和 plane 屬性。拿到通道 id 后通過(guò)NvDisplayFillAttributes設(shè)置NvDisplayAttributeVirtualChannelOutput為NV_DISPLAY_OUTPUT_VIRTUAL_CHANNEL。用 EGL Stream 的方式關(guān)聯(lián) bufferEGL_NV_stream_attrib、EGL_NV_output_drm_flip_event。渲染完成后調(diào)用NvDisplayFlip讓虛擬通道完成一次 page flip。這個(gè)路徑比較長(zhǎng)而且 NVIDIA 部分頭文件在新版 SDK 里已經(jīng)不在公開目錄了。我的建議是直接用官方 sample 里的eglstream_kms示例改造別自己從頭調(diào)。3.3.2 方案 B直接操作 DRM適合快速驗(yàn)證如果你想快速驗(yàn)證虛擬通道能不能出圖可以寫一個(gè)極簡(jiǎn) C 程序用libdrm的 API 直接設(shè) modeint fd open(/dev/dri/card0, O_RDWR); drmModeRes *res drmModeGetResources(fd); /* 遍歷找出 type DRM_MODE_CONNECTOR_VIRTUAL 的 connector */ /* 找到對(duì)應(yīng) crtc、encoder創(chuàng)建 framebuffer然后 drmModeSetCrtc */但要注意直接 DRM SetCrtc 到虛擬通道之后數(shù)據(jù)流向哪里取決于你之后怎么消費(fèi)這塊 framebuffer。如果你只是 SetCrtc 而不做其他操作內(nèi)容就“消失”了——它沒(méi)有一個(gè)物理面板幫你顯示出來(lái)。這就是為什么真正項(xiàng)目里一定要配合 NVMM/NvMedia 把這塊內(nèi)容喂給編碼器。3.4 無(wú)頭模式下讓 GPU/EGL 正常工作如果你的應(yīng)用只需要跑 GPU 推理或虛擬渲染不需要真的輸出到屏幕可以在不創(chuàng)建虛擬通道的情況下用 headless EGLexport __GL_EGL_PLATFORMegl_platform_headless export EGL_PLATFORMheadless然后程序里選EGL_PLATFORM_HEADLESS_EXT創(chuàng)建 display。這種方式創(chuàng)建的 surface 其實(shí)用的是 GPU 渲染目標(biāo)和 display controller 無(wú)關(guān)。好處是極其輕量壞處是無(wú)法被 Video Encoder 作為“屏幕內(nèi)容”直接抓取。所以它適合做渲染計(jì)算不適合做“虛擬屏編碼”這種場(chǎng)景。3.5 與編碼器對(duì)接把虛擬通道內(nèi)容變成視頻流這是我最初踩坑最多的地方。直接說(shuō)最終可用的鏈路我用的是 GStreamer 方案先創(chuàng)建一個(gè)虛擬通道m(xù)ode 設(shè)為 1280x72030。讓應(yīng)用把畫面渲染到這個(gè)通道的 dma-buf 上。用nvvidconv或nvcompositor從 DRM 導(dǎo)入 buffer轉(zhuǎn)成 NVMM 格式。交給nvv4l2h264enc硬編。偽代碼命令gst-launch-1.0 \ drmvideosink namevsink \ vsink::connector-id2 \ vsink::mode1280x720x30 ! \ nvvidconv ! \ video/x-raw(memory:NVMM),formatI420 ! \ nvv4l2h264enc bitrate4000000 ! \ h264parse ! \ rtph264pay ! \ udpsink host192.168.1.100 port5000這里connector-id2是我板上虛擬通道對(duì)應(yīng)的 DRM connector id用 modetest 查到。這樣的好處是不用寫一行代碼整個(gè)鏈路用標(biāo)準(zhǔn)工具就打通了。踩坑點(diǎn)connector-id 不穩(wěn)地不同啟動(dòng)順序和物理屏接插情況會(huì)變正式項(xiàng)目里要通過(guò) name 匹配或者 udev 動(dòng)態(tài)發(fā)現(xiàn)不要硬編碼。3.6 容器里的虛擬通道透?jìng)骰氐轿易畛醯膱?chǎng)景多容器并發(fā)每個(gè)容器都需要自己的“顯示器”。這種場(chǎng)景下容器不能共享同一個(gè) DRM 設(shè)備節(jié)點(diǎn)會(huì)互相搶 modeset需要把虛擬通道當(dāng)作獨(dú)立設(shè)備透?jìng)鹘o某個(gè)容器。實(shí)際操作中我為每個(gè)容器分配一個(gè)獨(dú)立的/dev/dri/card0 通過(guò)--device透?jìng)鲗?duì)應(yīng)的/dev/nvdispN如果驅(qū)動(dòng)把虛擬通道導(dǎo)出為獨(dú)立設(shè)備的話然后在容器里設(shè)置LD_LIBRARY_PATH指向帶有 NVIDIA 用戶態(tài)驅(qū)動(dòng)的 rootfs 路徑。容器內(nèi)運(yùn)行后用modetest驗(yàn)證每個(gè)容器只能看到自己那一條虛擬通道。這樣多容器之間互不感知資源隔離就做到了。注意不要直接透?jìng)髡麄€(gè)/dev/nvhost-*設(shè)備組那是 GPU 算力的通道和顯示虛擬通道不是一回事透?jìng)魈謺?huì)導(dǎo)致其他容器無(wú)法使用 GPU 計(jì)算。4. 常見(jiàn)問(wèn)題與排查技巧實(shí)錄我把自己的記錄和社區(qū)里收集到的高頻問(wèn)題整理成了一張速查表遇到問(wèn)題先對(duì)號(hào)入座。現(xiàn)象可能原因解決方案modetest 里只有一個(gè)物理 HDMI沒(méi)有 Virtual connector設(shè)備樹中 virtual channel 數(shù)量為 0驅(qū)動(dòng)未加載 tegra-dc-ext用cat /proc/device-tree/display.../nvidia,dc-virtual-channels看數(shù)值檢查內(nèi)核模塊tegra_dc_ext是否加載設(shè)完 virtual channel mode 后畫面不“出現(xiàn)”virtual channel 默認(rèn)不連接物理輸出數(shù)據(jù)停在內(nèi)存里確認(rèn)是否有下游消費(fèi)者編碼器/NvMedia讀取該 buffer或者用nvdisp的 debugfs 抓取內(nèi)容驗(yàn)證EGL surface 創(chuàng)建失敗返回EGL_BAD_ALLOC虛擬通道使用的 buffer 格式或 modifiers 不被 display controller 支持或者分配給該通道的內(nèi)存不足用modetest -M tegra -e查 driver 支持的 modifiers分配內(nèi)存時(shí)盡量用 NVMM 內(nèi)存如NvBufferCreate同一個(gè)進(jìn)程多次 SetCrtc 到不同虛擬通道時(shí)報(bào)Permission deniedDRM master 權(quán)限問(wèn)題進(jìn)程沒(méi)有拿到 master 權(quán)限在進(jìn)程內(nèi)調(diào)用drmSetMaster(fd)容器里需要CAP_SYS_ADMIN或用--cap-addSYS_ADMINGStreamer 視頻流出來(lái)是黑屏但 dmesg 無(wú)報(bào)錯(cuò)渲染未執(zhí)行 page flip或者 plane/CRTC 關(guān)聯(lián)錯(cuò)誤檢查應(yīng)用是否調(diào)用了drmModePageFlip/NvDisplayFlip用drmvideosink時(shí)確認(rèn) connector 屬于 Virtual 類型虛擬通道數(shù)量不夠用每個(gè)虛擬通道均需占用 display controller 的帶寬/plane 資源降低每個(gè)通道的分辨率或幀率釋放不再使用的虛擬通道NvDisplayDestroyVirtualChannel物理顯示輸出與虛擬通道同時(shí)使用時(shí)性能下降display controller 的總帶寬限制用/sys/kernel/debug/nvdisp/...查看帶寬占用適當(dāng)降低某個(gè)通道的刷新率排查過(guò)程中我經(jīng)常用到的幾個(gè)調(diào)試手段dmesg | grep -i virtual看內(nèi)核側(cè)通道創(chuàng)建/銷毀日志。cat /sys/kernel/debug/dri/0/state如果內(nèi)核有 debugfs 支持能看到每個(gè) CRTC/plane 的 commit 狀態(tài)。/sys/kernel/debug/nvdisp/目錄NVIDIA 提供的顯示子系統(tǒng)帶 debugfs里面有 per-channel 的 buffer 地址和中斷計(jì)數(shù)。不只有它的顯示子系統(tǒng)這對(duì)定位“是否真的 flip 了”非常關(guān)鍵。提示不同 JetPack 版本的 debugfs 路徑有所變化建議先ls /sys/kernel/debug/ | grep -i nv看看實(shí)際位置。5. 一個(gè)完整可復(fù)現(xiàn)的最小示例這里我提供一個(gè)最小 C 程序完成“創(chuàng)建虛擬通道 → 填色 → page flip → 導(dǎo)出 buffer 給編碼器”的骨架。代碼基于 NVIDIA 公開 API但做了精簡(jiǎn)。在實(shí)際項(xiàng)目中你可以用這個(gè)骨架驗(yàn)證硬件鏈路再往上加自己的渲染邏輯。#include stdio.h #include stdlib.h #include string.h #include fcntl.h #include unistd.h #include sys/ioctl.h #include nvbuf_utils.h #include nvdisplay.h int main() { int disp_fd open(/dev/nvdisp0, O_RDWR); if (disp_fd 0) { perror(open nvdisp); return -1; } NvDisplayVirtualChannelConfig vc_cfg; memset(vc_cfg, 0, sizeof(vc_cfg)); vc_cfg.channel_index 0; vc_cfg.width 1280; vc_cfg.height 720; vc_cfg.bits_per_pixel 32; vc_cfg.double_buffered 1; int ret NvDisplayCreateVirtualChannel(disp_fd, vc_cfg); if (ret 0) { fprintf(stderr, CreateVirtualChannel failed: %d\n, ret); return -1; } /* 分配 NVMM buffer 作為 framebuffer 內(nèi)存 */ int buffer_fd -1; ret NvBufferCreate(buffer_fd, 1280*4, 720*4, NvBufferColorFormat_ABGR32, NvBufferLayout_Pitch, NvBufferMemKind_Default); if (ret ! 0) { perror(NvBufferCreate); return -1; } gst_buffer_set_metadata... /* 實(shí)際項(xiàng)目里把 buffer 傳給編碼器或顯示 */ /* 這里省略實(shí)際的 fill color 和 blit 步驟 */ NvDisplayFlip(disp_fd, vc_cfg.channel_index, buffer_fd, NV_DISPLAY_FLIP_SYNC, 0); usleep(30000); NvDisplayDestroyVirtualChannel(disp_fd, vc_cfg.channel_index); NvBufferDestroy(buffer_fd); close(disp_fd); return 0; }這段代碼不是完整可編譯版本但把三個(gè)關(guān)鍵節(jié)點(diǎn)串起來(lái)了創(chuàng)建通道、分配 buffer、提交 flip。實(shí)際項(xiàng)目里buffer 的填充是通過(guò) CUDA/OpenGL 完成的flip 的語(yǔ)義則是告訴 display controller“這塊 buffer 已經(jīng)是合成后的最終結(jié)果”之后下游硬件就從這塊 buffer 讀取數(shù)據(jù)。還有一件事必須提醒NvDisplayFlip的最后一個(gè)參數(shù)是syncpt_fd或者syncpoint id用來(lái)做同步。多通道并行時(shí)如果不同步會(huì)出現(xiàn)畫面撕裂或編碼器取到半幀的情況。Jetson 上標(biāo)準(zhǔn)做法是用NvDrmSyncpointCreate或NvBufferSyncFd獲取 fence。6. 踩坑復(fù)盤與我的最終建議做虛擬通道這段時(shí)間我印象最深的坑有兩個(gè)第一個(gè)是把 Virtual Channel 和物理顯示混在一個(gè) atomic commit 里提交通道。早期版本 tegra-drm 對(duì)混用支持不夠好一個(gè)進(jìn)程同時(shí) bind 虛擬 connector 和物理 connectorcommit 時(shí)容易出現(xiàn)-EINVAL。解決辦法是把它當(dāng)作兩個(gè)獨(dú)立的 DRM pipelines 來(lái)管理不要在一個(gè) atomic state 中混合操作。第二個(gè)是用戶態(tài)庫(kù)版本不匹配。Jetson 的 libdrm 是 NVIDIA 自己 patch 過(guò)的使用其他來(lái)源的 libdrm 很可能缺了tegradriver 的 private ioctl。如果你在自定義 rootfs 上搞一定要用 JetPack 自帶的 libdrm不要用apt install libdrm-dev覆蓋掉。如果你只是做常規(guī)開發(fā)我建議按這個(gè)優(yōu)先級(jí)選方案只需要 GPU 計(jì)算不需要顯示直接用 headless EGL。需要虛擬屏且要編碼推流直接用 GStreamer 的drmvideosinknvv4l2h264enc配置里指到虛擬 connector。需要在容器里做多路獨(dú)立顯示給每個(gè)容器單獨(dú)透?jìng)魈摂M通道并在容器內(nèi)用官方 NvDisplay 庫(kù)管理。只有萬(wàn)不得已才去直接調(diào)底層 DRM ioctl。因?yàn)?NVIDIA 的私有擴(kuò)展接口變化較大維護(hù)成本高。最后分享一個(gè)小技巧如果你在/dev/dri/card0之外還看到了/dev/dri/card1別先入為主以為一定是獨(dú)立顯卡。在部分 JetPack 版本里card1就是 Virtual Channel 用戶態(tài)的映射節(jié)點(diǎn)。把它當(dāng)成普通 DRM 設(shè)備去打開能省掉很多“找不到設(shè)備”的煩惱。這套架構(gòu)整體不復(fù)雜但涉及的面比較廣內(nèi)核驅(qū)動(dòng)、顯示控制器、DRM、EGL、NVMM、容器任一層面的版本不一致都會(huì)引發(fā)奇怪問(wèn)題。建議拿到板子先做一次最小鏈路驗(yàn)證把“虛擬通道 → 編碼器 → 網(wǎng)絡(luò)推流”跑通再往上加業(yè)務(wù)邏輯能省下好幾天的聯(lián)調(diào)時(shí)間。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
91亚洲人电影| 99精品热| 丝袜制服字幕在线| 97在线精品观看视频| 亚洲情色一区三区| 国产精品熟女九色九色蜜臀| 密臀在线一区尤物| 艾草av| 亚洲精品白浆高清久久久久久 | 天天影视之亚洲综合网| 日韩一级免费性爱| 亚洲人成网站7777| 欧美另类综合久久| 欧美黑人与女人91| 97欧美精品综合| 午夜高清成人在线视频| 亚洲欧美第一页| 67914在线精品观看| 婷婷激情五月天小说网| 亚洲国产精品无石码久久 | 欧美少妇高潮视频| 中文字幕一区二区三区人妻少妇在线| 伊人色综合网电影| 狠狠色狠狠色狠狠五月| 五月天啪啪| 蜜臀AV秘一区翔田千里| 97视频免费在线| 水澄无码AV| 国产第12页| 大香蕉伊人网| 大学生美女口爆| k频道色撸撸| av优播| 高清国产av无码| 日韩性爱长视频免费| 78超碰| 亚洲综合夜色| 玖玖综合色| 国产熟女少妇一区| 欧美永久激情一区二区| 情色五月天网| 97伪v| 久久97资源 网| 爱爱60秒免费视频| 亚州色站 日韩电影| 日韩性色b| 求求你操操我| 久久9 9 9精品| 国产三级电影免费观看| 97资源超碰| 99免费视频| 午夜欧美女人操逼| 日韩草久视频| 亚州色站 日韩电影| 欧美熟女丝袜| 欧美中文狠| 淫色网综合| 国产60区。| 色网综合网| 91欧美少妇| 亚热日本熟女| 精品免费视频国产一区| a片久久久久久久久久久久| 精品久久久久久久| 3d成人精品一区二区| 久久露脸国产老熟女| 91人妻素女| 亚洲啪啪性视频| 色五91| 91熟女综合| 国内精品不卡无毒99999| 亚洲熟女乱熟乱熟妇综合网二区| 国产熟码AV| 无码人妻精品酒店| 亚洲欧美电影| 在线看片国产精品每日更新| 啊啊啊不要好疼视频| 国产成人AV麻豆| 粉嫩av一区二区三区四季| 91久久国外网| 蜜臀久久99精品久久久久久无删减 | 99热免费| 国产精品色| 亚洲精品久久久久久| 日日不卡av| 97爱综合| 亚洲无码久久久久久久| 黑人中出21连凳花野真衣| 天天影视之亚洲综合网| 亚洲字幕一区二区| 精品久久久亚洲AV成人网站| 桃色六月天| 久久久久女教师免费一区| 大香蕉视频啪啪啪啪| 超碰碰97资源站| 国产99精品一区二区三区免费| 日日夜夜干| 亭亭在线资源| 亚洲国产尤物yw在线观看| 色伊人91| 嗯啊抽插大香蕉网页| 日美免费黄片| 亚洲天堂电影网99999| 日韩成人私密一级精品av| 天天爽人人综合免费7799| 屌逼麻豆| 小骚逼被操的爽不爽| 深喉吞精| 2020中文字幕| 午夜男女爽爽爽影院视频| 一区操逼日比视频| 精品一久久久| 九九视频黄色片| 亚洲国产一区二区三区在线| 夫妻天天操岛国视频| 亚欧毛片基地国产毛片基地| 麻豆天美久久91| 爱爱啊啊啊| 日韩乱码Av| 亚洲无无码αⅴ每日更新| 啪啪视频mP4| 成人一级二级| 超碰在线成人| 97日韩| www九九热| 97亚洲自在精品在线观看| 91色亚洲| 中文字幕天堂在线| 2025亚洲男人天堂| 色网1| 天天色播亚洲综合网站| 97精品中文字幕| 无码操逼网| 少妇色综合| 男女激情黄色网址| 婷婷10月天青娱乐| 天天欧美色| 日韩无码一级黄色av片| 五月天久久婷婷亚洲 | 91色交| 天天综合网~69| 国产熟妇 码视频户外直播| 东京热一区二区三区四区五区六区| 绯色一区二区三区不卡少妇| 天天日天天屌天天操| AV网站高清无码在线观看| 搡老熟女国产1000部| 国产精品亚洲一区二区三区四区| …亚洲黄色厕厕女女在线播…| 国产久久一区二区午夜| 五月婷婷六月丁香网址| 玖玖爱视频网站| 黄色AV影视| 亚洲啪AⅤ永久无码| 国产一| 丰满人妻一区二区三区免费,| 欧美不卡在线一区二区| 亚洲人在线成线成人| 天天谢天天干| 亚洲欧美精品久| 国内毛片欧美香蕉精品| 91劲爆| 欧美日不卡| 欧美老妇曰批的视频| 99re久久| 中文字幕精品专区搜索结果91| 五月综合色| 99久久精品无码一区二区毛片免费| 玖玖超碰熟| 国产精品天美传媒| 免费看久久久性性| 国产一区自拍欧美日韩| 91丨精品丨国产丨丝袜| 久视频在线观看| 特级丰满少妇一级AAAA爱毛片| 麻豆区久久久久亚| 精品国产一区二区三区久久久蜜臀| 天天视频综合在线观看视频| 一区AV| 欧美成人贴图| 熟妇激情| 99热导航| 青娱乐亚洲热| 亚洲人妻一区二区三区| 亚洲国产日韩欧美熟妇在线| 国产精品久久成人免费| 日韩性爱高清免费视频| 约操熟妇| 欧美黄色大片在线观看| 精品国模无码| 国产精品亚洲天堂网址| PMv在线观看| 欧美大片91| 91女日逼| 91日产桃蜜| 另类欧美综合| 欧洲精品二区| 91欧美亚洲| 97Ai亚洲| 伊人网在线视频| 久久9精品视频| 麻豆国产尤物AV| 综合婷婷| 国产无马视频| 色噜噜人妻丝袜a∨先锋影| 日va操| 波多野结衣先锋影音| 成人26uuu| 亚洲精品久久久久毛片A片拉屎| 久艹99| 亚洲不卡一| 一区二区三区四区在线不卡| 精品视频久久区| 欧美色综合图片| 99re在线视频| 超碰97综合网| 亚洲 在线| 97超碰碰| 成年女人黄网站| 顶级丝袜熟女一区二区三区| 亚洲天堂 视频你懂的| 婷婷伊人网| 99热精品在线在线| 91成人国产综合久久精品蜜月| av在线人气| 久久一留热品黄| 久草精品一区 | 亚洲国产一区二区日韩专区| 日韩成人精品视频自拍| 99性视频| 久久九七| 欧美综合传媒| 好属操| 精品美女久久久久| 国产精品探花视频| 暖暖精品二区三区观看| 色www精品视频在线观看| AV天黑人| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 中文字幕在线2| 欧美精品三区| 伊人久久大香线蕉无码| 另类在线| 操b网站亚洲无码| 亚洲影视第一页| 91精品人妻一区二区三区蜜桃| 色婷婷国产精品一区在线观看| 视频国产成人精品日本亚洲18| 欧美一区二区三区互相| 欧亚性爱视频免费看| 精品国产乱码久久久久久久久1 | 亚洲狠狠入| 17c嫩草51久久91嫩草| 粉嫩av久久一区二区三区| 欧美日韩操逼嗦吊| 久久m| 超碰97综合| 少妇干B| 久久嫩草国产成人一区| 91美女视频。| 久热香蕉精品在线视频| 操学生天天| 亚洲丝袜少妇在线| 青青操狠狠撩| 天天综合网1| 亚洲欧洲激情卡通另类文学四射小说网站 | 一本大道不卡一二三区| 91爽啪| av草草在线电影| 飘花国产午夜精品不卡| 熟女啪啪视频| 天天综合中文字幕 91| 国产精品久久久久久久毛片1| 日韩人妻资源网| 久草老司机| 欧美一区二区福利在线| 96免费视频在线| 久操97| 91超级碰| 久久久97| 日本特黄f c2| 综合久久97| 激情六月天| 超碰色大香蕉| 色99在线| 精品免费成人久久| 免费试看60秒| 伊人AAA| 色区97| 欧美性爱另类综合| 欧美丝袜91| 综合色色网| 久久久无码精品人妻二区| 嫩草影院性色| 一区二区不卡免费| 在线啊v一区| 99蜜月精品久久| 极品尤物女神在线观看| 91精品婷婷国产综合久久| 操逼国产免费| 五月丁香六月激情综合| A级国产欧美激情在线| 97操B| 伊人女女资源在线观看| 久久久免费高清中文视频| 国岛片视频| 97久久国产亚洲精品超碰热| 国产精品久久久久久久久AV大片| 51一区二区三区| 三级三久久线久久99久目本WW| 亚洲 欧美 日本 国内 首页| 夂久色| 久久精品国产亚洲AV清纯| 一区二区三区网站日日骚| 国产粉嫩蜜臀av一区二区三区 | 超碰色美女| 亚洲日韩精品在线播放| 天天cao在线| 美女超碰978| 激情天天视频| 天天操天天看| 欧美日韩性感| 亚欧日韩成人| 欧美天天射| 久插综合| 五月天激情四射| 欧美色欧美| 亚洲精品国产av天美传媒| 蜜臀操逼黄色视频操的好爽| 91丝袜视频在线观看| 午夜久久一区二区无码中出| 日本三级日本三级99| 欧美综合网| 色天堂在线观看| 国产免费久久久久| 91人妻精华帖| 大学生美女口爆| 韩国嫰模上门援交视频| 日本天堂网| 婷婷丁香成人| 日韩色欲久久一二三四区| 一本久久久精品| 亚洲限制级在线| 留下AⅤ黄色片| 操b在线观看| 超碰人人干天天射| 91超碰碰在线| 第四色亚洲色图| 综合久| 久久精品国产亚洲AV高清演员表| 四虎在线视频| 97 国产精品| 久久夜夜夜夜| 大香蕉伊人亚洲| 亚洲免费看片| 蜜臀va69| 欧美日韩999| 五月婷婷丁香六月丁香| 97视频在线播放| 欧洲自拍第一页| 日韩电影天堂视频一区二区| 嗯嗯嗯啊啊啊在线免费观看| 欧美亚洲综合色| 国产激情在线| 日韩欧美字幕亚洲一区二区| 日韩在线观看字幕精品| 久久久久久亚洲中文| 日本孕妇一区二区视频操逼免费看| 黑人综合色| 欧美视频激情久久久久久| 色婷婷综合久久久久中文一区二区| 国产激情久久久| 久久久精品视频免费观看| 亚洲色图尤物视频| 黄片qw| 超碰91在线| 国产成人五月天丁香花| 欧美性性性| 在线洲亚线| 91在线一起| 我想要啊 啊 啊| 日韩无码AB| 伊人久久久日韩一区| 日本九九久久99播| 高潮嗯啊性感美女久久久| 熟妇亚洲一区二区三区| 91撸色网 玖玖网 欧美| 蜜臀无码视频在线观看| 亚洲精品人体| 美女天天干| 欧美18 在线观看| 国产精品麻豆成人av| 性爱视频免费网址| 成人八戒网站| 丰满的三级少妇欧美久久久| 99婷婷| 艳美熟妇先锋一二三区| 久久超碰亚洲人| 屌妞视频久久久久久久久久久久| 最新av在线| 啊啊啊慢点| 性感美女啊啊啊在线| 少妇蹲下买菜露大唇0| 91高清日| 中文字幕一区二区视频在线观看| V A在线| 欧美精品久久久久久久丰满| 国产亚洲中文不卡二区| 婷婷99狠狠躁天天躁| 色香阁在线| 亚洲中文电影| 熟妇人妻一二三区免费| 日本精品一级二级三级| 精品午夜福利国产一区二区在线观看| 日韩欧美一级特黄大片| 日韩人体偷拍| 中出在线视频| 囯戸精品高潮呻吟旡码| 婷婷色综合| 久久亚洲人妻| 国产精品久久久久久久久久久久久久吹 | 97日视频| 黄页| 午夜偷拍久久熟女| 97午夜剧场日韩| 天天射夜夜| 蜜臀久久99精品久久久| AA特级绝黄| 91色女| 91精品少妇搡搡搡| 韩国手机不卡无码三级视频| 狠狠五月天| 欧洲与亚洲欧美精品中文字幕| 日韩精品人妻中文字幕不卡乱码| 自拍偷拍国产欧美日韩韩| 黄aaaaaaaaaaaaaaaaaa色网站| 亚洲美乱| 欧美日本不卡在线| AV网站高清无码在线观看| 熟女人妻av在线资源,黄色的资源| 久久一本大香蕉| 91无遮挡| www.超碰| 欧美精品激情| 91在线精品| 亚洲AV无码久久精品蜜桃小说| 久久精品电影在线| 国产精品老师| 亚洲精品国产拍免费91在线| 日韩亚洲国产视频| 一区二区三区蜜桃成人撸久久东京热 | 欧美成人精品欧美一级乱黄一区二…| 色呦呦呦在线观看视频| 久久亚洲人妻| 中文字幕日韩精品久久| 性感女人网页在线观看视频| 校园春色AV天堂| 人妻精品视频一区二区| 涩亚洲欧洲| www.大香| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 色成人Www精品永久观看| 欧美激情欧美精品| 日韩极品无码B| 亚洲熟女综合| 中文字幕一二区二三区人妻专区| 久久久久久大| 日韩簧片免费看| 中文字幕人妻色偷偷久久皮| 日韩性爱1级片视频| 绑缚麻绳人妻寝取完整版| 性饥渴少妇av无码毛片| 大香蕉宅男伊人| 国产又猛又粗又爽又黄| 91国产美女丝袜足交精品视频| 亚洲性爱成人| 日韩欧美资源| 亚洲第一无码播放立川理惠| 成人AV在线网站| 无码伊人久久大杳蕉中文无码| 97超碰国产亚洲精品| 亚洲av强奸乱伦| 亚洲小说视频| 色呦呦、国产精品| 免费精品中文字幕| 伊人午夜福利视频| 五月天婷婷综合网| 尹人免费观看视频在线| 91精品免费| 日本 欧美 国产一区| 99精品九九九九九九| 天无日色综合| 成全在线观看免费观看| 97视频在线免费| 五月天色图影视| 国产黄色在线播放观看| 一卡二卡三卡| 91AV老熟女视频| 欧美aa一级片| 精品人妻15区| 情色五月天久久久| 乱色视频中文字幕| 乱伦一二三| 97国产精品久久久久| www.狠狠操| 成人免费视瓶| 国产精品对白自产拍| 激情一区二区三区在线观看| 蜜乳Av成人片网站| 女优大全 - 91n| 操逼内射干逼白丝91| 俺去俺来也在线www| 人妻久久一区二区三区| 后入式视频国产自| 免费看毛片操穴| 精品无码不卡视频| 日本一区不卡| 九色 蝌蚪 熟女自| 天堂射| 国产乱码久久| 一起草精品人妻| 中日韩免费看男女操逼大全| 91久热| 素颜老阿姨乱情色| 操穴国产| 操操碰| 欧美成人AⅤ大片在线观看| 东京热男人天堂| 超碰 欧美| 精品97久久综合| 久久国色天香香蕉| 九九热精品| 免费啪啪一级视频| 精品成人无码| 精品国产av一区二区三区四区入口| 午夜福利一区二区三区四区五区色婷婷| 国产精品久久9| 欧美久热| 国产亚洲精品自在线亚洲情侣| AV在线性爱| 久久大黄片| 999国产精品999久久久久久| 九草九九九| 天天日天天屌天天操| 欧美成人亚洲精品| 天天日日日射| 在线 亚洲 网爆 自拍| 精品久久視頻在线| 91无人区卡一卡二卡三乱码入口最新版:能让用户有更多选择的选择-经典说说-爱 | 欧美人与动性人交a| 在线97视频| 综合久久2017| 人妻少妇久久中文字幕一区二区 麻豆| 黑丝制服中文字幕| 日本免费二区三区| 国产尤物在线三区| 午夜一区| 久久春色| 久久久久亚洲| 人人操人人色人人摸| JIZZJIZZ亚洲女人被躁| 三级日本一区二区三区| 男女猛烈无遮掩视频免费软件| 五月丁香黄色网| 国产精品无码成人精品| 免费看片黄| 大香蕉黄色一级片免费看| 国产成人精品必看 | 少妇诱惑视频| 色妇91| 日韩精品人妻中文字幕不卡乱码| 久久大香蕉97| 屁股久久久久久久| 人妻干天天| 色黄色美女大长腿午夜视频| 在线视频日韩欧美国产| 激情婷婷五月天| 神马福利久草| 欧美少妇高潮久久91| 91日日夜夜| 亚洲高清欧美总合| 影音先锋每日最新资源在线观看 | 欧美性色综合网| 亚av顶级裸体一区二区三区四区五区 | 江都AV在线| 9久精品视频在线观看| 人乳av| 中文久久久| 亚洲av综合色区图片亚洲| www.91理论| 一本久道久久综合狠狠爱| 婷婷五月天久久精品视频一区二区三区 | 高精欧美色| 无码人妻一区二区三区色欲aⅴ | 色综合20p| 99久在线精品99re8蜜桃| 一级毛片电影免费看| 日本一级婬片试看三分钟| 91日本在线观看| 久久熟妇五十路一区| 中出20p| 小说区 图片区色 综合区| 国产精品自在线发布| oumeisetu综合| 夜夜免费视频| 欧美爆乳精品一区二区| 激情小说五月天| 亚洲和欧美裸体美女双飞视频| 中文字幕黄色一起草| 99视频这有这里有精品| 午夜天堂精品久久久久91| 樱花草社区www中国| 色综合天天爱去电影网| 亚洲成熟国产精品美女| 美女高潮视频91| 欧美性夜| 亚洲无码一区二区三区三州| 玖玖爱一区在线| 天天插网| Julia在线播放亚洲久久| 长久操视频| 日韩免费看在线黄色片| 亚洲天堂性爱| 久久久久久久唑| 欧美亚洲中文字幕| 超碰午夜| 国产精品呦一区二区三区| 欧美天天谢综合网| 欧美一级A一级a爱片久久| 五月色网| 欧美综合在线第一页| 久干9操| 久热久| 国产多人在线观看视频| 亚洲AV乱码专区国产噜噜亚洲| 爱逼综合| 91原创在线观看| 97视频免费播放| 大香蕉啪啪啪| 人妻丝袜二区| 欧美国产日韩清纯唯美| 78精品| 日本福利社| 欧美日韩亚洲天堂| 色嘟嘟人妻天堂网| site:sinbotex.com| 操操AV电影| 精品福利| 日韩二三区| 久久午夜鲁丝片| 夜夜狠狠躁日日躁色视频| 午夜国产成人精品视频| 亚洲一区二区三区麻豆传媒| 黄色免费一级在线毛片| 欧美色图天堂网m| 老子午夜伦不卡影院| 91在线丝袜视频| 在线a v| 亚洲日韩97| 婷婷五月丁香五月| 91亚洲色图| 少妇同性| 秋霞蝌科网日本一区| 老鸭窝在线视频播放| 99热免费| ,成人免费啪啪视频| 欧美一区二区三区黄色影视| 日韩av一级黄片| 国内一级精品| 欧洲中文字幕| 亚洲 日韩 丝袜 熟女 变态| 中文字幕免费在线观看| 91亚州日韩高清| 在线观看高清AV| 久久婷婷苹果| 色91综合网| 中文自拍欧美影视| 一区二区中文| 黄久在线| 精品.99999| 国产色呦呦| 久久国产成人精品国产成人亚洲| 亚洲 欧美 另类 日韩 人妻一区| 国产精品无码AV网站| …亚洲黄色厕厕女女在线播…| 久久內射| 大香蕉伊人久久| 久久日韩精品一区二区| 黄色成年| 色网在线| 美女诱惑1区2区| 婷婷激情五月天小说网| 精品91日日夜夜超清资源| 素人无码中文字幕| 91亚·色| 97最新在线播放视频| 91久久免费视频互動交流| 后入综合久久| 密臀AV在线| 亚洲天堂,男人| 顶级丝袜熟女一区二区三区| 极品销魂美女一区二区| 中文字幕二区| 激情终合网| 美女尤物福利视频| 黄片www.| 免费精品人妻一区二区三| 无码人妻一区二区三区免费九色| 日日摸日日碰| 91精品人妻一区二区三区蜜桃臀| 99啪啪| 成人5码视频| 影音先锋日本乱伦| 香蕉视频欧美一卡二卡| 亚洲一区中文字幕| 伊人久久亚洲色欲综合网站 | 亚州色交| 婷婷午夜| 偷窥自拍亚洲天堂网爆| 亚洲AV性爱电影| 国产综合在线视频网站| 亚洲色图欧美一区二区不卡| 久久久久成人网| 日韩无码服务区| 囯产精品强| 亚洲色资源| 麻豆精品A片免费观看| 久热69九色熟妇97| 激激五月| www.97在线| 精品女人999| 日日日日日| 天天天天操| 六月激情网| 亚洲综合五月天婷婷丁香| 熟女乱伦二区| 久久久婷婷婷| 五月天社区| 九九碰九九爱97超碰| 日韩午夜啪啪视频| 久久综合婷婷| 久久精品国产精品亚洲艾通辽熟妇| av资源在线播放天堂| 中文字幕亚洲在线一区| 婷婷伊人网| 天天干天天干天天干| 欧美九9 9 9| 夂久色| 小草精彩毛片| 欧美老妇女内射网址| 啊啊啊好舒服好爽啊啊啊视频| 欧美 综合| 中国熟女网站| 欧美在线|亚洲| 欧美自拍网| 美女黄网| 日本三级A片网站com| 国产精品视频麻豆入口| 无码聚合| 久操综合在线| 区一二区日韩亚洲乱码av电影| 啊操爽品善一区二区三区| 精品久久九| 精品十八在线观看| 九九AV| 亚洲性爱免费电影| 91精品国产麻豆国产自产在| 超91综合网| 日韩美女高潮喷水视频| 中文字幕一品色图| 啊啊啊免费视频| 成 人片 黄色大片| 免费一级毛片在线视频观看| 淮穴色AV| 亚洲色图 图片| 91精品人妻一品二品三品| 麻豆国产97在线| 欧美人妻精品一区二区| 性吧在线视频| 久久99草| 另类图片天天影视| 欧美不卡二区| 91亚洲人电影| 97热视频在线观看| 99re免费| 全球成人中文在线| 欧美少妇一区二区三区| 肉丝中文无码高清| 欧美亚洲自拍另类人妻| 大伊香蕉在线视频免费| 国产乱婷婷精品二区三区| 骚货 中文字幕 av| 乱伦一二三区| 婷婷五月天色| 久久精品视频一区三区小泽玛利亚| JuliaAnn丝袜熟女系列| 美女极品一区二区三区| 丁香五月天婷婷姐| 九九九九九九综合| 乳欲人妻办公室奶水| 殴美牲| 亚欧美无遮挡| 久草国产在线视频| 在线97在线| 97这里只有精品| 狠狠色综合网| 九色 蝌蚪 熟女自| GVH-003 母子姦 青木玲-麻豆视频,麻豆视传媒短视频网站入口,麻豆视传媒官网直 | 色五月首页| 久久亚洲av成人无码国产| 国产一区麻豆免费观看| 91第一页| 午夜国产成人福利视频| 中文字幕78| 国产美女在线精品免费看| 九九在线精品| 99re这里只有精品2| 色嗨嗨在线| 精品人妻一区二区乱码一区二区| 亚洲影视综合| 九九99久久| 欧美亚州综合网图片| 免费精品人妻一区二区三| 欧美色图私拍91| 九色黄站| 色妹子A V| 欧亚日韩中文在线| 丰满人妻一区二区三区免费,| 国产熟女自拍| 天堂8在线新版官网| 精品少妇人妻| 日韩欧美字幕亚洲一区二区| 日本最新1区2区3区| 国产亚州高清国产拍精| 伊人视频| 久久HD| 大香蕉性欧美| 另类天堂| 白丝一区| 欧美狠狠弄| 韩国一级婬片A片无码天美 | 成人小说另类在线| 伊人久久国产免费观看视频| 黄色免费一级在线毛片| 美女裸体麻豆天美蜜桃91| 99久久精品欧美国产| 欧美成人色| 久久99午夜精品一区人妻| 欧美综合亚洲| 日本熟妇一区二区三区| 老熟妇乱轮| 国产精品。| 99久久精品无码一区二区| 丰满少妇精品一区二区| 超碰97起碰| 欧美精品久久久久久久丰满| 久久久男人的天堂| 色爱综合网| 九九综合九九综合| 美女干逼2| 色色五月丁香| 伊人影院日本| 少妇丝袜在线观看AV| 91丨九色丨大屁股| 国产主播福利| 久久久神马影院| 999在线电影香蕉| 第四色奇米影视777| AV天黑人| 97操97色| 亚洲精品亚洲人成在线麻豆| 91东北熟女| 欧美男人亚洲天堂| 涩涩五月天| 人妻丰满熟妇一区二区三| 人人妻人人色一区二区三区| JULIA人妻风俗店中出电影| 精品久久久久久中文| 久久东京热久久| 97视频www| 蜜桃久久综合视频| 久久综合资源一区二区| 午夜欧美精品久久久| 久草资源在线视频官方总站日韩丝袜美腿 | 另类视频在线| 天天做日日做| 亚洲成人贴图| 午夜精品人妻二区三区| 青青草原人妻| 超碰人人超在线观看| 极品销魂美女一区二区| 久久激情视频| 精品美女少妇一区二区三区| 能看的av| 国产AV高清AV无码| 亚洲精品乱码线路中文字幕| 欧美熟妇精品黑人巨大91| 欲射影视| 密臀在线免费观看| 九九在线视频| 久久久成人国产精品无码| 最近2018中文字幕在线高清第一页| 熟女一区二区三区四区| 久久精品视频在线观看| 91熟女熟妇视频网站| 久久欧美性爱视频| 在线a v| 74成人在线| 久久精品国产Aⅴ| 999精品女人| 校园春色美腿丝袜 | 亚洲无码?第一页| 自拍偷拍第26| 男人天堂网址| 国产精品操| 国产9熟妇视频网站| 97国产精品久久久久 | 91社区拍啪人妻| 日本性爱欧美性爱| 久久久久久久久久va| 亚洲超碰97| 啊啊啊啊操死我| 天天爱天天操| 久久精品国产亚洲av水密被窝| 91 国产丝袜在线播放-百度| 老女人碰碰在线碰碰视频| 成人网欧美风情| 精品国产91久久久久久一区黄无| 日韩AV电影网站| 五月婷婷综合网| 国产热RE99久久6国产精品首| 国产日韩在线播放| 无码日韩网站| 人人扣人人操| 人妻熟女av国产网站| 白嫩国模丰满一二三区| 91精品啪在线观看国产城中村| 口爆吞精在线观看| 亚洲Av无码成人精品国产| 国产成人无码高清| 九九亚洲视频| 五月天婷婷综合| 69精品少妇一区二区三区蜜桃| 欧美夜夜狠| 精品无码一区二区| 在线视频一区二区传媒| 福利一级版子| 国产精品高朝久久久久久久| 99热线麻豆| 久久精品无码一区二区三区| 免费视频一二三区| 中国AAAAAA黄色片| 懂色av色欲av蜜臀av| hd成人一区二区在线| 97国产成人精品免费视频| 99热精品在线观看| 亚洲乱色视频一区、二区在线| 2019AV天堂| 中文字幕日韩情色| 免费国产视频| 素人一区二区三区日韩| 美中日韩无码| 一区二区 韩日AV| 在线视频一区二区传媒| 国产热av| 九九热AV| 盗摄女人妻在线| 精品 码产区一区二-1080P高清在线www-B029AV| 激情自拍 校园春色| 欧美少妇内射| 四虎884| 日韩成人私密一级精品av| 亚洲国产精品无码AV在线| 亚洲免费看片| AV天堂男人的天堂| 蜜臀在线网站| 你懂的在线观看区国产| 亚洲午夜福利视频| 中文字幕在线观看第二页| 天堂亚洲精品久久老牛| 天天欲望网| 国产乱伦性爱区| 丁香五月影院| 久草婷婷| 亚洲在线91| 亚洲五码一区二区三区| 青青草原狼av| 美女黄色91| 一区二区三区免费视频入口| 亚洲国产欧美中文永久| 九九九久久久久| 亚州男人天堂| 岛国艾薇凹凸视频天堂| 91啪9色| 中韩中文字幕在线观看| 午夜激情成人在线观看| 嗯嗯啊中文字幕| 超碰久久精品| 青娱乐福利99| 啊啊啊啊一区| 丰满欧美放荡少妇在线| 日本中文字幕不卡视频| 无码国产精品午夜不卡(| 日韩精品作爱导航| 亚洲欧美日韩免费观看| 久久香蕉影院| 天天操狠狠日夜夜干超大胆开放com大香蕉视频在线观看 | 97神马久久| 91人妻尻屄视频| 91美女在线视频| 精品一区二区三区国产| 另类图片五月天| 青草伊人久久| a级成人毛片免费视频高清| 草久久久| 欧亚无码视频| 高潮内射在线| 97欧美日韩| 久久人妻视频网| 久久久久久久久9| 亚洲无码一区二区三区三州| 九九国产| 国产精品亚洲天堂网址| 欧美精品91| 人人操人人色人人摸| 在线啊啊啊啊| 操国产高清| 日韩在线视频1234| 色噜噜国产精品视频一区二区| 丁香色色网| 天天综合网~91| 六月婷婷色综合| 国产人妻久久精品一区二区三区| 色香色欲天天综合网天天来吧| 精吧天堂| 超碰成人国产| 色狠狠一区二区三区香蕉| 99热99色| 97视频免费播放| 欧美色棕合| 亚洲伊人成综合成人网| 久久久久久久久久久人妻| 亚欧高清| baiduhicn.com。| 综合久久六月久久婷婷| 碰人碰碰人人开房人肉| 免费一级毛片在线视频观看| 欧美色老汉| 嗯嗯嗯好爽| 午夜啪| 一区二区视频你懂的| 日本一区二区不卡精品| 抽插一区二区视频| 啊啊啊啊一区| 波多野结衣AV无码一区| 欧美变态激情网| www成人啪啪18秘 免费| 久久婷婷成人综合色怡春院| 91色艳| 午夜亚洲国产理论秋霞| 97久久国产亚洲精品超碰热| 99日韩| 日韩欧美性吧婷婷乱伦大香蕉| 人妻精品一区二区全免费| 999亚洲国产视频| 78精品在线| 国产精品久久久视频| 韩国一级婬片A片无码天美| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 欧美在线|亚洲| 98一区二区精品| 秋霞网—男女啪啪亚洲免费体验区 | 思思热一热婷婷热一热| 天天干人妻视频| 91美女视屏| a v网站在线播放| 射综合网| 黑人精品久久97| 欧美99| 波多野结衣一级视频| 国产精品另类| 亚洲 欧美 小说| 美日韩成人| se吧提供国产乱老熟视频胖女人| 熟妇高潮二区三区| 99热精品青草在线| 日本三级日本三级99| 久久久国产av美女私房| 97日韩欧美亚洲| 四虎视频在线观看| 婷婷五月天在线观看| 乱伦图av| 国产内射爽爽大片| yazhououmeizongya| 亚洲熟妇无码一区二区三区| 亚洲综合色婷婷| 一本大道不卡一二三区| 亚州一区二区| 色色香蕉| 亚洲天堂精品日韩电影| 在线播放中文字幕| 91国产大片| 99无码| 午夜高清成人在线视频| 国产成人 综合亚洲 天堂| 九九九九九精品视频| 日日骚精品视频| 中文字幕在在线观看网站| 91色婷婷综合久久中文字幕二区| 51久久夜色精品国产麻豆| 亚洲另类春色| 久久黄黄黄| 久久精品人妻一区二区三区| 美女毛片999| 啊啊啊啊啊操我视频| 天天做天天爱天天高潮| 国产 丝袜 欧美中文 另类| 天天弄天天操| 亚洲欧美国产中文视频| 天天噜| 日日躁天天躁狠狠躁| 91N综合网在线| 色综和网| 国产盗摄美女如厕大神作品在线观看| 日本大片日本一区二区免费高清| 7777欧美成是人在线观看| 啪啪资源网| 啪啪免费| 色狠狠 - 百度| 欧美激情性爱视频网站| 国产最火爆久久国产网站网站| 欧美激情久操网| 亚洲国产综合视频| 国产精品美女视频诱惑| 欧美天天射| 亚洲美女AV无码| 3PAV乱伦视频| 中文字幕丰满子伦无码专区在线视频最新| 啊啊啊啊免费视频| 欧美熟妇色| 2017天天插| 亚洲国产综合图区中文字幕| 久久精品久久久久久久| 日韩猛交| 老司机福利青青草| 欧美精品精品一区二区| 欧美日韩亚洲天堂| 91婷婷| 九九热精品| 美女超碰978| 泰国AV在线观看| 1234区中文字幕在线观看_青青草国产在线_日韩一区二区 | 免费簧片在线观看| 亚洲少妇中文字幕网址| 综合网色| 欧洲天天在线| 精品国产91久久久久久一区黄无| 久草新免费| 欧美激情黑人| 男人天堂新|