色五月色开心色婷婷色丁香,五月婷婷丁香花综合网,婷婷丁香五月激情综合在线,五月婷婷六月丁香动漫,婷婷丁香五月激情综合在线,丁香花中文字幕在线观看,播五月色五月开心五月网,开心激情综合网,狠狠色丁香婷婷综合最新地址,丁香视频在线观看,狠狠做六月爱婷婷综合av,久久激情五月丁香伊人

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

百度校招核心網(wǎng)絡研發(fā)筆試題解析:從TCP/IP到SDN

百度校招核心網(wǎng)絡研發(fā)筆試題解析:從TCP/IP到SDN 1. 核心網(wǎng)絡研發(fā)考什么先看懂這張卷子的出題邏輯拿到“百度2018校招核心網(wǎng)絡研發(fā)工程師筆試題第三批”這個標題的時候我的第一反應是這屆題目應該挺硬核的。核心網(wǎng)絡研發(fā)工程師這個崗位在百度內(nèi)部對應的大多是基礎設施部門——負責數(shù)據(jù)中心網(wǎng)絡、骨干網(wǎng)、流量調(diào)度、自研網(wǎng)絡設備或者高性能網(wǎng)關這一類方向。和普通后端研發(fā)不一樣這個崗位的筆試題不會讓你寫業(yè)務接口也不會讓你做用戶表設計它考的是你對網(wǎng)絡協(xié)議棧、數(shù)據(jù)轉(zhuǎn)發(fā)路徑、路由控制平面和系統(tǒng)底層能力的綜合理解。我認識不少當年一起投這個崗位的朋友大家的反饋出奇一致這批題的區(qū)分度很高。高在哪里高在它不考死記硬背的協(xié)議細節(jié)而是考你“在一個真實網(wǎng)絡場景里能不能用協(xié)議知識做出正確判斷”。所以如果你打算投遞類似的崗位第一件事不是埋頭背OSI七層模型而是先把這張卷子的出題邏輯摸清楚。從我了解到的信息和多方比對來看第三批筆試題大致覆蓋了四個核心模塊。第一個模塊是網(wǎng)絡基礎與協(xié)議棧主要考察TCP/IP、HTTP、DNS這些日常最常接觸但又最容易被忽視的細節(jié)。第二個模塊是路由與交換技術重點在路由協(xié)議、轉(zhuǎn)發(fā)原理和網(wǎng)絡設計。第三個模塊是系統(tǒng)與編程能力畢竟核心網(wǎng)絡研發(fā)不是純網(wǎng)絡工程你得會寫代碼得理解操作系統(tǒng)底層。第四個模塊是數(shù)據(jù)中心網(wǎng)絡與SDN/NFV相關的前沿技術百度在自研網(wǎng)絡設備、SDN控制器和流量調(diào)度系統(tǒng)上投入很大筆試必然會對這個方向有所傾斜。理解了這張卷子的整體結構你再去看題就不會慌。它其實是在篩選兩類人一類是網(wǎng)絡底子扎實、遇到問題能追到報文級別的工程師另一類是系統(tǒng)能力強、能在高性能網(wǎng)絡場景里寫出可靠代碼的工程師。如果你兩項都占那這張卷子對你來說就是友好且能拉開差距的。2. TCP/IP協(xié)議棧高頻題細節(jié)決定你能不能進下一輪TCP/IP協(xié)議棧是核心網(wǎng)絡研發(fā)崗位的“吃飯本事”這部分題目的特點是看起來簡單一做就錯。我梳理了幾個在第三批題目里出現(xiàn)頻率較高的考點每一個都值得你重新過一遍。2.1 三次握手的邊界條件第三次ACK丟了會怎樣這幾乎是必考題但大多數(shù)人的答案最多得一半分。很多人只記得“客戶端進入ESTABLISHED服務端收不到ACK會重傳SYNACK”但真正值錢的細節(jié)在于如果客戶端在第三次握手ACK發(fā)出后立刻發(fā)送數(shù)據(jù)包服務端在SYN_RCVD狀態(tài)下收到這個數(shù)據(jù)包會怎么處理正確的鏈路是服務端在SYN_RCVD狀態(tài)收到客戶端的數(shù)據(jù)包時如果該數(shù)據(jù)包不帶ACK標志那么根據(jù)RFC 793服務端會把這個數(shù)據(jù)包丟棄并重新發(fā)送SYNACK。但如果這個數(shù)據(jù)包攜帶了ACK標志哪怕它不是純粹的ACK包服務端也會認為握手已經(jīng)完成把狀態(tài)切換為ESTABLISHED同時處理數(shù)據(jù)。這個細節(jié)考的是你對TCP狀態(tài)機和報文交互的理解深度而不僅僅是背一個三次握手流程。還有一個變體如果客戶端的第三次ACK在網(wǎng)絡上延遲了很久才到達服務端在此期間已經(jīng)因為重傳超時關閉了連接那這個遲到的ACK到了之后服務端會回一個RST。這個RST會導致客戶端從ESTABLISHED狀態(tài)直接跳到CLOSED。這種場景在處理高并發(fā)短連接服務時非常常見尤其是客戶端連接池需要大量新建連接時。2.2 擁塞控制的演進別只停留在Reno和CUBIC2018年的校招題已經(jīng)明顯開始考察BBR了。百度這樣的體量帶寬利用率哪怕提升1%節(jié)省的成本都是天量級的所以擁塞控制算法是核心網(wǎng)絡團隊的重點研究方向。題目通常這樣出解釋Reno、CUBIC和BBR在擁塞窗口調(diào)整上的核心差異以及在什么網(wǎng)絡場景下BBR能比CUBIC獲得更好的吞吐。CUBIC是BDP探測型的它通過三次曲線來探測帶寬遇到丟包會乘性減窗。BBR換了一套思路它不再以丟包作為擁塞信號而是通過實時測量最小RTT和最大帶寬來建模網(wǎng)絡管道然后用pacing的方式讓發(fā)送速率貼合帶寬。這里有一個關鍵點值得展開BBR的ProbeRTT階段會周期性把擁塞窗口降到4個MSS目的是重新測量最小RTT。因為路徑上的排隊延遲會隨時間變化如果一直保持一個很大的發(fā)送速率RTT會虛高。這個“故意降速重新測量”的操作和傳統(tǒng)算法“發(fā)送速率越高越好”的直覺完全相反但恰恰是BBR能夠在高丟包鏈路上保持高吞吐的原因。答題時如果能把這個機制解釋清楚面試官對你的評價會直線上升。2.3 HTTP隊頭阻塞從HTTP/1.1到HTTP/2再到HTTP/3這批題里HTTP相關的題目卡了不少人原因在于它考的已經(jīng)超出了“GET和POST的區(qū)別”這個level而是直接問你HTTP/2解決了HTTP/1.1的隊頭阻塞為什么還會出現(xiàn)隊頭阻塞HTTP/1.1的隊頭阻塞發(fā)生在應用層一個TCP連接上只能串行處理請求前面的響應慢了后面的請求全部排隊。HTTP/2引入了多路復用通過stream在一條TCP連接上并發(fā)傳輸多個請求看起來解決了問題。但HTTP/2的底層仍然是TCPTCP保證有序傳輸?shù)臋C制導致如果某個stream的包丟了后續(xù)所有stream的包都不能被應用層處理必須等待重傳。這就是TCP層的隊頭阻塞HTTP/2解決不了。真正的解法是HTTP/3它把傳輸層換成了QUIC基于UDP實現(xiàn)可靠傳輸每個stream獨立有序丟包只影響它自己所在的stream。這個問題在核心網(wǎng)絡研發(fā)面試里幾乎是必問的因為它考察的不是你用過多少HTTP庫而是你對分層模型和傳輸機制之間交互關系的深入理解。3. 路由與轉(zhuǎn)發(fā)題從CIDR聚合到BGP路徑選擇的計算邏輯路由與轉(zhuǎn)發(fā)是核心網(wǎng)絡研發(fā)的“物理基礎”這部分題目通常不是簡單的概念問答而是需要實際計算的。第三批題目里計算題的占比不低而且計算量都不大但思路要清晰。3.1 路由聚合的邊界不是所有地址都能老老實實聚合有一道經(jīng)典題目是這樣的有四個網(wǎng)段192.168.1.0/24、192.168.2.0/24、192.168.3.0/24、192.168.4.0/24要求寫出能覆蓋前三個網(wǎng)段的最小聚合路由以及能覆蓋四個網(wǎng)段的最少路由條目數(shù)。前三個網(wǎng)段聚合很簡單192.168.1.0/24的二進制是11000000.10101000.00000001192.168.2.0/24是00000010192.168.3.0/24是00000011。前22位相同所以聚合結果是192.168.1.0/22。但加上192.168.4.0/24就麻煩了它是00000100和前面的公共前綴只有20位相同。如果你強行聚合四個網(wǎng)段得到的是192.168.0.0/20這個路由會覆蓋192.168.0.0到192.168.15.255多覆蓋了12個網(wǎng)段在實際網(wǎng)絡中可能造成路由黑洞或流量被錯誤轉(zhuǎn)發(fā)。所以正確答案是兩條路由192.168.0.0/22和192.168.4.0/24它們才能精確覆蓋四個網(wǎng)段。這個題目的價值不在于計算本身而在于考察你是否明白一個道理路由聚合必須“精確”寧可多一條路由也不能讓聚合后的路由覆蓋到不存在的網(wǎng)段。3.2 OSPF與BGP協(xié)作角色不同路徑選擇邏輯不同另一道??加嬎泐}是路由優(yōu)先級和選路規(guī)則的混合場景。題目會給你一個網(wǎng)絡拓撲一臺路由器同時運行OSPF和BGPOSPF學習到一條到達目標網(wǎng)段的路徑cost為110BGP學習到同一條路徑local_pref為200MED為50。問你最終優(yōu)選哪條路徑。在華為、思科設備上不同協(xié)議之間比較的是路由優(yōu)先級華為叫preference思科叫administrative distance。OSPF內(nèi)部路由的優(yōu)先級通常是10BGP是255思科eBGP是20iBGP是200。但很多時候題目會故意省略這些默認值而是把比較邏輯放在同一個協(xié)議內(nèi)部。如果是BGP內(nèi)部比較local_pref優(yōu)先然后才是AS路徑長度、MED等。這里真正的考點是跨協(xié)議比的是優(yōu)先級同協(xié)議內(nèi)部才比選路屬性。很多考生把這兩個規(guī)則混在一起結果得出完全相反的答案。題目里還會附帶一個“為什么BGP要有這么多選路屬性”的加分題。這個問題的本質(zhì)是IGPOSPF、IS-IS在同一個AS內(nèi)部已經(jīng)能算出最短路徑了但AS之間的運營商有復雜的商業(yè)關系客戶、上游、對等需要一套可策略化控制的選路機制來體現(xiàn)這些商業(yè)決策。理解了這層邏輯你就懂了為什么BGP的選路規(guī)則不是單純的技術最優(yōu)而是商業(yè)策略驅(qū)動的。3.3 轉(zhuǎn)發(fā)面的最長前綴匹配硬件層面的核心邏輯路由與轉(zhuǎn)發(fā)的計算題有時候也會往硬件方向延伸比如問TCAM如何實現(xiàn)最長前綴匹配。TCAM三態(tài)內(nèi)容尋址存儲器的每個bit都有三個狀態(tài)0、1、X不關心所以它天然適合存儲路由前綴。要匹配時所有表項同時參與比較命中的條目里優(yōu)先級最高的就是最長匹配的那個。這里有一個補充考點因為TCAM貴且功耗高但路由表越來越大所以業(yè)界會有“把路由分級把常用前綴放到DRAM里用算法匹配不常用的才放TCAM”這類思路。這些內(nèi)容在筆試里考得少但如果你面試時能主動提出來會讓面試官覺得你有工程視野。4. 高性能網(wǎng)絡與系統(tǒng)底層DPDK、零拷貝和網(wǎng)卡多隊列的實戰(zhàn)理解核心網(wǎng)絡研發(fā)工程師的工作場景里有相當一部分是高性能網(wǎng)絡轉(zhuǎn)發(fā)比如百度自研的四層負載均衡、流量網(wǎng)關、緩存加速代理等這些系統(tǒng)的核心就是處理海量并發(fā)報文。所以筆試里出現(xiàn)系統(tǒng)與性能類題目一點都不意外。4.1 內(nèi)核協(xié)議棧的瓶頸和DPDK為什么能繞過去題目常常這樣出一臺普通的x86服務器跑Linux內(nèi)核協(xié)議棧處理64字節(jié)小包轉(zhuǎn)發(fā)性能通常只能到幾十萬PPS想提升到千萬PPS甚至更高需要怎么做答案的核心就是“繞過內(nèi)核”或“優(yōu)化內(nèi)核收包路徑”。展開來說內(nèi)核協(xié)議棧的瓶頸有三個。第一系統(tǒng)調(diào)用開銷每個包都要經(jīng)過recvfrom/sendto或read/write用戶態(tài)和內(nèi)核態(tài)頻繁切換。第二數(shù)據(jù)拷貝包從網(wǎng)卡緩沖區(qū)拷貝到內(nèi)核內(nèi)存再從內(nèi)核內(nèi)存拷貝到應用緩沖區(qū)多一次訪存開銷。第三內(nèi)核鎖競爭多核CPU同時處理網(wǎng)絡包時協(xié)議棧里的全局鎖和共享數(shù)據(jù)結構會形成爭搶。DPDK的處理思路是通過UIOUserspace I/O把網(wǎng)卡設備映射到用戶態(tài)用輪詢模式PMD替代中斷通知應用程序直接通過大頁內(nèi)存與網(wǎng)卡交換描述符繞過內(nèi)核協(xié)議棧。這個方案能把單核收包性能從幾十萬PPS提升到上百萬PPS級別在業(yè)界已經(jīng)是非常成熟的實踐。答題時如果能提到“大頁內(nèi)存減少TLB miss”這一層說明你真的看過代碼而不是只背了概念。4.2 零拷貝的幾種實現(xiàn)mmap、sendfile和網(wǎng)卡分片零拷貝是高性能網(wǎng)絡服務里繞不開的話題。題目通常給你一個文件下載服務的場景問你如何減少數(shù)據(jù)在用戶態(tài)和內(nèi)核態(tài)之間的拷貝次數(shù)。傳統(tǒng)方式要經(jīng)歷磁盤到內(nèi)核緩沖區(qū)內(nèi)核到用戶緩沖區(qū)用戶到socket緩沖區(qū)socket緩沖區(qū)到網(wǎng)卡一共四次拷貝四次上下文切換。用sendfile可以達到兩次拷貝用DMA直接內(nèi)存訪問配合網(wǎng)卡Scatter-Gather功能可以做到真正意義上的“零拷貝”——數(shù)據(jù)從磁盤到頁緩存后通過DMA引擎直接描述符指向頁緩存中的數(shù)據(jù)不經(jīng)過CPU拷貝直接發(fā)送到網(wǎng)卡。這里有個細節(jié)很多人會忽略零拷貝的瓶頸不再在CPU拷貝上而是轉(zhuǎn)移到了頁緩存和socket緩沖區(qū)之間的一致性維護上如果頻繁讀寫可能觸發(fā)page fault反而性能下降。實測下來對小文件高并發(fā)的場景用sendfile不一定比精心調(diào)優(yōu)的傳統(tǒng)readwrite快因為DMA描述符的建立和拆除也有開銷。這個反直覺的結論如果在筆試的論述題里寫出來會很加分。4.3 網(wǎng)卡多隊列與RSS讓每個CPU核心都有活干另一個常見考點是網(wǎng)卡多隊列和Receive Side ScalingRSS。單隊列網(wǎng)卡在接收報文時需要靠一個中斷來處理所有包多核CPU無法分攤收包壓力。啟用多隊列后網(wǎng)卡可以根據(jù)四元組或五元組哈希把不同的流分散到不同的RX隊列每個隊列由獨立的CPU核心處理這樣就能并行收包。題目會問RSS的哈希因子有哪些如果哈希因子包含源IP和目的IP來自同一個IP的不同端口連接會被分到多個隊列嗎答案是如果哈希計算包含端口那會分散到不同隊列但如果只基于IP那同一對IP的流會固定在同一個隊列可能在某些負載均衡場景下造成隊頭熱點。這個問題的價值在于它讓你意識到看似“自動分散”的網(wǎng)卡哈希如果不和實際業(yè)務流特征匹配反而會成為性能瓶頸。5. 數(shù)據(jù)中心網(wǎng)絡與SDN/NFV從VXLAN到控制器設計的必考題百度在數(shù)據(jù)中心網(wǎng)絡方向的布局很早從自研交換機、SDN控制器到流量調(diào)度系統(tǒng)都有成熟的落地。這批筆試題里出現(xiàn)數(shù)據(jù)中心相關題目非常合理也代表著國內(nèi)頭部互聯(lián)網(wǎng)公司對這個方向的重視程度。5.1 VXLAN封裝細節(jié)外層UDP的源端口到底怎么選VXLAN幾乎是數(shù)據(jù)中心網(wǎng)絡必考項。題目通常會給你一個虛擬機遷移的場景虛擬機從物理機A遷移到物理機B但IP地址保持不變對端如何通過VXLAN隧道繼續(xù)訪問它VXLAN把二層幀封裝在UDP報文里VTEPVXLAN Tunnel Endpoint負責封裝和解封裝。關鍵點在于外層UDP的源端口它是根據(jù)內(nèi)層MAC、IP、端口等信息哈希計算出來的目的端口固定是4789IANA分配的端口。源端口設計成哈希值的目的是為了在底層網(wǎng)絡上實現(xiàn)負載均衡——ECMP等價多路徑協(xié)議可以根據(jù)外層五元組把流量打散到不同的物理鏈路上。如果不做這個哈希所有VXLAN流量在底層看來都走同一個五元組ECMP會把所有流量都壓到一條鏈路上這就是經(jīng)典的“Hash極化”問題。答題時如果能把這個設計意圖講清楚就不僅僅是答了一道題而是在展示你理解了VXLAN“為什么這么設計”的工程智慧。5.2 SDN控制器集中式優(yōu)于分布式但沒有全局看到底行不行SDN相關題目在第三批里也有一席之地。常見問法是SDN控制器的核心職責是什么為什么數(shù)據(jù)中心網(wǎng)絡要用SDN做流量調(diào)度而不是傳統(tǒng)的分布式路由協(xié)議SDN把網(wǎng)絡控制平面和數(shù)據(jù)轉(zhuǎn)發(fā)平面分離控制器掌握全局拓撲可以用全局視角計算最優(yōu)路徑下發(fā)流表到交換機。相比之下傳統(tǒng)路由協(xié)議是分而治之的每臺設備只知道自己的鄰居關系無法感知全局擁塞情況。數(shù)據(jù)中心網(wǎng)絡流量模型極其復雜流量矩陣動態(tài)變化集中式控制器可以根據(jù)實時負載做全局優(yōu)化。但集中式控制器也帶來可靠性問題——控制器掛了整個網(wǎng)絡的路徑計算就癱瘓了所以實際工程中控制器通常以集群方式部署用分布式數(shù)據(jù)庫同步網(wǎng)絡狀態(tài)。這里有一個容易踩坑的認知很多人以為SDN就是OpenFlow的代名詞但實際工程中OpenFlow只是SDN南向接口的一種實現(xiàn)方式。百度早期的SDN方案里也大量使用了自研的南向協(xié)議或者通過BGP、NETCONF等“傳統(tǒng)”協(xié)議實現(xiàn)控制器的集中控制。SDN的本質(zhì)是“控制與轉(zhuǎn)發(fā)分離”這個思想而不是某一種具體協(xié)議?;卮饡r點出這層才能體現(xiàn)出工程視野。5.3 CLOS架構與ECMP現(xiàn)代數(shù)據(jù)中心網(wǎng)絡的骨架數(shù)據(jù)中心網(wǎng)絡設計題通常圍繞CLOS架構展開。CLOS解決的是“大二層網(wǎng)絡如何擴展”的問題核心層Spine和接入層Leaf之間通過ECMP形成等價多路徑所有Leaf都能通過多條路徑到達任何其他Leaf帶寬可水平擴展。題目會問為什么CLOS架構比傳統(tǒng)三層樹形架構更適合數(shù)據(jù)中心核心原因有兩個。第一樹形架構的匯聚層是瓶頸流量越高匯聚層設備壓力越大而且難以水平擴展。第二CLOS架構下所有路徑都是等價的通過ECMP實現(xiàn)負載均衡鏈路利用率高故障轉(zhuǎn)移也快——一條鏈路斷了流量立刻均勻分攤到其他等價路徑上。這個題目還有一個衍生問法ECMP的哈希因子和前面VXLAN的哈希源端口設計有什么關聯(lián)對的VXLAN外層UDP源端口哈希就是為了解決ECMP哈希極化問題兩道題是一套組合拳。你如果能把它們串起來回答面試官會知道你是真的理解而不是背概念。6. 編程與系統(tǒng)實現(xiàn)題網(wǎng)絡工程師的代碼功底不能拉胯核心網(wǎng)絡研發(fā)工程師的日常不是天天調(diào)路由器而是寫代碼——寫網(wǎng)關、寫轉(zhuǎn)發(fā)面、寫控制面組件、寫網(wǎng)絡監(jiān)控系統(tǒng)。所以卷子里一定有代碼題和系統(tǒng)設計題這些題目的水平和難度和純后端崗位的題風格截然不同。6.1 C語言的字節(jié)序與內(nèi)存對齊最容易栽跟頭的地方第一類高頻題是C語言和操作系統(tǒng)底層細節(jié)。字節(jié)序問題是網(wǎng)絡編程的經(jīng)典陷阱x86機器是小端序網(wǎng)絡字節(jié)序是大端序用htonl/ntohl轉(zhuǎn)換。但如果處理的是一個結構體——比如一個自定義報頭里面有uint8_t、uint16_t、uint32_t混合字段直接強制類型轉(zhuǎn)換再發(fā)送就會因為內(nèi)存對齊產(chǎn)生填充字節(jié)導致接收端解析出錯。正確的做法是用packed結構體__attribute__((packed))或者每個字段單獨序列化。筆試里可能會給你一段代碼問你這個結構體在64位系統(tǒng)上會占用多少字節(jié)如果加了packed又是多少字節(jié)。這種題考察的是你寫網(wǎng)絡協(xié)議代碼時能否處理字節(jié)序和內(nèi)存布局問題這在高性能網(wǎng)絡開發(fā)里非常常見坑很深。6.2 生產(chǎn)者消費者模型從互斥鎖到無鎖隊列的設計取舍題目會給你一個場景多個生產(chǎn)者線程把網(wǎng)絡數(shù)據(jù)包寫入隊列多個消費者線程從隊列中取包處理如何設計這個隊列第一層答案是互斥鎖加條件變量這是教科書方案。第二層答案是讀寫鎖、自旋鎖的取舍在臨界區(qū)極小的情況下自旋鎖比互斥鎖更合適因為它避免陷入內(nèi)核態(tài)。第三層答案才是面試官真正想聽的無鎖隊列。用CASCompare-And-Swap實現(xiàn)lock-free的MPMC隊列或者更務實的SPSC隊列——單生產(chǎn)者單消費者隊列通過ring buffer就能實現(xiàn)無鎖這在DPDK的rte_ring里就是經(jīng)典實現(xiàn)。這里有一個關鍵取舍無鎖隊列在讀多寫少、臨界區(qū)極短的高并發(fā)場景下性能優(yōu)勢巨大但無鎖不等于無坑ABA問題、內(nèi)存序問題memory ordering都可能導致詭異bug。所以筆試答題時最好能說明白什么場景選什么隊列以及為什么而不是一味追求花哨的無鎖實現(xiàn)。6.3 多線程并發(fā)中的原子操作與內(nèi)存屏障再往后有一類題圍繞多線程同步的正確性展開兩個線程一個寫一個讀都操作同一個變量如何保證讀到的一定是最新值答案是volatile?錯。在C/C里volatile只能告訴編譯器不要優(yōu)化不能保證多核間的可見性也不提供原子性。正確做法是用C11的atomic、std::mutex或者提供內(nèi)存屏障的原子操作。進一步會問為什么CPU會亂序執(zhí)行為什么需要內(nèi)存屏障現(xiàn)代CPU為了性能會進行指令重排多核之間還有緩存一致性協(xié)議比如MESI帶來的偽共享問題。cache line是64字節(jié)如果兩個線程頻繁修改同一cache line上不同變量會因為偽共享導致性能雪崩。用__attribute__((aligned(64)))把變量對齊到cache line邊界可以規(guī)避這個問題。這類題考的是你對系統(tǒng)底層的理解一個合格的核心網(wǎng)絡研發(fā)工程師必須能寫出“確定性強”的高并發(fā)代碼。7. 綜合設計題實戰(zhàn)模擬從零設計一個高可用四層接入網(wǎng)關網(wǎng)絡方向的綜合設計題通常是卷子的壓軸大題分值高、難度大。它往往不以“寫代碼”的形式出現(xiàn)而是要求你畫架構圖、說清楚關鍵模塊和容災方案。這里我結合網(wǎng)絡上找到的類似題型和崗位要求還原了一道比較有代表性的設計題并附上完整的解題思路筆試面試都能用得上。題目大意公司需要設計一個高可用的四層接入網(wǎng)關承接所有外部流量并轉(zhuǎn)發(fā)到后端服務集群要求支撐10萬QPS、可用性99.99%請設計整體架構并說明關鍵設計點。這道題想拿高分需要從四個層面去回答。第一層是整體架構接入網(wǎng)關采用集群部署多臺機器通過ECMP等價路由對外提供服務使用BGP與上層交換機互通任何一臺機器故障流量自動被ECMP重新哈希到其他機器。在網(wǎng)關機器內(nèi)部使用DPDK接管網(wǎng)卡業(yè)務邏輯全部在用戶態(tài)實現(xiàn)。四層轉(zhuǎn)發(fā)不做太多復雜邏輯只做DNAT和SNAT所以可以做到很高吞吐。第二層是會話一致性四層網(wǎng)關必須保證同一個客戶端的連接五元組始終落在同一臺后端機器上否則TCP連接會斷開。用一致性哈希表保存會話狀態(tài)會話表需要定期同步或者將狀態(tài)存到分布式KV里保證故障切換時會話不丟。但分布式KV帶來的延遲在數(shù)據(jù)路徑上不可接受所以實踐中會在每臺機器本地保存會話表配合主備同步極少數(shù)情況下故障會導致連接重建這是99.99%可用性可以容忍的。第三層是健康檢查與故障剔除網(wǎng)關需要定期探測后端服務的健康狀態(tài)探測失敗要自動摘除該后端并重新建立會話同時不能影響現(xiàn)有連接。這里要考慮“探活頻率”和“誤判”之間的權衡探得太頻繁會對后端產(chǎn)生額外壓力探得太慢故障轉(zhuǎn)移時間過長。一般會設計成TCP連接探測和HTTP探測的雙層機制。第四層是安全與防洪作為公網(wǎng)入口網(wǎng)關必須能抵抗SYN Flood。解法是開啟SYN Cookie或者用硬件卸載卡做DDoS清洗只有通過驗證的流量才進入內(nèi)核態(tài)處理。這個問題在百度真實場景里是繞不開的所以出現(xiàn)在筆試里非常合理。這道題的完整回答至少要涵蓋ECMP接入、DPDK轉(zhuǎn)發(fā)、會話一致性、健康檢查、故障轉(zhuǎn)移、DDoS防護、安全隔離、監(jiān)控和日志統(tǒng)計這幾個模塊答得越全越接近核心網(wǎng)絡研發(fā)工程師的真實工作畫像。8. 備考與答題策略筆試里的時間管理同樣決定成敗最后聊點實際的這部分是我和幾個參加過百度校招的朋友交流后總結出的經(jīng)驗不一定寫在任何帖子里的但非常關鍵。8.1 時間分配和答題順序這套筆試題給人的體感是“時間不夠”。我有朋友當年在這套題上有些題目只能留空白原因不是不會做而是前面在二叉樹、哈希表這類基本功題目上花了太久后面的大題反而沒時間展開。我個人的建議是先做綜合設計題和論述題再做計算題最后做選擇題和填空題。為什么綜合設計題是開放性的只要你框架清晰、要點齊全即使細節(jié)不夠完美也能拿到大部分分數(shù)。計算題如果思路錯了可能什么都得不到但如果是列了步驟但算錯結果通常還能拿到過程分。選擇填空是純客觀題一題就一兩分占比不大放在最后反而不會心慌。8.2 答題時的表述技巧請用“工程師的語言”而非“課本的術語”筆試答題尤其是簡答和設計題極其看表述方式。舉個例子同樣的意思“TCP的擁塞窗口會減小”和“窗口大小根據(jù)當前鏈路的RTT和丟包率動態(tài)調(diào)整丟包時進入擁塞避免階段通過乘性減窗降低發(fā)送速率以緩解鏈路擁塞”給閱卷人的專業(yè)程度印象完全不同。再一個細節(jié)設計題里圖要畫關鍵模塊的名稱要寫清楚接口要標注箭頭方向不要只寫一堆文字。閱卷人和面試官都偏好“能一眼看到架構全貌”的答案。畫圖不需要多精美但核心鏈路和容災鏈路必須用不同顏色或線型區(qū)分開。8.3 結合個人經(jīng)驗談談這套題的復習方向如果你正打算投遞核心網(wǎng)絡研發(fā)崗我建議你按照“基礎協(xié)議棧-路由交換-高性能轉(zhuǎn)發(fā)-數(shù)據(jù)中心網(wǎng)絡-SDN/NVF-系統(tǒng)編程”的順序系統(tǒng)復習。但要注意不要停留在背概念每學一個協(xié)議問自己三個問題——它解決什么問題、它的報文格式里每個字段為什么存在、它在真實網(wǎng)絡里有哪些常見的坑。把這三個問題想清楚無論是筆試還是面試你都能對答如流。我當年復習TCP時用一個笨方法用Wireshark抓自己機器上瀏覽網(wǎng)頁的包跟著TCP流看三次握手、窗口變化、重傳超時再對照RFC看報文頭。這個過程看起來慢但對建立“報文級直覺”特別有效。筆試里有些題是“紙上談兵”考不出來的但你如果見過真實的報文交互一眼就能看穿考點在哪里。9. 寫在最后幾個容易被忽略但考試高頻的“邊角料”這些內(nèi)容我在前面沒有具體展開但它們出現(xiàn)的概率極高而且一旦考到如果沒看過就是完全空白所以我單獨拉出來講一下。9.1 DNS解析細節(jié)遞歸、迭代與緩存TTL的坑DNS相關題目在網(wǎng)絡崗筆試里很少缺席。常見問法是用戶在瀏覽器輸入一個域名完整解析過程是怎樣的這里要答清遞歸查詢和迭代查詢的區(qū)別、本地hosts文件、系統(tǒng)resolver、客戶端本地DNS緩存、運營商LocalDNS、根服務器、頂級域服務器、權威服務器以及每個環(huán)節(jié)的緩存TTL機制。有意思的考點是TTL過短會導致DNS查詢爆量TTL過長會導致域名切IP后客戶端不生效。2018年前后正是各家互聯(lián)網(wǎng)大廠開始大規(guī)模使用HTTPDNS的年代原理就是繞過運營商LocalDNS避免被劫持和調(diào)度不精準所以題目也有概率延展到HTTPDNS的優(yōu)缺點——相比傳統(tǒng)DNSHTTPDNS是應用層通過HTTP接口直接拿到IP列表避免中間環(huán)節(jié)的污染和緩存問題但需要客戶端SDK配合。這題考的是你對“域名解析鏈路”的完整理解。9.2 BGP路由振蕩正則表達式和route-map實際怎么用BGP的題目有時候會出一些實操向的給出幾條BGP路由填寫正則表達式匹配特定前綴或者設計route-map完成基于AS路徑的選路控制。這類題要求你真用過BGP知道AS_PATH里各種字符的含義。正則表達式里有一個坑^192_和_192_的區(qū)別。前者匹配的是以192開頭的AS路徑后者匹配路徑中包含192的任意位置。如果只是求包含某個AS號的所有路由用后者如果限定起源AS用前者。這種題目答案很明確但很多沒實操經(jīng)驗的人會混淆。我建議備考時在模擬器里建一個BGP環(huán)境手動配幾條route-map把正則表達式和過濾邏輯親手跑幾遍記憶會牢固很多。9.3 網(wǎng)絡質(zhì)量觀測RTT、抖動、丟包率到可用性的推導關系最后一類容易被忽略的題目是網(wǎng)絡質(zhì)量觀測類。它會給你一組數(shù)據(jù)某條鏈路的RTT是20ms抖動5ms丟包率0.1%問這條鏈路的可用性是多少這里“可用性”的定義不是簡單的1減去丟包率而是要看業(yè)務模型。比如嚴格依賴TCP傳輸?shù)臉I(yè)務0.1%的丟包率會導致大量TCP重傳和擁塞窗口退化實際吞吐可能下降超過5%可用性遠低于99.9%。這個問題的深層考點是網(wǎng)絡質(zhì)量指標不能只看單個值需要結合協(xié)議行為和應用場景做聯(lián)合分析。核心網(wǎng)絡研發(fā)工程師在真實工作中就是干這個的——接報警、看指標、定位鏈路瓶頸、優(yōu)化轉(zhuǎn)發(fā)路徑每一步都需要這套分析能力。我把這些“邊角料”單獨拎出來是因為它們在我的經(jīng)驗里恰恰是拉開分差的地方?;A題大家都會協(xié)議細節(jié)背一背也能過關但能把DNS解析、BGP實操、鏈路質(zhì)量分析這些細碎知識融會貫通的人才是真正適合核心網(wǎng)絡研發(fā)崗位的人。這套筆試的第三批題目本質(zhì)上就是在篩選這批人。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
欧美国产一区二区三区麻豆传媒 | 亚洲加勒比色图| 婷婷丁香成人| 国产理论视频在线播放| www.大香| 久久超碰免费的| sss视频华人在线| 强奸乱伦日韩AV| 午夜男女爽爽爽影院视频| 啊啊啊啊啊好舒服视频| 97超碰美国| www欧美性爱| 国产对白刺激视频| 91啦人妻| 亚州综合色| 懂色影视久久| 少妇激情AV| 淫乱图区| 亚洲AV色图| 97视频在线观看网站| 日本天天吊| 人人透人人操| 黄色片大香蕉| 亚洲av影院在线观看| 黄视频免费| 蜜臀99久久| 亚州,欧美在线| 久久人人爽av亚洲精品天堂桃色 | JuliaAnnXXX888| 欧美综合自拍亚洲综合图| 欧美91精彩| 91精品人妻一区二区三区蜜桃臀| 亚洲城人男人的天堂| 亚州伊人色综台| 欧美一级做a爰片免费视频| 天堂а√在线最新版在线 | 欧美高潮| 中文字幕无码不卡啪啪| 91亚洲情色| 欧美最婬乱婬爆婬牲视频| 亚洲精品黑丝| 91模特在线观看| 蜜臀99久久国产| 96超碰网| 亚洲午夜未满十八勿入网站日本又色又爽又黄 | 久久久成人免费av电影| 色踪合AV| 91综合熟女| 欧洲精品一级二级精品综合视频综合| 国产日产欧产美韩系列麻豆免费| 91青青在线视频| 999久久芭蕾| 欧美图片校园春色| 欧美性爱第一页久久| 亚洲精品xxx| 四虎国产成人精品免费一女五男| 亚洲自拍另类丝袜综合| 欧美特黄视频网站| 夜夜爽夜夜操| 国产探花精品在线| 日本中文字幕一区| 免费av在线播放二区| 婷婷久久五月天| 日韩一区二区精品视频| 国产精品制服丝袜中文字幕日韩一区二区三区 | 91大胆欧美| 国产精品情侣啪啪| 亚洲色图欧美另类在线| 三四中文字幕| 熟女人妇一区二区三区| 丰满的三级少妇欧美久久久| 夜夜肏2021| 日韩美女,国产传媒,视频一区| 久久久久久久久久久久久女过产乱-少妇高潮一区二区三区喷水-成人AV | 亚洲国产无码精品首页久久久| 日本日皮视频逼| 日韩啪啪啪啪啪| 一区二区三区蜜桃成人撸久久东京热| 久久久久久久久久久久欧美日| 欧美熟妇色| 人人贴人人摸| 欧美精品四区| 五月开心久久AV官网| 日天天九九天堂666| 狠狠操狠狠操操| 凸凹视频在线观看| 亚热日本熟女| 国产二区三区免费视频| www.狠狠操| 久久免费看高潮毛片韩国| 色呦呦、国产精品| 欧美91精彩| 精品人妻一区二区三区四区石在线| 97在线免费公开视频| 熟妇女伦乱视频| 一区二区无码视频| 99re热有精品视频国产| 黄色不卡视频| 又大又大又大又粗爽高潮观看| 手机在线视频国内精品| 夜夜久久| 九九无码| 精品久久久久久亚洲| 日日橹狠狠爱欧美超碰| 黄片视频观看| 中文字幕日韩国产传媒欧美精品| 国产又粗又长的视频| 91精品久久久| 色盈盈影院| 国产一区在线播放| 人人色人人射人人妻| 男人天堂导航| 日本 欧美 亚中文字幕| 亚州综合网| 另类图片五月| 国产日韩久久| 偷拍伦理视频| 夜色91| 日韩特一级久久| 成人av在线播放| 成年男人的天堂| 91美女视频在线观看| 久久久久9| 久久人妻无码毛片A片麻豆| a男人的天堂久久一级A毛片 | 欧美夜夜骑视频| 八戒午夜福利理论片| 91女在线观看| 国产91av在线播放| 校园春色中文字幕AV| 波多野结衣被操50分钟免费视频| 欧洲精品一区二区三区| 青青伊人这里只有精品| 97中文综合| 久久五月丁香| 91丝袜在线观看| 精品久久久久瑟瑟| 久久这里是精品| 久久久久久久久久久久黄色 | 九九九久久久| 91日日| 一级片在线观看高清无码| 日本人妻天堂网站在线播放| 欧美日本一区二区a人| 色婷婷日韩精品一区二区三区| 精品在线观看视频在线| 亚洲激情视频| 加勒比综合九九99视频在线播放| 亚洲精品97| 99热综合| 欧美成人精品一区| 亚欧操逼片在线观看 | 亚洲综合五月天| 国产www色在线观看| 久久亚码| 99热这里只有精品9| 国产传媒av天美传媒在线| 欧美操逼视频二区| 五月天久久久| www.伪伪| 亚洲资源站| 香蕉久久精品| 99操视频| 国产操伦| 啊啊啊啊啊啊好多水| 97频视在线| 91性高潮久久久久久久久| 亚洲国产成人7777| 欧美一级二级三级| 久欲AV| 另类图片五月| 女人双腿搬开让男人桶| 园内精品自拍视频在线播放| 女优大全 - 91n| 亚洲美女30b| 亚洲无线码一区国产欧美国| 亚洲成人性爱网站在线播放| 78超碰| 欧美激色| av操操不卡| 欧美日韩第一页| 亚洲国产91精品一区二区久久| 97伊人超碰| 人妻 欧美 中文| 欧美色棕合| 国产免费久久久久| 亚洲啪啪视频一区二区| 日本性爱视频一级| 思思久热在线精品66| 欧美少妇高潮视频| 亚洲精品黄码久久久久| nuu12国产麻豆精品| 91色图片| 超碰97最新人妻| 人人爱夜夜爱| 性欧美另类高清| 强奸乱伦动态污图免费| 精品国产乱码久久久久久口爆网站| 99久久国产精品免费高潮| 午夜噜噜噜| 91热色| 中国熟女91| 裸体1区| 91国产美女丝袜足交精品视频| 久都青青视频| 色老汉色| 曰韩香蕉97| 老司机午夜福利视频一区二区| 亚洲熟妇乱女区二区三区| 日本三级中国三级99人妇网站| 亚欧性爱ab| 把腿张开老子CAO烂你| 2019天天干天天操 | 色精品极品| 伊人AAA| 亚洲色诱惑| 成人黑料社久久| 亚洲中文字母在线播放| 操逼日韩无码 | 91久久久老司机| 蜜桃狠狠色伊人亚洲综合 | 日日夜夜噜| 亚洲色悠悠久久88| 青青草中出视频| 亚欧洲日韩国产精品| 欧洲综合色| 欧洲久久一二线| 国产主播福利| 日韩人妻播放| 99综合视频一体| 99久热| 又大又长又爽| 亚洲性少妇| 职场同事知名国产国产精品久久欧美日韩 | 黄片无码在线制服| 一区二区娱乐网站| 欧美精品成人亚洲| 中文字幕在线2| 夜夜夜夜爽| 久久国产乱子伦精品免费女,网站| 91人人操| 在线观看色视频| 丁香五月综合| 久久精品中文| 欧美综合亚洲综合| 3p国产色噜噜一区| 欧美亚洲丝袜美女电影| 国产精品一区二区麻豆| av三级电影在线播放| 国产精品视频麻豆入口| Julia在线播放亚洲久久| 又摸又舔在线观看网站| 人人操人人摸人人骑| 人妻81p| 蜜臀久久99精品久久久老,,| 亚洲国产丝袜在线观看| 国产激情视频一区区三区| 亚洲成人免费中文字幕| 五月花婷婷| 91欧美另类| 日韩欧美加勒比| 熟女精品va中文字幕| 女同在线视频一区| 97网色| 亚洲蜜臀精品视频久久| 黑人天8A∨高清网站| 国产精品69久久久久久久| 韩国三级理论在线| 激情露脸爱| 国产九九九九九九| 亚洲国产麻豆一区二区三区| 亚洲熟妇乱女区二区三区| 日韩特一级久久| 麻豆国产视频精品观看| 丝袜美腿欧美| 亚洲日韩电影| 欧美综合站| 国产97在线播放| 午夜福利激情在线视频| 亚州成人A√| 久草免费在线视频| 色色色综合网| 加勒比色99999| 小情侣高清国产在线视频| 丰满精品人妻少妇久久字幕| 内射夫妻三片| 五月婷婷hd| 色欲Av人妻精品一区二| 欧美少妇第一页| 男人的午夜天堂| 噜噜在线| 白嫩少妇| 亚洲一二三四区机械| 夜夜精品视频| 久久的网站啊啊啊啊啊| 日韩精品在线放| www.操| 立川理惠被中出无码| 99re9在线| 91岛国动作片| 91色五月俺来也| 欧美大波激情xxxx| 精品一区二区2| 欧美性爱在线无码| 男人的天堂va| 久久一二三级一一一| 成人av在线播放| 91在线丝袜视频| AV不卡在线| 影音资源男人日韩| 九九99久久| 久夜视频| 大香蕉男人的天堂| 思思热免费视频观看| 亚洲影视高清三级-草1024榴社区入口-品爱AV| 人人看人人摸人人色| 美女91网址| 色欧美天天| 欧美日韩插逼视频| 五十路熟女,国产欧美精品区一区二区三区 | 麻豆一区在线| a在线视频免费观看| 尤物一级在线免费观看| www.成人无码| 日韩一区二区熟女| 人妻日日干| 高潮9999外国| 大香蕉免| www色日本| 精品视频一区二区| 夫妻AV网站| 五月天丁香欧洲日韩| 天天操夜夜操狠很操| 爱丝福利| 美骚妇av高清在线| 伊人五月天| 亚洲?V无码专区在线电影| 欧美极品色| 国产少妇与亚洲av| 日本黄 R色 成 人网站| 一区操逼| 青草精品视频日本久久久久网站在线| 久操大香蕉超碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰碰 | 国产精品福利资源在线尤物| av情色影音| 欧美日韩国产色图在线| 蜜乳视频网站| 一本大道青青| 精品美女少妇一区二区三区| 亚洲婷婷五月天| 中文字幕国产| ji熟女.com| 97超碰9| 蜜臀人妻少妇久久在线观看| 国产又粗又又黄又猛| 欧美色视频在线| 草草电影院| 国产91美女视频| 久久久久久久久久久久九| 国产欧美美女免费观看视频| www.丁香五月| 亚欧性爱在线无码| 国产精品无码AV网站| 1人人看人人摸人人操| 熟女熟妇一区二区三四区| 天天插天天操天天摸天天射天天看| 日韩草久视频| 欧美亚男人的天堂| 日本免费一区二| 色婷婷九月| 性爱乱伦一区| 日本护士高潮| 国产成人无码久久精品| 操婷婷逼| 99色天堂| 亚州操操穴网| 91丝袜美腿网站| 欧美精品宗合| 欧美十八禁网站| 亚洲偷91色| 黄色十八禁| 成年男人的天堂| 五月综合激情网| 强奸xx国产| 91站街按摩店老熟女熟女| 久久无码电影| 国产精品亚洲一区二区三区四区| 韩国三级理论在线| 国产又爽又黄| 五月婷婷丁香六月| 天天摸夜夜摸| 久久精品视频28| 超碰天天操| 伦理日韩国产久久| 精品超碰色| 91大香蕉伊人| 91丝袜在线观看| 肏逼视频日本| 精品欧美А∨无码黑人大荫蒂| 日韩欧美成人综合在线| 欧美刺激色黄片免费看| 99精品久久| 97干日韩| 综合网久久| 超碰碰激情97+久| 久久日本熟女精品一区| 欧美性Fer办公室秘书| 操少妞在线视频| julia国产在线| 男女无套 免费网站| 人妻无码后入| 日本加勒比无码专区一二三| 青草精品视频日本久久久久网站在线| 日本韩国国产精品一区| 在线a v| 爱做久久久久久| 超碰79人人乐| 都市激情人妻一区二区青青操视频| 精品久久9| 九九九九久久久久| 丝袜亚洲91| 久久日韩肥臀| 无码精品久久| 乱伦一二三区| 天天干天天做| 亚洲人精品久久久| 在线 亚洲 网爆 自拍| 久久大黄片| 啊啊啊慢点| 久久久精品中文字幕爱豆| 日韩中文字幕在线视频观看| av在线资源| 超碰97最新人妻| 久操国产在线| 久久性爱网站| 91国产大片| 中文不卡视频| 一区二区三区视频在线观看免费| 蜜桃视频一区二区三区在线观看| 国产91丝袜 在线播放| 国产传媒操逼视频| 色好看av| 校园春色五月天| 国产做?爰片久久毛片?片美国| 亚洲精品一二三四区| 九九久精品| 91影库| 91暧暧| 精品视频在线观看| 天天欧美欧美亚洲网| AV色五月| 国产精品无码av| 性色中出| 操国产逼| 大香蕉免| 精品人妻中文字幕高清| 视频二区熟女人妻| 亚洲电影91| 青娱乐福利99| 欧亚洲精品有视频| 免费一二区| 99在线精品观看99| 国产精品农村妇女精品| 色一色综合网| 丰满少妇精品一区二区| 日本97久久久精品| WWW美腿丝袜香蕉中文| 色欲久久久久综合网| 亚洲天堂中文字幕无码男同| 凹凸 69堂 在线播放| 另类小色呦| 精品欧美日韩在线观看| 日日碰狠狠添天天爽超| 97久久久久久久久久| 成人福利视频网| 国产精彩女在线观看视频| 色黄色美女大长腿午夜视频| www.acm成人黄色毛片| 亚洲美女自拍偷拍视频| 人人妻人人色一区二区三区| 婷婷伊人网| 91网站18禁| 欧亚洲精品有视频| 91看黄片| 香蕉色网| 五月丁香啪啪啪| 夜夜爽夜夜| 熟妇一区二区三区| 国产亚洲精品av一区| 麻豆国产免费影片| wuyechaopeng| 午夜福利在线视频1000| 一类无码操逼视频| 视频国产成人精品日本亚洲18| 天天激情干| 午夜福利在线视频1000| 国产美女高潮叫床视频| 亚洲国产精品无石码久久| 内射白嫩美女| 新久久AV| 亚洲无码一区成人免费午夜 | 女人妻一区| 97在线精品观看视频| 欧美综合色综合| 久久久一级| A级毛片在线看免费| 九9精品| 欧日韩不卡视.频| 亚洲精品尤物yw在线影院| 久久天堂网| 人妻夜夜爽天天爽麻豆三区网站 | 九七超碰| 老熟妇一区二区三区| 国产欧美伊人| 囯产操逼片| 天天色图| 色欲天香天天综合网-成年人三级片网站-欧美乱妇狂野-日韩国产专区-久久久久久 | 黄片www视频免费| 另类 综合 日韩 欧美 亚洲| 99热亚洲| 成人性爱美曰韩| 又大又大又大又粗爽高潮观看| 亚洲91亚洲| 99亚洲天堂| 家庭乱伦国产| 亚洲色天| 高精欧美色| 中国的操老妇女| 中文字幕丝袜美腿| 欧美三级不卡| 久久人人看| 日本欧美亚洲高清在线看| 在线视频 亚洲精品| 欧美性爱一级操| 狠狠婷婷亚洲中文综合久久| 久草看看看| 人妻天天爽| 欧美精品偷拍| 黄色成品网站| 欧美视频在线第3页| A片三级无码| 欧美亚洲| 久久久亚洲高清不打码| 亚洲精品国产无码高清| 成人国产视频在线观看| 丰满人妻一区二区三区免费| 久久中文字幕人妻熟av女蜜柚| 97精品网站| 大香蕉视频一二三区| 久久二| 国语精品对白| 欧美精品系列| 色狠狠一区二区三区香蕉| 日韩人妻精品| 亚洲久草AV色图| 91女优在线观看| 夜色97| 97av,com| 超碰综合97在线| 国产女主播视频在线观看| 欧美玖玖爱免费玖玖| 国产一区二区久久| AV中文字幕剧情1区2区3| 亚码人妻| 激情文学小说一区二区 | 精品久久大胆人体| 97超碰香蕉| 欧美天天综合网版| 久久久久国产精品久久久| 91精品人妻一区二区三区蜜臀| 加勒比aⅴ| 超碰人妻久久| 蜜臀AV秘一区翔田千里| 午夜无遮挡男女啪啪视频| 亚洲色图尤物视频| 最新日产中文在线麻豆| 91精品黄在线观看| 久久人妻一区二区三区高清| 久久色AV线| 密臀在线视频| 少妇久久久| 日韩熟女乱伦中出| 激情久久久| 精品久久視頻在线| 日本黄色裸日本黄色裸体| 亚洲图片 激情小说| 亚洲男人天堂2| 熟女精品日韩一区二区三区 | 99操视频| 一区=区三区视频| 精国久久一区二区三区98| 亚洲激情欧美色图 | 亚洲1区| 九九玖玖精品| 中出人妻中文字幕91在线| 1240青青草一区二区三区视频天爱| 看日韩黄片| 91成人久久| 色综合美国| 色阁阁AV综合网| 婷婷久月| 日本操BAV| 国产性感骚丝袜在线| 97超碰总站| 亚洲欧美人妻| 粉嫩不卡一区二区性爱| 亚洲美欧999| 91色射| 秋霞网—男女啪啪亚洲免费体验区| 亚洲精品成人激情在线| 男生女生啊啊啊啊| 男人久久天堂| 国产又色又爽又舒服的三级视频| 爱爱动态试试看6 0秒| 熟妇无码视频三区| 亚洲一区二区三区不卡国产欧美| 国内91熟女人妻丝袜天天精品视频在线| 欧美情色男人的天堂| 中国少妇啪啪视频| 欧美日韩香蕉| 日韩欧美丝袜诱惑| 一区二区三区免费视频入口| 99热精品在线观看| 91熟女视频网| 超97在线精品视频| 亚洲激情 欧美色图| 色97干| 人妻-91porn| 91国产在线精品| A级国产欧美激情在线| 色婷婷五月天| 999久久久久久久久| 美女极品一区二区三区| 1区2区3区中文字幕日韩| 国内伊人久久久久久网站视频| 免费综合亚洲中文| 熟女熟妇伦久久影院毛片一区二区 | 91久久精品蜜臀| 久久中久文96| 亚洲一本色道中文无码aV天美| 少妇毛片久久| 亚洲国产美女久久久久 | 网站A V在线| 97视频在线观看播放与子乱对白在线…… | 日韩欧美~中文字| 亚洲成人一区二区精品| 99热18这里只有精品| 久久国产免费激情视频| 传媒免费一区二区三区| 1级午夜影院费免区| 亚洲av热热色| 国产一区二区三区视频在线看| 超碰97男人| 亚洲精品国产熟女| 亚洲精品白丝| 亚洲免费人妻在| 麻豆一区二区AV天美| 九热视频| 99re在线| 丝袜综合色图| 欧美人与性动交a美精品| 视频在线中文字幕| 九九色逼| 超碰97人妻在线| 欧美色图片91| 日韩乱伦影音先锋| 精品日韩产品在线,日韩在线不卡视频,欧美日韩免费专区/久, | 人妻一区二区三区四区视频| 香蕉一区二区三区在线视频| 最新av网站在线观看| 日本好吊色视频| 六十路日本| 国产日本一区二区三区蜜臀在线观看| 日本久操视频| 欧美性爱91| 91久热| 极品丝袜无码| 超碰成人公开| 2017天天插| 99re在线观看| 啊v视频在线观看| 91色综合| 中文字幕日韩情色| 91国产丝袜足交精品视频| 亚洲最新av无码成人精品区| 在线看污网站| 欧美日韩精品国产91| 国产高清成人传媒影视| 91精品国产91久久青草| 97超碰精品成| 一本一道人妻久久一区二区三区| 精品丝袜无码一区二区三APP| 国产外初女出血视频| 九色 人妻 大香蕉| 亚洲二区精品在线观看| 日本操逼视频在线| 欧美美逼| 婷婷五月天无码 | 日本91白丝| 国产 无码 一区二区| 啊啊啊无码| 国产99999久久精品| 超碰超碰欧美| 大香蕉综合在线| 啪啪啪东京| 风月影院十八禁| 色哟哟av| 九一综合网| 欧美人妻二区三区| 日本狠狠干| 十八禁的黄污污免费网站| 丝袜亚洲综合| 青青青草原| 色综合20p| 天堂日本亚洲欧美| 人人色97| www.色五月| 黄片直播三级黄片两女一男| 一区二区精品日韩欧美在线观看| 97在线免费看视频| 床戏久久久av一区二区麻豆| 中文字幕诱惑制服人妻丝袜美丝袜美| Av色五月| 99re这里只有精品中心播放| 激情综合婷婷| 色综合久| 在线看免费无码AV天堂的| 搡老女人老妇女AAA一VU麻豆 | 国产强奸无码乱伦| 欧美天天综合网| 午夜寂寞欧美| 国产51色综合久久免费| 18禁止看精品中文字幕| 78超碰| 免费视频观看60秒| 岛国1区2区3区在线观看| 91蜜臀熟女| 91粉嫩萝控精品福利网站_精品影音先锋国 | 91女优在线观看 | 欧美福利视频啊啊啊啊| av亚欧| 欧美激情综合| 国产女同在线观看视频| 中文字幕免费观看| 亚洲欧美天堂| 欧美体内射精| 欧美色图自拍| 欧美肥臀在线| 好爽视频在线观看| 东京热毛片177b2viP| 欧洲精品一级二级精品综合视频综合| 中国特猛少妇色xxx| 60秒不遮不挡| 亚洲欧洲成人在线电影| 操逼无码操逼| 天天躁日日躁xxxxx| 色官网色综合| 操婷婷逼| 狠狠中文字幕| 中文字幕十五区| 九九九九精品一区| 人妻夜爽夜夜爽| 中文字幕一二三| 伊人五月天婷婷| 操高情无码| www.五月天| 91狠狠综| 中文字幕诱惑制服人妻丝袜美丝袜美 | 麻豆天美91| 老熟女乱伦片| 手机在线视频国内精品| 91久久久久久久久18| 天天爽爽爽爽| 国精综合一二三区影视| 美女网站黄页| 激情小说亚洲色图| 亚洲精品国产熟女久久久久久| 操高情无码| 99色色网| 欧美熟妇亚洲版| 9久久久久久| 岛国片在线播放| 久久婷婷热| 欧美国产视频| 97K超碰在线| 91香蕉视频在线观看免费| 国产精品久久久三级无码| 亚洲国产精品久久久久婷婷青年| 日韩丝袜高跟制服在线观看| 欧美姓爱综合网| 啪啪啪东京| 91久久久久免| 欧美在线综合| 成人午夜高潮av猛片| 日本日皮视频逼| 超碰97资源中文字幕| 亚洲好色人妻| 翔田千里无码中出中文字幕| www.色五月| 少妇第一页| 色哟哟 日韩精品| 激情综合五月丁香| 麻豆天美在线喷水AV| 久久精品人妻一区| 99久久99九九99九九九| 欧美熟妇亚洲版| 无遮挡男女激烈动态图| 99热综合| 男人的天堂三级| 久久久亚洲高清不打码| 日韩天堂av电影在线观看| 欧美高清91| 国产亚洲日本精品在线| 91真人天天在线| 色哟哟AⅤ| 大香蕉AV丝袜| 欧美超碰在线| 很很干很很操| 欧美色九九| 亚洲国产激情国产av| 国产精品天干天干综合网麻豆 | 亚洲欧洲国产综合av| 性色av一区二区| 日本黄色精品专区网站| AV天天在线观看| 超碰97COm中文| 激情久久久| 天天综合网~91| 狠狠激情综合狠狠操中文字幕| 久久久成人精品| 萌白酱自拍视频| 久久久久无码一妻区| 日韩亚洲中文有码视频| 伊人aaa| 精品偷拍13p欧美dodk视频| 久久久久久9999| 国产成人午夜视频网址| 涩涩久久精品| 国产剧情AV不卡在线观看| 精品久久9| 亚洲精品中文字幕一区在线视频 | 日本熟女免费視颖| 小草av不卡亚洲二区| 欧美日韩亚洲一区二区在线观看| 免费成人在线熟妇网| 91艹B视频| www.av不卡中文字幕| 静品嫩模一区二区| 天堂性色| 99999精品成人| 天天草夜夜草高潮片| 学生妹天天看| 六月婷婷综合| 欧美亚洲激情| 妇人噜噜| 免费精品福利在线观看| 九九九九AV| 中文字幕av久久爽Av| 国产精品亚洲一级av第二区| 久久久九九| 激情五月天婷婷| 国产精品国产亚洲区艳妇糸列| 蜜臀99999| 1禁看欧美黄片免费看| 97久久超碰亚洲| 亚洲色图在线视频| 色就色综合| 欧美第五页| 精品91摸| 深夜国产一区二区三区在线看| 超碰欧美COM| 久热久一区二区三区| 亚洲无吗在线视频| 熟妇色99| 色九九九综合| 久热这里| 亚洲国产成人福利在线观看| 插插综合网天天影视网| 亚洲欧美爆| 黄色高清无码无码破解免费暗网| 啊啊啊啊啊好多水| 欧美午夜视频| 狠狠中文字幕| 亚洲情色中文字幕一区| 狠狠超| 欧美成人国产精品| 精品久久久九九九孕妇| 人妻日日干| 国产又粗又大硬免费色网视频| 亚洲日韩XXX| 久久免费中文字幕在线观看| 亚洲国产高清福利视频| 人人搞人人插人人操| 久久久神马影院| 夜夜夜夜夜夜夜夜夜狠狠狠狠狠狠狠| 国产亚洲色婷婷久久99精品91葵花宝典| 清纯唯美亚洲综合| 青青草国产一区二区三区| 亚洲日韩av一区二区三区百合| 亚洲色图亚洲无码强奸乱伦| a片 xxxx受爽视频| 密臀在线视频| 日韩 女同 综合| 色婷婷蜜臀av| 欧美熟女少妇| 亚洲精品人妻吞精av| 午夜亚洲国产理论秋霞| 校园春色亚洲| 欧美色干| 欧美日韩人妻精品一区二区三区| 亚洲欧美日产国产91毛片| 欧美午夜精品久久久久久3D| 欧美日韩中文亚洲v在线综合| 亚洲日韩视频二区| 免费观看日本操逼视频| 亚洲人综合19| 欧美色图亚洲色,麻豆| 夜夜骑操视频| 60秒免费小视频| 久久久久一本一区二区青青蜜月| 中文字幕在线观看丝袜| 欧美性生活综合| 人、人、摸,人、人、草| 韩日性爱av| 中文字幕精品一区欧美| 97色伦97色伦国产欧美| 国产亚洲色婷婷久久99精品91 - 百度| 五月天久久人妻| 久久久久深夜无码| 午夜福利一区二区三区四区五区色婷婷| 中文字幕日韩人妻视频一区二区三区交换夫妻| 夫妻四区五区六区| 久久9久9久99久9久9| 黄色乱论网站| 精品v1区| 99国产精品久久久久久久成人热| 国产久久一区二区三区野外在线| 国产原创精品| 用力操死我| AV高清一区| 中国黑人三级片网站上区| 欧美se亚洲| 中国小夫妻勾搭露脸淫荡对白 | 操逼视频色| 精品国产一区二区三区香蕉欧美| 日韩中文字幕精品一区在线| 国产女同视频在线播放| 亚洲人妻中文高清| 欧美中出1| 婷婷中文字幕| 奸色色 男人天堂 天天射| 亚洲熟妇乱女区二区三区| 久久夜色一区二区| 色麻豆AV| 色婷婷日韩精品一区二区三区| 欧美色97| 国产h小视频在线观看免费| 26uuu最新| 久久首页| 欧美一区二区亚洲天堂| 一区二区三区精品黑丝白丝酒店对鸡| 殴美,日韩国产伦精品| 欧美日韩222| 超碰69| 91熟女丨91老女人| 国语对白露脸XXXXXX | 日日骚av| 偷拍精品一区二区三区| 人妻中文字幕精品无码| 国产大学生高潮在线播放| 青青操青娱乐| 色大香蕉97N| 国产农村妇女毛片精品久久| 老熟妇乱轮| 99久久久er直播网址| 九九亚洲| 欧美韩国你懂得在线| 99精品综合久久久久五月天| 欧美激情综合| 在线观看亚洲专区| 怡红院视频在线| 超碰97久久国| 午夜性刺激视频免费观看| 亚洲1区2区三区高清中文字幕| www.色婷婷.com| 精品一二三区女同| 亚洲色欧美| 日韩性爱小视频在线观看| 91超碰人人| 精品人妻一区二区蜜桃视频| 亚洲高清视频在线免费观看| 日韩乱插| 四虎免费看黄| 日本506070| 欧美日韩国内不卡| 日韩熟女精品无码专区一区二区| 91激情国产| 欧美性爱91| 韩国轻伦国内自拍一区| 精品女同一区二区三区| 69少妇一区二区| 日韩pv中文| 欧美在线电影| 国语精品内射在线观看| 哈哈操电影AV| 九九热三级片| 欧美黄片视频在线观看免费| 超碰天天操你比| 蜜臀无码视频在线观看| 俺去也婷婷| 人妻少妇久久| 最好看的中文字幕在线2018| 爱干爱射网啊啊啊| 精…码一二三区| 色吧五月| 久久久免费高清中文视频| 色官网色综合| 欧美后入视频| 人人玩人人添人人澡免费| 你操综合| 97爱综合| 夜夜中出国产| 国产地址二三| 久草资源欧美在线视频| 强奸乱伦AV一天堂网| 国产精品国产精品国产| 日本欧美韩国日产片片在线看免| 久久AV无码网址| 日产中文字幕2020| 日韩人妻丝袜中文字幕| 在线日韩视频| 欧美成97爱| 国产精品三级视频网站| 亚洲欧美视| 激情久久久| 亚洲做性| 色婷五月| 精品一区二区三区蜜桃| 婷婷导航| 亚洲激情视频| 亚洲精品819| 精品国产三级av韩国在线| 久9久| 性色AV网站| 欧美一二在线| 亚洲国产尤物yw在线观看| 亚洲无限观看| 精品国产www久久| 欧美三四五区| 99热| 日韩性爱一级片| 欧美少妇内射| 国产 热久久久久国产精品| 啊啊啊啊好大好硬啊啊啊啊啊| 在线中文字幕极品av| 成人九九| 色噜噜综合在线| 欧美gv在线观看| 狠狠躁日日躁夜夜躁A| 性爱精品一区| 丰满人妻一区二区三区免费| 欧美中文字幕男人天堂久久精品 | www.99中文字幕| 日本不卡中文| 久久久久国产亚洲一区欧美色图日韩 | 97超碰国产亚洲精品| 亚洲精品美女久久久久久久久| 91超碰丝袜制服| 天天舔天天 | 51久久夜色精品国产麻豆| 麻豆精品三区视频| 国产精品久久久久av| 亚洲另类天堂| 美性中文综合网| 噜噜噜无码AV一级一级久久影院| 神马麻豆福利院| 久久精品老司| 青草av在线| 蜜乳中文字幕a在线| 久湿久久 | 欧美人妻一区二区| 欧美亚洲国内自拍| AAAAAAAAA黄片| 国产熟妇 码视频户外直播| 操死我了嗯嗯嗯| 99热成人| 91社操逼| 一区二区乱码福利| 精人妻无码一区二区三区伊人直播| 91丨九色丨东北熟女| 亚洲阿v天堂无码z2018| 青青草一区二区高清无码视频| 九九热五区| 久久综合九九| 啪啪免费| 人人搞人人插人人操| 女人18精品一区二区三区| 嗯嗯啊啊亚欧精品| 超碰在线国产| 国产精品69人妻无码久久久| 国产AV中文| 日韩八十路老熟女| 中美日韩毛片| 99热亚洲| 久久久久国产精品喷潮免费观看臀| 97视频在线播放| 亚洲成人在线资源| 天天插夜夜爽| 后入人妻一区| 激情六月天| 青青操狠狠撩| 天天操天天射天天日| 91久久| 99re黄| 精品久久久一本一道| 熟妇人妻一区二区三在线| 国产日本熟女顶级一区二区三区视频| 韩日无码在线观看| 国产精品久久久久无码A√| 成人线上超碰| 鸥美中出| 0755午夜福利视频| 九99久久| 激情四射五月天| 99蜜桃臀亚洲成人在线观看| 91精品国产综合久久久蜜臀| 婷婷综合五月| 91精品丝袜在线观看| 国产性爱乱伦AV| 婷婷去俺也去六月色| 熟女这里只有精品6| 欧美福利视频啊啊啊啊| 97操| 国产成人亚洲精品无| 91丝袜| 国产99热| 麻豆美女丝袜人妻中文| 丰满少妇一区二区三区免费看| 久久久一二三四区| 日本高清一本二本免费不卡| 欧美中字不卡| 人澡逼| 蜜臀网址在线| 欧美91变态| 黄片www.| 色婷婷导航| 大香蕉婷婷| 精品久久視頻在线| 女同在线视频一区| 青青草原人妻| 天天摸夜夜摸| 久久精品免视看国产成人﹣蜜臀av一区. 久久精品免视看国产成人,蜜臀av一区 | 欧美色www亚洲国产阿娇要播| 欧美天天在线| 搡老女人老91妇女熟女| 极品色电影院| 亚洲第一页综合在线| yazhououmeizongya| 欧美午夜熟妇黑人精品91| www.91视频网|