色五月色开心色婷婷色丁香,五月婷婷丁香花综合网,婷婷丁香五月激情综合在线,五月婷婷六月丁香动漫,婷婷丁香五月激情综合在线,丁香花中文字幕在线观看,播五月色五月开心五月网,开心激情综合网,狠狠色丁香婷婷综合最新地址,丁香视频在线观看,狠狠做六月爱婷婷综合av,久久激情五月丁香伊人

ARTICLE DETAIL

資訊詳情

深耕商務(wù)建站與企業(yè)官網(wǎng)運(yùn)營的一線實(shí)戰(zhàn)洞察。

K8s集群架構(gòu)到Deployment滾動更新與Pod配額排障課件

K8s集群架構(gòu)到Deployment滾動更新與Pod配額排障課件 簡介面向 Kubernetes 初學(xué)者與云原生運(yùn)維人員的這套課件圍繞集群架構(gòu)、核心對象和日常管理展開幫助建立系統(tǒng)化的 k8s 知識框架。資源包為 1 個(gè) pptx 文件約 1.25MB篇幅集中便于按章節(jié)瀏覽和課堂演示。內(nèi)容先說明 apiserver、kubelet、kube-proxy 等組件職責(zé)再梳理 Pod、Controllers、Service、Label、Namespace 等對象。結(jié)合 kubectl 命令與 YAML 清單展示集群狀態(tài)查看、資源監(jiān)控、日志排查并串聯(lián) Deployment 的創(chuàng)建、發(fā)布、升級、擴(kuò)縮容和回滾流程同時(shí)延伸調(diào)度、存儲與集群安全。目前已有 2191 人學(xué)習(xí)適合入門梳理與面試前復(fù)盤。1. 一份把 K8s 從概念講到配額邊界的課件適合誰啃剛拿到 kubeconfig 的人最常遇到的問題不是 YAML 縮進(jìn)寫錯(cuò)而是 Pod 起不來時(shí)只會反復(fù)kubectl get pods刷新說不清 apiserver、etcd、kubelet 各自卡在鏈路哪一段。這份 K8s 課件針對的正是這個(gè)薄弱點(diǎn)從集群架構(gòu)與組件職責(zé)入手接著是監(jiān)控與日志、應(yīng)用生命周期管理、調(diào)度、存儲、集群安全六塊內(nèi)容按「先知道誰在干活再知道怎么讓它干活」的順序排布。它不適合已經(jīng)能順手寫 Operator 的人但對剛接手集群、需要獨(dú)立把一個(gè) Deployment 從創(chuàng)建推到升級再回滾的運(yùn)維和后端更合適。下面我按自己復(fù)盤的順序拆開重心放在命令背后的參數(shù)含義和幾個(gè)容易出錯(cuò)的邊界上。2. 集群架構(gòu)拆開看apiserver、etcd、kubelet 各自守哪一段2.1 控制面四個(gè)組件的職責(zé)邊界很多人把控制面當(dāng)成一個(gè)整體其實(shí)它內(nèi)部的分工很明確邊界一旦搞混排查方向就會偏。kube-apiserver 是集群唯一入口所有組件彼此不直接通信只跟 apiserver 通信apiserver 也是唯一能讀寫 etcd 的進(jìn)程。一個(gè)請求進(jìn)來要過三道關(guān)認(rèn)證證書、Token 或 ServiceAccount、鑒權(quán)RBAC 規(guī)則、準(zhǔn)入控制各種 Admission 插件全過了才落盤。這套設(shè)計(jì)的好處是審計(jì)點(diǎn)集中壞處是 apiserver 一旦不可用kubectl全線報(bào)錯(cuò)但已經(jīng)在跑的 Pod 不受影響因?yàn)?kubelet 還在按本地緩存的期望狀態(tài)干活。kube-controller-manager 是一堆控制器的集合體Deployment、ReplicaSet、Node、Endpoint、ServiceAccount 各有一個(gè)控制器在跑。每個(gè)控制器本質(zhì)是個(gè)死循環(huán)讀期望狀態(tài)spec讀實(shí)際狀態(tài)status算差值發(fā)指令。這里有個(gè)容易被忽略的嵌套關(guān)系Deployment 控制器并不直接管 Pod它管的是 ReplicaSetReplicaSet 再管 Pod。正因?yàn)槔习姹镜?ReplicaSet 會被保留并縮到 0 而不是刪掉回滾才有歷史可退。kube-scheduler 只做一件事給新創(chuàng)建、還沒綁定節(jié)點(diǎn)的 Pod 選一個(gè) Node然后寫一個(gè) Binding 對象把spec.nodeName填上。它不負(fù)責(zé)把容器啟動起來啟動是 kubelet 的活。調(diào)度分兩階段Filter 先過濾掉不滿足條件的節(jié)點(diǎn)資源不夠、污點(diǎn)不匹配、端口沖突、親和性不符Score 再對剩下的節(jié)點(diǎn)打分。所以看到 Pod 處于 Pending 且 Events 里寫著FailedScheduling問題一定在調(diào)度器這一側(cè)不用去翻容器日志。etcd 是分布式鍵值存儲默認(rèn)監(jiān)聽 2379/2380正常配置下只允許 apiserver 訪問。集群里所有對象狀態(tài)都在它里面某種意義上刪掉 etcd 數(shù)據(jù)目錄等于刪掉整個(gè)集群。組件位置核心職責(zé)掛掉后的典型表現(xiàn)kube-apiserver控制面唯一入口認(rèn)證鑒權(quán)準(zhǔn)入讀寫 etcdkubectl 全部報(bào)錯(cuò)已運(yùn)行 Pod 不受影響kube-controller-manager控制面控制器循環(huán)把實(shí)際狀態(tài)拉向期望狀態(tài)副本數(shù)不收斂Service 沒有 Endpointskube-scheduler控制面為新 Pod 選擇節(jié)點(diǎn)并綁定新 Pod 一直 Pendingetcd控制面保存全部集群狀態(tài)apiserver 起不來集群事實(shí)性丟失kubelet節(jié)點(diǎn)管理本機(jī) Pod 生命周期該節(jié)點(diǎn)上的 Pod 狀態(tài)不再更新kube-proxy節(jié)點(diǎn)維護(hù) Service 的四層轉(zhuǎn)發(fā)規(guī)則Service 通但后端訪問不到2.2 節(jié)點(diǎn)側(cè)kubelet 和 kube-proxy 不是一回事kubelet 是節(jié)點(diǎn)上的代理它做的是向 apiserver 注冊節(jié)點(diǎn)、watch 到綁定給自己的 Pod、通過 CRI 調(diào)用容器運(yùn)行時(shí)創(chuàng)建容器、掛載數(shù)據(jù)卷、拉取 Secret 和 ConfigMap、執(zhí)行存活與就緒探針、定時(shí)上報(bào)節(jié)點(diǎn)和 Pod 狀態(tài)。kubelet 把每個(gè) Pod 翻譯成一組容器操作這個(gè)翻譯過程出錯(cuò)Pod 就卡在 ContainerCreating 或者一直重啟。kube-proxy 完全不參與容器創(chuàng)建它 watch Service 和 Endpoints 的變化在節(jié)點(diǎn)上寫 iptables 或 ipvs 規(guī)則實(shí)現(xiàn)四層負(fù)載均衡。區(qū)分方法很簡單Pod 起不來看 kubelet 和容器運(yùn)行時(shí)Pod 起來了但 Service 訪問不通先看 Endpoints 有沒有后端再看 kube-proxy 的規(guī)則。2.3 用幾條命令把組件狀態(tài)驗(yàn)證一遍課件里給了kubectl cluster-info但單靠這一條信息量太少。我一般按下面這個(gè)順序過一遍每條命令看什么、返回什么算正常心里要有數(shù)。# 集群入口信息apiserver 地址和集群 DNS 服務(wù)地址 kubectl cluster-info # 控制面組件是否都是 Running以及各自落在哪個(gè)節(jié)點(diǎn) kubectl get pods -n kube-system -o wide # 直接打 apiserver 的健康端點(diǎn)返回 ok 說明 apiserver 自身活著 kubectl get --raw /healthz # 看單個(gè)節(jié)點(diǎn)的容量、已分配資源、污點(diǎn)和最近事件 kubectl describe node node-name第一條命令的返回值里如果 DNS 那行是10.96.0.10:53這類地址說明集群服務(wù)網(wǎng)段正常。第二條要重點(diǎn)看kube-controller-manager、kube-scheduler、etcd這幾個(gè)靜態(tài) Pod 的 RESTARTS 次數(shù)短時(shí)間反復(fù)重啟通常意味著證書過期或者磁盤壓力。第三條--raw是直接向 apiserver 發(fā)原始請求繞開 kubectl 的客戶端邏輯用來判斷「是 apiserver 掛了還是 kubectl 配置錯(cuò)了」特別快。注意網(wǎng)上很多老教程會寫kubectl get componentstatuses這個(gè)接口在較新版本里已經(jīng)廢棄輸出的警告比內(nèi)容還長。用kubectl get --raw /healthz配合kubectl get pods -n kube-system替代更靠譜也不用記一堆縮寫。2.4 etcd 快照唯一的后悔藥集群層面最該養(yǎng)成的習(xí)慣是給 etcd 做快照。誤刪一個(gè) Namespace 會連帶刪掉里面所有對象控制器不會幫你恢復(fù)因?yàn)閷λ鼇碚f那就是期望狀態(tài)變了。# 在控制面節(jié)點(diǎn)執(zhí)行證書路徑按實(shí)際安裝位置修改 ETCDCTL_API3 etcdctl \ --endpointshttps://127.0.0.1:2379 \ --cacert/etc/kubernetes/pki/etcd/ca.crt \ --cert/etc/kubernetes/pki/etcd/server.crt \ --key/etc/kubernetes/pki/etcd/server.key \ snapshot save /var/backups/etcd-$(date %F-%H%M).db # 校驗(yàn)快照完整性輸出里 hash 和 revision 都要有值 etcdctl snapshot status /var/backups/etcd-20240101-1200.db --write-outtable--endpoints指向本機(jī) etcd 客戶端端口三個(gè)證書分別對應(yīng) CA、客戶端證書和私鑰缺一個(gè)都會報(bào)context deadline exceeded這個(gè)報(bào)錯(cuò)很有迷惑性看起來像網(wǎng)絡(luò)不通實(shí)際多數(shù)是證書路徑寫錯(cuò)。snapshot save是熱備份不需要停 etcd但恢復(fù)時(shí)必須停掉 apiserver 和 etcd 再執(zhí)行snapshot restore恢復(fù)動作不要在業(yè)務(wù)時(shí)段做。備份文件放本地磁盤意義有限節(jié)點(diǎn)掛了就一起沒了我一般會再同步到集群外的存儲。3. 從 kubectl 到 YAML把一個(gè) Deployment 推到回滾的完整閉環(huán)3.1 命令式創(chuàng)建先用兩條命令跑通初學(xué)階段別急著寫 YAML先用命令式把對象關(guān)系跑通看到 Deployment、ReplicaSet、Pod 三層是怎么長出來的比背字段有用得多。# 創(chuàng)建一個(gè) Deployment鏡像用內(nèi)網(wǎng)倉庫地址 kubectl create deployment web --imageregistry.local/demo/java-web:1.0 # 查看 Deployment 和 Pod-o wide 能看到 Pod 落在哪個(gè)節(jié)點(diǎn) kubectl get deploy,pods -o wide # 暴露服務(wù)Service 80 端口轉(zhuǎn)發(fā)到容器 8080 kubectl expose deployment web \ --port80 \ --target-port8080 \ --typeNodePort \ --nameweb kubectl get svc web--port是 Service 自身監(jiān)聽的端口集群內(nèi)其他 Pod 通過web:80訪問--target-port是容器實(shí)際監(jiān)聽的端口寫錯(cuò)這個(gè)是最常見的 502 來源--typeNodePort會在 30000–32767 區(qū)間隨機(jī)分配一個(gè)節(jié)點(diǎn)端口--name不寫的話默認(rèn)與 Deployment 同名。創(chuàng)建完立刻kubectl get rs會看到一個(gè)名字形如web-7d9f8c6b5的 ReplicaSetPod 名字再在后面加隨機(jī)后綴。這個(gè)三層結(jié)構(gòu)不是冗余設(shè)計(jì)Deployment 負(fù)責(zé)版本和滾動策略ReplicaSet 負(fù)責(zé)某一版本的副本數(shù)Pod 才是真正被調(diào)度的單元。理解了這一層后面rollout history為什么能列出多條記錄就順理成章了。3.2 YAML 逐字段拆apiVersion 到 containers命令式適合驗(yàn)證生產(chǎn)必須落到 YAML否則改一個(gè)副本數(shù)都要記參數(shù)。下面這份是課件里 Deployment 的加厚版把滾動更新策略和資源配額一起帶上。apiVersion: apps/v1 kind: Deployment metadata: name: nginx-deployment namespace: default labels: app: nginx spec: replicas: 3 selector: matchLabels: app: nginx # 必須與 template.metadata.labels 完全匹配 strategy: type: RollingUpdate rollingUpdate: maxSurge: 1 # 滾動時(shí)最多超出期望副本數(shù) 1 個(gè) maxUnavailable: 0 # 滾動時(shí)不允許有副本不可用 revisionHistoryLimit: 10 template: metadata: labels: app: nginx spec: containers: - name: nginx image: nginx:1.25 imagePullPolicy: IfNotPresent ports: - containerPort: 80 resources: requests: cpu: 250m memory: 64Mi limits: cpu: 500m memory: 128MiapiVersion和kind是配對的寫錯(cuò)組合會直接報(bào)no matches for kind不確定時(shí)用kubectl api-resources | grep deployment查當(dāng)前集群支持哪個(gè)版本。selector.matchLabels與template.metadata.labels不匹配時(shí) apply 會被拒絕報(bào)錯(cuò)信息是selector does not match template labels這條報(bào)錯(cuò)很直白照著改就行。replicas是期望副本數(shù)但控制器實(shí)際收斂需要幾秒剛 apply 完立刻查可能只有 1 個(gè) Pod屬于正?,F(xiàn)象。revisionHistoryLimit默認(rèn)就是 10意味著最多保留 10 個(gè)歷史 ReplicaSet調(diào)小能省 etcd 空間但會讓可回滾的版本變少。3.3 升級、擴(kuò)縮容與回滾的操作序列# 升級鏡像改的是 Pod 模板會觸發(fā)滾動更新 kubectl set image deployment/web nginxnginx:1.25 # 阻塞等待滾動完成超時(shí)退出碼非 0適合放進(jìn)腳本 kubectl rollout status deployment/web --timeout120s # 查看歷史版本REVISION 列就是回滾時(shí)要用的編號 kubectl rollout history deployment/web # 回到指定版本 kubectl rollout undo deployment/web --to-revision2 # 手動擴(kuò)縮容 kubectl scale deployment web --replicas10 # 配置自動擴(kuò)縮容CPU 超過 80% 時(shí)最多擴(kuò)到 15 個(gè) kubectl autoscale deployment web --min10 --max15 --cpu-percent80rollout status是我最推薦放進(jìn) CI 的一條命令它比sleep 30靠譜得多滾動失敗時(shí)會立刻返回而不是傻等。--to-revision有一個(gè)容易踩的點(diǎn)回滾本身會產(chǎn)生一個(gè)新的 revision 編號比如當(dāng)前是 3回滾到 2 之后歷史里會多出一個(gè) 4內(nèi)容與 2 一致。所以腳本里寫死 revision 號遲早出問題更穩(wěn)的做法是記鏡像 tag。scale和autoscale同時(shí)存在會打架。HPA 接管之后會周期性改寫spec.replicas手動 scale 上去的數(shù)字過一會兒就被覆蓋回來排查時(shí)看到副本數(shù)自己變先查kubectl get hpa有沒有對應(yīng)的規(guī)則。3.4 滾動更新參數(shù)maxSurge 與 maxUnavailable 的實(shí)際影響這兩個(gè)參數(shù)決定了滾動更新的節(jié)奏也是「升級時(shí)服務(wù)到底會不會抖」的直接原因。maxSurge: 1加maxUnavailable: 0是最保守的組合先起一個(gè)新 Pod等它就緒再停一個(gè)舊的全程副本數(shù)只多不少。代價(jià)是需要集群有富余資源如果節(jié)點(diǎn)資源剛好卡滿新 Pod 調(diào)度不上去滾動就會永遠(yuǎn)停在中間狀態(tài)。maxSurge: 0加maxUnavailable: 1則相反先停舊的再起新的省資源但會短暫少一個(gè)副本對流量敏感的服務(wù)不要這么配。兩者不能同時(shí)為 0否則滾動無法推進(jìn)apply 時(shí)會直接被拒。滾動卡住的排查路徑很固定先kubectl rollout status看卡在哪一步再kubectl describe rs 新 RS 名看 Events。如果是FailedScheduling就是資源或親和性問題如果是Readiness probe failed就是應(yīng)用起來了但沒準(zhǔn)備好接收流量這時(shí)候要去查就緒探針的路徑和端口而不是懷疑鏡像。4. Pod 為什么不是容器的簡單包裝infra container、拉取策略與配額4.1 共享網(wǎng)絡(luò)是怎么做到的Pod 是 K8s 的最小調(diào)度單元但它本身是個(gè)邏輯概念節(jié)點(diǎn)上并沒有一個(gè)叫 Pod 的東西。實(shí)現(xiàn)方式是每個(gè) Pod 先起一個(gè)極小的 infra container也叫 pause 容器由它持有網(wǎng)絡(luò)命名空間然后把業(yè)務(wù)容器 join 進(jìn)這個(gè)命名空間。于是同一 Pod 內(nèi)的容器看到的網(wǎng)卡、IP、路由表完全一致可以直接用127.0.0.1通信。這解釋了幾個(gè)日常現(xiàn)象同 Pod 內(nèi)容器不能監(jiān)聽同一個(gè)端口因?yàn)楣蚕硗粡埦W(wǎng)卡nginx 加 php-fpm 這種組合放同一個(gè) Pod 里nginx 直接fastcgi_pass 127.0.0.1:9000就行不用配 ServicePod 重建后 IP 會變因?yàn)樗玫降氖切碌木W(wǎng)絡(luò)命名空間。存儲共享走的是另一條路靠 volume 掛載而不是命名空間。多個(gè)容器把同一個(gè) emptyDir 掛到各自路徑下就能看到同樣的文件。課件里那個(gè) nginx 日志的例子就是這個(gè)思路把容器內(nèi)的日志目錄掛到宿主機(jī)方便采集。apiVersion: v1 kind: Pod metadata: name: my-pod spec: containers: - name: web image: registry.local/demo/nginx-php:1.0 volumeMounts: - name: logs mountPath: /usr/local/nginx/logs volumes: - name: logs hostPath: path: /tmp/logs type: DirectoryOrCreatetype: DirectoryOrCreate比Directory安全后者要求宿主機(jī)目錄必須已存在不存在時(shí) Pod 會卡在 ContainerCreating 并報(bào)FailedMount。這一點(diǎn)在批量部署時(shí)格外明顯十臺節(jié)點(diǎn)里只要有一臺沒建目錄那臺機(jī)器上的 Pod 就永遠(yuǎn)起不來。4.2 imagePullPolicy 三個(gè)值與 :latest 的隱式規(guī)則三個(gè)取值的含義分別是IfNotPresent本地沒有才拉Always每次創(chuàng)建都拉Never只用手動導(dǎo)入的鏡像。真正需要記住的是默認(rèn)值規(guī)則它跟標(biāo)簽有關(guān)而不是固定的當(dāng)鏡像標(biāo)簽是latest或者干脆不寫標(biāo)簽時(shí)默認(rèn)是Always寫了具體標(biāo)簽時(shí)默認(rèn)是IfNotPresent。所以生產(chǎn)環(huán)境用latest有兩個(gè)隱患一是每次 Pod 重建都要打倉庫倉庫抖動就直接ImagePullBackOff二是同一個(gè)標(biāo)簽對應(yīng)的鏡像內(nèi)容可能已經(jīng)變了回滾時(shí)你以為回到了舊版本實(shí)際拉的是新內(nèi)容。我的做法是標(biāo)簽寫死到小版本重要服務(wù)用 digest 固定形如nginxsha256:...這樣鏡像內(nèi)容不可變回滾才有確定性。4.3 requests 與 limitsCPU 單位、OOMKilled 與 QoS 分類這兩個(gè)字段經(jīng)常被混著寫其實(shí)職責(zé)完全不同。requests是調(diào)度依據(jù)調(diào)度器按它計(jì)算節(jié)點(diǎn)還剩多少可分配資源limits是運(yùn)行時(shí)上限由容器運(yùn)行時(shí)強(qiáng)制執(zhí)行。CPU 超過 limits 會被節(jié)流表現(xiàn)為響應(yīng)變慢但進(jìn)程還在內(nèi)存超過 limits 會直接觸發(fā) OOMKilled容器被殺掉重啟。這個(gè)差異決定了排查方向CPU 問題看監(jiān)控里的 throttling 指標(biāo)內(nèi)存問題看kubectl describe pod里的Last State: Terminated, Reason: OOMKilled。單位方面CPU 的m是千分之一核250m就是 0.25 核1000m等于 1。內(nèi)存的Mi、Gi是二進(jìn)制單位1024 進(jìn)制M、G是十進(jìn)制兩者差 4.8% 左右配額算得緊的時(shí)候這點(diǎn)差異會變成事故。# 查看 Pod 的 QoS 等級 kubectl get pod web-7d9f8c6b5-abcde -o jsonpath{.status.qosClass} # 查看容器上次退出的原因OOMKilled 會在這里體現(xiàn) kubectl describe pod web-7d9f8c6b5-abcde | grep -A3 Last StateQoS 分三檔所有容器都設(shè)置了 requests 且等于 limits 是 Guaranteed部分設(shè)置是 Burstable一個(gè)都沒設(shè)是 BestEffort。節(jié)點(diǎn)資源緊張觸發(fā)驅(qū)逐時(shí)順序是 BestEffort 優(yōu)先被趕走Burstable 次之Guaranteed 最后。所以核心服務(wù)把 requests 和 limits 設(shè)成相等不只是為了穩(wěn)定也是為了在驅(qū)逐排序里靠后。不設(shè) requests 的后果比想象中嚴(yán)重。調(diào)度器會認(rèn)為這個(gè) Pod 不需要資源把它塞到已經(jīng)快滿的節(jié)點(diǎn)上實(shí)際跑起來內(nèi)存一漲節(jié)點(diǎn)整體進(jìn)入壓力狀態(tài)最后被驅(qū)逐的可能是隔壁那個(gè)規(guī)規(guī)矩矩設(shè)了配額的服務(wù)。這就是為什么我堅(jiān)持新服務(wù)上線前先把 requests 填上哪怕估值不準(zhǔn)也比空著強(qiáng)。4.4 私有倉庫拉取imagePullSecrets 的創(chuàng)建與掛載內(nèi)網(wǎng)倉庫基本都要認(rèn)證報(bào)錯(cuò)表現(xiàn)為ErrImagePull或ImagePullBackOffdescribe的 Events 里會明確寫no basic auth credentials或者unauthorized。# 創(chuàng)建 docker-registry 類型的 Secret kubectl create secret docker-registry regcred \ --docker-serverregistry.local \ --docker-usernamedevops \ --docker-password密碼 \ --docker-emaildevexample.com # 掛到命名空間的默認(rèn) ServiceAccount 上該空間內(nèi) Pod 自動繼承 kubectl patch serviceaccount default \ -p {imagePullSecrets:[{name:regcred}]}掛載位置有兩種選擇。寫進(jìn) Pod 的spec.imagePullSecrets只對當(dāng)前 Pod 生效適合跨團(tuán)隊(duì)共享集群但倉庫權(quán)限不同的場景patch 到 ServiceAccount 上則整個(gè)命名空間生效省事但權(quán)限范圍大。密碼里有特殊字符時(shí)記得用單引號包住$和!在雙引號里會被 shell 展開這個(gè)坑我在不同環(huán)境里見過好幾次。5. 監(jiān)控與日志排查kubectl top 不出數(shù)、日志抓不到的五個(gè)坑5.1 metrics-server 的數(shù)據(jù)從哪來kubectl top背后依賴的是 metrics-server它本身不采集數(shù)據(jù)而是定期向每個(gè)節(jié)點(diǎn)的 kubelet 請求資源用量kubelet 再從 cAdvisor 拿容器級指標(biāo)。metrics-server 把結(jié)果聚合成 Metrics API通過 APIService 注冊到 apiserver 上kubectl 和 HPA 都是從這條路讀數(shù)據(jù)。這個(gè)鏈路決定了排查順序先看 APIService 有沒有注冊成功再看 metrics-server Pod 是否健康最后看它能不能連通 kubelet 的 10250 端口。# APIService 的 AVAILABLE 必須是 True kubectl get apiservice v1beta1.metrics.k8s.io -o wide # 看節(jié)點(diǎn)和 Pod 的實(shí)時(shí)資源占用按內(nèi)存排序 kubectl top node kubectl top pod -A --sort-bymemory # metrics-server 自身日志證書和連接錯(cuò)誤都在這里 kubectl logs -n kube-system deploy/metrics-server --tail50需要清楚一點(diǎn)metrics-server 只保留最近幾分鐘的數(shù)據(jù)不做長期存儲想看過往趨勢得另外上 Prometheus 之類的方案。它的定位就是給 HPA 和kubectl top供數(shù)不要指望它當(dāng)監(jiān)控系統(tǒng)用。5.2 日志的三條路徑容器日志一般分三層看。第一層是應(yīng)用寫到標(biāo)準(zhǔn)輸出的內(nèi)容用kubectl logs讀這是最常用的。容器重啟過要看上次的日志加--previous多容器 Pod 要加-c指定容器名。第二層是節(jié)點(diǎn)上的日志文件。容器運(yùn)行時(shí)會把標(biāo)準(zhǔn)輸出落到/var/log/pods/namespace_pod_uid/container/0.logPod 已經(jīng)被刪掉但節(jié)點(diǎn)上還有殘留時(shí)直接去這個(gè)路徑撈。第三層是組件自身的日志。kubelet 通常由 systemd 托管用journalctl -u kubelet看以靜態(tài) Pod 形式運(yùn)行的控制面組件用kubectl logs -n kube-system pod看。# 持續(xù)跟蹤日志只顯示最后 100 行 kubectl logs -f deploy/web --tail100 # 看容器上一次崩潰前的日志 kubectl logs web-7d9f8c6b5-abcde -c nginx --previous # 跟蹤節(jié)點(diǎn)上 kubelet 的日志只看最近 10 分鐘 journalctl -u kubelet -f --since 10 min ago如果應(yīng)用是把日志寫文件而不是標(biāo)準(zhǔn)輸出kubectl logs什么都看不到這不是 bug。要么改成輸出到標(biāo)準(zhǔn)輸出要么用 emptyDir 或 hostPath 把日志目錄掛出來再接采集器。5.3 五條踩坑記錄現(xiàn)象一kubectl top node報(bào)error: Metrics API not available但 Pod 都正常。原因APIService 沒注冊成功或者 metrics-server 連不上 kubelet 的 10250 端口。自簽證書的集群上metrics-server 校驗(yàn) kubelet 證書失敗是高頻原因。解決先kubectl get apiservice v1beta1.metrics.k8s.io -o yaml看status.conditions里的 message再去翻 metrics-server 日志。確認(rèn)是證書問題的話在它的啟動參數(shù)里加--kubelet-insecure-tls這是測試和生產(chǎn)自簽環(huán)境都常見的做法代價(jià)是放棄對 kubelet 證書的校驗(yàn)?,F(xiàn)象二Pod 一直 ContainerCreatingdescribe里 Events 顯示FailedMount。原因hostPath 寫了type: Directory但宿主機(jī)上目錄不存在或者掛載的 ConfigMap、Secret 還沒創(chuàng)建。解決type改成DirectoryOrCreate或者提前在節(jié)點(diǎn)上把目錄建好。用 DaemonSet 掛宿主機(jī)目錄時(shí)尤其要注意集群擴(kuò)容進(jìn)來的新節(jié)點(diǎn)不會自動帶上目錄得靠初始化腳本或 DaemonSet 自己創(chuàng)建?,F(xiàn)象三kubectl logs報(bào)previous terminated container xxx not found。原因容器已經(jīng)重啟過多次舊日志被運(yùn)行時(shí)輪轉(zhuǎn)清理掉了--previous也拿不回來。解決短期靠及時(shí)抓長期靠把日志落盤到掛載卷或者接采集器。容器日志的輪轉(zhuǎn)策略是運(yùn)行時(shí)管的默認(rèn)單個(gè)文件到 10Mi 左右就會切業(yè)務(wù)日志寫得猛的話幾分鐘就沒?,F(xiàn)象四Service 訪問不通但后端 Pod 狀態(tài)是 Running。原因Endpoints 為空通常是 Service 的 selector 與 Pod 的 labels 不匹配或者targetPort寫成了 Service 端口。解決kubectl get endpoints svc-name先看有沒有后端地址空的話kubectl get svc svc-name -o yaml把 selector 抄出來跟 Pod 的 labels 逐字比對。大小寫和拼寫錯(cuò)誤是主要來源app: nginx和app: Nginx在 YAML 里是兩個(gè)完全不同的選擇器?,F(xiàn)象五出問題想查事件kubectl get events是空的。原因事件默認(rèn)只保留 1 小時(shí)apiserver 的--event-ttl參數(shù)排查拖久了就沒了。解決故障當(dāng)下立刻執(zhí)行kubectl get events -A --sort-by.lastTimestamp把輸出重定向到文件留檔。超過保留期的只能靠提前部署的事件采集組件這個(gè)能力在事后復(fù)盤時(shí)價(jià)值很高。6. 調(diào)度、存儲與安全三個(gè)能當(dāng)場跑通的驗(yàn)證動作課件目錄里還有調(diào)度、存儲、集群安全三塊篇幅不多但都是容易「看著懂、上手懵」的部分。我的習(xí)慣是每塊至少跑一個(gè)最小驗(yàn)證確認(rèn)自己理解的和集群實(shí)際行為一致。調(diào)度這塊驗(yàn)證方式是把 Pod 釘?shù)街付ü?jié)點(diǎn)再觀察結(jié)果。給 Pod 加nodeSelector或者直接用nodeName創(chuàng)建后kubectl get pod -o wide看 NODE 列是不是預(yù)期的那臺。用污點(diǎn)和容忍做反向驗(yàn)證更直觀給節(jié)點(diǎn)打上kubectl taint node node envtest:NoSchedule不帶容忍的 Pod 會 Pendingdescribe里的FailedScheduling會明確寫出污點(diǎn)不匹配的原因。這比讀十遍文檔管用。# 給節(jié)點(diǎn)打污點(diǎn)再驗(yàn)證不帶容忍的 Pod 是否被擋住 kubectl taint node node-01 envtest:NoSchedule kubectl run probe --imagenginx:1.25 kubectl describe pod probe | grep -A2 FailedScheduling # 驗(yàn)證某個(gè) ServiceAccount 在命名空間里有哪些權(quán)限 kubectl auth can-i --list \ --assystem:serviceaccount:default:deployer \ -n default存儲這塊PVC 一直 Pending 時(shí)按三步查kubectl get storageclass看有沒有可用的 StorageClasskubectl describe pvc name看 Events 里是no persistent volumes available還是waiting for a volume to be created再比對 PVC 的accessModes和 PV 支持的是不是一致。ReadWriteOnce和ReadOnlyMany寫混了不會報(bào)語法錯(cuò)只會靜靜掛起。安全這塊RBAC 的驗(yàn)證靠kubectl auth can-i上面那條命令會把這個(gè)身份能做的動作全列出來。我在給新同事分配 kubeconfig 之前一定會跑一次確認(rèn)權(quán)限范圍跟預(yù)期一致避免出現(xiàn)「以為只給了只讀實(shí)際能刪 Deployment」這種事。有個(gè)習(xí)慣我改不掉任何環(huán)境做變更之前先跑一遍kubectl get --raw /healthz加一次 etcd 快照。這個(gè)動作花不到一分鐘但在我誤刪過一整個(gè)命名空間之后它就成了肌肉記憶。希望幫到你。本文還有配套的精品資源點(diǎn)擊獲取
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
色香91| 少妇与黑人高潮在线| 91日产欧美| 秋霞欧美性爰视频| 日韩国产精品人妻无码久久久| 日韩美女久久一区二区三区| 国产尹人在线视频免费| 天天操天天干一区二区 | 久久久青草青青国产亚洲免观精品高清完整版_97久久综合区小说区图片区,国精品 | 99999亚洲另类| 国产精品老熟女一区二区| 久久嫩草| 裸体美女久久久| 九九在线精品| 成人免费在线网站| 欧美日韩国内不卡| 亚洲中文字母在线播放| 久久久久久久九九九九九九| 欧美高清16| 日韩欧美水蜜桃人妻| 亚洲成人免费在线| 岛国免费黄色网址| 神马久久午夜| 啊啊啊啊,啊啊好多水| 中文一区二区婷婷视频| 天天爽天天操| 婷婷丁香五月激情啪啪| 中文字幕一区二区三区高清| 欧美操人视频| 熟妇乱伦一区二区| 中文AV制服乱伦| 日本久久久久久久久久| 青青伊人加勒比海| 欧美无圣光在线| www网站黄| 人人 操人人 操人人| av东京热男人的天堂| 欧美十八禁在线看| 操碰97| 欧美一级黄片免费播放| 亚洲精品白浆高清久久久久久| 91中出视频| 欧美亚洲色的图| 青青青青草av在线观看| 老熟妇综合| 国产怡红院| 亚洲不卡不卡中文字幕不卡| 91熟女熟妇视频网站| 国产激情在线| 日韩不卡av一二三| 99热啪啪| 性感女人网页在线观看视频| 亚洲av总站| 中文字幕av久久爽Av| 日本色色的视频| 蜜乳AV一区| 午夜一区二区三区国产| 国产毛片在线| 日韩av一级黄片| 日韩av不卡在线观看| 另类一区| 婷婷色综合| 久久激情网| 99热18| 国产精品免费美女视频| 亚洲中文字幕久久人妻| 午夜电影在线观看无码专区| 乱伦熟女区| 综合网,亚洲,欧美| 亚洲天堂另类小说男人| 中文字幕诱惑制服人妻丝袜美丝袜美| 久9综合在线| 综合久久97| 国产精品午夜福利亚洲综合网| 人伦四五区| 国产精品网址| 午夜福利免费精品视频| 六九九九| 欧美熟妇亚洲版| 精品妇操一区二区三区| 久久久亚洲精品中文字幕人妻| 天天色欧美| 激情熟女12P| 三级激情网站| 欧美78p| 欧色综合| 又黄又硬又粗又长国产视频| 青草地一本线一区二区三区| 久久国产乱子伦精品免费女人| 久久久久国产精品片区无码直播| 国产树林里野战在线看| 97超碰色屌| 激情人妻另类| 久久在线观看免费视频| 天天插天天射| 久久综合av| 久久免费9| 日韩美女操b| 午夜福利无毒不卡| 欧美日韩超碰在线| 3PAV乱伦视频| 91亚·色| 亚洲高清欧美总合| 五月天婷婷基地| 丝袜美腿校园春色| 精品无码一区二区三区色欲| 九月婷婷久久| 少妇内射视频| AV污污污污| 狼人综合婷婷激情四射 | 任我爽视频在线观看| 亚洲drav色图| 乱伦图一区| 精品国产自在在线99| 老鸭窝日丰县女人| 一级性爱网| 少妇滛荡视频| 综合网少妇| 欧美中文字幕日韩在线| 男人的天堂VA在线| 国产日韩无码一区二区三区久久区| 97超碰磁| 青青草精玖玖69精品| 美女91在线| 欧美激情另类一区二区| 欧美成人色| 边做饭边操逼逼| 久久精彩免费视频| 操死我了啊啊啊| a片在线播放| 国产一级操B视频| 丝袜天堂| 色就色综合| 裸体女人草逼视频播放一区,二区,三区,四区,五区 | 九九碰九九爱97超| 九九久久首页| 久久精品人人做人人看| 狠狠夜色午夜久久综合在线| 美女久久久久久久久久久| 激情专区综合| 伊人操| 日韩AV电影网站 | 久草视频在线视频在线视频在线观看| 91电影色诱| 最新国内自拍av免费| 91殴美大片| 一个色导综合| 亚州日韩97| 亚洲二区精品在线观看| 蜜臀久久99'精品久久久| 久操凹凸视频| 久草综合网| 92福利社视频| 亚洲国产熟妇综合色专区| 亚洲日产专区| 日本视频一区二区三区| 国产AV天美传媒一区二区三区 | 亚洲图片偷拍欧美| 五月丁香影视| 一区AV| 97精品国产手机| 99这里只有精品国产| 伦在线97| 看看小穴| 少妇xx精品| 欧美色另类| 久久久久久久极品香蕉视频| 亚洲无码?第一页| 日比av无码| 中文字幕少妇色 | 91香蕉视频在线观看免费| 亚洲青色欧美| 综合色久| 国产真实野战在线视频| 亚洲丝袜诱惑| 99re99视频在线免费观看| 涩涩涩综合| 国内操逼视频二区| 一区二区娱乐网站| 自拍偷拍 日韩欧美| 欧美国产有色电影| 日韩pv中文| 激情国产乱伦Av| 啊啊啊啊啊好舒服视频| 超碰公开久久网| 午夜电影在线观看无码专区| 国产精品com| 天天色综合影视网| 狠狠干妹子| 欧美最婬乱婬爆婬性视频 | 天天综合欧美综合| 日韩激情啪啪| 一个国产在线综合网站| 青青青青操国内视频在线| 人妻加勒比东京热| 日韩亚洲国产视频| 99精品国产户外露出| 青青草色情网站视频| 人看人人摸人人操| 四虎国产精品永久入口| 99re视频在线播放青草| 精品九九淫乱男| 欧美爆操91| 人妻偷拍一区二区三区| 色综合一区二区三区| 天天操天天日青青草超碰av| 97精品视频免费| 亚洲 综合 欧美| 综合欧美日韩在线观看| 熟女色综合久久| 亚洲?V高清一区二区三区尤物| 91九九九吃| 天天综合影院91| 伊人大香蕉在线| 少妇滛荡视频| 久热99| 少妇无码av专区线| 夜草网站| 国产AV色黄看到爽| 色欧美亚洲| 久久久久久十| 97中文综合| 蜜臀无码一区二区| 无码九九| 青青草依人大香蕉| 色吧91| 超碰在线一区二区三区| 亚洲综合在线第一页| 欧美日韩狠狠爱| 密臀国产在线| 欧美性夜| 国产午夜精品理论片a大结局| 中文乱码字幕观看| 八戒无码国产午夜福利| 国产精品黄色三级av| 久久综合资源一区二区| 韩国一级婬片A片无码天美| 久久精品国产欧美日韩亚洲欧美日韩中文久久国产一区 | 国产中文精品一区二区在线观看| 激情啪啪拍91| 激情综合五月丁香| 免费视频a级毛片免费视频| 色婷婷综合久久久久中文国产精品一区中文字幕,国产福利电影一区二区三区 | 亚洲色图欧洲| 天天射网| 亚洲色偷偷色噜噜狠狠99网| 色欲Av人妻精品一区二| 国产精品白领在线观看| 思思热国产在线视频| 新怡红院| 欧美综合网站999| 天海翼久久| 欧美se亚洲| 91AV老熟女视频| 女性喷水高潮在线观看| 91东北熟女| 中文字幕青青草| 久久蜜色情在线视频xxx免费观看| 99超级碰免费视频| 中文字幕精品一区二区精品| 色狠狠综合| 亚洲巨爆乳一区二区三区四季网| 97网站在线观看| 伊人色综合欧美| 在线不卡视频| 日本人体九九九九九九| 久久久久骚| 欧美|91色综合| 久久精品一区二区三区不卡| 最新欧美色网| 免费成人在线熟妇网| 五月色综合| 久久不卡一区二区| 蜜臀AV成人精品蜜臀| 91男同| 精品久操| 国产无码久久高清| 亚洲精品一区二区精华| 18禁中文字幕| 人妻精品综合中文字幕在线 | 制服丝袜第二页| 久久机热| 久久在肏| 日韩亚洲中文字幕在线| 亚洲砖码砖专无区2023| 欧美经典一区二区三区| 国产精品激情久久久久久久| 免费簧片在线观看| 日韩AV色图| 四虎AV在线播放| 亚洲色电影在线| 2019午夜福利视频| 国语av狠狠色丁香婷婷综合激情| 亚洲第一狼人丝袜美女另类| 国产原创精品| 啊啊啊啊啊啊啊网址在线观看| 日韩大香蕉| 国产精品一区二区三区,亚洲综合| 91五月天| 操日韩第| 啊好爽受不了无码| 日日摸日日弄日日拍| 澳门黄片一香蕉视频| 国产欧美一区激情交| 天综合网欧美| 青青操综合网| 日日夜夜草草草| 国产一进一出视频网站| 无码视频一区二区| 手机看片1024你懂的国产| 疯操AV| 久碰视频| 1769国内精品视频| 亚洲 综合 第一页| 夜夜草网站| 高清孕妇孕交 交| 禁片 高清 在线观看视频网站| 欧美色图20p| 亚洲官网在线| 五月丁香社区婷婷日韩欧美精品影院 | 97亚洲综合电影| 白丝被操91| 锕锕好爽 死我在线观看| 综合欧美日本三级| 懂色中文一区二区三区| 久久风骚城市| 久久综合女优| 色综合91| 色噜噜精品一区二区三| 91亚洲欧美| 久9久9精品| 天堂蜜桃无码视频一区二区| www.大香| 精品无码一区二区三区| 骚货操死你| 少妇滛荡视频| 日韩精品区二区三区不卡| 9国产超碰| 精品久操| 欧美性生活内射| 精品久久久久久亚洲| 天天摸夜夜添无码小视频| 女生看匆91网站| 青青欧美| 熟女高潮合集-永久久久-成人AV| 992这里有精品| 国产女人91精品嗷嗷嗷嗷| 亚洲成人贴图| 欧美色另类| 加勒比av网| 狠狠夜色午夜久久综合在线| 欧亚乱色熟一区二区三四区| 啊啊啊好爽快点啊啊啊嗯嗯| 啪啪啪大香蕉| 狠狠操天天干| 操九九九九九九| 开心五月深爱五月| 亚洲婷婷五月天| 欧美躁死她一区二区| 五月婷婷激情综合| 久久婷婷一区二| 啊啊啊用力在线观看| 久操黄色视频| 天天日天天射天天干| 久久精品天美| 999久久芭蕾| 天天综合91入口| 噜噜噜噜天天狠狠| 一区二区三区国产在线播放| 日韩兔费看黄片| 成人线上超碰| 在线国产福利网址导航| 日韩不卡毛片Av免费高清| 国产成人久久久精品免费AV| www.婷婷五月天| 女人妻一区| 国产熟女精品区| 亚洲第一页综合在线| 人人操人人摸超碰| 熟女激情综合网| 亚洲最新中文字幕免费| 99re这里只有精品中心播放| 久久久111| 91色婷婷综合久久中文字幕二区| 国产福利电影| 久久国产乱子伦精品免费女人| 超碰这里只有精品| 日韩电影免费网站麻豆视频| 天天噜| 欧美性爱视频免费一区一A| 日韩人妻大香蕉| 天天综合欧美综合| se01国产在线视频| 久久久久久久久久久久久久久乱码| 美女AV一区二区| 国产精品视频在线观看| 另类一区| 超碰免费欧美7| 亚洲男人综合| 国产欧美第五页| 午夜无码熟妇丰满人妻| 国产特级毛片AAAAAA高潮流水| 天天插天天插| 日韩一级二级三级| 人人乐大香蕉| 久草毛片| 综合色图区| 死我十八禁| 国产第25页在线观看| 97 视频在线| 亚洲春色欧美激情自拍| 久久久精久久久| 超碰人妻97| 色婷婷激情| 亚洲色人阁| 日本三级中国三级99人妇网站| 少妇激情AV| 日韩少妇一区二区三区| xxx亚洲午夜天堂| 国产一区二区三区高清视频| 国产乱码久久| 精品亚洲成人免费在线| 色天欧美| 欧美少妇熟女| 国产亚洲欧美每日在线| 少妇精品久久久| 亚洲精品一区二区三区在线播放| 变态另类专区| 精品少妇一区二区三区免费观看| a片自拍直播视频| 久久亚码| 色欧美天天| 操逼操逼操| 欧美熟女妇同| 操人91| 国产综合日韩伦理| 明星性猛交ⅹxxx乱大交| 国产日韩精品suv| 国模精品娜娜一二三区| av在线不卡一区二区三区| 夜色97| 嗯嗯,啊啊,国产精品| 国产精品视频一区二区三区八戒| 伊人久大| 啊啊啊在线观看免费视频| 亚洲欧美在线观看2021| 成·人免费午夜在线观看| 97综合在线观看| 免费在线黄片视频| 老熟妇乱轮| 日韩精品亚洲一二三| 丰满搜索结果 -第18页- 久久高清无码 | 大香蕉中文网| 国产精品九九| 日韩久久艹| 日韩97超碰中文字幕| 国产一区二区欧美日本| 日欧操屄| 欧美 亚洲 在线| 97在线播放| 久久噜| 都市激情人妻一区二区青青操视频| 人妻少妇色综合| 欧美国产日韩高清在线| 404操逼福利视频| 91性高朝久久久久久久久| 91综合中文字幕| 色香欲影| 污色区网站| a级免费在线观看| 狠狠爱综合网| 色哟哟AⅤ| 成人毛片免费| 色欲av一区二区三区蜜芽| 大屁股人妻女教师撅着屁股| 中文乱码字字幕在线第5页| 欧美中文字幕精品人妻| 91视频伊人| 久久久久亚洲AV无码专区少妇| 波多野42部激情无码喷潮| 91久久久亚洲| 18禁精品网站在线看| 一区二区三区成人高清视频| 人妻乱仑一区二区三区| AV中文在线| 91暧暧| 偷拍片久久| 天天操妹子| 午夜小电影在线插入淫高潮| 青娱乐福利99| 超碰97欧美日韩| 99日韩| 超碰欧美在线欧美| 4虎在线视频| 一本一道久久综合久久| 麻豆AV一区二区天美传媒| 综合色一区三区二区| 欧美日韩传媒| 成人乱码一区二区三少妇| 亚洲激情网| 欧美18禁91| 黑白配性爱AV成| 欧美 精品国产制服第一页 | 日日干夜夜干| 1.igao73.com 加入收藏 免费专区 国产精品 中文字幕 日韩精品 欧美精品 精彩 | 加勒比海成人视频网| 91视频女生| 操国产高清| 精品v日韩欧美国产| 久久夜色一区二区| 99999国产精品| 国产一区二区在线电影| 色色综合97| 99久久精品国产系列| 色综合色综合网| 超碰无码五月97| 国产午夜福利电影免费在线观看 | AV99热18这里只有精品| 国产毛片毛片4p懂色| 五月丁香六月婷综合成人综合| 经典丝袜一区| 色五天伊人| 九九九精品一区二区无码| 欧美夜夜草视频| 蜜臀久久99精品久久综合| 欧美成97爱| 亚洲精品亚洲人成人网| AV色女综合| 日本三级韩三级99久久| 男人天堂资源| 日韩一级二级在线| 这里只有精品视频在线观看麻豆| 在线人妻熟女一区二区三区四区五区| 另类图片综合| 久久只有精品一区二区三区| 欧美成年人性爱视频免费观看| 国产久久久9999| 韩日色费| 九九人妻| 天天流夜夜操| 综合久久久久久久综合网| 国产第11页| 亚洲熟女中文字幕在线| 中国国国产一级特黄毛片| 超碰在线一区二区三区| 日韩无码人妻| 蜜臀久久久国产| 99热这里只有精品地址| 男人的天堂网页| 亚洲国产精品久久久男人的天堂| 多乙久久久久久| 搡老女人老91二区| 最新9久久久9免费视频| 黑操B| 亚欧高清在线| 三级日韩一区二区三区| 蜜臀久久99'精品久久久| 猛交交| 一,爱啪啪,在线免费视频| 日日躁夜夜躁狠狠躁超爽| 午夜天堂精品久久| 丁香五月激情综合| av片在线观看免费播放| 人人操 欧美| 4虎在线观看| 精品制服美女中文一区二区三区| 久操99| 五月丁香六月激情| 女人高潮大叫一级毛片| 一区二区三区亚洲| 国产美女在线精品免费看| 成年人免费观看网站| 加勒比海成人视频网| 91美女在线精品视频| 大香蕉伊人色偷偷在线| 性爱1区| 青娱乐日韩无码| 国内毛片婷婷六月色| 为用户提供免费看黄网址在线观看| 欧美BT 亚洲色图| 久9爱经典视频| 91欧美综合在线| 中文字幕人乱码中文字的预防方法| 亚洲熟妇乱女区二区三区| 日日干夜夜干| 男人的天堂2010| 口爆综合网| 色诱中文字幕| 亚州 综合 色图| 青草视频人妻在线观看| 伊人久日| 亚洲 暴爽 AV人人爽日日碰| 97超碰站| 操高情无码| 色综合五月天| 精品久久久久黄少妇| 啊啊啊啊啊啊啊在线| 日产123区精品免费观看| 久久噜| 亚洲丝袜综合| 涩涩这里只有精品视频| 色色五月婷| 国产日本熟女顶级一区二区三区视频 | 日韩超碰97| 丁香五月偷拍| 国产自偷自拍一区| 啊a一区在线| 日韩久久艹| 91狠狠狠| 久久美女国产| 国产精品一区人妻精品阁在线| 国产伦精品一区二区三区视频女| 激情综合av| 国产97/欧美| 亚洲欧美高清无码| 丁香婷婷九月| 少妇三P| 熟女91网站| 欧美真人抽搐一进一出gif| 久久东京国产精品视频| 欧亚久久偷拍视频| 91 丝袜在线播放| 搡老熟女老女人老熟妇免费视频| 亚洲中文制服诱惑| 麻豆精品.欧美精品.日韩精品.| 蜜乳AV免费观看| 久久久久人妻| 91老妇女| 亚洲精品成人| 97超碰欧美手机在线| 黑人白女精品一区| 欧美久久久15P| 麻豆精品一区二区三区四区免费观看| 曰韩av中文字幕专区| 色妇91| 首页中文字幕中文字幕免费| 91AV天堂| 久久久久久人妻一区精品色欧美| 欧美狠狠弄| 蜜乳成人AV| 午夜福利在线视频1000| 亚洲囯产精品女人久久久| 极品内射| 狠狠色噜噜狠狠狠狠狠色综合久久| 国产精品欧美激在线| 最新国内自拍av免费| 澳门成人网站久国产日韩| 蜜臀一区二区三区在线| 欧美色图片91| 秋霞免费AV| 久久老熟女| 国产夫妻一区二区| 久久精品久久九九精品| 97精品视频在线| 婷婷在线视频| 黄色av网站在线播放| 欧美青青草视频| 女人被添高潮免费视频| 清纯唯美亚洲| 国产成人精品午夜福利| 六月丁香五月婷婷| av毛片aaaaa免费看| 好吊爽好吊爽在线视频,中文字幕精品一区二区日本,国产良妇出轨视频在线观看, | 一二三区操逼国产91| 另类av综合久久| 中文字幕精品一区二区精品| 成人av毛片在线观看| 欧美91色| 日本二三四区| 大香蕉宅男伊人| 综合久久中文字幕综合日韩精品| 小说区 图片区色 综合区| 中国小夫妻勾搭露脸淫荡对白| 国产动漫操逼视频| 国产强奸乱伦xd| 女色综合| 性欧美999| 东方亚洲在线操逼天堂| 精品十三区| 搡老女人老妇女老妇老熟女怎么读| 2019天天干天天操| 狠狠色噜噜狠狠狠狠2018| 欧美高清91| 亚洲综合 欧美| 9999亚洲精品| 自拍视频大全亚洲专媒视频/一区二区三区 | 国产精品高清2021在线| 色香欲影| 2021国产成人精品久久| 国产中文字幕在线观看| 超碰碰小说97| 激情视频图片| 高清无码91| 亚洲欧美伦综合| 精品午夜福利| 好色综合| 超碰日韩人妻| 色欲三区| 日本精品第一视频在'| 日本性爱少妇| julia高潮后不停追击中出| 99精品在线| 97干日韩| 91亚州欧美| 丰满人妻一区| 91人妻人人澡人人爽人人精品| 国产麻豆91欧美一区二区久久婷婷国产精品 | 国产超碰欧美| 国产精品天堂| 精品成人动漫一区二区| 一区三区啪啪| 亚洲另类久操网| 无码久| 久久啊啊啊| 秋霞一级A片黄色视频| www…国产操逼| 天天看综合网| 欧美综合777| 玖玖爱在线视频免费观看| 日韩亚洲精品一区二区| 久热9| 亚洲色丰满少妇高潮| 精品免费囯产一区二区三区 | 九九九综合精品| 人妻激情视频| 小视频玖玖| 91亚洲黑人| 精品国产综合久久福利,热99这里有精品综合久久,99热这里只有免费国产精品,精 | 久久专区| 精品成人av一区二区三区在线| 91色图片| 欧美中文综合| 欧美激情综合| 国产精品麻豆成人av| 亚洲资源一区| 一区二区三区视频在线观看免费| 欧美少妇一区二区三区| 日韩欧视频| 亚洲色图欧美视频| av东京热男人的天堂| 成人小说视频在线精品欧美| 天天色综合图片| 美女91| 精品少妇后入一区二区三区四区人妻巨乳| 色麻豆AV| 偷窥自拍A片| 2020中文字幕在线| 亚洲区 欧美区| 99操逼| 日本大香蕉综合网红本杳社区| 91精品国产高清久久久久久,亚洲成人| 久久夜嗨| 91小视频| 国产激情在线| 操我啊啊啊啊啊| 天天日天天操天天射河南省| 六月丁操逼| 中文字幕精品日韩中文字幕| 制服丝袜第二页| 色九九综合| 九九无码| 加勒比av中文| 婷婷六月色| 韩国一级做a久久久久| 中文字幕视频2区| 蜜乳AV一区二区三区四| 亚洲图片视频小说| 后入美女国产| 成人亚欧免费视频| 国产9熟妇视频网站| 国产精品一二三免费网站| 久久久97| 日韩中文9| 久久精品免费| 91人妻Pr| 人人摸人人添人人操 | 欧美αv.com| 97天天| 人妻少妇无码| 啊啊啊啊啊啊啊好爽不要| www.yw尤物| 乱伦1色页| 欧美黄色手机在线观看| 9久9久9久9久视频网站| 男插女青青影院| 六月丁香五月婷婷| 中文字幕亚韩| 久久性爱视频99| 97精品在线视频| 97视频在线免费| 蜜桃一区二区三区| 成人日本精品九区| 天天综合AV| 久久香蕉网| 色99色| 五月丁香综合激情| 3p国产欧美99热| 凸凹视频在线观看| 欧美日韩中文亚洲v在线综合| 国产精品盗摄 偷窥盗摄| 国产操逼网站亚洲一级黄色| 男人天堂2030| 天天综合网在线观看| 欧美日韩1234| 十八禁啪啪视频| 大二网站亚洲| CCYY草草影院地址入口| 在线视频 亚洲精品| 成人免费性爱视视| 九九九九九九免费视频| 欧洲成人性爱视频| 国产美女高潮| 天天懆天天日| 狠狠色噜噜狠狠狠狠狠色综合久久| 天天躁日日躁xxxxx| 亚洲欧美一区二区三区一猛片| 国产精品亚洲天堂网址| 日本Xx性爱| 亚洲色五月| 欧美激情超碰777| 另类成人首页一区| 国产免费内射视频| 国产操伦| 日本熟妇一区二区三区| 激情露脸爱| 国产不卡的视频| 精品国产乱码久久久久久网站入口| 超碰九7免费| 天天看天天在线精品| 99激情| 人妻内射一区二区在线视频| 97中文字幕一区| 无遮挡一级毛片视频免费的| 久久无码电影| 亚洲射综合网| 国产人妻久久精品一区二区三区| 中文字幕日韩电影人妻| www九九热| 欧美传媒一区| 欧亚无码视频| 免费精品99| 欧洲精品区| 啪啪视频亚洲第一| 嗯嗯嗯啊啊啊在线免费观看| 老司机午夜福利视频一区二区| 欧美第一页性| 天天综合~91| 波多野结衣先锋影音| 99爱久久视频频| 日本不卡一二区| 亚洲国产高清福利视频| 动漫区日韩区欧美区| 午夜视频黄| 亚洲情色一区综合| 欧美激情一区| 亚洲一区中文字幕久久,果冻传媒一区二区天美传媒 | 家庭乱伦国产| 5252色欧美在线| 日韩无码极品| 麻豆视频test| 三级日韩一区二区三区| 91色女| 操一操摸一摸| 1区2区3区中文字幕日韩| 91欧洲国产成人久久精品网站| 超踫中文字幕| 插入逼91| 人人操人人射人人干| 97人妻免费中文字幕| 亚洲AV色图一区| 五月丁香激情啪啪| 在线不欧美| 蜜臀99999| 欧美成人黄网色网站| 92大香蕉| 啊啊啊啊在线观看网址| 亚洲乱伦图片视频| 91观看 国产白丝| 欧美熟妇精品黑人巨大一二三区| 欧美人人操人人插| 操老熟女AV| 天天干天天日天天射黄色| 国产精品免费1区2区视频| 99re在线视频| 啊啊啊用力在线观看| 亚洲一卡2卡3卡4卡乱码网站| 亚洲综人网| 欧美综合第一| 天堂精品在线| 乱伦av.com| 日本高清免费一本视频在线观看| 欧美91久久久久| 亚州乱码中文字幕综合久久久| 精品国产乱码久久久久久口爆网站| 日韩少妇丰满亚洲| a片久久久久久久久久久久 | 婷婷激情四射| 看一级特黄a大一片| 大香蕉一级黄色片久久| 99久在线精品99re8| 欧美色一二三| 久久久久久久久久久人妻| 午夜精品视频777| 国产三级多多影院2022国产AA一级毛片无码 | 国产精品岛国片在线观看| 日韩成人私密一级精品av| 久九九九| 丰满人妻一区二区三区免费| 91熟女视频网| 狠狠操狠狠燥| 日韩人妻丝袜美腿中文| 国产视频大全| 国产精品乱码久久久、久久| 一区| 久久综合av| 在线小视频| rivers-china.com| 大香蕉日韩欧美| 中文字幕av片| 人妻精品一区二区| 男人天堂2017| 强奸乱伦AV一天堂网| 亚洲国产欧美另类自拍| 亚洲高清国产理伦片| 熟女被操视频网址| 99激情| www.高清无码诱惑一区.com | yazhououmeizongya| 男人天堂2030| 久久精品国产亚洲AV高清演员表| 国产精品一区二区校花| 亚洲二区精品在线观看| 日日日日日| 75大香蕉| 国产精品另类| 偷拍 欧美 日韩| 久久久无码av精| 久久本道| 毛片麻豆91糖心精品毛情片| 亚洲中文字幕av| 亚洲黄色视频在线观看视频| 秋霞久久亚洲精品成人| 亚洲五月丁香花狠狠干一区二区三区 | 天天欧美| 欧美一区二区三区入口| 激情综合亚洲| 国产性爱欧美性爱在线| 超碰九7| 99人人干| 伊人网在线视频| 亚洲高清视频在线免费观看| 亚洲成a人片在线观看中文!!!| 欧美午夜精品久久久久久3D| h色99999| 天天色,天天干,天天干| 国产精品天美传媒| 极品少妇久久久| 国产剧情AV不卡在线观看| 欧洲Au麻豆| 熟妇熟女一区二区三区| 爽 好舒服 无码刺激久久| 欧色综合| 日韩黄色片子| 高清不卡国产| 张柏芝国产一区在线观看| 久久99久久99精品免视看婷婷| 久久九精品| 免费看A片毛毛片在线播| 18岁禁 茉莉成人久久| 一级性爱视频免费观看| 91人人看| 国产一国产一级毛片古装| 偷拍欧美综合| 一起草在线视频| 影音综合网| 国产又黄又爽又刺激久久久久久| 久久久久久久久九九久孕交| 国产无码三级视频在线观看| 国产精品熟女AV中文字幕在线播放| 久久在线观看免费视频| 2019精品国产无码成人| 亚洲国产一区二区三区在线| 91日韩| 国产25页| 美女黄频a美女大全免费皮| 欧美美逼| 人妻精品4K4K4K4K4| 天天色黄色影院天天操| 丝袜美腿操av| 一区二区久久天天干狠狠| 超碰精品日韩欧美国产| 亚洲综合伊人| 久久黄黄| av无码精品久久久久| 天躁夜夜躁2021| 91艹逼精品| 五月婷婷色色| 五月婷网站| 少妇蹲下露出大唇5| 美女黑人91神马| 夂久色| 国产97视频免费观看| 国产午夜精品在线观看| 啊啊啊啊好疼视频| 99999精品视频| 国产精品视频精品一二| 亚洲中文字幕在线视频一区二区| 人妻精品一区一区三区蜜桃91| 混色激情av| 爱射综合| 91爆操视频| 美女视频尤物网在线看| 99色网| 国产传媒一区二区三区| 亚洲脚交| 亚洲se电影| 欧美天天综合站| 91久久18禁| 97超碰巨乳| 欧美 传媒 麻豆 日韩 偷拍| 久久婷婷色综合一区二区三区| 成人午夜视频免费播放| 91成人久久 | 成人天天爽| 久污| 亚洲欧美天| 成人无码欧美一级A片狼牙直播| 嗯嗯啊啊啊啊轻点视频| Julia Annxxxxx| 蜜桃狠狠色伊人亚洲综合| 色综合久久夜色精品国产天堂| 久婷婷一区| 精品中文日韩字幕视频| 在线亚洲精品久久久| 亚洲伊人久久精品影院| 日本熟妇色熟妇在线视频播放| 亚欧美综合网。| 麻豆色99999| 96久久久久| 黄片免费视频2019| 亚洲精品国产熟女久久久久久| 操逼操逼视频操逼| 91GD.COM| 国产精品 亚洲情色| 强奸熟女一区二区三区 | 亚洲精品影视老司机| 精品人妻美妇91job| 欧美亚洲国内自拍| 四虎视频在线观看| 无码精品啪啪啪一区二区三区三州 | 69人妻精品丰满熟女区| 97国产综合欧美| 欧美色图亚洲色| 欧美大香蕉专区网| 人妻少妇蜜桃视频欧美一区| 久久AV无码1区2区3区| 欧美日韩系列| 欧美不卡在线一区二区| 自拍偷拍2025在线观看| 国产有码一区| 欧美一区二区三熟女剧情| 欧美色偷偷| 欧美日韩91| 青青伊人加勒比海| 精品久久久av无码免费| 日本黄 R色 成 人网站| 二级久久网| 日本一区二区亚洲综合| 99在线观看| 亚洲AV色图一区| 人人操人人插人人摸人人干| 亚洲色人妻综合| 精品97久久| 五月丁香综合激情| 一区二区播放| 色欲蜜臀AV| 欧美第一页| 久久高清欧美国产| 国产女人9999| 久久肏大逼| 色婷婷日韩精品一区二区三区| 亚洲无吗在线视频| 噜噜噜久久亚洲精品色情| 91成人高清在线观看| 人人污日韩一区二区| 日本高清免费一本视频在线观看| 婷婷日韩一区二区三区中文字幕在线| 啊啊在线| 亚洲成人碰碰| 国产精品久久久久久久久久久久久久| 综合激情五月丁香| 啊啊啊免费| 不卡九肏| 强奸乱伦av电影| 蜜臀99久久国产| 日韩AV中文字幕电影| 日韩人妻有码免费视频| 激情久久日韩精品中文字幕麻豆| h无码动漫在线观看| 蜜臀久久99精品| 日本国产亚洲一区在线观看| 婷婷久久久| 亚洲在线| 极品AV网站在线观看| 人人考人人摸人人干| 久久丝袜| 啊啊啊啊啊好大好舒服想要| 精品性爱一二三区| 国产AV中文| 大乔未久88一区| 亚洲有薄码区日本系列中文字幕| 少妇熟女1区2区3区| 日韩国产乱子伦App| 欧美一区二区成人一卡| 免费一级毛片在线视频观看| 啊啊啊操死我| 999熟女精品| 久久久久久久78| www.激情| 日本精品一区二区中文字幕| 欧美性爱精品七区| 欧洲亚洲人妻无码久久三区四区| 哈哈操电影AV| 色噜噜综合在线| 97国产成人精品免费视频| 内射小黄片| 97国产精品视频| 撸无码不卡免费视频| 职场同事知名国产国产精品久久欧美日韩| 欧美熟女少妇| 天天色综合图片| 欧洲熟妇xxXx欧美老妇裸体| 一级@啪啪视频| 白丝被操91| 亚洲AV无码秘 蜜桃臀国精产品| 亚洲精品乱码久久久久久蜜桃麻豆 | 变态乱伦伪娘灌肠一区二区| 91P0RNY大屁股人妻| 超碰97亚洲| 91肉丝| 国产毛片毛片4p懂色| 3PAV乱伦视频| 东京热视频网| 老熟女乱伦一区| 国产精品久久久久无码A√| 国产91av在线播放| 性暴力欧美猛交在线直播| 九色精品视频导航1| 婷婷中文网| 婷婷在线视频| 九九热九九热| 91黑丝美女| 东北操逼| 亚洲精品人体| 狠狠久久手机视频精品| 欧美五十路熟| 成人午夜视频免费播放| 大奶啊啊好爽| www.99热在线只有精品| 福利天天都操|