内核缺陷触发的NodePort服务63秒延迟问题
现象
我们有一个新创建的TKE 1.3.0集群，使用基于Galaxy + Flannel（VXLAN模式）的容器网络，集群由三个二层互通的Master节点 10.0.0.11、 10.0.0.12、 10.0.0.13组成。在访问宿主机端口为 30153的NodePort类型的Service时，出现了很有趣的现象：
- 在节点 10.0.0.11、 10.0.0.13节点上 curl http://localhost:30153，有50%几率卡住
- 在节点，100%几率卡住
- 从集群内部，访问非本节点的30153端口，畅通
- 从集群外部，访问任意节点的30153端口，畅通
三个节点本身并无差异，卡住几率不同，可能和服务的端点（Endpoint，即Pod）的分布情况有关。
NodePort服务的定义如下：
该服务的端点有两个：
可以看到，端点在10.0.0.11、10.0.0.13上分别有一个。假设容器网络存在问题，只能访问本机的Pod，则能解释前面的卡住现象 —— 10.0.0.12上没有端点，因此一直卡住。10.0.0.11、10.0.0.13分别占有50%端点，因此50%几…
阅读全文
3 months ago
3
Istio中的透明代理问题
为何需要透明代理
Istio的Sidecar作为一个网络代理，它拦截入站、出站的网络流量。拦截入站流量后，会使用127.0.0.1作为源地址，将流量转发给本地服务进程。本地服务进程看不到真实源IP地址。
很多应用场景下，真实源IP地址是必须的，可能原因包括：
- I…
7 months ago
3
2
服务网格的现状和未来
引言
服务网格（Service Mesh）是一种微服务治理基础设施，用于控制、监测微服务之间的东西向流量。它通常由控制平面、数据平面两部分组成。其中数据平面就是伴随着业务应用部署的网络代理，控制平面则是一组独立的组件，和数据平面交互，发送控制网络流量的规则，接收…
阅读全文
7 months ago
0
如何在Pod中执行宿主机上的命令
基础知识回顾
要回答标题中的疑问，我们首先要清楚，Pod是什么？
Pod的翻译叫容器组，顾名思义，是一组容器。叫做“组”是因为这些容器：
- 总是被同时调度，调度到同一节点
- 共享网络，具有相同的IP地址和端口空间，可以通过localhost相互访问
- 可以基于System…
8 months ago
0
4
通过ExternalDNS集成外部DNS服务
简介
ExternalDNS项目的目的是，将Kubernetes的Service/Ingress暴露的服务（的DNS记录）同步给外部的DNS Provider。
ExternalDNS的设计思想类似于KubeDNS，都是从多种K8S API资源中推断需要生成的DNS记录。不同之处是…
阅读全文
8 months ago
0
Kubefed学习笔记
简介
联邦简介
集群联邦（Federation）的目的是实现单一集群统一管理多个Kubernetes集群的机制，这些集群可能是跨地区（Region），也可能是在不同公有云供应商上，亦或者是公司内部自行建立的集群。一但集群进行联邦后，就可以利用Federation API资…
阅读全文
9 months ago
0
限制Pod磁盘空间用量
Pod如何使用磁盘
容器在运行期间会产生临时文件、日志。如果没有任何配额机制，则某些容器可能很快将磁盘写满，影响宿主机内核和所有应用。
容器的临时存储，例如emptyDir，位于目录/var/lib/kubelet/pods下：
|
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 |
/var/lib/kubelet/pods/ └── ac0810f5-a1ce-11ea-9caf-00e04c687e45 # POD_ID ├── containers │ ├── istio-init │ │ └── 32390fd7 │ ├── istio-proxy │ │ └── 70ed81da │ └── zookeeper │ └── e9e21e59 ├── etc-hosts # 命名空间的Host文件 └── volumes # Pod的卷 ├── kubernetes.io~configmap # ConfigMap类型的卷 │ └── istiod-ca-cert │ └── root-cert.pem -> ..data/root-cert.pem ├── kubernetes.io~downward-api │ └── istio-podinfo │ ├── annotations -> ..data/annotations │ └── labels -> ..data/labels ├── kubernetes.io~empty-dir # Empty类型的卷 │ ├── istio-data │ └── istio-envoy │ ├── envoy-rev0.json │ └── SDS ├── kubernetes.io~rbd # RBD卷 │ └── pvc-644a7e30-845e-11ea-a4e1-70e24c686d29 # /dev/rbd0挂载到这个挂载点 ├── kubernetes.io~csi # CSI卷 └── kubernetes.io~secret # Secret类型的卷 └── default-token-jp4n8 ├── ca.crt -> ..data/ca.crt ├── namespace -> ..data/namespace └── token -> ..data/token |
持久卷的挂载点也位于/var/lib/kubelet/pods下，但是不会导致存储空间的消耗。
容…
阅读全文
9 months ago
0
Flexvolume学习笔记
简介
卷
容器在磁盘上写的文件是临时性的，没有持久化保证。如果容器崩溃，Kubelet会重启它，临时文件就都丢失了。此外，在Pod中运行的多个容器，可能有共享存储的需求。这两点正是K8S卷（Volume）来解决的。
Docker也有卷的概念，但是它的卷仅仅是宿主…
阅读全文
9 months ago
0
CSI学习笔记
简介
从1.8版本开始，Kubernetes Storage SIG开始停止接受in-tree卷插件，并建议所有供应商实现out-of-tree卷插件。CSI是两种out-of-tree的K8S卷扩展机制之一，另外一个是Flexvolume。
Flexvolume的工作方式是，由…
阅读全文
9 months ago
0