Envoy 内幕

要深入了解 Istio ，那么先得了解流量的核心 Envoy Proxy。这里有三个认知层次：

1. 了解原生的 可编程代理 Envoy Proxy 架构

2. 了解 Istio 的Istio 定制版 Envoy Proxy: github.com/istio/proxy 做了什么扩展

3. 了解 istiod 如何编程控制 Istio 定制版 Envoy Proxy 以实现服务网格功能

• 原生的可编程代理 Envoy
  • 一点历史
    • 为什么用 C++ 实现
  • Envoy Proxy L1 架构
• Istio 下 Envoy 配置举例
  • 实验环境
  • Inbound 数据流 “推断”
    • 用日志检查数据流
  • Outbound 数据流 “推断”
  • 用 bpftrace 检查数据流
• Envoy 抽象主流程与概念
  • 再说 upstream/upstream
• 架构
  • 源码设计
    • 设计模式与行话
      • Callback回调设计模式
    • 子系统
  • 事件驱动
    • HTTP 反向代理的总流程
    • Downstream TCP 连接建立
    • 事件处理抽象框架
    • libevent 核心思想
      • libevent 核心思想
        • event
        • event_base
          • Setting up a default event_base
        • event loop
          • function
            • flags
            • returns
          • Pseudocode
          • internal time cache
          • Dumping the event_base status
          • Running a function over every event in an event_base
        • Working with events
          • event state
          • Constructing event objects
            • example
            • event flags
            • callback argument
            • About Event Persistence
            • Constructing signal events
          • Making events pending and non-pending
          • Events with priorities
          • Finding the currently running event
          • Inspecting event status
          • Manually activating an event
    • 扩展阅读
  • 线程模型
    • 线程概述
    • Thread Local
    • Ref
  • Listener
    • Listener 举例
    • Listener 内部组件
      • Listener filters
      • Network Filter Chains
    • Listener 相关的组件和启动顺序
      • 代码级的启动顺序
    • 求证过程
      • Listener 连接建立细节
        • TCP 连接建立步骤
        • 求证过程
  • Network Filter
    • Network Filter Chains
    • Network Filter 概述
      • Network Filter 框架设计概念
      • Network Filter 对象关系
      • Network Filter 框架设计细说
        • Network Filter - ReadFilter 协作
        • Network Filter - WriteFilter 协作
    • 扩展阅读
  • http connection manager
    • http filter 抽象对象定义
    • http filter C++类关系
      • HCM upstream/downstream 事件驱动协作下的 HTTP 反向代理流程
        • HTTP 反向代理的总流程
          • Downstream Read Request 模块协作
            • Downstream Request Router 模块协作
          • Upstream Write Request 模块协作
          • Upstream Read Response 模块协作
          • Downstream Write Response 模块协作
        • 求证过程
  • Router
    • 扩展阅读
  • HTTP/1.1 Stream(草稿)
  • 流控 - Flow Control
    • 一些流控相关的术语
    • TCP 流控实现
    • HTTP2 流控实现
      • HTTP2 流控总体流程
        • Downstream/Upstream connection 拥塞概述
        • Upstream connection 与 Upstream http stream 同时拥塞场景
        • Upstream 拥塞时 Router::Filter 的协作
        • Downstream 拥塞时 Http::ConnectionManagerImpl 的协作
      • HTTP decode/encode filter 流控实现细节
        • Decoder filters
        • Encoder filters
      • HTTP and HTTP/2 codec upstream send buffer
      • HTTP and HTTP/2 network upstream network buffer
    • Ref.
• Envoy 请求与响应调度
  • 请求与响应调度
    • 相关组件
    • 相关的监控指标
    • Envoy 请求调度流程
  • 请求与响应调度时序线
  • 总结
  • 一些有趣的扩展阅读
• HTTP 连接生命周期管理
  • Upstream/Downstream 连接解藕
  • 连接超时相关配置参数
    • idle_timeout
    • max_connection_duration
    • max_requests_per_connection
    • drain_timeout - for downstream only
    • delayed_close_timeout - for downstream only
  • Envoy 连接关闭后的竞态条件
    • Envoy 连接关闭后的竞态条件
      • Envoy 与 Downstream/Upstream 连接状态不同步
        • Downstream 向 Envoy 关闭中的连接发送请求
          • Envoy 实现上的缓解
            • 缓解 服务端过早关闭连接(Server Prematurely/Early Closes Connection)
        • Envoy 向已被 Upstream 关闭的 Upstream 连接发送请求
          • Envoy 实现上的缓解 2
          • Istio 配置上缓解
• Istio 与 Envoy 指标
  • Istio 与 Envoy 指标概述
  • Envoy 请求与响应时序线上的指标
  • Envoy 指标
    • Envoy 指标概述
      • Tag
      • 指标数据类型
    • 指标释义
      • cluster manager
      • http connection manager(HCM)
      • listeners
      • server
      • watch dog
      • Event loop
    • 配置说明
      • config.bootstrap.v3.Bootstrap
      • config.metrics.v3.StatsConfig
      • config.metrics.v3.StatsMatcher
  • Istio 指标
    • Istio 自己的 Metrics
      • 标准指标说明
        • Metrics
        • Prometheus 的 Labels
      • 使用
        • istio-proxy 与应用的 Metrics 整合输出
        • 定制：为 Metrics 增加维度
        • 定制：加入 request / response 元信息维度
      • 工作原理
        • istio stat filter 使用
        • istio stat Plugin 实现
    • Envoy 内置的 Metrics
      • 定制 Envoy 内置的 Metrics
      • 原理
    • 总结：Istio-Proxy 指标地图
  • Envoy 指标的实现(草稿)
• Upstream
  • 连接池
    • TCP Proxy 连接池
      • TCP Proxy 连接池概述
      • TCP Proxy 连接池详述
    • HTTP 连接池
  • Circuit Breaking(草稿)
    • 参考
• Envoy Socket
  • Socket Options
    • 开始测试
    • 寻根
      • TCP half-open
      • keepalive
      • 重传 timeout
      • Zero window timeout
      • 应用 socket 层的 timeout 设置
        • TCP_USER_TIMEOUT
        • SO_RCVTIMEO / SO_SNDTIMEO
        • poll timeout
      • 寻根总结
    • 较真有什么用
    • 空闲连接的 keepalive 检查
      • 作为 upstream(服务端) 时
      • 作为 downstream(客户端) 时
    • TCP_USER_TIMEOUT
  • TCP 底层监控指标
    • 失落的 Envoy sidecar 可视察性初心
      • 更失落的 tcp_stats
    • 简单使用 TCP Stats Transport Socket wrapper
      • Envoy 的配置文件
      • 本地 Linux 与网络环境
      • 启动 Envoy 和简单测试
      • 模拟外网丢包
      • 数据与可视化图表
    • downstream TCP 监控
    • TCP Proxy
    • 我思故我在 - Je pense, donc je suis