作为快速增长的物联网应用主协议的 HTTP,从静态网页内容分发网络(CDN)到 Web 缓å˜æœåŠ¡å™¨åŠ HTTP 安全性ç‰çš„一切,会产生海量的会话,开发人员需要经济高效的方法来处理低带宽通信下的这些会话。

从服务器总体拥有成本来看,在单台服务器上处理数以千万的低带宽会话当然比在一组服务器上处理它们要更经济。 但如何做到这点呢?

ç”案涉及三个部分。 第一部分是 6WINDGate* 数据包处理软件。 6WIND 公司(英特尔物联网解决方案联盟 Affiliate 级成员)推出的这款软件实现了"快速通道"å †æ ˆï¼Œå¯åœ¨æ ‡å‡†æœåŠ¡å™¨ä¸Šæä¾›è¡Œä¸šé¢†å…ˆ TCP 终æ¢æ€§èƒ½ã€‚

第二部分涉及使用最新英特尔 Xeon® 处理器将 6WINDGate 部署到服务器上。新处理器系列的嵌入式双插槽配置最高支持 24 æ ¸ï¼Œä¼ä¸šçº§é…ç½®æœ€é«˜æ”¯æŒ 36 æ ¸ã€‚è¾ƒä¸Šä»£è€Œè¨€ï¼Œæ–°å¤„ç†å™¨ç³»åˆ—åœ¨ TPC-H* benchmark @ 1000 GB(图 1)基准测试ä¸æé«˜äº† 28%,提供最佳双插槽决ç–支持。 另外,其能效也是业界领先的。

性能图.png

图 1:TPC-H@ 1000 GB 基准测量综合查询/å°æ—¶æ€§èƒ½æŒ‡æ ‡ï¼ˆQphH@Size),包括并发用户提交查询时的查询吞吐量。测试机为æè½½è‹±ç‰¹å°” Xeon® 处理器 E5-2699 v3çš„ HP Proliant DL380 Gen 9* 平台。 ç”案第三部分是使用数据平面开发套件(DPDK),一组开源 BSD æŽˆæƒè½¯ä»¶åº“ï¼Œä¸Žä¼ ç»Ÿçš„ Linux å †æ ˆæ€§èƒ½ç›¸æ¯”ï¼Œå¯å°†è‹±ç‰¹å°”å¤„ç†å™¨çš„æ•°æ®åŒ…å¤„ç†æ€§èƒ½æå‡ 25 倍。

下文将详述这三部分。

6WINDGate åŠ é€Ÿç½‘ç»œæ€§èƒ½

假设服务器每秒可以响应 650 万 HTTP 请求并能维持 10700 万个开放连接, 这种服务器就可以支持海量物联网通信流量。 在最新英特尔 Xeon® 处理器推出之前,6WIND 已在一次演示ä¸åœ¨ä¸€å° 4 插槽 HP DL580 服务器上实现了这种性能。 该服务器æè½½è‹±ç‰¹å°” Xeon® 处理器 E7-4870 v2,拥有 256GB RAM å’Œ 7X40 Gbps 以太网端口,以 2.3 GHz 运行 60 æ ¸ã€‚

在演示ä¸ï¼Œ6WINDGate 能每秒创建 5 百万 TCP 套接å—并提供 242 Gpbs 外传 HTTP 应用吞吐量。 åƒè¿™æ ·çš„æ€§èƒ½ï¼Œé€šè¿‡åŸºäºŽå•æœåŠ¡å™¨çš„å¼ºå¤§æ‰©å±•ç–略可增强数据ä¸å¿ƒçš„能力/成本/平方英尺比。

6WINDGate 快速通道 TCP å †æ ˆå¯ä½¿æ•°æ®åŒ…ç»•è¿‡Linux ç½‘ç»œå †æ ˆï¼Œç›´æŽ¥åœ¨ä¸“ç”¨æ ¸ä¸Šå¤„ç†åº•å±‚æ•°æ®åŒ…ï¼ˆå›¾ 2)。上例配置了 28 æ ¸åœ¨å¿«é€Ÿé€šé“ä¸è¿è¡Œã€‚

DPDK.PNG

图 2:6WINDGaTE 数据包处理软件内部工作方式。

利用æ¤å¿«é€Ÿé€šé“ TCP å †æ ˆï¼Œå¼€å‘äººå‘˜å¯ä»¥åˆ›å»ºæ¯”ç›®å‰æœ€é«˜æ€§èƒ½çš„åº”ç”¨è¿˜è¦å¼ºå¤§ 10 到 100 倍的动态应用。 这大部分受益于 6WINDGate TCP 终æ¢æ¨¡å—。 该模块通过终æ¢å¿«é€Ÿé€šé“而不是 Linux å†…æ ¸çš„ TCP è¿žæŽ¥æ¥åŠ é€Ÿç½‘ç»œåº”ç”¨ã€‚

6WINDGate æä¾›äº†ä¸€ä¸ªå¯åˆ©ç”¨å¤šæ ¸çŽ¯å¢ƒçš„å¥—æŽ¥å—编程模型,实现会话创建与数据通道完全平行操作。 å› æ¤ï¼Œåœ¨åº”ç”¨é…ç½®æ›´å¤šå¤„ç†å™¨å†…æ ¸æ—¶ï¼Œå¯å®žçŽ°çº¿æ€§æ€§èƒ½æ‰©å±•ã€‚ TCP 应用可在 6WINDGate快速通道ä¸åˆ›å»ºäº†ä¸€ä¸ªå¥—接å—,接收具体 IP 地址和端口的 TCP 数据包。 并发活跃 TCP 套接å—仅受到系统内å˜çš„限制。

高性能 HTTP 网络新平台

并非所有人都需要像 6WINGGate è¿™æ ·åœ¨é«˜æ€§èƒ½ 4 插槽服务器上运行的 HTTP 网络强大性能。 对于大部分应用来说,两插槽的服务器更为适用、性价比也更高。 这种情况下,就需要新的英特尔 Xeon® 处理器 E5-2600v3 产品系列。 像 HP Proliant DL380 这类配备了 48 çº¿ç¨‹çš„æœºå™¨ï¼Œé…å¤‡ä¸¤ä¸ªä¸Šè¿°å¤„ç†å™¨ï¼Œå°±èƒ½åˆ†å‡ºå¤šä¸ªå†…æ ¸ç”¨äºŽå¿«é€Ÿé€šé“æ“ä½œï¼Œæä¾›éžå‡¡çš„æ€§èƒ½ã€‚

æè½½è¿™äº›æ–°å¤„理器的服务器具备很强的刷新参数。 它们基于英特尔 Haswell 微架构,能满足目前以及未来数据ä¸å¿ƒå„种工作负载下的计算、å˜å‚¨å’Œç½‘络需求。其优化特性包括:

  • 与四年前的英特尔 Xeon® 处理器相比,新型英特尔高级矢量扩展 2 指令集 (Intel® AVX2)将性能提升了 6 倍。
  • 支持 DDR4 内å˜æŠ€æœ¯ï¼ŒåŠŸè€—降低一半,内å˜å¸¦å®½å¢žåŠ  3 倍。
  • ä¸Žå››å¹´å‰æœåŠ¡å™¨ç›¸æ¯”ï¼Œæ”¯æŒè™šæ‹Ÿæœºæ•°å¢žåŠ äº†ä¸‰å€ï¼Œæ›´å°‘çš„æœåŠ¡å™¨æ‹¥æœ‰æ›´å¤§çš„æ•´åˆèƒ½åŠ›ï¼Œèƒ½è€—æ›´ä½Žã€‚
  • 内置智能电源管理功能,提高能效、优化频率。
  • 高级测量和遥测功能可通过虚拟化和数据ä¸å¿ƒç¼–配,最大程度提高运营效率。

从数据包处理上来看,尤为有趣的是,所有英特尔处理器都会不æ–ä¿æŒæ•°æ®å¡«å……å†…æ ¸ã€‚ 英特尔 Xeon® 处理器 E5-2600 v3 产品系列包括一个大容量 L3 缓å˜ï¼ˆé«˜è¾¾ 45MB),同时改进了分支预测并扩大了转换后备缓冲器(TLBs)。 å¹¶ä¸”è¿˜æ›´æ–°äº†èŠ¯ç‰‡æ€»çº¿ï¼Œå«ä¸¤ä¸ªå®Œå…¨ç¼“å†²çŽ¯ï¼Œè¿™æ˜¯æ”¯æŒæ›´å¤šå†…æ ¸æ•°æ‰€å¿…éœ€çš„ï¼ˆå›¾ 3)。这有点类似于以太网交换器将网络分段。每个缓冲环独立运行,以æ¤æ¥æé«˜æœ‰æ•ˆå¸¦å®½ã€‚相应 QPI 接口频率的提高可带来多槽连贯性能提升,而终极缓å˜ï¼ˆLLCï¼‰çš„æ”¹å˜åˆ™å‡å°‘äº†å»¶è¿Ÿå¹¶å¢žåŠ äº†å¸¦å®½ã€‚

缓å˜æ¯”较.jpg

图 3ï¼šè¾ƒä¸Šä»£ç‰‡å†…äº’è¿žå¢žå¼ºï¼ŒåŒ…æ‹¬ä¸¤ä¸ªç‹¬ç«‹çš„å®Œå…¨ç¼“å†²çŽ¯ï¼Œæ—¨åœ¨å¢žåŠ å¸¦å®½ã€é™ä½Žå»¶è¿Ÿã€‚å¤§é‡ç¼“å˜æ”¹è¿›è¿›ä¸€æ¥æé«˜äº†æ€§èƒ½ã€‚ 英特尔 Data Directed I/O使得 PCI Express* 设备将处理器终极缓å˜ä½œä¸ºä¸»è¦ç›®çš„地,以提高吞吐量并降低延迟。 英特尔 Xeon® 处理器 E5 2600 v3 产品系列支持 12 种方式放置源自I/O设备的数据(由 SKU 决定),以满足高性能数据包处理应用的需要。另外,全新高速缓å˜ç›‘æŽ§æŠ€æœ¯å¯ä»¥è®©æ“ä½œç³»ç»Ÿæˆ–è™šæ‹Ÿæœºæ ¹æ®æ¯åº”ç”¨æˆ–çº¿ç¨‹æ¥ç¡®å®šç»ˆæžç¼“å˜çš„ä½¿ç”¨ï¼Œæ ¹æ®ç›¸å…³ä¿¡æ¯ï¼Œå¯åšå‡ºæ›´å‡†ç¡®çš„è°ƒåº¦å†³å®šã€‚å¦å¤–ï¼Œç¼“å˜åˆ†é…æŠ€æœ¯èƒ½å¯¹ç»ˆæžç¼“å˜è¿›è¡Œåˆ†åŒºï¼Œä»¥ä¿æŠ¤å…³é”®åº”用或虚拟机免受邻居干扰。在 Communications Infrastructure Division 路线图 5 SKU 上可使用该功能。

为提供更佳性能,英特尔 Xeon E5 2600v3 产品系列采用了英特尔通讯芯片集 89XX å’Œè‹±ç‰¹å°”å¿«é€Ÿè¾…åŠ©æŠ€æœ¯ï¼Œæä¾›ç¡¬ä»¶è¾…åŠ©åŠ é€Ÿæ¥ä¼˜åŒ–å·¥ä½œè´Ÿè½½ã€‚ 使用英特尔快速辅助技术的应用可卸载服务器对计算密集的安全、压缩和数据包操作的处理,从而提高工作效率。

为了快速移动需要处理的数据包,英特尔集成 I/O 为每两槽服务器提供高达 80 个 PICe* 通道,并且支持 PCIe 3.0 è§„æ ¼ï¼Œä¸º P2P 带宽提供原åæ“ä½œæ”¯æŒã€‚

数据平面开发套件增强版本解决方案的第三部分是 DPDKã€‚è¯¥å¼€å‘å¥—ä»¶é€šè¿‡ä¸‹åˆ—æ€§èƒ½å¢žå¼ºæ¦‚å¿µï¼Œæ˜¾è‘—é™ä½Žäº†æ ‡å‡† Linux 操作系统的开支:
  • å†…æ ¸äº²å’Œåº¦
  • 禁用数据包 I/O 生成的ä¸æ–
  • æ— é”æ‰§è¡Œ
  • 缓å˜å¯¹é½
  • 执行海量页面,降低转换后备缓冲器(TLB)过失
  • 预提取

DPDK 有助于用户空间的网络应用编程,降低了软件开发和维护成本,以及系统单点故障发生的可能性。 DPDK 所有这些关键优点都适用于特定用途以及虚拟化实现。

6WIND 在 6WINDGate ä¸é›†æˆäº†ä¸€ä¸ªå¢žå¼ºç‰ˆ DPDK。 6WIND 模块提供了一套高级数据层库、优化的多厂商 NIC é©±åŠ¨ã€åŠ é€ŸåŠ å¯†æ”¯æŒä»¥åŠå•†ä¸šæ”¯æŒã€‚

HTTP ç½‘ç»œæ–°çªç ´

有兴趣升级其 HTTP 网络解决方案的开发人员会发现 6 WINDGate èƒ½è½»æ˜“æ·»åŠ åˆ°å…¶è§£å†³æ–¹æ¡ˆå †æ ˆã€‚ 6 WINDGate 兼容商业和开源 Linux å‘è¡Œç‰ˆï¼Œæ— éœ€å¯¹ Linux å†…æ ¸è¿›è¡Œä»»ä½•æ›´æ”¹ã€‚ 除了像 HP ç‰å…¬å¸æä¾›çš„è¡Œä¸šæ ‡å‡†æœåŠ¡å™¨ä¹‹å¤–ï¼Œè”ç›Ÿè®¸å¤šæˆå‘˜ä¹Ÿæä¾›åµŒå…¥ç‰ˆè‹±ç‰¹å°” Xeon® 处理器 E5-2600 v3 产品系列主板。
了解更多
联系推荐的联盟成员:

æ¤åšå®¢ä¸çš„解决方案:

相关主题:

6WIND 为英特尔物联网解决方案联盟的 Affiliate 级成员。

Mark Scantlebury

流动记者(英特尔特约记者),英特尔®物联网解决方案联盟 Embedded Innovator杂志副主编