淘宝无线API 网关的性能优化与高可用性实践.pdf

《淘宝无线API 网关的性能优化与高可用性实践.pdf》由会员上传分享，免费在线阅读，更多相关内容在工程资料-天天文库。

1、手机淘宝无线网关的演进优化之路与高可用性实践阿里巴巴—无线事业部洪海(孤星) weibo:孤星_T 手机淘宝2013双11手机淘宝无线网关应用A 应用B 云gateway 端管网关——云与端的桥梁•统一的接入形式，为客户端开发提速•服务端快速向客户端输出业务能力•集中的API治理与基础设施能力网关的演化—统一接入Api动统一网关态发接入 优化 布 统一接入应用A 应用A 应用B 应用B gateway 统一接入•统一的协议与标准化的SDK •集中的会话管理•集中的安全策略•统一的监控告警与报表•通用缓存服务•流控与过载保护•网络优化网关的演化—ap

2、i动态发布Api动统一网关态发接入 优化 布 API动态发布‐‐‐传统rpc的调用 ClientObject ImplementstubskeletonRequest/response(serialized/deserialized)•对服务端的类型的直接依赖或间接依赖 API动态发布‐‐‐‐传统RPC接入API方式的困境Server1 stub1  stub2  Server2 gateway stub3  ……  Server3 1.依赖复杂大量的接口包，打包越来越复杂2.多分支与发布频率同时存在的大量的发布分支，网关频繁发布，稳定性受到挑战Ｍ

3、ap结构的启发 Ｍap: com.taobao.User: { {     “uid”: 123,     “uid”: 123,     “name”: “张三”,     “name”: “张三”,     “gender”: ”male”     “gender”: ”male” } } Map的Key‐‐对象属性API接入动态化•无类型调用代替stub的依赖•映射配置文件的动态发布解决方式－类型解耦无类型调用Server1 gwServer2 Server3 apiconfigpublish  apiconfigplaYorm API的发布流

4、程 开发服务 定义配置文件 发布API网关的演化—网关优化Api动统一网关态发接入 优化 布 无线网关优化AN– Access Network接入网server CN‐ Core Network核心网AN Internet BTS BTC Gb Pdp context CN Gi(ip) GnSGSN GGSN 无线网关优化•创建PDPContext•数据通过无线信号传到接入网(AN) •数据从接入网通过核心网(CN)到达数据网关GGSN(GTP) •在GGSN数据网关，GTP被转换为TCP/IP协议通过internet传递给应用网关•应用网关将请

5、求转发给业务服务器无线网关优化server 服务端优化AN BTS BTC Internet Gb Pdp context CN GnSGSN GGSN Gi(ip) 服务端优化－－挑战•流量增长的挑战随着手淘流量的加速增长，集群不断扩大。•高延时服务对网关的吞吐量的影响，无法合理的评估网关容量业务延时差异从10ms—10s 继续加机器？还是应用优化？性能：服务端异步 问题：•HSF同步调用，等待结果时线程资源浪费servlet‐threadrequest 1~2msrpc返回 2ms~10sResponse 1~2ms解决方案：空间换时间(同时支

6、持更多的连接) •RPC的异步调用(callback) •SERVLET 3.0异步 线程模型对比•原架构gw thread io wait App Server •新架构gw request thread App Server callback gw response thread 性能：服务端异步—时序图request threadresponse thread性能：服务端异步--优化结果 •在HSF 400ms延时时qps提升2.3倍，rt降低70%（请求堆积）•在HSF 15ms下提升qps提升7%，load降低40%、cpu使用率降低16

7、百分点无线网关优化server AN BTS BTC Internet Gb Pdp context CN GnSGSN GGSN Gi(ip) TCP/IP优化TCP/IP优化—参数调整 •TCP拥塞控制 –调大初始窗口到10 –tcp_slow_start_aker_idle•积极主动的重传策略•MSS调整TCP/IP优化—减少握手损耗•spdy协议与长连接–减少TCP连接创建，提高tcp连接的利用率•slight‐SSL –优化的ssl握手过程，ssl握手0耗时运营商网络优化—PCC优化AN PCC BTC BTS qciGb Pdp con

8、text CN GnSGSN GGSN 运营商网络优化—PCC优化运营商网络优化—PCC优化客户端的优化•预加载–wifi下