大型web站点构建技术初探

《大型web站点构建技术初探》由会员上传分享，免费在线阅读，更多相关内容在行业资料-天天文库。

1、大型Web2.0站点构建技术初探Web2.0的兴起，掀起了互联网新一轮的网络创业大潮。以用户为导向的新网站建设概念，细分了网站功能和用户群，不仅成功的造就了一大批新生的网站，也极大的方便了上网的人们。但Web2.0以用户为导向的理念，使得新生的网站有了新的特点——高并发，高流量，数据量大，逻辑复杂等，对网站建设也提出了新的要求。本文围绕高并发高流量的网站架构设计问题，主要研究讨论了以下内容：首先在整个网络的高度讨论了使用镜像网站，CDN内容分发网络等技术对负载均衡带来的便利及各自的优缺点比较。然后在局域网层次对第四层交换技术，包括硬件解决方案F

2、5和软件解决方案LVS，进行了简单的讨论。接下来在单服务器层次，本文着重讨论了单台服务器的Socket优化，硬盘级缓存技术，内存级缓存技术，CPU与IO平衡技术（即以运算为主的程序与以数据读写为主的程序搭配部署），读写分离技术等。在应用层，本文介绍了一些大型网站常用的技术，以及选择使用该技术的理由。最后，在架构的高度讨论了网站扩容，容错等问题。本文以理论与实践相结合的形式，结合作者实际工作中得到的经验，具有较广泛的适用性。1引言1.1互联网的发展最近十年间，互联网已经从一个单纯的用于科研的，用来传递静态文档的美国内部网络，发展成了一个应用于各行

3、各业的，传送着海量多媒体及动态信息的全球网络。从规模上看，互联网在主机数、带宽、上网人数等方面几乎一直保持着指数增长的趋势，2006年7月，互联网上共有主机439，286，364台，WWW站点数量达到96，854，877个［1］。全球上网人口在2004年达到7亿2900万［2］，中国的上网人数在2006年12月达到了约1亿3700万［3］。另一方面，互联网所传递的内容也发生了巨大的变化，早期互联网以静态、文本的公共信息为主要内容，而目前的互联网则传递着大量的动态、多媒体及人性化的信息，人们不仅可以通过互联网阅读到动态生成的信息，而且可以通过它使

4、用电子商务、即时通信、网上游戏等交互性很强的服务。因此，可以说互联网已经不再仅仅是一个信息共享网络，而已经成为了一个无所不在的交互式服务的平台。1.2互联网网站建设的新趋势互联网不断扩大的规模，日益增长的用户群，以及web2.0［4］的兴起，对互联网网站建设提出了新的要求:高性能和高可扩展性。2000年5月，访问量排名世界第一（统计数据来源［5］）的Yahoo［6］声称其日页浏览数达到6亿2500万，即每秒约30，000次HTTP请求(按每个页面浏览平均产生4次请求计算)。这样大规模的访问量对服务的性能提出了非常高的要求。更为重要的是，互联网受

5、众的广泛性，使得成功的互联网服务的访问量增长潜力和速度非常大，因此服务系统必须具有非常好的可扩展性，以应付将来可能的服务增长。支持高度并发的访问。高度并发的访问对服务的存储与并发能力提出了很高的要求，当前主流的超标量和超流水线处理器能处理的并发请求数是有限的，因为随着并发数的上升，进程调度的开销会很快上升。互联网广域网的本质决定了其访问的延迟时间较长，因此一个请求完成时间也较长，按从请求产生到页面下载完成3秒计算，Yahoo在2000年5月时平均有90，000个并发请求。而且对于较复杂的服务，服务器往往要维护用户会话的信息，例如一个互联网网站如

6、果每天有100万次用户会话，每次20分钟的话，那平均同时就会有约14000个并发会话。高可用性。互联网服务的全球性决定了其每天24小时都会有用户访问，因此任何服务的停止都会对用户造成影响。而对于电子商务等应用，暂时的服务中止则意味着客户的永久失去及大量的经济损失，例如ebay.com［7］1999年6月的一次22小时的网站不可访问，对此网站的380万用户的忠诚度造成巨大影响，使得Ebay公司不得不支付了近500万美元用于补偿客户的损失，而该公司的市值同期下降了40亿美元［8］。因此，关键互联网应用的可用性要求非常高。1.3新浪播客的简介以You

7、Tube［9］为代表的微视频分享网站近来方兴未艾，仅2006年一年，国内就出现近百家仿YouTube的微视频分享网站［10］，试图复制YouTube的成功模式。此类网站可以说是Web2.0概念下的代表网站，具有Web2.0网站所有典型特征：高并发，高流量，数据量大，逻辑复杂，用户分散等等。新浪［11］作为国内最大的门户网站，在2005年成功运作新浪博客的基础上，于2006年底推出了新浪播客服务。新浪播客作为国内门户网站中第一个微视频分享服务的网站，依靠新浪网站及新浪博客的巨大人气资源，在推出后不到半年的时间内，取得了巨大的成功：同类网站中上传视

8、频数量第一、流量增长最快、用户数最多［12］，所有这些成绩的取得的背后，是巨大的硬件投入，良好的架构支撑和灵活的应用层软件设计。本文是作者在新浪爱问搜