高并发

高并发高负载的大型网站系统架构 原文： http://www.phpthinking.com/archives/308 大型网站的系统架构需要考虑很多问题。大型网站有高并发高负载的特点，在面对大量用户访问、高并发请求方面，基本的解决方案集中在这样几个环节：使用高性能的服务器、高性能的数据库、高效率的编程语言、还有高性能的Web容器。本文从 低成本 、 高性能 和 高扩张性 的角度来探讨了一些大型网站系统架构需要考虑的问题。 一个小型的网站，比如个人网站，可以使用最简单的html静态页面就实现了，配合一些图片达到美化效果，所有的页面均存放在一个目录下，这样的网站对系统架构、性能的要求都很简单，随着互联网业务的不断丰富，网站相关的技术经过这些年的发展，已经细分到很细的方方面面，尤其对于大型网站来说，所采用的技术更是涉及面非常广，从硬件到软件、编程语言、数据库、WebServer、防火墙等各个领域都有了很高的要求，已经不是原来简单的html静态网站所能比拟的。 大型网站，比如门户网站。在面对大量用户访问、高并发请求方面，基本的解决方案集中在这样几个环节： 使用高性能的服务器 、 高性能的数据库 、 高效率的编程语言 、 还有高性能的Web容器 。但是除了这几个方面，还没法根本解决大型网站面临的高负载和高并发问题。 上面提供的几个解决思路在一定程度上也意味着更大的投入

一网站以下简称A站，这A站在年后流量猛增从一天的七八十万猛跑到了好几百万的IP，一天下来接近一千万的PV让整个服务器在高压下超负荷的工作着，时不时的服务就出现宕机。 最首先反映出情况的是数据统计，一天下来一个数据也没有统计上，原来是MySQL停止工作了。 本文就围绕这个问题来讲讲我们公司几个技术人员的解决方案。 1. MySQL服务器集群 由于是小公司在资金和成本上都有所限制，而且在技术上也没有几个技术员接触过，所以这个方法自然就让大伙否决了。 这里说说我个人的理解!做集群不但添加资费的开销，而且在技术上也有很大的挑战，对于我们公司目前的情况是不大现实的。集群无非就是把一台服务器的压力转接到两台或是多台服务器上，我是这么理解的，也许我理解有误，还请大家指教。 2. 分而治之 这个方法和集群差不多，不过是把统计的代码放在不同的服务器上跑，由于公司有不少配置低的服务器跑几万到几十万IP还是没有问题的，我们可以把几百万流量分成十来个几十万的量分而统计。 优点：充分的利用了现在的资源，解决了目前的问题。 缺点：这样的方法不是长久之计，迟早还是会出问题的。而且在统计数据的时候比较麻烦。 3. 统计代码的修改 由于之前采用的是在插入数据之前加以判断，这个IP是否存在，来路等的处理，无形中增加了服务器的压力，所以大伙把统计代码改成来一个就插入数据库，不管三七二十一等以后在处理。

前言 高并发经常会发生在有大活跃用户量，用户高聚集的业务场景中，如：秒杀活动，定时领取红包等。 为了让业务可以流畅的运行并且给用户一个好的交互体验，我们需要根据业务场景预估达到的并发量等因素，来设计适合自己业务场景的高并发处理方案。 在电商相关产品开发的这些年，我有幸的遇到了并发下的各种坑，这一路摸爬滚打过来有着不少的血泪史，这里进行的总结，作为自己的归档记录，同时分享给大家。 服务器架构 业务从发展的初期到逐渐成熟，服务器架构也是从相对单一到集群，再到分布式服务。 一个可以支持高并发的服务少不了好的服务器架构，需要有均衡负载，数据库需要主从集群，nosql缓存需要主从集群，静态文件需要上传cdn，这些都是能让业务程序流畅运行的强大后盾。 服务器这块多是需要运维人员来配合搭建，具体我就不多说了，点到为止。 大致需要用到的服务器架构如下： 服务器 均衡负载(如：nginx，阿里云SLB) 资源监控 分布式 数据库 主从分离，集群 DBA 表优化，索引优化，等 分布式 nosql redis 主从分离，集群 mongodb 主从分离，集群 memcache 主从分离，集群 cdn html css js image 并发测试 高并发相关的业务，需要进行并发的测试，通过大量的数据分析评估出整个架构可以支撑的并发量。 测试高并发可以使用第三方服务器或者自己测试服务器

第一步：查看Linux自带的JDK是否已安装 （卸载CentOS已安装的jdk版本，重新安装sun公司的jdk。此步不是必须的，只是建议，方便后面jdk升级） （1）先查看 # rpm -qa | grep java 显示如下信息： java-1.4.2-gcj-compat-1.4.2.0-40jpp.115 java-1.6.0-openjdk-1.6.0.0-1.7.b09.el5 （2）卸载 # rpm -e --nodeps java-1.4.2-gcj-compat-1.4.2.0-40jpp.115 # rpm -e --nodeps java-1.6.0-openjdk-1.6.0.0-1.7.b09.el5 还有一些其他的命令 # rpm -qa | grep gcj # rpm -qa | grep jdk 如果出现找不到openjdk source的话，那么还可以这样卸载 # yum -y remove java java-1.4.2-gcj-compat-1.4.2.0-40jpp.115 # yum -y remove java java-1.6.0-openjdk-1.6.0.0-1.7.b09.el5 （3）查看jdk的信息或直接执行 # rpm -qa|grep jdk 或 # rpm -q jdk 或 # java -version （4

今天继续坑系列， 高可用 已经讲过了，当前互联网时代，怎么少的了 高并发 呢？ 高并发 和 高可用 一样， 已经变成各个系统的标配了，如果你的系统QPS没有个大几千上万，都不好意思跟人打招呼，虽然可能每天的调用量不超过100。 高并发 这个词，我个人感觉是从电商领域开始往外流传的，特别是电商领域双11那种藐视全球的流量，再把技术架构出来分享一把，现在搞得全互联网都在说 高并发 ，而且你注意回忆一下所有你看到的高并发系统，往往都逃不开一个核心概念，那就是 缓存+哈希 ，一切都是以这个概念和基础的，仿佛这就是高并发的核心技术了。` 我们看到的高并发技术 围绕这个核心技术，通常我们看到的各种高并发的架构系统，在博客，论坛，现场分享出来的高并发系统，都跑不出以下几个方面的东西。 资源静态化 就是那种单个页面流量巨大无比，每秒的QPS几十万上百万的系统，确实 并发高的系统 ，核心解决方案就是静态化，靠机器和带宽去抗，假如没有CDN的话，所有流量都落到同一个IP下面的话，基本上也就是用Nginx的文件静态化了，单机的承受能力主要取决于带宽和单机的性能，要再多的话，那就 LVS(或者F5)+集群 了，这种的典型场景就是搞活动时候的首页，活动页面了，还有就是引流搜索引擎的着陆页了，一般都是现成的图片和文字静态化，当然，这种还有很多前端的技巧和技术了，这一点我不是很了解，就不得瑟了，就中后台来说

1、准备集群搭建环境 使用6台虚拟机来搭建 MySQL分布式集群 ，相应的实验环境与对应的MySQL节点之间的对应关系如下图所示： 管理节点（MGM）：这类节点的作用是管理MySQLCluster内的其他节点，如提供配置数据，并停止节点，运行备份等。由于这类节点负责管理其他节点的配置，应该在启动其他节点之前启动这类节点。MGM节点是用命令“ndb_mgmd”启动的； 数据节点（NDB）：这类节点用于保存Cluster的数据，数据节点的数目与副本的数目相关，是片段的倍数。例如，对于两个副本，每个副本有两个片段，那么就有4个数据节点，没有必要设定过多的副本，在NDB中数据会尽量的保存在内存中。数据节点使用命令“ndb”启动的； SQL节点：这是用来访问Cluster数据的节点，对于MySQL Cluster，客户端节点是使用NDB Cluster存储引擎的传统MySQL服务器。通常，SQL节点使用命令“mysqld-ndbcluster”启动的； 2、准备安装包 在官网上下载mysql的安装包: mysql-cluster-gpl-7.4.11-Linux-glibc2.5-x86_64.tar.gz，并进行解压。 3、集群搭建流程 1]将上述安装包解压出来的文件都移到/usr/local/mysql下； 2]运行script目录下的mysql-install-db.sh脚本

Nginx网络模型 一、进程模型 Nginx之所以为广大码农喜爱，除了其高性能外，还有其优雅的系统架构。与 Memcached 的经典多线程模型相比，Nginx是经典的多进程模型。Nginx启动后以daemon的方式在后台运行，后台进程包含一个master进程和多个worker进程，具体如下图： 图1 Nginx多进程模型 master进程主要用来管理worker进程，具体包括如下4个主要功能： （1）接收来自外界的信号。 （2）向各worker进程发送信号。 （3）监控woker进程的运行状态。 （4）当woker进程退出后（异常情况下），会自动重新启动新的woker进程。 woker进程主要用来处理网络事件，各个woker进程之间是对等且相互独立的，它们同等竞争来自客户端的请求，一个请求只可能在一个woker进程中处理，woker进程个数一般设置为机器CPU核数。 二、 进程控制 对Nginx进程的控制主要是通过master进程来做到的，主要有两种方式： （1）手动发送信号 从图1可以看出，master接收信号以管理众woker进程，那么，可以通过kill向master进程发送信号，比如kill -HUP pid用以通知Nginx从容重启。所谓从容重启就是不中断服务：master进程在接收到信号后，会先重新加载配置，然后再启动新进程开始接收新请求

1 概述 秒杀系统之所以难做，是因为在极短的时间内涌入大量的请求，来同时访问有限的服务资源，从而造成系统负载压力大，甚至导致系统服务瘫痪以及宕机的可能。本文会介绍秒杀系统中存在的痛点以及针对这些点的优化思路。 2 秒杀系统是什么鬼 如：12306的春节抢票、各大电商搞的定时抢购活动，如小米手机的在线抢购等，抢过火车票的同学都知道在放票的那一瞬间可能1s都不到，票就被抢购一空了。 3 秒杀系统的难点 （1）短时间内高并发，系统负载压力大 （2）竞争的资源有限，数据库锁冲突严重 （3）避免对其他业务的影响 4 常见的互联网分层架构 （1）客户端层：手机或PC端操作的客户端页面，域名通过DNS解析路由到NG （2）反向代理层：一般通过NG作为反向代理，将客户端请求均衡路由到后端站点服务，NG也可以水平扩展为多实例，且每个实例可单独部署为主从的高可用方案。 （3）站点层：站点层可以水平扩展为多个实例部署，以此来均衡来自客户端请求产生的高并发负载，多个web server之间的session信息可以集中存储于分布式缓存服务（Redis，MemCache）中。 （4）服务层：服务层也可水平扩展为多个实例部署，即时下最火的微服务方式 （5）数据库层：数据库层的常见部署方式，如读写分离，分库分表等 5 秒杀系统的架构原则 （1）尽量将请求拦截在上游 对于秒杀系统来说，系统的瓶颈一般在数据库层

Java自1.4以后,加入了新IO特性,NIO. 号称new IO. NIO带来了non-blocking特性. 这篇文章主要讲的是如何使用NIO的网络新特性,来构建高性能非阻塞并发服务器. 文章基于个人理解,我也来搞搞NIO.,求指正. 在NIO之前 服务器还是在使用阻塞式的java socket. 以Tomcat最新版本没有开启NIO模式的源码为例, tomcat会accept出来一个socket连接,然后调用processSocket方法来处理socket. while(true) { .... Socket socket = null; try { // Accept the next incoming connection from the server // socket socket = serverSocketFactory.acceptSocket(serverSocket); } ... ... // Configure the socket if (running && !paused && setSocketOptions(socket)) { // Hand this socket off to an appropriate processor if (!processSocket(socket)) { countDownConnection(); //

一、引言 　　随着互联网应用的广泛普及，海量数据的存储和访问成为了系统设计的瓶颈问题。对于一个大型的互联网应用，每天几十亿的PV无疑对数据库造成了相当高的负载。对于系统的稳定性和扩展性造成了极大的问题。通过数据切分来提高网站性能，横向扩展数据层已经成为架构研发人员首选的方式。水平切分数据库，可以降低单台机器的负载，同时最大限度的降低了了宕机造成的损失。通过负载均衡策略，有效的降低了单台机器的访问负载，降低了宕机的可能性；通过集群方案，解决了数据库宕机带来的单点数据库不能访问的问题；通过读写分离策略更是最大限度了提高了应用中读取（Read）数据的速度和并发量。目前国内的大型互联网应用中，大量的采用了这样的数据切分方案，Taobao,Alibaba,Tencent，它们大都实现了自己的分布式数据访问层（DDAL）。以实现方式和实现的层次来划分，大概分为两个层次（ Java 应用为例）：JDBC层的封装，ORM框架层的实现。就JDBC层的直接封装而言，现在国内发展较好的一个项目是被称作“变形虫”(Amoeba)的项目，由阿里集团的研究院开发，现在仍然处于测试阶段（beta版），其运行效率和生产时效性有待考究。就ORM框架层的实现而言，比如Taobao的基于ibatis和Spring的的分布式数据访问层，已有多年的应用，运行效率和生产实效性得到了开发人员和用户的肯定