何谓大规模并发，不同层面有不同的理解

企业应用（Intranet）：千级强并发，万级弱并发（在线用户），十万级用户

 

•     大型企业ERP、供应链,大型企业HR、办公OA

互联网应用（Internet）：百万级强并发，千万级弱并发（在线用户），亿级用户/

• 门户网站（新浪、腾讯）

• 平台级电子商务（阿里巴巴、淘宝网、拍拍网）

• 搜索引擎（百度）

电子商务企业应用（Intranet + Internet）：十万级强并发，百万级弱并发（在线用户），千万级用户

• B2C电子商务（京东、凡客、一号店）

• 垂直型电子商务（金银岛、携程）

不同系统间的并发特点
企业系统
大量事务性、实时性访问

• 大量的事务、锁检测导致数据库访问瓶颈

• 需要数据操作的实时更新

大量有状态性访问

• 数据访问具有较强的操作上下文

• 数据一致性、准确性的高敏感

• 数据每一次事务性更新都必须得到充分展现，并且确保数据访问的一致性

清晰的业务逻辑进行并发划分

• 一般来说，企业系统都可以进行明确的业务区分，从而决定系统特点

互联网系统
海量非事务性访问

• 极其巨大的数据量及数据访问导致IO操作成为瓶颈

模糊的并发区分

• 并发访问的用户中很难通过内容进行有效分发

• 并发访问一般具有地域性

数据访问效率的高敏感

• 用户对系统的响应时间非常敏感，需要在几秒内得到信息反馈

• 用户更加在意数据的匹配性

电子商务系统
数据实时性的高敏感
价格、信息同步的一致性等
受制于企业级系统的约束

• 如支付，受事务性影响

海量非事务性访问+一定规模事务性访问
信息访问具有互联网系统特点、信息操作具有企业系统特点

• 如数据的搜索查询、展现具有互联网系统特点

• 如数据的操作（支付、结算）具有企业系统事务性特点

什么是性能问题

• 在可识别的压力下，系统无法提供服务 （最差的性能问题）

• 在可识别的压力下，系统无法按服务质量标准提供服务 （满足性能标准，但是健壮性不足）

• 在可识别的压力下，系统无法持续按服务质量标准提供服务 （系统的可靠性和健壮性）

• 在超过识别的压力下，系统无法尽快恢复

• 能否有故障转移、故障恢复、冗余热备等机制

• 在超过识别的压力下，系统无法柔性伸缩 （系统的可伸缩性）

什么不是性能问题

• 超过可识别的压力情况下，系统暂时无法有效提供服务

性能测量
服务质量

• 网络响应：网络响应时间、网络吞吐量、网络带宽及带宽利用率

• 服务响应时间：包括平均、峰值、标准区间值

• 服务处理质量：事务成功率、单位时间响应事务次数

服务端设备状态

• CPU：CPU使用率

• 内存：使用内存大小

• VM：GC次数（Full GC次数）、堆内存、线程数、锁和阻塞情况

• 磁盘IO：磁盘访问效率、磁盘空间、磁盘IO吞吐量

系统可靠性、健壮性

• 单节点处理的访问量

• 故障恢复时间

• 节点复制和节点扩展的难易

 

系统可能的性能瓶颈
网络

• 网络带宽的总体限制

• 网络连接数的限制（如TCP/IP, 数据库连接等）

服务器

• 每个响应占用相应的资源，导致内存成为瓶颈

• 比如JVM为每个线程分配栈空间，过多栈空间导致内存消耗

• 比如每个HTTP连接在Session存储内容，导致OOME

• 同时响应一定量的并发操作，导致CPU占用过高

磁盘IO

• 频繁访问数据库，导致数据交换IO操作频繁

• 频繁访问IO文件，导致磁盘IO成为瓶颈

企业级系统架构及技术特点
架构设计
基于SOA和MDA的架构

• 以服务为核心单元的 设计思想，以传统WS作为服务发布

• 以模块化为系统构建方式，重视应用子系统和子模块的独立性和可重用性

中央集中式部署架构

• 专业小型服务器

• 一般不会超过5台部署服务器，不会多于10个应用节点

• 热备和故障恢复机制、灾备系统

关注流程

• 工作流技术，尤其是分布式节点间流程整合

• 企业系统间的无缝转移

门户

• 跨系统，跨节点间的单点登录

技术运用
以商业性产品为主

• 追求单节点稳定性

• 较少需要7*24小时支持

• 以商业性关系数据库为主要存储

比较严格的事务性访问

• 完全基于数据库事务

• 分布式事务（JTA）

较为复杂并且功能丰富的用户界面

• 用户具有相对统一的客户端（比如使用IE浏览器）

• 用户可以接受适当的响应和延迟

 

互联网系统架构及技术特点
架构设计
以界面展现和用户体验为主要设计

• 大量运用Ajax实现局部提交和局部刷新

以轻量级、伸缩性为架构主要考虑

• 除某些平台级应用外，极少使用服务扩展

• 使用REST风格的WebService或者纯粹的处理Json的Web响应

• 数以百台甚至上万台PC服务器，多个数据中心，站点镜像

• 分布式独立域以及部署域之间定时通信

高性能缓存机制

• 双向页面缓存

• 内容静态化技术

• 数据缓存

非事务、非关系型数据库

• 全面NoSQL数据库

技术运用
大量使用开源技术产品

• LAMP: Linux + Apache + MySQL + PHP

• Tomcat, Lucene, Memcache

简单界面开发技术

• 脚本语言，如PHP, Python， Ruby等

• 对多种浏览器的支持

底层高性能处理优化

• 使用C、C++实现底层通信和IO优化

电子商务系统架构及技术特点
架构设计
关注数据的糅合（Mashup）
关系数据库与高性能NoSQL数据库结合
不固定的架构设计思路

• 可能偏互联网方向，也可能偏企业系统方向

• 分布式部署

事务缓存机制

• 事务迁移、事务恢复、事务批量处理

较为严格的安全机制

• 部分功能使用HTTPS及数字证书

与企业系统的对接交互

• 与银行、支付平台的对接

• 与企业订单系统、进销存系统、物流系统的对接

技术运用
有时效的缓存机制

• 确保数据实时性与性能的平衡

大量数据挖掘和分析运用

• 相关性分析

• 定向推荐

部分运用商业中间件技术产品

• 应用服务器

• 业务流程管理

大量的开源技术运用

• Java相关开源技术比较常见