互联网架构“高并发”到底怎么玩？

这个方案的好处是：

• 规则简单，service只需判断一下uid范围就能路由到对应的存储服务;
• 数据均衡性较好;
• 比较容易扩展，可以随时加一个uid[2kw,3kw]的数据服务;

不足是：

• 请求的负载不一定均衡，一般来说，新注册的用户会比老用户更活跃，大range的服务请求压力会更大;

2. 按照哈希水平拆分

每一个数据库，存储某个key值hash后的部分数据，上图为例：

• user0库，存储偶数uid数据
• user1库，存储奇数uid数据

这个方案的好处是：

• 规则简单，service只需对uid进行hash能路由到对应的存储服务;
• 数据均衡性较好;
• 请求均匀性较好;

不足是：

• 不容易扩展，扩展一个数据服务，hash方法改变时候，可能需要进行数据迁移;

通过水平拆分来扩充系统性能，与主从同步读写分离来扩充数据库性能，有什么本质的不同?

画外音：这两个方案千万别搞混。

通过水平拆分扩展数据库性能：

• 每个服务器上存储的数据量是总量的1/n，所以单机的性能也会有提升;
• n个服务器上的数据没有交集，那个服务器上数据的并集是数据的全集;
• 数据水平拆分到了n个服务器上，理论上读性能扩充了n倍，写性能也扩充了n倍(其实远不止n倍，因为单机的数据量变为了原来的1/n);

通过主从同步读写分离扩展数据库性能：

• 每个服务器上存储的数据量是和总量相同;
• n个服务器上的数据都一样，都是全集;
• 理论上读性能扩充了n倍，写仍然是单点，写性能不变;

缓存层的水平拆分和数据库层的水平拆分类似，也是以范围拆分和哈希拆分的方式居多，就不再展开。

总结

高并发(High Concurrency)是互联网分布式系统架构设计中必须考虑的因素之一，它通常是指，通过设计保证系统能够同时并行处理很多请求。

提高系统并发能力的方法主要有两种：

• 垂直扩展(Scale Up)
• 水平扩展(Scale Out)

前者垂直扩展可以通过提升单机硬件性能，或者提升单机架构性能，来提高并发性，但单机性能总是有极限的，互联网分布式架构设计高并发终极解决方案还是后者：水平扩展。

互联网分层架构中，各层次水平扩展的实践又有所不同：

• 反向代理层可以通过“DNS轮询”的方式来进行水平扩展;
• 站点层可以通过nginx来进行水平扩展;
• 服务层可以通过服务连接池来进行水平扩展;
• 数据库可以按照数据范围，或者数据哈希的方式来进行水平扩展;

各层实施水平扩展后，能够通过增加服务器数量的方式来提升系统的性能，做到理论上的性能无限。

思路比结论重要。

【本文为51CTO专栏作者“58沈剑”原创稿件，转载请联系原作者】

戳这里，看该作者更多好文

【编辑推荐】

1. 有赞基于ES的搜索系统架构是如何演进的？
2. 新虚拟网络架构——Cable介绍
3. 马蜂窝搜索基于Golang并发代理的一次架构升级
4. “搜索”的原理，架构，实现，实践，面试不用再怕了（值得收藏）
5. 浅析软件架构的10个常见模式

（编辑：惠州站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!