阿里云-云小站(无限量代金券发放中)
【腾讯云】云服务器、云数据库、COS、CDN、短信等热卖云产品特惠抢购

大型网站架构学习笔记

405次阅读
没有评论

共计 2834 个字符,预计需要花费 8 分钟才能阅读完成。

前言

最近一直在拜读两本书:

1、李智慧老师的《大型网站技术架构 核心原理与案例分析》http://www.linuxidc.com/Linux/2015-11/125137.htm

2、曾宪杰老师的《大型网站系统与 Java 中间件实践》http://www.linuxidc.com/Linux/2015-11/125138.htm

看了并结合自己目前的工作进行了思考,感觉获益匪浅、受益良多,自己对大型网站的理解又有了不少的加深,下面分享一下自己的学习笔记。

 

学习笔记

 

1、大型网站架构的发展史(红字就是每一步发展历程的关键)

 

(1)从一个小网站发展起来,一台服务器,应用程序、数据库、文件等所有资源都在一台服务器上

 

(2)网站业务的发展,一台服务器逐渐不能满足需求,因此要将 应用和数据分离,应用和数据分离后使用三台服务器:应用服务器、文件服务器和数据库服务器

 

(3)网站进一步发展,数据库压力太大导致访问延迟,因此 使用缓存该改善网站性能(记住,使用缓存是改善网站性能的第一步),网站使用的缓存分为两种:缓存在应用服务器上的本地缓存和缓存在专门的分布式缓存服务器上的远程缓存

 

(4)使用缓存,数据库访问压力得到有效缓解,但是在网站访问高峰期应用服务器还是成为了整个网站的瓶颈。这种时候要理解,不要企图去更换更强大的服务器,对大型网站而言,不管多么强大的服务器,都满足不了网站持续增长的业务需求 ,因此可以 通过增加服务器的方式改善负载压力,再通过负载均衡调度服务器,将来自用户浏览器的访问请求分发到应用服务器集群中的某台服务器上

 

(5)虽然使用缓存可以使大部分数据不走数据库,但是缓存没有命中、缓存过期的数据还是会走数据库,网站达到一定规模之后,数据库读写压力还是会很大,成为网站的瓶颈。此时可以 使用数据库读写分离来改善数据库负载压力,应用服务器写数据走写库,应用服务器读数据走读库,目前大部分主流数据库都提供主从热备功能,通过配置两台数据库主从关系,可以将一台数据库服务器的数据更新同步到另一台服务器上

 

(6)随着网站业务继续发展,用户规模不断增大,由于中国复杂的网络环境,不同地区用户访问网站时,速度差别也极大。因此可以 使用反向代理和 CDN,一方面加快用户访问速度,另一方面减轻后端服务器的负载压力,因为反向代理和 CDN 的基本原理都是缓存

 

(7)数据库经过读写分离后,由一台服务器拆分为两台服务器,但还是不能满足网站业务量的需求,因此可以 使用分布式数据库,主要拆分手段是业务分库,将不同的业务数据部署在不同的物理服务器上

 

(8)大型网站为了应对日益复杂的业务场景,可以使用分而治之的手段 将整个网站的业务拆分成不同的应用,每个应用独立部署,可以通过超级链建立关系,也可以通过消息队列进行数据分发

 

大型网站发展到这里,基本上大多数的技术问题都得以解决

 

2、高性能网站的关键:控制住并发的量。只要能做到这点,很多棘手的数据问题也就不是什么问题了

 

3、不要企图通过技术解决所有问题,业务的问题也可以通过业务手段去解决

 

比如 12306 建立之初,0 点售票,网站一下子要承受几千万的访问量,直接导致 12306 这个网站崩溃,各路专业人士和分专业人士众说纷纭、出谋划策。但这仅仅通过技术能解决问题吗?所以,针对这个需求,12306 不仅要改善它的技术架构,也要调整它的业务架构,不要 0 点售票,在售票方式上引入排队机制、整点售票改为分时段售票,并发量控制住了,整个网站的性能就改善了

 

4、计算机软件发展的 一个重要目标和驱动力是降低软件的耦合性,事物之间关系越少,就越少彼此影响,越可以独立发展

 

5、异步架构是典型的生产者消费者模式

 

6、使用异步队列有几个好处

 

(1)提高系统的可用性

 

(2)加快网站的访问速度

 

(3)消除并发访问高峰

 

 

 

7、网站伸缩性就是指通过不断向集群中加入服务器的手段来缓解不断上升的用户并发访问压力和不断增长的数据存储需求

 

8、衡量架构伸缩性的指标

 

(1)是否可用多台服务器架构集群

 

(2)是否容易向服务器中添加新的服务器

 

(3)加入的服务器是否可以提供和原服务器无差别的服务

 

(4)集群中容纳的总服务器是否有限制

 

9、反应系统忙闲的重要指标 Load

 

System Load 也称为 Load,即系统负载,指当前正在被 CPU 执行和等待被 CPU 执行的线程数之和,,是反映系统忙闲程度的重要指标。多核 CPU 下,完美情况应该是所有 CPU 都在用,没有线程等待处理。Load 值低于 CPU 数目,表示 CPU 有空闲,资源存在浪费;Load 值高于 CPU 数据,表示进程在等待 CPU 调度,资源存在浪费

 

10、浏览器访问优化手段

 

(1)减少 http 请求,和并 CSS、JS、图片,不要发起多次 http 请求去拿这些数据

 

(2)使用浏览器缓存,存储静态资源,Cache-Control、Expires、Pragma、Last_Modified 都是和缓存的 HTTP HEADER

 

(3)启用压缩,有效减低通信传输的数据量

 

(4)CSS 放在上面、JS 放在下面,因为 JS 下载会立即执行,可能阻塞页面加载速度

 

(5)减少 Cookie 传输

 

11、缓存使用的几点细节

 

(1)频繁修改的数据不要写缓存,一般读写比例至少 2:1 以上才会做缓存,即一次写入至少有两次以上的读取,像新浪微博这种,热门微博,一次写入可能会被读取数百万次,那是大大地合算

 

(2)如果访问没有热点,大部分数据的访问没有集中在小部分数据上,那么做缓存就没有意义,因为缓存有失效机制,大部分数据还没有被再次访问就被挤出缓存了

 

(3)容忍一定时间的数据不一致,除非数据更新时立刻通知缓存,不过这也会带来开销与事物一致性的问题

 

(4)使用分布式缓存集群以提高缓存可用性

 

(5)新启动的缓存没有任何数据,在重建缓存的过程中,系统性能与数据库负载都不太好,因此要根据项目、根据业务,将一部分数据在启动时就加载好,这就是缓存预热

 

(6)对缓存做无效参数并设置失效时间,避免不恰当的业务或恶意攻击频繁调用接口查询数据库,一旦某一个 Key 值数据库里面查不到数据就进入无效缓存,一段时间内再次访问这个 Key 值无数据返回

 

12、消息队列具有很好的削峰作用(前面提过),不过注意需要适当修改业务流程进行配合

 

通过异步处理,将短时间高并发产生的事物消息存储在消息队列中,从而可以削平高峰期的并发事物。不过要注意点,由于数据写入消息队列后立即返回给用户,数据在后续的业务校验、写数据库等操作可能失败,因此在使用消息队列进行业务异步处理后,,需要适当修改业务流程进行配合,如订单提交之后,订单数据写入消息队列,不能立即返回给用户订单提交成功,需要在消息队列的订单消费者进程真正处理完该订单的,甚至商品出库后,再通过电子邮件或者 SMS 消息通知用户订单成功,避免交易纠纷。

本文永久更新链接地址:http://www.linuxidc.com/Linux/2015-11/125136.htm

正文完
星哥玩云-微信公众号
post-qrcode
 0
星锅
版权声明:本站原创文章,由 星锅 于2022-01-21发表,共计2834字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
【腾讯云】推广者专属福利,新客户无门槛领取总价值高达2860元代金券,每种代金券限量500张,先到先得。
阿里云-最新活动爆款每日限量供应
评论(没有评论)
验证码
【腾讯云】云服务器、云数据库、COS、CDN、短信等云产品特惠热卖中

星哥玩云

星哥玩云
星哥玩云
分享互联网知识
用户数
4
文章数
19351
评论数
4
阅读量
7998573
文章搜索
热门文章
星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛NAS-6:抖音视频同步工具,视频下载自动下载保存

星哥带你玩飞牛 NAS-6:抖音视频同步工具,视频下载自动下载保存 前言 各位玩 NAS 的朋友好,我是星哥!...
星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛NAS-3:安装飞牛NAS后的很有必要的操作

星哥带你玩飞牛 NAS-3:安装飞牛 NAS 后的很有必要的操作 前言 如果你已经有了飞牛 NAS 系统,之前...
我把用了20年的360安全卫士卸载了

我把用了20年的360安全卫士卸载了

我把用了 20 年的 360 安全卫士卸载了 是的,正如标题你看到的。 原因 偷摸安装自家的软件 莫名其妙安装...
再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见zabbix!轻量级自建服务器监控神器在Linux 的完整部署指南

再见 zabbix!轻量级自建服务器监控神器在 Linux 的完整部署指南 在日常运维中,服务器监控是绕不开的...
飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛NAS中安装Navidrome音乐文件中文标签乱码问题解决、安装FntermX终端

飞牛 NAS 中安装 Navidrome 音乐文件中文标签乱码问题解决、安装 FntermX 终端 问题背景 ...
阿里云CDN
阿里云CDN-提高用户访问的响应速度和成功率
随机文章
颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

颠覆 AI 开发效率!开源工具一站式管控 30+大模型ApiKey,秘钥付费+负载均衡全搞定

  颠覆 AI 开发效率!开源工具一站式管控 30+ 大模型 ApiKey,秘钥付费 + 负载均衡全...
三大开源投屏神器横评:QtScrcpy、scrcpy、escrcpy 谁才是跨平台控制 Android 的最优解?

三大开源投屏神器横评:QtScrcpy、scrcpy、escrcpy 谁才是跨平台控制 Android 的最优解?

  三大开源投屏神器横评:QtScrcpy、scrcpy、escrcpy 谁才是跨平台控制 Andr...
浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍

浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍

浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍 前言 在 AI 自动化快速发展的当下,浏览器早已不再只是...
4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

4盘位、4K输出、J3455、遥控,NAS硬件入门性价比之王

  4 盘位、4K 输出、J3455、遥控,NAS 硬件入门性价比之王 开篇 在 NAS 市场中,威...
安装Black群晖DSM7.2系统安装教程(在Vmware虚拟机中、实体机均可)!

安装Black群晖DSM7.2系统安装教程(在Vmware虚拟机中、实体机均可)!

安装 Black 群晖 DSM7.2 系统安装教程(在 Vmware 虚拟机中、实体机均可)! 前言 大家好,...

免费图片视频管理工具让灵感库告别混乱

一言一句话
-「
手气不错
浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍

浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍

浏览器自动化工具!开源 AI 浏览器助手让你效率翻倍 前言 在 AI 自动化快速发展的当下,浏览器早已不再只是...
免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

免费无广告!这款跨平台AI RSS阅读器,拯救你的信息焦虑

  免费无广告!这款跨平台 AI RSS 阅读器,拯救你的信息焦虑 在算法推荐主导信息流的时代,我们...
手把手教你,购买云服务器并且安装宝塔面板

手把手教你,购买云服务器并且安装宝塔面板

手把手教你,购买云服务器并且安装宝塔面板 前言 大家好,我是星哥。星哥发现很多新手刚接触服务器时,都会被“选购...
告别Notion焦虑!这款全平台开源加密笔记神器,让你的隐私真正“上锁”

告别Notion焦虑!这款全平台开源加密笔记神器,让你的隐私真正“上锁”

  告别 Notion 焦虑!这款全平台开源加密笔记神器,让你的隐私真正“上锁” 引言 在数字笔记工...
Prometheus:监控系统的部署与指标收集

Prometheus:监控系统的部署与指标收集

Prometheus:监控系统的部署与指标收集 在云原生体系中,Prometheus 已成为最主流的监控与报警...