在linux中,高並發是系統運行過程中遇到的一種「短時間內遇到大量操作請求」的情況,主要發生在web系統集中大量存取收到大量請求;該情況的發生會導致系統在這段時間內執行大量操作,例如對資源的請求,資料庫的操作等。
本教學操作環境:linux7.3系統、Dell G3電腦。
一高並發概念
1.1 高並發概念
高並發(High Concurrency)是互聯網分散式系統架構設計中必須考慮的因素之一,它通常是指,透過設計保證系統能夠同時並行處理許多請求。
高並發(High Concurrency)是一種系統運行過程中遇到的一種「短時間內遇到大量操作請求」的情況,主要發生在web系統集中大量訪問收到大量請求(例如:12306的搶票狀況;天貓雙十一活動)。這種情況的發生會導致系統在這段時間內執行大量操作,例如對資源的請求,資料庫的操作等。
1.2 高併發相關指標
- 回應時間(Response Time)
- 系統對請求做出回應的時間。例如係統處理一個HTTP請求需要200ms,這個200ms就是系統的回應時間
- 吞吐量(Throughput)
- 每秒查詢率QPS(Query Per Second)
- 每秒回應請求數。在網路領域,這個指標和吞吐量區分的沒有這麼明顯
- 並髮用戶數(User Concurrence)
- 同時承載正常使用系統功能的使用者數量。例如一個即時通訊系統,同時在線量一定程度上代表了系統的並髮用戶數
#1.3 高並發優化方面
單一進程最大開啟檔案數限制
#核心TCP參數方面
IO事件分配機制
二提升系統的並發能力
##2.1 垂直擴展
提昇單機處理能力
- 增強單機硬體效能,例如:增加CPU核數如32核,升級更好的網卡如萬兆,升級更好的硬碟如SSD ,擴充硬碟容量如2T,擴充系統記憶體如128G
- #提升單機架構效能,例如:使用Cache來減少IO次數,使用非同步增加單一服務吞吐量,使用無鎖資料結構來減少回應時間
#2.2 水平擴展
##增加伺服器數量,就能線性擴充系統效能
2.3 常見互聯網分層架構(1)客戶端層:典型調用方是瀏覽器browser或手機應用APP
(2)反向代理層:系統入口,反向代理
(3)網站應用程式層:實作核心應用邏輯,返回html或者json
(4)服務層:如果實現了服務化,就有這一層
(5)資料-快取層:快取加速存取儲存
(6 )資料-資料庫層:資料庫固化資料儲存
反向代理層的水平擴充 當nginx成為瓶頸的時候,只要增加伺服器數量,新增nginx服務的部署,增加一個外網ip,就能擴充反向代理層的效能,做到理論上的無限高並發 透過「DNS輪詢」實現的:dns-server對於一個網域配置了多個解析ip,每次DNS解析請求來存取dns-server ,會輪詢返回這些ip 網站層的水平擴展-
透過「nginx」實現的。透過修改nginx.conf,可以設定多個web後端 當web後端成為瓶頸的時候,只要增加伺服器數量,新增web服務的部署,在nginx配置中配置上新的web後端,就能擴展站點層的效能,做到理論上的無限高並發
服務層的水平擴展-
#透過「服務連接池」實現的 網站層透過RPC-client呼叫下游的服務層RPC-server時,RPC-client中的連接池會建立與下游服務多個連接,當服務成為瓶頸的時候,只要增加伺服器數量,新增服務部署,在RPC-client處建立新的下游服務連接,就能擴展服務層效能,做到理論上的無限高並發
資料層的水平擴展-
資料層(緩存,資料庫)涉及資料的水平擴展,將原本儲存在一台伺服器上的資料(緩存,資料庫)水平拆分到不同伺服器上去,以達到擴充系統效能的目的。 -
-
儲存一定範圍的資料
user0函式庫,儲存uid範圍1-1kw
user1函式庫,儲存uid範圍1kw-2kw
-
依照哈希水平拆分
user0函式庫,儲存偶數uid資料
user1函式庫,儲存奇數uid資料
#三單一Linux伺服器提升並發 3.1 iptables相關
關閉iptables防火牆,阻止kernel載入iptables模組
單一進程最大開啟檔案數限制(預設單一進程最大開啟1024個檔案)
修改Linux系統對使用者的開啟檔案數的軟限制與硬限制
vim /etc/security/limits.conf
* soft nofile 65535 #'*'表示修改所有用户的限制
* hard nofile 65535
登入後複製
#用户完成系统登录后读取/etc/security/limits.conf文件
vim /etc/pam.d/login
sessionrequired /lib/security/pam_limits.so
登入後複製
#3.2 核心TCP參數##TIME_WAIT狀態
####### ###TCP連線中斷後,會以TIME_WAIT狀態保留一定的時間,然後才會釋放連接埠。當並發請求過多的時候,就會產生大量的TIME_WAIT狀態的連接,無法及時斷開的話,會佔用大量的端口資源和伺服器資源#########
#查看TIME_WAIT状态连接
netstat -n | grep tcp | grep TIME_WAIT |wc -l
登入後複製
# vim /etc/sysctl.conf
net.ipv4.tcp_syncookies= 1 #表示开启SYNCookies。当出现SYN等待队列溢出时,启用cookies来处理,可防范少量SYN攻击,默认为0,表示关闭;
net.ipv4.tcp_tw_reuse= 1 #表示开启重用。允许将TIME-WAITsockets重新用于新的TCP连接,默认为0,表示关闭;
net.ipv4.tcp_tw_recycle= 1 #表示开启TCP连接中TIME-WAITsockets的快速回收,默认为0,表示关闭;
net.ipv4.tcp_fin_timeout= 30 #修改系統默认的TIMEOUT 时间。
登入後複製
###相關推薦:《 ###Linux影片教學###》###
以上是linux高並發是什麼意思的詳細內容。更多資訊請關注PHP中文網其他相關文章!