Nginx-Cache-Konfigurationsplan und Lösung der damit verbundenen Speichernutzungsprobleme

王林
Freigeben: 2023-05-23 14:01:38
nach vorne
2541 Leute haben es durchsucht

5 Optionen für den Nginx-Cache-Cache
1. Einer der herkömmlichen Caches (404)
Diese Methode besteht darin, den 404-Fehler von Nginx an das Backend weiterzuleiten. und dann verwenden Sie „proxy_store“, um die vom Backend zurückgegebene Seite zu speichern.
Konfiguration:

  location / {
  root /home/html/;#主目录
  expires 1d;#网页的过期时间
  error_page 404 =200 /fetch$request_uri;#404定向到/fetch目录下
  }
  location /fetch/ {#404定向到这里
  internal;#指明这个目录不能在外部直接访问到
  expires 1d;#网页的过期时间
 alias /html/;
 proxy_store会将文件保存到这目录下
  proxy_pass//www.jb51.net/;#后端upstream地址,/fetch同时是一个代理
  proxy_set_header accept-encoding '';#让后端不要返回压缩(gzip或deflate)的内容,保存压缩后的内容会引发乱子。
  proxy_store on;#指定nginx将代理返回的文件保存
  proxy_temp_path /home/tmp;#临时目录,这个目录要和/home/html在同一个硬盘分区内

  }
Nach dem Login kopieren

Bitte beachten Sie bei der Verwendung, dass Nginx über die Berechtigung zum Schreiben von Dateien unter /home/tmp und /home/html verfügen muss. Unter Linux ist dies im Allgemeinen der Fall Diese beiden Verzeichnisse müssen für die Ausführung als „nobody“-Benutzer konfiguriert und auf „nobody“ festgelegt werden. Natürlich können Sie auch chmod 777 verwenden, aber alle erfahrenen Systemadministratoren empfehlen, 777 nicht zufällig zu verwenden .
2. Traditioneller Cache 2 (!-e)
Das Prinzip ist im Grunde das gleiche wie beim 404-Sprung, aber prägnanter:

  location / {
  root /home/html/;
  proxy_store on;
  proxy_set_header accept-encoding '';
  proxy_temp_path /home/tmp;
  if ( !-f $request_filename )
  {
  proxy_pass//www.jb51.net/;
  }
  }
Nach dem Login kopieren
# 🎜🎜# Sie können sehen, dass diese Konfiguration im Vergleich zu 404 viel Code spart. Sie verwendet !-f, um festzustellen, ob die angeforderte Datei im Dateisystem vorhanden ist. Wenn sie nicht vorhanden ist, wird sie an das Backend übergeben und zurückgegeben auch mit Proxy_store gespeichert.

Beide traditionellen Caches haben grundsätzlich die gleichen Vor- und Nachteile:
Nachteil 1: Dynamische Links mit Parametern werden nicht unterstützt, wie zum Beispiel read.php?id=1, da Nginx nur den Dateinamen speichert, also diesen Der Link wird nur als read.php im Dateisystem gespeichert, daher werden falsche Ergebnisse zurückgegeben, wenn Benutzer auf read.php?id=2 zugreifen. Gleichzeitig werden die Homepage und das sekundäre Verzeichnis //www.jb51.net/download/ in Form von //www.jb51.net/ nicht unterstützt, da Nginx sehr ehrlich ist und eine solche Anfrage hineinschreiben wird das Dateisystem gemäß dem Link, und dieser Link ist offensichtlich ein Verzeichnis, daher schlägt das Speichern fehl. In diesen Fällen ist zum korrekten Speichern ein Umschreiben erforderlich.
Nachteil 2: Es gibt keinen Mechanismus für den Cache-Ablauf und die Bereinigung in Nginx. Diese zwischengespeicherten Dateien werden dauerhaft auf dem Computer gespeichert. Wenn viele Dinge zwischengespeichert werden müssen, wird der gesamte Festplattenspeicher belegt . Zu diesem Zweck können Sie ein Shell-Skript verwenden, um es regelmäßig zu bereinigen, und Sie können dynamische Programme wie PHP schreiben, um Echtzeit-Updates durchzuführen.
Nachteil 3: Es können nur 200 Statuscodes zwischengespeichert werden, sodass vom Backend zurückgegebene Statuscodes wie 301/302/404 nicht zwischengespeichert werden, wenn ein pseudostatischer Link mit einer großen Anzahl von Besuchen gelöscht wird , wird es nicht zwischengespeichert. Das Eindringen des Stoppers führt dazu, dass das hintere Ende einem erheblichen Druck standhält.
Nachteil 4: Nginx wählt nicht automatisch Speicher oder Festplatte als Speichermedium. Natürlich wird es im aktuellen Betriebssystem einen Datei-Caching-Mechanismus auf Betriebssystemebene geben Es besteht kein Grund zur Sorge, wenn auf der Festplatte E/A-Leistungsprobleme auftreten, die durch große gleichzeitige Lesevorgänge verursacht werden.
Die Nachteile des traditionellen Caching von Nginx liegen auch darin, dass es sich von Caching-Software wie Squid unterscheidet, sodass es auch als Vorteil angesehen werden kann. In Produktionsanwendungen wird es oft als Partner mit Squid verwendet und kann Links oft nicht mit ? blockieren, aber Nginx kann deren Zugriff blockieren, wie zum Beispiel: http://jb51.net/?. net / wird auf Squid als zwei Links behandelt, sodass es zwei Penetrationen verursacht, während Nginx es nur einmal speichert, unabhängig davon, ob der Link http://jb51.net/?1 oder http://jb51.net/ wird. ? 123, kann von Nginx nicht zwischengespeichert werden, wodurch der Backend-Host effektiv geschützt wird.
Nginx speichert das Link-Formular sehr originalgetreu im Dateisystem, sodass Sie für einen Link problemlos dessen Cache-Status und Inhalt auf dem Cache-Computer überprüfen und bei Verwendung auch problemlos mit anderen Dateimanagern kommunizieren können In Verbindung mit rsync usw. handelt es sich vollständig um eine Dateisystemstruktur.
Diese beiden herkömmlichen Caches können Dateien unter Linux in /dev/shm speichern, damit der Systemspeicher zum Zwischenspeichern verwendet werden kann, um die Geschwindigkeit der Bereinigung abgelaufener Inhalte zu erhöhen wird viel schneller sein. Wenn Sie /dev/shm/ verwenden, müssen Sie bei einer großen Anzahl kleiner Dateien und Verzeichnisse nicht nur das tmp-Verzeichnis auf die Partition /dev/shm verweisen, sondern auch die Anzahl der Inodes und die maximale Kapazität dieses Speichers ändern Partition:
 # 🎜🎜#

 mount -o size=2500m -o nr_inodes=480000 -o noatime,nodiratime -o remount /dev/shm
Nach dem Login kopieren

Der obige Befehl wird auf einer Maschine mit 3 g Speicher verwendet, da der standardmäßige maximale Speicher von /dev/shm die Hälfte des Systemspeichers beträgt, also 1500 m Der Befehl erhöht es auf 2500 m und gleichzeitig das shm-System Die Anzahl der Inodes reicht standardmäßig möglicherweise nicht aus, aber das Interessante ist, dass sie nach Belieben angepasst werden kann. Die Anpassung hier auf 480000 ist etwas konservativ. aber im Grunde reicht es.

 

 3. Cache basierend auf Memcached
 nginx unterstützt Memcached, aber die Funktion ist nicht besonders stark und die Leistung ist immer noch sehr gut.
 

 location /mem/ {
  if ( $uri ~ "^/mem/([0-9a-za-z_]*)$" )
  {
  set $memcached_key "$1";
  memcached_pass  192.168.1.2:11211;
  }
  expires 70;
  }
Nach dem Login kopieren

  这个配置会将http://jb51.net/mem/abc指明到memcached的abc这个key去取数据。
  nginx目前没有写入memcached的任何机制,所以要往memcached里写入数据得用后台的动态语言完成,可以利用404定向到后端去写入数据。
  4、基于第三方插件ncache
  ncache是新浪兄弟开发的一个不错的项目,它利用nginx和memcached实现了一部分类似squid缓存的功能,我并没有使用这个插件的经验,可以参考:
  http://code.google.com/p/ncache/
  5、nginx新开发的proxy_cache功能
  从nginx-0.7.44版开始,nginx支持了类似squid较为正规的cache功能,目前还处于开发阶段,支持相当有限,这个缓存是把链接用md5编码hash后保存,所以它可以支持任意链接,同时也支持404/301/302这样的非200状态。
  配置:
  首先配置一个cache空间:

复制代码 代码如下:


  proxy_cache_path /path/to/cache levels=1:2 keys_zone=name:10m inactive=5m max_size=2m clean_time=1m;


  注意这个配置是在server标签外,levels指定该缓存空间有两层hash目录,第一层目录是1个字母,第二层为2个字母,保存的文件名就会类似/path/to/cache/c/29/b7f54b2df7773722d382f4809d65029c;keys_zone为这个空间起个名字,10m指空间大小为10mb;inactive的5m指缓存默认时长5分钟;max_size的2m是指单个文件超过2m的就不缓存;clean_time指定一分钟清理一次缓存。

  location / {
  proxy_pass//www.jb51.net/;
  proxy_cache name;#使用name这个keys_zone
  proxy_cache_valid 200 302 1h;#200和302状态码保存1小时
  proxy_cache_valid 301 1d;#301状态码保存一天
  proxy_cache_valid any 1m;#其它的保存一分钟
  }
Nach dem Login kopieren

  ps:支持cache的0.7.44到0.7.51这几个版本的稳定性均有问题,访问有些链接会出现错误,所以这几个版本最好不要在生产环境中使用。nginx-0.7下目前所知较为稳定的版本是0.7.39。稳定版0.6.36版也是近期更新,如果在配置里没有使用到0.7的一些新标签新功能,也可以使用0.6.36版。

nginx缓存的内存占用问题的一般解决方法
1、前些日子某服务被刷,每分钟达到上几百万请求;当时采用了nginx cache来解决的;但是因为某服务不能缓存太久,当时设置了5s,那么带来的问题就是产生大量小文件,而且很快就删除了。

2、通过

free -m
Nach dem Login kopieren

Nginx-Cache-Konfigurationsplan und Lösung der damit verbundenen Speichernutzungsprobleme

会发现used是27g;但是通过top查看进程占的内存并没有那么多

Nginx-Cache-Konfigurationsplan und Lösung der damit verbundenen Speichernutzungsprobleme

那内存去哪了?

3、通过查阅资料会发现(cat /proc/meminfo)
slab: 22464312 kb
sreclaimable: 16474128 kb (这些是内核保持的但是可以释放的inode和dentry的缓存)
sunreclaim: 5990184 kb

4、这些内存为什么会不自动清理呢?
某机房机器系统版本:linux 2.6.32-431.el6.x86_64 #1 smp fri nov 22 03:15:09 utc 2013 x86_64 x86_64 x86_64 gnu/linux(正常,没出现内存快到100%的情况)
某机房机器系统版本:linux 2.6.32-279.el6.x86_64 #1 smp fri jun 22 12:19:21 utc 2012 x86_64 x86_64 x86_64 gnu/linux (不释放)

5、通过设置如下参数来设置内存阀值

sysctl -w vm.extra_free_kbytes=6436787
sysctl -w vm.vfs_cache_pressure=10000
Nach dem Login kopieren

Das obige ist der detaillierte Inhalt vonNginx-Cache-Konfigurationsplan und Lösung der damit verbundenen Speichernutzungsprobleme. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Verwandte Etiketten:
Quelle:yisu.com
Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn
Beliebte Tutorials
Mehr>
Neueste Downloads
Mehr>
Web-Effekte
Quellcode der Website
Website-Materialien
Frontend-Vorlage