awstats CGI模式下动态生成页面缓慢的改进_html/css_WEB-ITnose

WBOY
Release: 2016-06-21 08:49:24
Original
2067 people have browsed it

本文可以看做是 多server多站点情况下awstats日志分析 这篇文章的下篇,在使用过程中发现awstats在cgi模式下动态生成分析报告慢的问题 (尤其是有些站点每天两个多G的日志,查看起来简直是在考验人的耐性),本文分享一种改造这个缺点的思路。

首先再来总结下awstats的处理过程以及查看分析结果的两种方式,来看官方版说明:

Process logs:Building/updating statistics database,建立/更新统计数据库(包含统计结果的文本文件)命令如下

perl awstats.pl -config=mysite -update

Run reports:Building and reading reports(生成并阅读报告)

1.The first option is to build the main reports, in a static HTML page, from the command line, using the following syntax

第一种方式,通过命令行生成html文件,然后浏览器展示。命令如下

perl awstats.pl -config=mysite -output -staticlinks > awstats.mysite.html

2.The second option is to dynamically view your statistics from a browser.  To do this, use the URL:

第二种方式,通过如下的url“动态”的生成该站点的分析报告

总体思路就是,既然“动态生成”这个过程耗时,那就在服务器上定时通过curl 请求每个站点对应的url将生成的html页面存储到特定位置,然后浏览器访问时直接读取html文件即可(可能有同学要问了,这么费事,那为啥不直接用上面的第一种方式,用awstats.pl提供的参数直接生成html文件呢?这也就回归到上篇文章中讨论过的两种方式的差别了,awstats.pl生成的静态html页面从易用性和美观性都不如通过CGI动态生成的html页面)

思路有了,接下来就是“尝试”和“分析特征”。我们直接以

curl  -o /tmp/mysite.html http://www.myserver.mydomain/awstats/awstats.pl?config=mysite
Copy after login

得到的页面源代码如下

<html ><head><meta name="generator" content="AWStats 7.4 (build 20150714) from config file awstats./usr/local/awstats/etc/www.conf.conf (http://www.awstats.org)"><meta name="robots" content="noindex,nofollow"><meta http-equiv="content-type" content="text/html; charset=utf-8"><meta http-equiv="expires" content="Wed Apr 27 11:09:58 2016"><meta http-equiv="description" content="Awstats - Advanced Web Statistics for www.dmzj.com (2015-08) - main"><title>Statistics for www.mysite.com (2015-08) - main</title></head><frameset cols="240,*"><frame name="mainleft" src="awstats.pl?config=mysite&framename=mainleft" noresize="noresize" frameborder="0" /><frame name="mainright" src="awstats.pl?config=mysite&framename=mainright" noresize="noresize" scrolling="yes" frameborder="0" /><noframes><body>Your browser does not support frames.<br />You must set AWStats UseFramesWhenCGI parameter to 0to see your reports.<br /></body></noframes></frameset></html>
Copy after login

可以看到动态生成的页面实际上是一个包含了两个frame(mainleft和mainright)的html文件,也就是说,如果我们想还原一个动态生成的报告页面,需要通过如下三条命令来生成对应的三个文件

curl -s -o main.html "http://www.myserver.mydomain/awstats/awstats.pl?config=mysite"    #取得主页面curl -s -o left.html "http://www.myserver.mydomain/awstats/awstats.pl?config=mysite&framename=mainleft"    #取得左framecurl -s -o right.html "http://www.myserver.mydomain/awstats/awstats.pl?config=mysite&framename=mainright"    #取得右frame
Copy after login

然后,需要在 main.html中修改mainleft和mainright两个frame的src属性,将其指定到我们生成的left.html和right.html。如此我们就实现了将动态页面静态化(实际上是把动态生这个等待时间放到脚本里定时执行了)。

接下来,就是具体的实现过程了,涉及到对上篇文章中“ cron_awstats_update.sh ”脚本的改进,修改后的脚本内容如下(注释还算丰富,也能帮助理解思路)

#!/bin/sh#awstats日志分析basedir=/usr/local/awstatsdate_y_m=$(date +%Y%m -d '1 day ago')    #因为该脚本是第二天凌晨分析前一天的日志cd $basedir#循环更新所有站点日志统计信息echo -e "\e[1;31m-------`date "+%F %T"`    开始处理---------\n\e[0m" >>logs/cron.logfor i in `ls result/`do    echo -e "\e[1;32m -----`date "+%F %T"`  处理 $i 日志-----\e[0m" >>logs/cron.log    perl wwwroot/cgi-bin/awstats.pl -config=etc/$i.conf -lang=cn -update &>>logs/cron.log    #将动态页面静态化,查看展示页面结构可得:主页面基本没内容,主要靠左右两个frame来生成内容    #所以可以将每一个站点的展示页分为三部分来缓存    echo -e "\e[1;32m -----`date "+%F %T"`  生成 $i 分析静态页面-----\n\e[0m" >>logs/cron.log    cd wwwroot    #进入wwwroot目录,并以 '站点/日期'为格式创建目录用来存储html文件    if [ ! -d $i/$date_y_m ];then mkdir -p $i/$date_y_m;fi    cd $i/$date_y_m    curl -s -o main.html "http://www.myserver.mydomain/cgi-bin/awstats.pl?config=$basedir/etc/$i.conf"    #取得主页面    curl -s -o left.html "http://www.myserver.mydomain/cgi-bin/awstats.pl?config=$basedir/etc/$i.conf&framename=mainleft"    #取得左frame    curl -s -o right.html "http://www.myserver.mydomain/cgi-bin/awstats.pl?config=$basedir/etc/$i.conf&framename=mainright"    #取得右frame    #修改main.html里关于左右两个frame的引用    sed -i -e 's/awstats.pl.*left/left.html/g' -e 's/awstats.pl.*right/right.html/g' main.html    #接下来修改上面三个文件中的超链接部分以及字符集    sed -i -e 's#awstats.pl#http://www.myserver.mydomain/cgi-bin/awstats.pl#g'\           -e 's/charset=.*/charset=utf-8">/g'\           -e 's/lang="cn"//g'\           main.html left.html right.html        cd $basedirdoneecho -e "\e[1;33m-------`date "+%F %T"`  处理完成---------\n\e[0m" >>logs/cron.log
Copy after login

经过脚本处理之后,在wwwroot目录下,站点目录与html文件会是这个样子

到此,我们对上篇文章中的nginx配置部分做相应修改后就可以通过如下url来访问了

http://www.myserver.mydomain/www/201605 #表示www站2016年5月的统计页面

但是,改造到这里并不算完,在动态生成的页面里,有选择年和月的下拉框,可以查看指定年月的统计页面,如下图

这个功能会产生一个如下的请求

http://www.myserver.mydomain/cgi-bin/awstats.pl?month=04&year=2016&output=main&config=www.conf&framename=index

仍然是动态请求(即仍然会慢),但按照我们的设计,每个月应该都已经生成了静态文件,所以是不需要动态生成的。如何将这个功能点修改为也按照上面静态url的格式呢,这里作者首先想到了两个方案:

一个是通过js获取年和月的值,然后在表单的action处拼出所需的url

另一个是通过nginx的rewrite来实现

经过尝试和对比,第二种方案更适合这里的场景,因为第一种涉及到对生成的html文件内容进行修改,且不止一处,实现起来��嗦一些;而第二种方案只需要在nginx里做配置即可(这里如何从nginx获取到参数值并且引用该值算是一个小技巧吧)。

最终,修改之后的nginx配置文件如下

server {    listen   800;    root /usr/local/awstats/wwwroot;    access_log /tmp/awstats_access_log access;    error_log /tmp/awstats_nginx.error_log notice;    location / {        index index.html main.html;    }    # Static awstats files: HTML files stored in DOCUMENT_ROOT/awstats/    location /awstats/classes/ {        alias classes/;    }    location /awstats/css/ {        alias css/;    }    location /awstats/icon/ {        alias icon/;    }    location /awstats-icon/ {        alias icon/;    }    location /awstats/js/ {        alias js/;    }    # Dynamic stats.    location ~ ^/cgi-bin/(awredir|awstats)\.pl.* {        gzip off;        fastcgi_pass 127.0.0.1:9000;        fastcgi_param SCRIPT_FILENAME $document_root/cgi-bin/fcgi.php;        fastcgi_param X_SCRIPT_FILENAME $document_root$fastcgi_script_name;        fastcgi_param X_SCRIPT_NAME $fastcgi_script_name;        include fastcgi_params;        fastcgi_send_timeout 300;        #为了让顶部根据时间筛选功能也能用上之前生成的静态页面, 其中%2F部分为url编码后的/,为了取得站点名        if ($query_string ~* "^month=(\d+)&year=(\d+)&output=main&config=.+etc%2F(.+)\.conf&framename=index$") {            set $month $1;            set $year $2;            set $site $3;            rewrite  ^/cgi-bin/awstats\.pl  /$site/$year$month? permanent;        }    }    expires 12h;}
Copy after login

ok,到这里整个改进过程完毕。每个月份的统计结果的主页面都已经实现了静态化,查看时再也不用经历漫长的等待了!PS: 工具再好,也不见得完全适合或者满足自己的需求,大部分情况下作为“软件使用者”的运维同胞,应该有这个意识:不只会用,必要时还能改。共勉!

source:php.cn
Statement of this Website
The content of this article is voluntarily contributed by netizens, and the copyright belongs to the original author. This site does not assume corresponding legal responsibility. If you find any content suspected of plagiarism or infringement, please contact admin@php.cn
Popular Tutorials
More>
Latest Downloads
More>
Web Effects
Website Source Code
Website Materials
Front End Template