ホームページ 運用・保守 Linuxの運用と保守 Shell はログ ファイルを分析するための効率的なコマンドで、非常に使いやすいです。

Shell はログ ファイルを分析するための効率的なコマンドで、非常に使いやすいです。

Aug 01, 2023 pm 04:47 PM
ログファイル shell


自己的小网站跑在阿里云的ECS上面,偶尔也去分析分析自己网站服务器日志,看看网站的访问量。看看有没有黑客搞破坏!于是收集,整理一些服务器日志分析命令,大家可以试试!

Shell はログ ファイルを分析するための効率的なコマンドで、非常に使いやすいです。

1、查看有多少个IP访问:

awk '{print $1}' log_file|sort|uniq|wc -l
ログイン後にコピー

2、查看某一个页面被访问的次数:

grep "/index.php" log_file | wc -l
ログイン後にコピー

3、查看每一个IP访问了多少个页面:

awk '{++S[$1]} END {for (a in S) print a,S[a]}' log_file > log.txt  
  
sort -n -t ' ' -k 2 log.txt  # 配合sort进一步排序
ログイン後にコピー

4、将每个IP访问的页面数进行从小到大排序:

awk '{++S[$1]} END {for (a in S) print S[a],a}' log_file | sort -n
ログイン後にコピー

5、查看某一个IP访问了哪些页面:

grep ^111.111.111.111 log_file| awk '{print $1,$7}'
ログイン後にコピー

6、去掉搜索引擎统计的页面:

awk '{print $12,$1}' log_file | grep ^\"Mozilla | awk '{print $2}' |sort | uniq | wc -l
ログイン後にコピー

7、查看2015年8月16日14时这一个小时内有多少IP访问:

awk '{print $4,$1}' log_file | grep 16/Aug/2015:14 | awk '{print $2}'| sort | uniq | wc -l
ログイン後にコピー

8、查看访问前十个ip地址

awk '{print $1}' |sort|uniq -c|sort -nr |head -10 access_log
ログイン後にコピー

uniq -c 相当于分组统计并把统计数放在最前面

cat access.log|awk '{print $1}'|sort|uniq -c|sort -nr|head -10  
  
cat access.log|awk '{counts[$(11)]+=1}; END {for(url in counts) print counts[url], url}
ログイン後にコピー

9、访问次数最多的10个文件或页面

cat log_file|awk '{print $11}'|sort|uniq -c|sort -nr | head -10
ログイン後にコピー

<span style="outline: 0px;font-size: 17px;">**访问量最大的前20个ip**</span>

cat log_file|awk &#39;{print $11}&#39;|sort|uniq -c|sort -nr|head -20  
  
awk &#39;{print $1}&#39; log_file |sort -n -r |uniq -c | sort -n -r | head -20
ログイン後にコピー

10、通过子域名访问次数,依据referer来计算,稍有不准

cat access.log | awk &#39;{print $11}&#39; | sed -e &#39; s/http:\/\///&#39; -e &#39; s/\/.*//&#39; | sort | uniq -c | sort -rn | head -20
ログイン後にコピー

11、列出传输大小最大的几个文件

cat www.access.log |awk &#39;($7~/\.php/){print $10 " " $1 " " $4 " " $7}&#39;|sort -nr|head -100
ログイン後にコピー

12、列出输出大于200000byte(约200kb)的页面以及对应页面发生次数

cat www.access.log |awk &#39;($10 > 200000 && $7~/\.php/){print $7}&#39;|sort -n|uniq -c|sort -nr|head -100
ログイン後にコピー

13、如果日志最后一列记录的是页面文件传输时间,则有列出到客户端最耗时的页面

cat www.access.log |awk &#39;($7~/\.php/){print $NF " " $1 " " $4 " " $7}&#39;|sort -nr|head -100
ログイン後にコピー

14、列出最最耗时的页面(超过60秒的)的以及对应页面发生次数

cat www.access.log |awk &#39;($NF > 60 && $7~/\.php/){print $7}&#39;|sort -n|uniq -c|sort -nr|head -100
ログイン後にコピー

15、列出传输时间超过 30 秒的文件

cat www.access.log |awk &#39;($NF > 30){print $7}&#39;|sort -n|uniq -c|sort -nr|head -20
ログイン後にコピー

16、列出当前服务器每一进程运行的数量,倒序排列

ps -ef | awk -F &#39; &#39; &#39;{print $8 " " $9}&#39; |sort | uniq -c |sort -nr |head -20
ログイン後にコピー

17、查看apache当前并发访问数

对比httpd.conf中MaxClients的数字差距多少

netstat -an | grep ESTABLISHED | wc -l
ログイン後にコピー

18、可以使用如下参数查看数据

ps -ef|grep httpd|wc -l  
1388
ログイン後にコピー

统计httpd进程数,连个请求会启动一个进程,使用于Apache服务器。
表示Apache能够处理1388个并发请求,这个值Apache可根据负载情况自动调整

netstat -nat|grep -i "80"|wc -l  
4341
ログイン後にコピー

netstat -an会打印系统当前网络链接状态,而grep -i "80"是用来提取与80端口有关的连接的,wc -l进行连接数统计。
最终返回的数字就是当前所有80端口的请求总数

netstat -na|grep ESTABLISHED|wc -l  
376
ログイン後にコピー

netstat -an会打印系统当前网络链接状态,而grep ESTABLISHED 提取出已建立连接的信息。然后wc -l统计
最终返回的数字就是当前所有80端口的已建立连接的总数。

netstat -nat||grep ESTABLISHED|wc
ログイン後にコピー

可查看所有建立连接的详细记录

19、输出每个ip的连接数,以及总的各个状态的连接数

netstat -n | awk &#39;/^tcp/ {n=split($(NF-1),array,":");if(n<=2)++S[array[(1)]];else++S[array[(4)]];++s[$NF];++N} END {for(a in S){printf("%-20s %s\n", a, S[a]);++I}printf("%-20s %s\n","TOTAL_IP",I);for(a in s) printf("%-20s %s\n",a, s[a]);printf("%-20s %s\n","TOTAL_LINK",N);}&#39;
ログイン後にコピー

20、其他的收集

分析日志文件下 2012-05-04 访问页面最高 的前20个 URL 并排序

cat access.log |grep &#39;04/May/2012&#39;| awk &#39;{print $11}&#39;|sort|uniq -c|sort -nr|head -20
ログイン後にコピー

查询受访问页面的URL地址中 含有 www.abc.com 网址的 IP 地址

cat access_log | awk &#39;($11~/\www.abc.com/){print $1}&#39;|sort|uniq -c|sort -nr
ログイン後にコピー

获取访问最高的10个IP地址 同时也可以按时间来查询。另外,搜索公众号Linux就该这样学后台回复“Linux”,获取一份惊喜礼包。

cat linewow-access.log|awk &#39;{print $1}&#39;|sort|uniq -c|sort -nr|head -10
ログイン後にコピー

时间段查询日志时间段的情况

cat log_file | egrep &#39;15/Aug/2015|16/Aug/2015&#39; |awk &#39;{print $1}&#39;|sort|uniq -c|sort -nr|head -10
ログイン後にコピー

分析2015/8/15 到 2015/8/16 访问"/index.php?g=Member&m=Public&a=sendValidCode"的IP倒序排列

cat log_file | egrep &#39;15/Aug/2015|16/Aug/2015&#39; | awk &#39;{if($7 == "/index.php?g=Member&m=Public&a=sendValidCode") print $1,$7}&#39;|sort|uniq -c|sort -nr
ログイン後にコピー
(7里面包含.php的就输出,本句的意思是最耗时的一百个PHP页面
cat log_file |awk &#39;($7~/\.php/){print $NF " " $1 " " $4 " " $7}&#39;|sort -nr|head -100
ログイン後にコピー
列出最最耗时的页面(超过60秒的)的以及对应页面发生次数
cat access.log |awk &#39;($NF > 60 && $7~/\.php/){print $7}&#39;|sort -n|uniq -c|sort -nr|head -100
ログイン後にコピー
统计网站流量(G)
cat access.log |awk &#39;{sum+=$10} END {print sum/1024/1024/1024}&#39;
ログイン後にコピー
统计404的连接
awk &#39;($9 ~/404/)&#39; access.log | awk &#39;{print $9,$7}&#39; | sort
ログイン後にコピー
统计http status
cat access.log |awk &#39;{counts[$(9)]+=1}; END {for(code in counts) print code, counts[code]}&#39;   
cat access.log |awk &#39;{print $9}&#39;|sort|uniq -c|sort -rn
ログイン後にコピー
每秒并发
watch "awk &#39;{if($9~/200|30|404/)COUNT[$4]++}END{for( a in COUNT) print a,COUNT[a]}&#39; log_file|sort -k 2 -nr|head -n10"
ログイン後にコピー
带宽统计
cat apache.log |awk &#39;{if($7~/GET/) count++}END{print "client_request="count}&#39;   
cat apache.log |awk &#39;{BYTE+=$11}END{print "client_kbyte_out="BYTE/1024"KB"}&#39;
ログイン後にコピー
找出某天访问次数最多的10个IP
cat /tmp/access.log | grep "20/Mar/2011" |awk &#39;{print $3}&#39;|sort |uniq -c|sort -nr|head
ログイン後にコピー
当天ip连接数最高的ip都在干些什么
cat access.log | grep "10.0.21.17" | awk &#39;{print $8}&#39; | sort | uniq -c | sort -nr | head -n 10
ログイン後にコピー
小时单位里ip连接数最多的10个时段
awk -vFS="[:]" &#39;{gsub("-.*","",$1);num[$2" "$1]++}END{for(i in num)print i,num[i]}&#39; log_file | sort -n -k 3 -r | head -10
ログイン後にコピー
找出访问次数最多的几个分钟
awk &#39;{print $1}&#39; access.log | grep "20/Mar/2011" |cut -c 14-18|sort|uniq -c|sort -nr|head
ログイン後にコピー
取5分钟日志
if [ $DATE_MINUTE != $DATE_END_MINUTE ] ;then   
#则判断开始时间戳与结束时间戳是否相等
ログイン後にコピー
START_LINE=sed -n "/$DATE_MINUTE/=" $APACHE_LOG|head -n1 
#如果不相等,则取出开始时间戳的行号,与结束时间戳的行号
ログイン後にコピー
查看tcp的链接状态*
netstat -nat |awk &#39;{print $6}&#39;|sort|uniq -c|sort -rn   
     
netstat -n | awk &#39;/^tcp/ {++S[$NF]};END {for(a in S) print a, S[a]}&#39;   
  
netstat -n | awk &#39;/^tcp/ {++state[$NF]}; END {for(key in state) print key,"\t",state[key]}&#39;   
     
netstat -n | awk &#39;/^tcp/ {++arr[$NF]};END {for(k in arr) print k,"\t",arr[k]}&#39;   
     
netstat -n |awk &#39;/^tcp/ {print $NF}&#39;|sort|uniq -c|sort -rn   
     
netstat -ant | awk &#39;{print $NF}&#39; | grep -v &#39;[a-z]&#39; | sort | uniq -cnetstat -ant|awk &#39;/ip:80/{split($5,ip,":");++S[ip[1]]}END{for (a in S) print S[a],a}&#39; |sort -n   
     
netstat -ant|awk &#39;/:80/{split($5,ip,":");++S[ip[1]]}END{for (a in S) print S[a],a}&#39; |sort -rn|head -n 10   
  
awk &#39;BEGIN{printf ("http_code\tcount_num\n")}{COUNT[$10]++}END{for (a in COUNT) printf a"\t\t"COUNT[a]"\n"}&#39;
ログイン後にコピー
查找请求数前20个IP(常用于查找攻来源):
netstat -anlp|grep 80|grep tcp|awk &#39;{print $5}&#39;|awk -F: &#39;{print $1}&#39;|sort|uniq -c|sort -nr|head -n20   
  
netstat -ant |awk &#39;/:80/{split($5,ip,":");++A[ip[1]]}END{for(i in A) print A[i],i}&#39; |sort -rn|head -n20
ログイン後にコピー
用tcpdump嗅探80端口的访问看看谁最高
牛逼啊!接私活必备的 N 个开源项目!赶快收藏
ログイン後にコピー
tcpdump -i eth0 -tnn dst port 80 -c 1000 | awk -F"." &#39;{print $1"."$2"."$3"."$4}&#39; | sort | uniq -c | sort -nr |head -20
ログイン後にコピー
查找较多time_wait连接
netstat -n|grep TIME_WAIT|awk &#39;{print $5}&#39;|sort|uniq -c|sort -rn|head -n20
ログイン後にコピー
找查较多的SYN连接
netstat -an | grep SYN | awk &#39;{print $5}&#39; | awk -F: &#39;{print $1}&#39; | sort | uniq -c | sort -nr | more
ログイン後にコピー
根据端口列进程
netstat -ntlp | grep 80 | awk &#39;{print $7}&#39; | cut -d/ -f1
ログイン後にコピー
查看了连接数和当前的连接数
netstat -ant | grep $ip:80 | wc -l   
netstat -ant | grep $ip:80 | grep EST | wc -l
ログイン後にコピー
查看IP访问次数
netstat -nat|grep ":80"|awk &#39;{print $5}&#39; |awk -F: &#39;{print $1}&#39; | sort| uniq -c|sort -n
ログイン後にコピー
Linux命令分析当前的链接状况
netstat -n | awk &#39;/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}&#39;  
  
watch "netstat -n | awk &#39;/^tcp/ {++S[\$NF]} END {for(a in S) print a, S[a]}&#39;"   
# 通过watch可以一直监控
ログイン後にコピー
LAST_ACK 5   #关闭一个TCP连接需要从两个方向上分别进行关闭,双方都是通过发送FIN来表示单方向数据的关闭,当通信双方发送了最后一个FIN的时候,发送方此时处于LAST_ACK状态,当发送方收到对方的确认(Fin的Ack确认)后才真正关闭整个TCP连接;  
SYN_RECV 30       # 表示正在等待处理的请求数;  
ESTABLISHED 1597  # 表示正常数据传输状态;   
FIN_WAIT1 51      # 表示server端主动要求关闭tcp连接;   
FIN_WAIT2 504     # 表示客户端中断连接;   
TIME_WAIT 1057    # 表示处理完毕,等待超时结束的请求数;
ログイン後にコピー
<br/>
ログイン後にコピー
ログイン後にコピー
Shell はログ ファイルを分析するための効率的なコマンドで、非常に使いやすいです。<br/>
为了跟上AI时代我干了一件事儿,我创建了一个知识星球社群:ChartGPT与副业。想带着大家一起探索ChatGPT和新的AI时代。有很多小伙伴搞不定ChatGPT账号,于是我们决定,凡是这三天之内加入ChatPGT的小伙伴,我们直接送一个正常可用的永久ChatGPT独立账户。
ログイン後にコピー
简单说下这个星球能给大家提供什么:
星球分享:
1、不断分享如何使用ChatGPT来完成各种任务,让你更高效地使用ChatGPT,以及副业思考、变现思路、创业案例、落地案例分享。2、分享ChatGPT的使用方法、最新资讯、商业价值。3、探讨未来关于ChatGPT的机遇,共同成长。4、帮助大家解决ChatGPT遇到的问题。5、不定期邀请大咖进行分享。6、提供一整年的售后服务,一起搞副业
星球福利:1、加入星球4天后,就送ChatGPT独立账号。2、邀请你加入ChatGPT会员交流群。3、赠送一份完整的ChatGPT手册和66个ChatGPT副业赚钱手册。
其它福利还在筹划中... 不过,我给你大家保证,加入星球后,收获的价值会远远大于今天加入的门票费用 !
本星球第一期原价399,目前属于试运营,早鸟价139,每超过50人涨价10元,星球马上要来一波大的涨价,如果你还在犹豫,可能最后就要以更高价格加入了。。
早就是优势。建议大家尽早以便宜的价格加入!
ログイン後にコピー

声明:本文部分素材转载自互联网,如有侵权立即删除 。

<br/>

往期精彩

<br/>
ログイン後にコピー
ログイン後にコピー

この記事が気に入ったお友達はコメントをお待ちしています画像をクリックしてサブスクリプション番号をたどってください。Linux Chinese Community


##さらにエキサイティングなコンテンツを見るには

#

以上がShell はログ ファイルを分析するための効率的なコマンドで、非常に使いやすいです。の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

このウェブサイトの声明
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。

ホットAIツール

Undresser.AI Undress

Undresser.AI Undress

リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover

AI Clothes Remover

写真から衣服を削除するオンライン AI ツール。

Undress AI Tool

Undress AI Tool

脱衣画像を無料で

Clothoff.io

Clothoff.io

AI衣類リムーバー

AI Hentai Generator

AI Hentai Generator

AIヘンタイを無料で生成します。

ホットツール

メモ帳++7.3.1

メモ帳++7.3.1

使いやすく無料のコードエディター

SublimeText3 中国語版

SublimeText3 中国語版

中国語版、とても使いやすい

ゼンドスタジオ 13.0.1

ゼンドスタジオ 13.0.1

強力な PHP 統合開発環境

ドリームウィーバー CS6

ドリームウィーバー CS6

ビジュアル Web 開発ツール

SublimeText3 Mac版

SublimeText3 Mac版

神レベルのコード編集ソフト(SublimeText3)

Windows 11 にクラシック シェルをインストールするにはどうすればよいですか? Windows 11 にクラシック シェルをインストールするにはどうすればよいですか? Apr 21, 2023 pm 09:13 PM

&lt;p&gt;オペレーティング システムをカスタマイズすることは、日常生活をより楽しくするための素晴らしい方法です。ユーザー インターフェイスの変更、カスタム テーマの適用、ウィジェットの追加などを行うことができます。そこで今日は、Windows 11にClassicShellをインストールする方法を説明します。 &lt;/p&gt;&lt;p&gt;このプログラムは長い間存在しており、オペレーティング システムを変更することができます。 2017年に解散したこの組織は現在、ボランティアによって運営され始めている。新しいプロジェクトは OpenShell と呼ばれ、興味のある人は現在 Github で入手できます。 &lt;/p&gt;&a

HRESULT 0x80073D02 問題が修正され、PowerShell のデプロイメントが失敗する HRESULT 0x80073D02 問題が修正され、PowerShell のデプロイメントが失敗する May 10, 2023 am 11:02 AM

スクリプトを実行すると、PowerShell で「Add-AppxPackage: Deployment failed with HRESULT: 0x80073D02, The package can be install because the resource itmodifying is currently in use. Error 0x80073D02...」というエラー メッセージが PowerShell に表示されますか?エラー メッセージに記載されているように、これは、前のプロセスの実行中にユーザーが 1 つまたはすべての WindowsShellExperienceHost アプリケーションを再登録しようとすると発生します。この問題を迅速に解決するための簡単な解決策がいくつかあります。解決策 1 – powershell コマンドを実行する前に終了する必要があるエクスペリエンス ホスト プロセスを終了します。

システム起動時に Explorer.exe が起動しない [修正] システム起動時に Explorer.exe が起動しない [修正] Jun 03, 2023 am 08:31 AM

最近、多くの Windows ユーザーが Windows システムの重大な問題に遭遇し始めています。問題は、システムのロード後に Explorer.exe が起動できず、ユーザーがファイルやフォルダーを開けないことです。ただし、Windows ユーザーは場合によってはコマンド プロンプトを使用して Windows エクスプローラーを手動で開くことができますが、これはシステムを再起動するたびに、またはシステム起動後に実行する必要があります。これは問題となる可能性があり、以下に説明する要因が原因です。システムファイルが破損しています。高速スタートアップ設定を有効にします。ディスプレイドライバーが古いか問題があります。システム内の一部のサービスに変更が加えられました。変更されたレジストリ ファイル。上記のすべての要素を念頭に置いて、ユーザーに確実に役立ついくつかの要素を考え出しました。

Linux でファイルの末尾の行をすばやく削除する方法 Linux でファイルの末尾の行をすばやく削除する方法 Mar 01, 2024 pm 09:36 PM

Linux システムでファイルを処理する場合、ファイルの末尾の行を削除する必要がある場合があります。この操作は実際のアプリケーションでは非常に一般的で、いくつかの簡単なコマンドで実行できます。この記事では、Linux システムでファイルの末尾の行をすばやく削除する手順と、具体的なコード例を紹介します。ステップ 1: ファイルの最終行を確認する 削除操作を実行する前に、最初にファイルの最終行がどの行であるかを確認する必要があります。ファイルの最後の行を表示するには、tail コマンドを使用できます。具体的なコマンドは次のとおりです: tail-n1filena

Open Shell Windows 11が動作しない問題の修正は次のとおりです。 Open Shell Windows 11が動作しない問題の修正は次のとおりです。 Apr 14, 2023 pm 02:07 PM

Windows 11 でオープン シェルが実行されないことは新しい問題ではなく、この新しいオペレーティング システムの登場以来ユーザーを悩ませています。 Open-Shell Windows 11 が動作しない問題の原因は特定されていません。プログラム内の予期しないエラー、ウイルスやマルウェアの存在、システム ファイルの破損などが原因で発生する可能性があります。知らない人のために説明すると、Open-Shell は 2017 年に廃止された Classic Shell の後継です。 Windows 11 に Classic Shell をインストールする方法に関するチュートリアルをご覧ください。 Windows 11のスタートメニューを置き換える方法

Windows でシェル スクリプト ファイルを実行するさまざまな方法 Windows でシェル スクリプト ファイルを実行するさまざまな方法 Apr 13, 2023 am 11:58 AM

Linux 用 Windows サブシステム 最初のオプションは、Linux バイナリ実行可能ファイルを Windows システム上でネイティブに実行するための互換性レイヤーである Windows サブシステム for Linux または WSL を使用することです。ほとんどのシナリオで機能し、Windows 11/10 でシェル スクリプトを実行できるようになります。 WSL は自動的には利用できないため、Windows デバイスの開発者設定を通じて有効にする必要があります。これを行うには、[設定] > [更新とセキュリティ] > [開発者向け] に移動します。開発者モードに切り替え、プロンプトを確認して [はい] を選択します。次にWを探します

超ハードコア!非常に実用的な Python とシェル スクリプトの例 11 個! 超ハードコア!非常に実用的な Python とシェル スクリプトの例 11 個! Apr 12, 2023 pm 01:52 PM

Python スクリプトの例: エンタープライズ WeChat アラーム、FTP クライアント、SSH クライアント、Saltstack クライアント、vCenter クライアント、ドメイン名 SSL 証明書の有効期限の取得、今日の天気予報と将来の天気傾向グラフの送信、シェル スクリプトの例: SVN フル バックアップ、 Zabbixによるユーザーパスワードの有効期限の監視、ローカルYUMの構築、前回の記事の読者ニーズ(負荷が高い場合、占有率の高い処理スクリプトを見つけて通知を保存またはプッシュ通知する)については、少し長いので読んでください。記事の最後には、やはりイースターエッグがあります。エンタープライズ WeChat アラームの Python スクリプト部分 このスクリプトはエンタープライズ WeChat アプリケーションを使用して WeChat アラームを実行し、使用できます

ネットワーク接続を監視し、ログ ファイルに保存する Python スクリプト ネットワーク接続を監視し、ログ ファイルに保存する Python スクリプト Sep 01, 2023 am 10:41 AM

ネットワーク接続の監視は、コンピュータ システムの安定性とセキュリティを確保するために重要です。ネットワーク管理者であっても個人ユーザーであっても、ネットワーク接続を追跡し、関連情報をログに記録する方法があることは非常に貴重です。このブログ投稿では、ネットワーク接続を監視し、データをログ ファイルに保存するための Python スクリプトを作成する方法を説明します。 Python とその豊富なライブラリの機能を活用することで、ネットワークのステータスを定期的にチェックし、IP アドレス、タイムスタンプ、接続ステータスなどの関連詳細をキャプチャし、将来参照できるようにログ ファイルに保存するスクリプトを開発できます。このスクリプトは、ネットワーク接続に関するリアルタイムの洞察を提供するだけでなく、トラブルシューティングと分析に役立つ履歴記録も提供します。 P を書き始める前に環境をセットアップする

See all articles