linux统计总数命令,linux统计文件个数命令

Linux常见日志统计分析命令

在上文中，我们已经详细介绍 linux 三剑客的基本使用，接下来我们看看具体在性能测试领域的运用，本文主要介绍的是在 Tomcat 和 Nginx access日志的统计分析。

于2013年成立成都创新互联公司专注于”帮助中小企业+互联网”, 也是目前成都地区具有实力的互联网服务商。团队致力于为企业提供--站式网站建设、移动端应用( H5手机营销、成都app开发、微信开发)、软件开发、信息化解决方案等服务。

server.xml 使用配置方式，%D-请求时间，%F-响应时间

字段说明如下：

日志样例：

使用默认 combined 的经典格式上扩展 response_timeupstream_response_time

nginx.conf 使用配置方式：

字段说明如下：

日志示例：

为了能理解 AWK 程序，我们下面概述其基本知识。

模式( pattern ) 用于匹配输入中的每行文本。对于匹配上的每行文本，awk 都执行对应的动作( action )。模式和动作之间使用花括号隔开。awk 顺序扫描每一行文本，并使用记录分隔符（一般是换行符）将读到的每一行作为记录，使用域分隔符( 一般是空格符或制表符 ) 将一行文本分割为多个域，每个域分别可以使用 2, … 表示。1 表示第一个域，表示第二个域，n 表示第 n 个域。 $0 表示整个记录。模式或动作都可以不指定，缺省模式的情况下，将匹配所有行。缺省动作的情况下，将执行动作 {print}，即打印整个记录。

此处使用Nginx access.log 举例，Tomcat 日志自己举一反三。使用 awk 分解出Nginx access日志中的信息

以此类推…… 当我们使用默认的域分割符时，我们可以从日志中解析出下面不同类型的信息：

我们不难发现，仅使用默认的域分隔符，不方便解析出请求行、引用页和浏览器类型等其他信息，因为这些信息之中包含不确定个数的空格。因此，我们需要把域分隔符修改为 “ ，就能够轻松读出这些信息。

注意：这里为了避免 Linux Shell 误解 “ 为字符串开始，我们使用了反斜杠，转义了 “ 。现在，我们已经掌握了 awk 的基本知识，以及它是怎样解析日志的。

此处使用Nginx access.log 举例，Tomcat 日志自己举一反三。

如果我们想知道那些类型的浏览器访问过网站，并按出现的次数倒序排列，我可以使用下面的命令：

此命令行首先解析出浏览器域，然后使用管道将输出作为第一个 sort 命令的输入。第一个 sort 命令主要是为了方便 uniq 命令统计出不同浏览器出现的次数。最后一个 sort 命令将把之前的统计结果倒序排列并输出。

我们可以使用下面的命令行，统计服务器返回的状态码，发现系统可能存在的问题。

正常情况下，状态码 200 或 30x 应该是出现次数最多的。40x 一般表示客户端访问问题。50x 一般表示服务器端问题。下面是一些常见的状态码：

HTTP 协议状态码定义可以参阅：

查找并显示所有状态码为 404 的请求

统计所有状态码为 404 的请求

现在我们假设某个请求 ( 例如 : URI: /path/to/notfound ) 产生了大量的 404 错误，我们可以通过下面的命令找到这个请求是来自于哪一个引用页，和来自于什么浏览器。

有时候会发现其他网站出于某种原因，在他们的网站上使用保存在自己网站上的图片。如果您想知道究竟是谁未经授权使用自己网站上的图片，我们可以使用下面的命令：

注意：使用前，将修改为自己网站的域名。

统计共有多少个不同的 IP 访问：

统计每一个 IP 访问了多少个页面：

将每个 IP 访问的页面数进行从小到大排序：

统计 2018 年 8 月 31 日 14 时内有多少 IP 访问 :

统计访问最多的前十个 IP 地址

查看某一个 IP访问了哪些页面：

统计某个 IP 的详细访问情况,按访问频率排序

列出传输大小最大的几个文件

列出输出大于 204800 byte ( 200kb) 的页面以及对应页面发生次数

列出访问最频的页面(TOP100)

列出访问最频的页面([排除php页面】(TOP100)

列出页面访问次数超过100次的页面

列出最近1000条记录，访问量最高的页面

统计每分钟的请求数,top100的时间点(精确到分钟)

统计每小时的请求数,top100的时间点(精确到小时)

统计每秒的请求数,top100的时间点(精确到秒)

统计当天的 pv

说明：

可以使用下面的命令统计出所有响应时间超过 3 秒的日志记录。

注意：NF 是当前记录中域的个数。$NF 即最后一个域。

列出php页面请求时间超过3秒的页面，并统计其出现的次数，显示前100条

列出相应时间超过 5 秒的请求，显示前20条

统计蜘蛛抓取次数

统计蜘蛛抓取404的次数

通过本文的介绍，我相信同学们一定会发现 linux三剑客强大之处。在命令行中，它还能够接受，和执行外部的 AWK 程序文件，可以对文本信息进行非常复杂的处理，可以说“只有想不到的，没有它做不到的”。

如何查看linux服务器的cpu数量，内核数，和cpu线程数？

lscpu命令，查看的是cpu的统计信息.\x0d\x0ablue@blue-pc:~$ lscpu\x0d\x0aArchitecture: i686 #cpu架构\x0d\x0aCPU op-mode(s): 32-bit, 64-bit\x0d\x0aByte Order: Little Endian #小尾序\x0d\x0aCPU(s): 4 #总共有4核\x0d\x0aOn-line CPU(s) list: 0-3\x0d\x0aThread(s) per core: 1 #每个cpu核，只能支持一个线程，即不支持超线程\x0d\x0aCore(s) per socket: 4 #每个cpu，有4个核\x0d\x0aSocket(s): 1 #总共有1一个cpu\x0d\x0aVendor ID: GenuineIntel #cpu产商 intel\x0d\x0aCPU family: 6\x0d\x0aModel: 42\x0d\x0aStepping: 7\x0d\x0aCPU MHz: 1600.000\x0d\x0aBogoMIPS: 5986.12\x0d\x0aVirtualization: VT-x #支持cpu虚拟化技术\x0d\x0aL1d cache: 32K\x0d\x0aL1i cache: 32K\x0d\x0aL2 cache: 256K\x0d\x0aL3 cache: 6144K\x0d\x0a \x0d\x0a 查看/proc/cpuinfo,可以知道每个cpu信息，如每个CPU的型号，主频等。\x0d\x0a#cat /proc/cpuinfo\x0d\x0aprocessor : 0\x0d\x0avendor_id : GenuineIntel\x0d\x0acpu family : 6\x0d\x0amodel : 42\x0d\x0amodel name : Intel(R) Core(TM) i5-2320 CPU @ 3.00GHz\x0d\x0a.....\x0d\x0a 上面输出的是第一个cpu部分信息，还有3个cpu信息省略了。\x0d\x0a \x0d\x0a 内存\x0d\x0a 概要查看内存情况\x0d\x0a free -m\x0d\x0a total used free shared buffers cached\x0d\x0a Mem: 3926 3651 274 0 12 404\x0d\x0a -/+ buffers/cache: 3235 691\x0d\x0a Swap: 9536 31 9505\x0d\x0a 这里的单位是MB，总共的内存是3926MB。\x0d\x0a \x0d\x0a 查看内存详细使用\x0d\x0a# cat /proc/meminfo\x0d\x0aMemTotal: 4020868 kB\x0d\x0aMemFree: 230884 kB\x0d\x0aBuffers: 7600 kB\x0d\x0aCached: 454772 kB\x0d\x0aSwapCached: 836 kB\x0d\x0a.....\x0d\x0a \x0d\x0a 查看内存硬件信息\x0d\x0admidecode -t memory\x0d\x0a# dmidecode 2.11\x0d\x0aSMBIOS 2.7 present.\x0d\x0aHandle 0x0008, DMI type 16, 23 bytes\x0d\x0aPhysical Memory Array\x0d\x0a Location: System Board Or Motherboard\x0d\x0a....\x0d\x0a Maximum Capacity: 32 GB\x0d\x0a....\x0d\x0aHandle 0x000A, DMI type 17, 34 bytes\x0d\x0a....\x0d\x0aMemory Device\x0d\x0a Array Handle: 0x0008\x0d\x0a Error Information Handle: Not Provided\x0d\x0a Total Width: 64 bits\x0d\x0a Data Width: 64 bits\x0d\x0a Size: 4096 MB\x0d\x0a.....\x0d\x0a 我的主板有4个槽位，只用了一个槽位，上面插了一条4096MB的内存。\x0d\x0a \x0d\x0a 磁盘\x0d\x0a 查看硬盘和分区分布\x0d\x0a# lsblk\x0d\x0aNAME MAJ:MIN RM SIZE RO TYPE MOUNTPOINT\x0d\x0asda 8:0 0 465.8G 0 disk\x0d\x0a├—sda1 8:1 0 1G 0 part /boot\x0d\x0a├—sda2 8:2 0 9.3G 0 part [SWAP]\x0d\x0a├—sda3 8:3 0 74.5G 0 part /\x0d\x0a├—sda4 8:4 0 1K 0 part\x0d\x0a├—sda5 8:5 0 111.8G 0 part /home\x0d\x0a└—sda6 8:6 0 269.2G 0 part\x0d\x0a 显示很直观\x0d\x0a \x0d\x0a 如果要看硬盘和分区的详细信息\x0d\x0a# fdisk -l\x0d\x0aDisk /dev/sda: 500.1 GB, 500107862016 bytes\x0d\x0a255 heads, 63 sectors/track, 60801 cylinders, total 976773168 sectors\x0d\x0aUnits = sectors of 1 * 512 = 512 bytes\x0d\x0aSector size (logical/physical): 512 bytes / 4096 bytes\x0d\x0aI/O size (minimum/optimal): 4096 bytes / 4096 bytes\x0d\x0aDisk identifier: 0x00023728\x0d\x0a Device Boot Start End Blocks Id System\x0d\x0a/dev/sda1 * 2048 2148351 1073152 83 Linux\x0d\x0a/dev/sda2 2148352 21680127 9765888 82 Linux swap / Solaris\x0d\x0a/dev/sda3 21680128 177930239 78125056 83 Linux\x0d\x0a/dev/sda4 177932286 976771071 399419393 5 Extended/dev/sda5 177932288 412305407 117186560 83 Linux\x0d\x0a/dev/sda6 412307456 976771071 282231808 83 Linux\x0d\x0a \x0d\x0a 网卡\x0d\x0a 查看网卡硬件信息\x0d\x0a# lspci | grep -i 'eth'\x0d\x0a02:00.0 Ethernet controller: Realtek Semiconductor Co., Ltd. RTL8111/8168B PCI Express Gigabit Ethernet controller (rev 06)\x0d\x0a \x0d\x0a 查看系统的所有网络接口\x0d\x0a# ifconfig -a\x0d\x0aeth0 Link encap:以太网硬件地址 b8:97:5a:17:b3:8f \x0d\x0a .....\x0d\x0alo Link encap:本地环回 \x0d\x0a .....\x0d\x0a 或者是\x0d\x0aip link show\x0d\x0a1: lo: mtu 16436 qdisc noqueue state DOWN\x0d\x0alink/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00\x0d\x0a2: eth0: mtu 1500 qdisc pfifo_fast state UP qlen 1000\x0d\x0alink/ether b8:97:5a:17:b3:8f brd ff:ff:ff:ff:ff:ff\x0d\x0a \x0d\x0a 如果要查看某个网络接口的详细信息，例如eth0的详细参数和指标\x0d\x0a# ethtool eth0\x0d\x0aSettings for eth0:\x0d\x0a Supported ports: [ TP MII ]\x0d\x0a Supported link modes: 10baseT/Half 10baseT/Full\x0d\x0a 100baseT/Half 100baseT/Full\x0d\x0a 1000baseT/Half 1000baseT/Full #支持千兆半双工，全双工模式\x0d\x0a Supported pause frame use: No\x0d\x0a Supports auto-negotiation: Yes #支持自适应模式，一般都支持\x0d\x0a Advertised link modes: 10baseT/Half 10baseT/Full\x0d\x0a 100baseT/Half 100baseT/Full\x0d\x0a 1000baseT/Half 1000baseT/Full\x0d\x0a Advertised pause frame use: Symmetric Receive-only\x0d\x0a Advertised auto-negotiation: Yes #默认使用自适应模式\x0d\x0a Link partner advertised link modes: 10baseT/Half 10baseT/Full\x0d\x0a 100baseT/Half 100baseT/Full\x0d\x0a .....\x0d\x0a Speed: 100Mb/s #现在网卡的速度是100Mb,网卡使用自适应模式，所以推测路由是100Mb，导致网卡从支持千兆，变成要支持百兆\x0d\x0a Duplex: Full #全双工\x0d\x0a .....\x0d\x0a Link detected: yes #表示有网线连接，和路由是通的\x0d\x0a\x0d\x0a其他\x0d\x0a 查看pci信息，即主板所有硬件槽信息。\x0d\x0alspci\x0d\x0a00:00.0 Host bridge: Intel Corporation 2nd Generation Core Processor Family DRAM Controller (rev 09) #主板芯片\x0d\x0a00:02.0 VGA compatible controller: Intel Corporation 2nd Generation Core Processor Family Integrated Graphics Controller (rev 09) #显卡\x0d\x0a00:14.0 USB controller: Intel Corporation Panther Point USB xHCI Host Controller (rev 04) #usb控制器\x0d\x0a00:16.0 Communication controller: Intel Corporation Panther Point MEI Controller #1 (rev 04)\x0d\x0a00:1a.0 USB controller: Intel Corporation Panther Point USB Enhanced Host Controller #2 (rev 04)\x0d\x0a00:1b.0 Audio device: Intel Corporation Panther Point High Definition Audio Controller (rev 04) #声卡\x0d\x0a00:1c.0 PCI bridge: Intel Corporation Panther Point PCI Express Root Port 1 (rev c4) #pci 插槽\x0d\x0a00:1c.2 PCI bridge: Intel Corporation Panther Point PCI Express Root Port 3 (rev c4)\x0d\x0a00:1c.3 PCI bridge: Intel Corporation Panther Point PCI Express Root Port 4 (rev c4)\x0d\x0a00:1d.0 USB controller: Intel Corporation Panther Point USB Enhanced Host Controller #1 (rev 04)\x0d\x0a00:1f.0 ISA bridge: Intel Corporation Panther Point LPC Controller (rev 04)\x0d\x0a00:1f.2 IDE interface: Intel Corporation Panther Point 4 port SATA Controller [IDE mode] (rev 04) #硬盘接口\x0d\x0a00:1f.3 SMBus: Intel Corporation Panther Point SMBus Controller (rev 04)\x0d\x0a00:1f.5 IDE interface: Intel Corporation Panther Point 2 port SATA Controller [IDE mode] (rev 04) #硬盘接口\x0d\x0a02:00.0 Ethernet controller: Realtek Semiconductor Co., Ltd. RTL8111/8168B PCI Express Gigabit Ethernet controller (rev 06) #网卡\x0d\x0a03:00.0 PCI bridge: Integrated Technology Express, Inc. Device 8893 (rev 41)\x0d\x0a 如果要更详细的信息:lspci -v 或者 lspci -vv\x0d\x0a 如果要看设备树:lscpi -t\x0d\x0a \x0d\x0a 查看bios信息\x0d\x0a# dmidecode -t bios\x0d\x0a......\x0d\x0aBIOS Information\x0d\x0a Vendor: American Megatrends Inc.\x0d\x0a Version: 4.6.5\x0d\x0a Release Date: 04/25/2012\x0d\x0a .......\x0d\x0a BIOS Revision: 4.6\x0d\x0a......\x0d\x0a dmidecode以一种可读的方式dump出机器的DMI(Desktop Management Interface)信息。这些信息包括了硬件以及BIOS，既可以得到当前的配置，也可以得到系统支持的最大配置，比如说支持的最大内存数等。\x0d\x0a 如果要查看所有有用信息\x0d\x0a dmidecode -q\x0d\x0a 以上是linux查看硬件信息的所有命令，可以查看CPU、硬盘、网卡、磁盘等硬件的信息。

如何统计Linux的进程数

统计有多少行用wc命令的-l参数，wc命令可以统计出多少字、行、字符数，它的-l参数表示仅仅统计出行数。这个命令一般是和管道符结合使用，比如想知道一个文件有多少行可以这样用：

cat /etc/passwd |wc -l

而查看Linux当前的所有进程用ps aux命令，结果中一行是一个进程，所以，统计Linux系统的进程总数的命令应该是：

ps aux | wc -l

linux 统计当前系统记住的历史命令个数用什么命令

uname -a

2. cat /proc/version

3. cat /etc/issue

4. lsb_release -a

详解 lsb_release -a

1. 登录到服务器执行 lsb_release -a ，即可列出所有版本信息，例如：

1. [root@3.5.5Biz-46 ~]# lsb_release -a

2. LSB Version: 1.3

3. Distributor ID: RedHatEnterpriseAS

4. Description: Red Hat Enterprise Linux AS release 4 (Nahant Update 1)

5. Release: 4

6. Codename: NahantUpdate1

7. [root@3.5.5Biz-46 ~]#

这个命令适用于所有的linux，包括Redhat、SuSE、Debian等发行版

在每个用户的家目录里，看文本命令很多，如： cat \ more \ less \ vi 等等这些命令都可以看某个用户的 .bash_history 文件。

例：# more ~user/.bash_history 看 user 用户的历史命令，但是你要访问的权限才行。

忘说了，看的是上次的历史命令 :em02:

如何统计Linux中文件和文件夹/目录的数量

在本教程中，我们将向您展示如何使用多个命令，并使用 ls、egrep、wc 和 find 命令执行一些高级操作。下面的命令将可用在多个方面。

为了实验，我打算总共创建 7 个文件和 2 个文件夹（5 个常规文件和 2 个隐藏文件）。下面的 tree 命令的输出清楚的展示了文件和文件夹列表。

# tree -a /opt

/opt

├──magi

│ └──2g

│ ├──test5.txt

│ └──.test6.txt

├──test1.txt

├──test2.txt

├──test3.txt

├──.test4.txt

└──test.txt

2directories,7files

示例 1

统计当前目录的文件（不包括隐藏文件）。运行以下命令以确定当前目录中有多少个文件，并且不计算点文件（LCTT 译注：点文件即以“.” 开头的文件，它们在 Linux 默认是隐藏的）。

# ls -l . | egrep -c '^-'

细节：

ls ：列出目录内容

-l ：使用长列表格式

. ：列出有关文件的信息（默认为当前目录）

| ：将一个程序的输出发送到另一个程序进行进一步处理的控制操作符

egrep ：打印符合模式的行

-c ：通用输出控制

'^-' ：以“-”开头的行（ls -l 列出长列表时，行首的 “-” 代表普通文件）

示例 2

统计当前目录包含隐藏文件在内的文件。包括当前目录中的点文件。

# ls -la . | egrep -c '^-'

示例 3

运行以下命令来计数当前目录的文件和文件夹。它会计算所有的文件和目录。

# ls -l | wc -l

细节：

ls ：列出目录内容

-l ：使用长列表格式

| ：将一个程序的输出发送到另一个程序进行进一步处理的控制操作符

wc ：这是一个统计每个文件的换行符、单词和字节数的命令

-l ：输出换行符的数量

Linux 中如何查看文件的行数，字数，字节数

在 Linux 系统使用中，我们经常需要查看或统计文本文件中的行数，字数，字节数等内容，那么怎么快捷的统计出文件中这些关键数据呢。

在Linux系统中这统计非常方便，只需要简单的几个命令就可以搞定，这个命令就是 wc 。

首先我们介绍下 wc 这个命令:

帮助说明中简介明白的介绍了 wc 的用法，我们来举例说明下：

1、获取文件中行数

2、获取文件中单词数

3、获取文件中字节

是不是很简单呢。

查询文件的行数或字数只是个简单的需求场景，有时候我们其实是要获取多少匹配关键字的行数，那么这种情况如何实现呢，这种情况我们需要使用另外一个 grep 命令来配置 wc 来完成我们的需求场景。

首先我们看看grep这个命令：

我们通过如下命令方式来实现查询匹配到关键字'error'中文件行数。

是不是很简单，如果希望了解更多，不妨通过 man 命令来查看你想了解的命令吧。

分享名称：linux统计总数命令,linux统计文件个数命令
转载来于：http://mswzjz.cn/article/dssojei.html

网站建设知识