请选择 进入手机版 | 继续访问电脑版
怎样查看蜘蛛日志,使用蜘蛛分析网站
美人殇 发表于:2021-8-20 17:20:49 复制链接 发表新帖
阅读数:100
解析网站降权缘故原由-怎样分析网站日志

一个合格的站长或者seoer必须要能看懂网站的服务器日志文件,这个日志记录了网站被搜索引擎爬取的痕迹,给站长提供了蜘蛛是否来访的有力佐证,站长朋侪可以通过网站日志来分析搜索引擎蜘蛛的抓取环境,分析网站的是否存在收录非常标题。并且我们可以根据这个日志文件判断蜘蛛来访频率以及抓取规律,这将非常有利于我们做优化。别的,学习分析网站日志文件也是站长必须具备的本领,也是你从一个初级seo进阶到seo高手的必由之路。但是条件是要主机服务商开通日志统计功能,一样寻常假造主机提供商都不会开通,你可以申请开通,或者本身到服务器管理后台开通这个日志统计功能,不过日志也会占用空间的,我们在看完日志文件后,可以隔段时间清算下日志文件。那么怎样分析服务器日志文件呢?听阿涛给你娓娓道来。
怎样查看蜘蛛日志,使用蜘蛛分析网站


假如你的博客或网站是搭建在付费主机上,假如你是博客或网站的站长,假如你连原始访问日志是什么都不知道,或者对其根本不屑一顾,我只能说你是一个不称职的网站站长,一旦网站出标题,必定是一筹莫展!

信赖大家都在本身的网站上安装了网站统计的代码,如Google analytics、量子统计、百度统计、cnzz、51.la等,这些工具可以统计网站的流量,也就是网站**客可以看到的全部页面的访问量,但是这些统计工具都不能统计你主机上资源的原始访问信息,比方某个图片被谁下载了,也不能统计到那些没有添加统计代码的地方,比如后台操作页面。

绝大多数收费主机都提供原始访问日志,网站服务器会把每一个访客来访时的一些信息自动记录下来,保存在原始访问日志文件中,假如你的主机不提供日志功能,建议你到期后还是换主机吧。日志中记录了网站上全部资源的访问信息,包括图片、CSS、JS、FLASH、HTML、MP3等全部网页打开过程载入的资源,同时记录了这些资源都被谁访问了、用什么来访问以及访问的结果是什么等等,可以说原始访问日志记录了主机的全部资源使用环境。

分析网站日志有什么作用?

1、我们可以比较准确的定位搜索引擎蜘蛛来爬行我们网站的次数,可以屏蔽伪蜘蛛(此类蜘蛛多以采集为主,会增长我们服务器的开销)点此辨认Baiduspider真伪。

2、通过分析网站日志,我们可以准确定位搜索引擎蜘蛛爬行的页面以及时间长短,我们可以依次有针对性的对我们的网站进行微调。

3、http返回状态码,搜索引擎蜘蛛以及用户每访问我们的网站一次,服务器端都会产生类似301,404,200的状态吗,我们可以参照此类信息,对我们出现标题的网站进行简单的诊断,及时处理标题。

网站日志文件存放在什么地方?

一样寻常的假造主机都提供日志文件,但是不同的假造主机体系会提供不同的LOG文件存储文件名,笔者使用的是万网的假造主机,日志文件存储在wwwlogs文件夹下。

网站日志文件内里的记录怎么看?

原始访问日志每一行就是类似以下的记录:

116.231.220.179 - - [25/Mar/2015:11:21:15 +0800] "GET /blog/article/10.html HTTP/1.1" 200 8671 "[color=black !important]http://www.weiaipin.cn" "Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"

下面我们来说说这一行记录的意思:

116.231.220.179这是访客(也大概是机器人)的IP

[25/Mar/2015:11:21:15 +0800]这是访客访问该资源的时间(Date),+0800是该时间所对应的时区,即与格林威治时间相差+8个小时

"GET /blog/article/10.html HTTP/1.1"哀求信息,包括哀求方式、所哀求的资源以及所使用的协议,该语句的意思就是以GET方式,按照HTTP/1.1协议获取网页/blog/article/10.html,10html为网站上的某个页面。

200 8671,200为该哀求返回的状态码(Http Code),不同的状态码代表不同的意思,详细请阅读 HTTP 状态代码;8671为此次哀求所耗费的流量(Size in Bytes),单位为byte

"htt p://www. weiaipin .cn/"为访客泉源(Referer)。这一段是告诉我们访客是从那里来到这一个网页。有大概是你的网站其他页,有大概是来自搜索引擎的搜索页等。通过这条泉源信息,你可以揪出盗链者的网页。

"Mozilla/5.0 (Windows NT 6.1; WOW64; rv:36.0)"为访客所使用的欣赏器范例(Agent),这里记录了用户使用的操作体系、欣赏器型号等信息。

怎样分析网站日志中的内容?

1、注意那些被频仍访问的资源

假如在日志中,你发现某个资源(网页、图片和mp3等)被人频仍访问,那你应该注意该资源被用于何处了!假如这些哀求的泉源(Referer)不是你的网站或者为空,且状态码(Http Code)为200,阐明你的这些资源很大概被人盗链了,通过 Referer 你可以查出盗链者的网址,这大概就是你的网站流量暴增的缘故原由,你应该做好防盗链了。

2、注意那些你网站上不存在资源的哀求

假如某些哀求信息不是本站的资源,Http Code不是403就是404,但从名称分析,大概是保存数据库信息的文件,假如这些信息让别人拿走,那么攻击你的网站就轻松多了。发起这些哀求的目的无非就是扫描你的网站毛病,通过漫无目的地扫描下载这些已知的毛病文件,很大概会发现你的网站某个毛病哦!通过观察,可以发现,这些哀求所使用的Agent差不多都是Mozilla/4.0、Mozilla/5.0或者libwww-perl/等等非常规的欣赏器范例,以上我提供的日志格式化工具已经集成了对这些哀求的警报功能。我们可以通过禁止这些Agent的访问,来达到防止被扫描的目的,详细方法下面再介绍。

3、观察搜索引擎蜘蛛的来访环境

通过观察日志中的信息,你可以看出你的网站被蜘蛛访问的频率,进而可以看出你的网站是否被搜索引擎青睐,这些都是SEO所关心的标题吧。日志格式化工具已经集成了对搜索引擎蜘蛛的提示功能。常见搜索引擎的蜘蛛所使用的Agent列表如下:

Google蜘蛛 :Mozilla/5.0 (compatible; Googlebot/2.1; +http://www.google.com/bot.html)

Baidu蜘蛛 :Baiduspider+(+http://www.baidu.com/search/spider.htm)

Yahoo!蜘蛛 :Mozilla/5.0 (compatible; Yahoo! Slurp/3.0; http://help.yahoo.com/help/us/ysearch/slurp)

Yahoo!中国蜘蛛 :Mozilla/5.0 (compatible; Yahoo! Slurp China; http://misc.yahoo.com.cn/help.html)

微软Bing蜘蛛 :msnbot/2.0b (+http://search.msn.com/msnbot.htm)

Google Adsense蜘蛛 :Mediapartners-Google

有道蜘蛛 :Mozilla/5.0 (compatible; YoudaoBot/1.0; http://www.youdao.com/help/webmaster/spider/)

Soso搜搜博客蜘蛛 :Sosoblogspider+(+http://help.soso.com/soso-blog-spider.htm)

Sogou搜狗蜘蛛 :Sogou web spider/4.0(+http://www.sogou.com/docs/help/webmasters.htm#07)

Twiceler爬虫程序 :Mozilla/5.0 (Twiceler-0.9 http://www.cuil.com/twiceler/robot.html)

Google图片搜索蜘蛛 :Googlebot-Image/1.0

俄罗斯Yandex搜索引擎蜘蛛 :Yandex/1.01.001 (compatible; Win16; I)

Alexa蜘蛛 :ia_archiver (+http://www.alexa.com/site/help/webmasters)

Feedsky蜘蛛 :Mozilla 5.0 (compatible; Feedsky crawler /1.0)

韩国Yeti蜘蛛:Yeti/1.0 (NHN Corp.; http://help.naver.com/robots/)

4、观察访客活动

通过查看格式化后的日志,可以查看跟踪某个IP在某个时间段的一系列访问活动,单个IP的访问记录越多,阐明你的网站PV高,用户粘性好;假如单个IP的访问记录希希,你应该思量怎样将你的网站内容做得更加吸引人了。通过分析访客的活动,可以为你的网站建设提供有力的参考,哪些内容好,哪些内容不好,确定网站的发展方向;通过分析访客的活动,看看他们都干了些什么事,可以揣测访客的用意,及时揪出恶意用户。

网站日志分析工尴尬刁难老站长来说黑白常容易的,从日志代码的查看到日志分析出的标题解决是洞若观火。实在网站日志分析不难,只是新手不相识此中的意思,才会以为有标题。逐步看多了网站日志你也就懂了此中的意思。这里我以荣幸赛车网站的日志为例,交新手怎样快速入门这项工作。

实在代码没大家想象的那么难,接触代码,网站日志代码都看得懂,崇拜之情无以言表。在看了一段时间网站日志后,才发现原来不是他们牛,是我还是菜鸟。本身探索的话,对网站日志分析入门时间会比较久,在这里分享些履历,信赖对于新手可以快速入门的。

1、蜘蛛名称介绍

在网站日志中,蜘蛛名称一样寻常有一下几类:百度->baiduspider、Google ->Googlebot、Msn ->msnbot、yahoo ->Slurp、yodao ->YoudaoBot、sogou ->Sogou+get+spider 。在日志中,只要搜索以上蜘蛛名称,就可以看到该蜘蛛范例的爬取痕迹。

2、蜘蛛爬取返回范例

在蜘蛛爬取后会返回代码,通过查看贷款状态可以看到爬取结果,紧张HTTP状态码有一下几类:

(1)200代码,表示蜘蛛爬取正常。

(2)304代码,表示自从前次抓取后,该内容没有更新。一样寻常环境下,网站的图片常常会返回该值。

(3)404代码,访问的这个链接是错误链接。这个错误链接,一方面来自本来存在后来删除了网页,另一方面大概来自本来就不存在,但其他人外链了这么个死链接。

(4)302代码,表示暂时重定向。

(5)301代码,表示永世重定向。

(6)500代码,表示程序有错。

3、日志代码解读

#Software: Microsoft Internet Information Services 6.0

#Version: 1.0

#Date: 2015-7-6 16:00:39

#Fields: date time s-sitename s-computername s-ip cs-method cs-uri-stem cs-uri-query s-port cs-username c-ip cs-version cs(User-Agent) cs(Cookie) cs(Referer) cs-host sc-status sc-substatus sc-win32-status sc-bytes cs-bytes time-taken

date表示记录访问日期;

time访问时间;

s-sitename表示你的假造主机的代称。

s-ip访问者IP;

cs-method表示访问方法,常见的有两种,一是GET,就是寻常我们打开一个 URL访问的动作,二是POST,提交表单时的动作;

cs-uri-stem就是访问哪一个文件;

cs-uri-query是指访问地址的附带参数,如asp文件?后面的字符串id=12等等,假如没有参数则用-表示;

s-port 访问的端口;

cs-username 访问者名称;

c-ip 泉源ip;

cs(User-Agent)访问泉源;

sc-status状态,200表示成功,403表示没有权限,404表示打不到该页面,500表示程序有错;

sc-substatus 服务端传送到客户端的字节大小;

cs–win32-statu客户端传送到服务端的字节大小;

详细案例分析:

2015-7-8 18:47:12 W3SVC2137573334 D-901195C886694 119.147.151.150 GET /a.aspx id=2230&TypeId=91 80 - 123.125.71.28 HTTP/1.1 Mozilla/5.0+(compatible;+Baiduspider/2.0;++http://www.baidu.com/search/spider.html) - - www.7ien.cn 200 0 0 59004 243 2250

这段日志表示,Baiduspider:表示蜘蛛爬取范例为百度蜘蛛,GET /a.aspx id=2230&TypeId=91表示蜘蛛爬取文件名为a.aspx id=2230&TypeId=91。返回结果为200。

常用网站日志分析软件有哪些?

笔者试用过很多网站日志分析工具,常用的并且功能又比较全面的大概有三款:光年SEO日志分析体系、逆火网站日志分析器、Web Log Explorer。

搜索引擎抓取网站信息必会在服务器上留下信息,这个信息就在网站日志文件里。我们通过日志可以相识搜索引擎的访问环境,一样寻常通过主机服务商开通日志功能,再通过FTP访问网站的根目次,在根目次下可以看到一个log或者weblog文件夹,这内里就是日志文件,我们把这个日志文件下载下来,用记事本(或欣赏器)打开就可以看到网站日志的内容。那么到底这个日志内里匿伏了什么玄机呢?实在日志文件就像飞机上的黑匣子。我们可以通过这个日志相识很多信息,那么到底这个日志给我们传递了什么内容呢?

假如想要知道网站日志文件包含了什么内容,起首必须知道各搜索引擎的蜘蛛名称,比如百度的蜘蛛程序名称是baiduspider,Google的机器人程序名称是Google-Googlebot等等,我们在日志的内容里搜索上述的的蜘蛛名就可以知道哪个搜索引擎已经爬取过网站了,这里就留下了他们的蛛丝马迹。再者,必须能看懂常见的http状态码,最常见的HTTP状态码有200(页面抓取成功)、304(前次抓取的和这次抓取的没变化),404(未找到页面,错误链接)500(服务器未相应,一样寻常由服务器维护和出故障,网站打不开时出现的),这些状态码是我们站长朋侪必须能看懂的,服务器状态码的值是我们和蜘蛛交流的信号。知道了这些基本信息以后我们就可以根据网站日志进行分析了,一样寻常来说我们只看百度和谷歌蜘蛛的爬行和抓取环境,当然有特殊必要的也可以对其他几个蜘蛛的爬行环境进行分析。网站日志中出现大量的谷歌蜘蛛和百度蜘蛛,阐明搜索引擎蜘蛛时常来光顾你的网站。

说到分析日志文件,我们就不得不说分析日志文件的机遇了,那么在什么环境下我们要去分析日志文件呢?起首,新网站刚建立的时间,这个时间也是站长朋侪最急切的时间,我们一样寻常都会焦急的等待搜索引擎收录网站内容,常常会做的变乱就是去百度或者Google用下令site:下网站域名看看是否被收录,这个时间,实在我们没必要频仍的查询网站是否被收录,要想知道搜索引擎是否关顾我们的网站。我们就可以借助网站日志文件来查看,怎么看?看网站日志是否有搜索引擎的蜘蛛来网站抓取过,看返回的状态码是200还是其他,假如返回200阐明抓取成功,假如返回404阐明页面错误,或者页面不存在,就必要做301永世重定向或者302暂时重定向。一样寻常抓取成功后被搜索引擎放出来的时间也会晚点,一样寻常谷歌机器人放出来的比较快,最快可秒杀,但是百度反应就慢了,最快也要一周左右,不过11月份百度算法调整后,放出来的速率还是很快的。其次,当网站收录非常时我们要把正常收录的日志和非常的日志进行对比分析,找出标题地点,如允许以解决网站收录标题,也是对完备优化大有裨益的。第三,网站被搜索引擎K掉后,我们必须要观察网站日志文件来亡羊补牢,一样寻常这种环境下,日志文件里只有很少的几个蜘蛛爬行了首页和robots,我们要找出被K的缘故原由并改正,再提交给搜索引擎,接下来就可以通过观察日志来看蜘蛛是否正常到临,逐步过一段时间,假如蜘蛛数目增长或者常常到临并且返回200状态吗,那么恭喜你,你的网站又活了,假如半年都没反应,那么建议放弃该域名重新再战了。

很多站长朋侪不懂得怎样使用网站日志文件,遇到网站收录标题就去提问别人,而不好好自检,这是作为站长或者seoer的悲哀。而且网上的很多软文都提到要做好日志文件的分析,但是那只是软文而已,说不定写文章的作者都没有去看日志文件。说到底,还是渴望站长朋侪肯定不要忽略了网站日志文件,合理的使用好网站日志文件是一个站长或seoer必备的技能。再者说,看懂网站日志文件并不必要你有多么高深的编码知识,实在只要看得懂html代码和几个返回的状态码就可以了,肯定不能懒,或者抱着侥幸生理去对待你的网站,这种生剖析导致你输得很惨。假如你是一个小站长,或者你是一个seoer,假如你从前没故意识到网站日志文件的紧张性,那么从看到我写的这篇文章开始要好好对待你的网站日志了。

集创建一组关联规则。当我们把最小置信度设为85%,通过关联规则的形成以及对应置信度的计算,我们可以从中得到以下有用的信息:1.置信度大于最小置信度时:我们可以如许以为,用户群体在欣赏干系网页时,所呈列的链接之间是有很大关联的,他们是用户群的共同爱好,通过网页布局的调整,从某种意义上,可以带来更高的点击率及匿伏客户;2.置信度小于最小置信度时:我们可以如许以为,用户群体对所呈列链接之间没太多的关联,亦或关联规则中的链接在争取用户。

网站中网站日志发掘内容

(1)网站的概要统计。网站的概要统计包括分析覆盖的时间、总的页面数、访问数、会话数、惟一访问者、以及匀称访问、最高访问、上周访问、昨日访问等结果集。

(2)内容访问分析。内容访问分析包括最多及最少被访问的页面、最多访问路径、最多访问的消息、最高访问的时间等。

(3)客户信息分析。客户信息分析包括访问者的泉源省份统计、访问者使用的欣赏器及操作体系分析、访问来自的页面或者网站、来自的IP地址以及访问者使用的搜索引擎。

(4)访问者活动周期活动分析。访问者活动周期活动分析包括一周7天的访问活动、一天24小时的访问活动、每周的最多的访问日、天天的最多访问时段等。

(5)紧张访问错误分析。紧张访问错误分析包括服务端错误、页面找不到错误等。

(6)网站栏目分析。网站栏目分析包括定制的频道和栏目设定,统计出各个栏目的访问环境,并进行分析。

(7)商务网站扩展分析。商务网站扩展分析是专门针对专题或多媒体文件或下载等内容的访问分析。

(8)有4个方向可以选择:①对用户点击活动的追踪,click stream研究;②对网页之间的关联规则的研究;③对网站中各个频道的欣赏模式的研究;④根据用户欣赏活动,对用户进行聚类,细分研究;(假如你可以或许结合现有的互联网产品和应用提出一些本身的建媾和意见,那就更有价值了。)

(9)发现用户访问模式。通过分析和探究网站日志记录中的规律,可以辨认电子商务的匿伏客户,进步对终极用户的服务质量,并改进网站服务器体系的性能。(10)反竞争谍报活动。反竞争谍报是企业竞争谍报活动的紧张构成部分。
返回列表 使用道具 举报
条评论
avatar
您需要登录后才可以回帖 登录 | 立即注册
高级