推广

教你网站抓取异常的常见原因是什么。

iseeyu3年前 (2023-12-01)推广135

为了更好的监测网站优化的情况,站长们几乎都会统计一些日常的数据更新。网站是否出现抓取的情况也在数据统计的行列,根据记录的情况,站长们还要因地制宜做一些分析和优化措施。

1.服务器的问题

服务器不稳定的情况下会造成网站终端访问不了,无法链接。或者出现一直连接不上的情况,针对这种情况就只能换好的服务器了,千万不贪图小便宜,最终害了网站。

2.运营商的问题

国内正常情况下都使用的是电信和联通这两种,一般用的是双线服务,如果使用了单线服务造成的网站无法访问,那么最好升级国双线服务或者使用CND服务等方法解决。

3.DNS异常

当蜘蛛无法解析你网站的IP的时候,就会出现DNS异常或者DNS错误问题,可能是服务商把蜘蛛设置封禁了,或者网站IP的地址不正确造成的。可使用工具检查域名是否解析正确,如果不正确或者无法解析,那么联系域名商更新IP解决即可。

4.禁止蜘蛛抓取

这个就要看查看相关的代码设置,是否有禁止Baiduspider抓取设置,或者robots协议的设置问题等。

5.UA封禁

UA是用户代理(User-Agent),服务器通过UA识别访问者的身份,返回异常页面(如403,500)或跳转到其他页面的情况,即为UA封禁。

当网站不希望Baiduspider访问的时候,需要设置对应的访问权限。

6.死链

死链是网站中的无效页面,没有任何价值并且出现访问无效的情况。有协议死链和内容死链。

对于死链问题,通过采用404页面制作或统计好404页面向百度站长平台提交数据即可。

7.异常跳转

异常跳转也就是当前的无效页面比如死链、已经删除的页面通过301直接跳转到首页或相关目录页面的情况。

或者是跳转到出错、无效的页面上。

这些情况都需要重视。主要还是301协议的问题,没有必要的建议不要设置即可。

8.其它情况

a.JS代码问题,JS代码与搜索引擎并不友好,也不是重点识别的对象,如果JS代码蜘蛛识别不了,那么也会现问题异常。

b.百度会根据网站的内容、规模、访问情况等自动设定一个合理的抓取压力。但是异常情况下,压力控制失常的话,会导致服务器负荷作出自我保护的突发性封禁情况。

c.压力过大引起的偶然封禁:百度会根据站点的规模、访问量等信息,自动设定一个合理的抓取压力。但是在异常情况下,如压力控制失常时,服务器会根据自身负荷进行保护性的偶然封禁。这种情况下,请在返回码中返回503(其含义是“Service Unavailable”),这样搜索引擎蜘蛛会过段时间再来尝试抓取这个链接,如果网站已空闲,则会被成功抓取。

扫描二维码推送至手机访问。

版权声明:本文由西安泽虎代运营发布,如需转载请注明出处。

转载请注明出处https://www.0291.com.cn/post/122708.html

相关文章

币圈崩塌,38 亿财富一夜消失,比特币暴跌何时结束,是否会 ...

币圈崩塌,38 亿财富一夜消失,比特币暴跌何时结束,是否会 ...

6月19日下午,英为财情行情显示,比特币暴跌超5%,价格为18000多美元,20000美元关口已然失守,并且盘中早已跌破18000美元,这是2020年12月以来比特币最低价格。相较2021年高位6.9万美元相比,已经跌去了超70%。  根据Coindesk的报价,比特币这一...

抖音seo排名规则、操作流程详

抖音seo排名规则、操作流程详

  今年上半年,字节跳动ceo张楠透露,抖音视频搜索月活用户已超5.5亿,,“接下来的一年,抖音将加大对搜索的投入力度。快手搜索负责人李岩则在快手光合创作者大会透露,快手搜索的月活跃用户已超2.5亿。 毋庸置疑,“搜索”已成为抖快的一大发力方向。 “抖快”的搜索有别于百度搜...

单品宝定向人群怎么设置,人群定向的定向方式分为(定向优惠是什么意思)

单品宝定向人群怎么设置,人群定向的定向方式分为(定向优惠是什么意思)

过去大家使用单品宝时,只能对店铺所有客群设置一个统一的折扣价,随着无线化的越来越深度应用,消费者的消费升级,对店铺的精细化人群运营提出了越来越大的挑战。...

2022上半年抖音营销增长复盘,2022下半年内容驱动

2022上半年抖音营销增长复盘,2022下半年内容驱动

今年的618天猫业绩战报又少了很多,与之相反的是抖音的战报多了不少。从行业及客户方面了解到的信息,如我去年所预测,2021双11是电商时代的分界点,2022年618这个转折趋势几乎不可逆,很多品牌在天猫的销量呈下滑状态,甚至断崖式下滑,而在抖音闭环深度经营的品牌,在618都有不错的表现。 很多...

分析多元化链接优化效果,判定链接的真正价值。

分析多元化链接优化效果,判定链接的真正价值。

1、反向链接的数目。显然,数字越大,投票越多,排名就越好! 2、反向链接页面本身的重要性。并非所有链接都具有相同的投票权。高权重页面中的链接对排名的影响更大!质量比数量更重要。 3、与文本相邻的反向链接定位点文本。有时链接文本毫无意义,例如常见的“单击此处”。链接前后的文本有助于...

百度信息流广告 | 如何降低成本达到精准投放?

没精力没时间没运营方案没有运营思路找不到有效的运营方案提升有限专业度提升受限发展具有不可控性周期长走弯路没效果没转化好不容易有流量却迟迟没有成交百度信息流广告作为三大主流之一,是机构/企业做必选渠道之一。百度信息流广告是在百度首页、百度贴吧、百度APP等百度平台的资讯流中穿...

现在,非常期待与您的又一次邂逅

我们努力让每一部企业宣传片和抖音短视频成为商业大片