VPS参考测评推荐
专注分享VPS主机优惠信息
衡天云优惠活动
华纳云优惠活动
荫云优惠活动

便宜国外vps论坛_崩溃了,百度抓取失败,找不到问题

主机参考:VPS测评参考推荐/专注分享VPS服务器优惠信息!若您是商家可以在本站进行投稿,查看详情!此外我们还提供软文收录、PayPal代付、广告赞助等服务,查看详情!
我们发布的部分优惠活动文章可能存在时效性,购买时建议在本站搜索商家名称可查看相关文章充分了解该商家!若非中文页面可使用Edge浏览器同步翻译!PayPal代付/收录合作

下面不是我的站,但是程序一样错误一样现在看来是程序什么地方的问题了

http://www.0832h.com/index.php?caid=3&ccid6=188&ccid1=210  (抓取失败 403错误
http://www.0832h.com/index.php?caid=3                                    (抓取成功)
连个页面浏览器访问curl,17ce.com测试都是正常的200状态
但是用这个网页抓取测试(和百度站长抓取结果一致)http://www.cjzzc.com/crawl.html显示

便宜国外vps论坛_崩溃了,百度抓取失败,找不到问题-主机参考
百度站长抓取测试http

  1. HTTP/1.1 403 Forbidden
  2. Date: Wed, 10 Jun 2020 07:55:24 GMT
  3. Content-Type: text/html;charset=gbk
  4. Transfer-Encoding: chunked
  5. Connection: close
  6. Set-Cookie: __cfduid=d0f2fe465f3d2cdab45372b9d2c4bbc761591775724; expires=Fri, 10-Jul-20 07:55:24 GMT; path=/; domain=.*****.com; HttpOnly; SameSite=Lax
  7. Vary: Accept-Encoding
  8. Set-Cookie: PHPSESSID=mim2pjumofi2lsgp7b6ldobci2; path=/
  9. Expires: Thu, 19 Nov 1981 08:52:00 GMT
  10. Cache-Control: no-store, no-cache, must-revalidate, post-check=0, pre-check=0
  11. Pragma: no-cache
  12. CF-Cache-Status: DYNAMIC
  13. cf-request-id: 033ed31ac80000fb06dc195200000001
  14. Expect-CT: max-age=604800, report-uri=”https://report-uri.cloudflare.com/cdn-cgi/beacon/expect-ct
  15. Server: yunjiasu-nginx
  16. CF-RAY: 5a1187a47f3cfb06-TSN

复制代码

1,开始以为是服务器环境问题,因为之前安装宝塔面板的时候安装免费防火墙,有乱七八糟安装几个插件
所以直接服务器全盘格式化之后重新安装web面板和系统。但是问题依旧
2,关闭百度的CDN之后,在抓取测试那块显示源服务器IP之后抓取依旧失败
3,robots文件没有什么修改,看了下没有什么问题
4,把这几个php文件权限调成777 问题依旧
5,网站并未使用伪静态

实在想不到还有什么问题了。。。

看起来好像是程序的问题,因为不同网站相同的程序遇到同样的问题

各路大神回复说:

注册说: 域名不放出来,又要别人排错,可能吗?

amo说: 这问题昨天不是问过吗?

Syc说: 状态码是200,那就多抓取几次试试  

yemingtu说: 这种动态域名,做伪静态很容易吧 做伪静态也更方便百度抓取

香港高防服务器说: 域名PM瞧瞧咯

哈登说: 百度站长资源平台 不是有自己的模拟抓取工具吗。 套了CF 看看设置

hxuf说: 哥们 这个抓取就是在百度站长平台测试的 你看这个套了CF的是百度加速,之前测试关了也不行

citywar说: 随便新建个网站 绑个域名  再模拟抓取下 看看是服务器安全设置。还是网站的问题。

amo说: http://www.0832h.com/index.php?caid=3&ccid6=188&ccid1=210 失败 http://www.0832h.com/index.php?caid=3                                    成功 你可以在这测试下说:http://www.cjzzc.com/crawl.html 程序问题

注册说: 你可以看看帖子,发了玉米

注册说: 可能程序本身自己有白名单,对UA判断或者IP判断有放行封禁

amo说: cls_envBase::AllowRobot数据库查查有没有对应的关键字 表啥的  这可能程序自带限制蜘蛛爬虫功能说不定

主机参考zhujicankao.com_收集国内VPS,VPS测评主机测评,云服务器,虚拟主机,独立服务器,国内外服务器,高性价比建站主机相关优惠信息
详细介绍和测评国外VPS主机,云服务器,国外服务器,国外主机的相关优惠信息,商家背景,网络带宽等等,也是目前国内最好的主机云服务器VPS参考测评资讯优惠信息分享平台

这几篇文章你可能也喜欢:

本文由主机参考刊发,转载请注明:便宜国外vps论坛_崩溃了,百度抓取失败,找不到问题 https://zhujicankao.com/35039.html

【腾讯云】领8888元采购礼包,抢爆款云服务器 每月 9元起,个人开发者加享折上折!
打赏
转载请注明原文链接:主机参考 » 便宜国外vps论坛_崩溃了,百度抓取失败,找不到问题
主机参考仅做资料收集,不对商家任何信息及交易做信用担保,购买前请注意风险,有交易纠纷请自行解决!请查阅:特别声明

评论 抢沙发

评论前必须登录!