电脑计算机论坛

 找回密码
 注册

QQ登录

只需一步,快速开始

查看: 103|回复: 0

Baiduspider - 百度蜘蛛

[复制链接]
GNET-0566 发表于 2023-3-15 09:35:16 | 显示全部楼层 |阅读模式
Baiduspider - 百度蜘蛛:

百度是如何收录到那么多网页的呢?这个百度用以抓取互联网上数以亿计的网页的程序,就叫做Baiduspider - 百度蜘蛛。

它是一个程序,夜以继日得在互联网上找寻新的URL,接着抓取URL上的内容,返回到百度的网页暂存数据库。

百度用来抓取网页内容的程序,叫做Baiduspider,抓取其他内容的蜘蛛,则是新的名字:

产品名称                 对应user-agent

网页搜索                Baiduspider
无线搜索                Baiduspider-mobile
图片搜索                Baiduspider-image
视频搜索                Baiduspider-video
新闻搜索                Baiduspider-news
百度搜藏                Baiduspider-favo
百度联盟                Baiduspider-cpro

不少朋友会在自己的网站日志里看到这个蜘蛛Baiduspider-cpro,现在我们明白它是百度联盟蜘蛛,用以百度联盟程序匹配相应的广告。
您需要登录后才可以回帖 登录 | 注册

本版积分规则


QQ|手机版|小黑屋|电脑计算机论坛 ( 京ICP备2022023538号-1 )

GMT+8, 2024-3-28 21:28 , Processed in 0.074633 second(s), 20 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表