您所在的位置:首页 > 名词解释 > 你造吗?Baiduspider百度蜘蛛其实也分很多种

你造吗?Baiduspider百度蜘蛛其实也分很多种

发布时间:2015-5-11 加入收藏

     百度是如何收录到那么多网页的呢?这个百度用以抓取互联网上数以亿计的网页的程序,就叫做Baiduspider - 百度蜘蛛。

     它是一个程序,夜以继日得在互联网上找寻新的URL,接着抓取URL上的内容,返回到百度的网页暂存数据库。

     百度用来抓取网页内容的程序,叫做Baiduspider,抓取其他内容的蜘蛛,则是新的名字:

     产品名称                 对应user-agent

     网页搜索                Baiduspider

     无线搜索                Baiduspider-mobile

     图片搜索                Baiduspider-image

     视频搜索                Baiduspider-video

     新闻搜索                Baiduspider-news

     百度搜藏                Baiduspider-favo

     百度联盟                Baiduspider-cpro

     不少朋友会在自己的网站日志里看到这个蜘蛛Baiduspider-cpro,现在我们明白它是百度联盟蜘蛛,用以百度联盟程序匹配相应的广告。



本文地址:http://www.17seo.net/mingci/64.html
本站内容均由17SEO团队原创,转载请注明出处17SEO团队-专注百度网站优化
标签:百度 蜘蛛 URL 来路 搜索

免费咨询

  • 老邬:QQ
  • 17:QQ
  • 135-6880-7622