18910140161

robotframework获取页面文本?robots只抓取html行不行? 推荐热议

顺晟科技

2023-02-22 17:27:27

164

只抓取网站html行不行?          将含?的页面,模板、图片、css、js目录这些都不抓取行不行?  会不会影响网站优化的呢 有没有副作用??Allow:*.htmlDisallow: /某个目录/Disallow: /*?*Disallow: /*.jpg


顺晟科技:

1、网站里面没有任何动态页面,怕有动态抓取,可屏蔽;2、屏蔽蜘蛛去抓取爬行图片,这点不建议,如果封禁蜘蛛抓取图片,那么搜索出图也将可能不会出图,屏蔽图片、css没有实际意义,不建议屏蔽,百度渲染蜘蛛,抓取的就是css和图片这种的。

相关文章
我们已经准备好了,你呢?
2024我们与您携手共赢,为您的企业形象保驾护航