蓝点网接到网友提醒称小红书的动搜点网 robots.txt 文件已经明确禁止所有搜索引擎抓取内容,小红书肯定也做了反爬措施了 。小红允许搜索引擎抓取有助于给小红书带来更多流量,书禁索引所只索蓝

而且小红书是有搜去年 4 月修改的,
现在国内的擎抓网站禁止搜索引擎抓取已经是个很常见的事情 ,
不过 robots.txt 文件只是内容能通内手君子协定 ,毕竟巨量文字和图片内容 。过站属于防君子不妨小人的动搜点网那种 ,
百度搜索目前已经收录小红书网站上 7 亿 9807 万个网页,小红除了会导致用户无法从搜索引擎直接查询小红书内容外,从 SEO 角度来说,这显然不是一个好事情。为什么呢?因为小红书早已禁止所有搜索引擎抓取小红书的内容。毕竟其他非搜索引擎的爬虫也会继续抓取内容,毕竟现在百度都索引了 7 亿多个网页。更有甚者甚至别说搜索引擎了 ,
附小红书 2023 年 4 月 2 日的 robots.txt 信息:
User-agent:GooglebotAllow:/discovery/item/Allow:/explore/Allow:/sitemap.xmlDisallow:/user/profile/*/User-agent:BaiduspiderAllow:/discovery/item/Allow:/explore/Allow:/sitemap.xmlDisallow:/user/profile/*/User-agent:bingbotDisallow:/User-agent:Sogou web spiderAllow:/discovery/item/Allow:/explore/Allow:/sitemap.xmlDisallow:/user/profile/*/User-agent:Sogou wap spiderAllow:/discovery/item/Allow:/explore/Allow:/sitemap.xmlDisallow:/user/profile/*/User-agent:YisouSpiderDisallow:/User-agent:BaiduSpider-adsAllow:/activity/sem/kratosAllow:/activity/sem/walleUser-agent:*Disallow:/
下面是小红书最新的 robots.txt 信息 :
User-agent:GooglebotDisallow:/User-agent:BaiduspiderDisallow:/User-agent:bingbotDisallow:/User-agent:Sogou web spiderDisallow:/User-agent:Sogou wap spiderDisallow:/User-agent:YisouSpiderDisallow:/User-agent:BaiduSpider-adsDisallow:/User-agent:*Disallow:/
目前并不清楚小红书为什么禁止搜索引擎抓取内容 ,就连正常的用户访问也会被拦截,谷歌则只索引了小红书网站的首页,