当筛选参数可以自由组合,地址空间会趋向无限,而抓取预算和收录容量始终有限。此时要做的不是让所有组合都被收录,而是先定义“有效地址集合”:只把有独立检索价值、能稳定返回内容的参数组合纳入可发现范围,其余组合统一收敛到规范地址。下面用一个假设情境说明判断过程。
假设某服装站有 200 件商品,每件支持 8 种颜色、6 个尺码、3 种排序方式和 4 个价格区间。若任意组合都生成独立地址,理论地址数会达到百万级;实际有货组合远小于此,但程序仍会为不存在的组合返回空列表页。此时如果只靠站点地图提交,会把大量低价值地址送入抓取队列,而真正需要更新的商品页反而被稀释。
这里要区分两种地址:一种是用户可能直接分享、且内容随库存变化的筛选结果;另一种是系统内部拼接产生、内容重复或为空的排列。前者可以纳入有效地址集合,后者应通过参数规则或链接设计收敛。
出现收录数量下降时,常见的第一反应是抓取被限制,但证据要分开看。抓取日志中若目标地址仍被频繁请求,说明抓取并未停止,问题更可能出在索引取舍或内容质量判断;若日志中目标地址请求量明显减少,才需要检查内部链接、站点地图和参数规则是否把它们排除在外。
可执行的核对动作是:从抓取日志中抽取一周内目标参数地址的请求次数,与上一周对比;同时检查这些地址在站内是否仍有可点击入口。若请求次数稳定但索引数量下降,下一步应检查页面内容是否因参数组合而高度重复;若请求次数下降且入口消失,下一步应恢复必要入口并重新提交站点地图。
有效地址集合不是“所有能返回 200 状态的地址”,而是同时满足以下条件的子集:
把这三条写成判断规则后,可用 <link rel="canonical"> 把重复组合指向主地址,用 robots.txt 限制无价值参数路径的抓取。但要注意:robots.txt 的抓取限制不等于可靠的索引移除,被限制抓取的地址仍可能因外部链接出现在索引中;若要移除,应结合 noindex 或返回正确状态码,并确认目标搜索引擎支持该组合方式。
面对参数无限增长,建议按以下顺序处理:
若验证结果显示保留地址的抓取频率没有变化,而收敛地址仍大量出现在索引中,说明规范信号或状态码未被正确处理,下一步应检查页面响应头和规范标签是否一致,而不是继续增加提交量。若保留地址抓取频率上升、收敛地址索引数量下降,才说明地址集合定义开始生效,可以进入下一轮参数清理。
在参数组合无限增长的前提下,收录加速的关键动作是收缩有效地址集合,让抓取预算集中在有检索价值的页面上。这个动作的结果会直接影响下一步:如果收缩后目标页面抓取频率上升,说明方向正确;如果目标页面抓取频率不变,而长尾参数地址仍被频繁请求,说明内部链接或站点地图仍在向它们输送入口,需要回到链接结构继续排查。不同搜索引擎对参数处理和规范信号的支持情况须分别核查,不能把在一个搜索引擎观察到的现象直接套用到另一个。