批量收录查询出现大量“未收录”时,不要逐条重查,也不要随机抽几条就下结论。可行做法是先按可解释的维度把URL分层,再从每层按比例抽固定数量的样本,逐条核对抓取、索引与内容状态,最后把结论写成可执行的修复清单。抽样只能定位问题类型,不能证明全量结果,因此交付时要标明抽样比例与不确定范围。
随机抽样在批量收录查询里往往失效,因为未收录的URL通常不是均匀分布的。假设有一批5000条商品页待查(以下数据为假设示例,不是真实项目结果),直接随机抽100条,可能大部分来自已收录的头部类目,掩盖了真正的问题层。
更稳的做法是按以下维度分层,每层单独抽样:
分层后每层抽10到30条即可。层内样本太少时结论只能作为线索,不能当作定位结果。判断标准很简单:如果同一层内样本表现高度一致,说明问题出在该层的共性设置;如果层内差异很大,说明需要继续按更细的维度拆。
每条样本按固定顺序核对,避免不同人得出不同结论:
site:或平台提供的收录状态查询确认当前是否可被检索到。robots.txt限制抓取。注意抓取限制不等于可靠的索引移除,被限制抓取只影响爬虫访问,不保证页面从索引中消失。把每条样本的核对结果填进同一张表,同一层内出现相同失败项超过半数,就可以把该层列为优先修复对象。
假设某站点提交了5000条URL,收录查询显示约六成未收录,多人协作时三个人各自抽查,结论互相矛盾。按上面的方法处理:
这个例子里,抽样把“全站未收录”收敛成了一个可修改的具体配置。适用条件是各层样本量足够、核对项统一;如果样本量过小或核对项因人而异,结论只能当作待验证的假设。
错误一:抽样维度不统一。有人按目录抽,有人按模板抽,结果无法合并。交付前先固定分层维度和样本数量,写进同一份表格模板。
错误二:把单条现象当全量结论。一条URL被robots.txt限制,不代表整层都被限制。必须回到层内比例再下判断。
错误三:把抓取问题与索引问题混为一谈。抓取成功不等于会被索引,索引存在也不等于有排名。核对表里应把这两列分开记录,避免修复方向跑偏。
为了让结论可复核、减少返工,交付物至少包含:分层依据与每层样本量、每条样本的核对结果、每层的失败项占比、优先修复层及理由、尚未覆盖的范围。不同搜索引擎的收录与支持情况须分别核查,不能把一家的抽样结论直接套用到另一家。
下一步:选一批正在处理的URL,先按模板和目录深度分成两层,各抽10条填进核对表,看两层失败项是否指向同一个原因。如果指向不同原因,就继续细分,直到每层只剩一个主要问题为止。