先给结论:报告里的“页数”往往不是“对象数”,去重前要先判断这个差值来自分页重复、同一对象多行、还是抓取口径本身就不完整。缺少完整数据或权限时,仍可做的最小动作是抽样比对并标出可合并项,但只能得出“这批数据里存在重复”的结论,不能推出全量对象的真实数量。
链接交换工具的报告通常至少有三层计量:请求返回了多少页、每页列出多少行、每行对应的交换对象是否唯一。页数常被当成对象数,是因为导出文件按页拼接时,页眉、页脚或跨页重复的同一对象也被算进去了。假设一份报告显示 48 页、每页 25 行,直觉上会得到 1200 个对象;但如果其中 3 页是同一批对象的翻页重复,真实对象数就会明显低于这个乘积。这个例子只是说明比较方法,不代表任何工具的实际输出。
判断差值性质时,优先看三个信号:同一对象是否在不同页出现相同标识;同一页内是否出现标识相同但字段略有差异的行;分页边界处是否出现上一页末尾对象的重复。三者指向的原因不同,处理方式也不同。
如果只有部分导出文件,或者没有查看全部结果的权限,可以执行的最小动作是:按页抽取若干页,建立对象标识列,标记重复出现的标识,再统计重复集中在哪些页。这个动作的结果会直接影响下一步——如果重复集中在分页边界,说明是拼接问题,去重只需处理相邻页;如果重复分散在各页,说明对象本身被多次记录,需要先确认工具的去重键是什么。
需要明确的是,抽样只能证明样本内存在重复,不能据此推算全量去重后的准确数量。请求量、抓取量或某项统计归零,也不能单独证明去重已经正确,因为归零还可能来自筛选条件变化、权限范围缩小或抓取中断。
完成这四步后,得到的数量才是“可确认的唯一对象数”。它仍然可能小于真实对象数,因为缺失标识的行被排除了。这个取舍需要在报告里写明,否则下游会把可确认数当成全量数使用。
去重后的数量如果明显低于页数推算值,说明此前基于页数做的排期、配额或优先级判断需要重算。此时不要直接按新数量等比例缩减计划,而应先看重复集中在哪类对象:如果集中在低优先级对象,实际可执行量变化不大;如果集中在核心对象,交换节奏就需要重新安排。
另一个实际动作是把去重键和去重规则写进下一次导出的说明里。这样下一次拿到报告时,页数与对象数的差值会更容易解释,也减少重复排查。规则本身不需要复杂,关键是让同一批数据在不同人手里得到一致的唯一对象数。
如果对象标识本身不可靠,比如大量行缺失标识、标识由人工填写且格式不统一,继续去重只会制造虚假的精确感。此时更合理的做法是退回一步,先确认数据来源和字段定义,或者只对标识完整的子集做去重,并明确标注适用范围。去重是为了让数量可比,不是为了得到一个看起来整齐的数字。
当报告页数与实际对象数量不一致时,先判断差值来自分页、重复记录还是口径缺失,再用可确认的唯一对象数支撑下一步决策,同时保留未解决项,避免把局部结论当成全量事实。