网站健康检查工具:一次全站扫描被中断后怎样判断已覆盖范围

📍 WDQWDWQD987AAAAA:216.73.216.170
📱 Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)
🔗 /2d96df819241.html
📄

网站健康检查工具:一次全站扫描被中断后怎样判断已覆盖范围

扫描中断后,不要先看“扫描了多少个网址”这个总数,而要先确认中断发生在哪个阶段、断点是否可续、以及断点之前的记录是否已经落盘。对需要决定旧内容保留、改写还是退出的场景来说,真正有用的不是覆盖率百分比,而是“哪些页面已经拿到了可判断的证据”。如果中断发生在抓取阶段,已抓到的页面通常仍可判断;如果中断发生在解析或汇总阶段,原始响应可能还在,但结论尚未生成,需要按落盘情况分别处理。

先分清中断发生在抓取、解析还是汇总

全站扫描一般分三步:抓取页面并保存响应,解析标题、状态码、内链和正文特征,最后汇总成问题清单。中断点不同,已覆盖范围的含义完全不同。

判断动作:打开工具的工作目录或导出文件,看是否存在按批次写入的响应文件和解析结果文件。如果只有最终报告、没有中间文件,那么中断后基本无法精确还原覆盖范围,只能重新扫描或改用支持断点续扫的模式。这一步的结果决定接下来是“续扫补缺”还是“重扫”,直接影响时间成本。

用站点自身清单反推缺口,而不是相信扫描计数

扫描计数容易误导:重定向、参数重复、被 robots 排除的地址都可能让计数偏高或偏低。更可靠的做法是拿一份独立于扫描器的页面清单做对照。

  1. 从站点地图、站内链接抓取结果或服务器访问日志中整理出一份候选 URL 集合。
  2. 与扫描器已落盘的 URL 集合做差集,得到“未覆盖清单”。
  3. 对差集中的 URL 抽样请求,确认它们是可访问页面、重定向目标,还是已失效地址。

这里要注意一个反常现象:未覆盖数量突然变小,不一定说明补扫成功,也可能是候选清单本身被过滤规则削减了。请求量或抓取量归零同样不能单独证明处理正确,它还可能来自网络中断、目标站限流或本地进程被系统回收。只有把候选清单、落盘记录和抽样请求三者对上,缺口判断才成立。

把已覆盖部分按“能否支撑退出决策”分级

面向旧内容、旧系统或旧合作关系的退出取舍,覆盖范围要按证据强度分级,而不是按页面数量平均看待。

假设某站有 500 个候选页面,中断时已落盘 300 个,其中 180 个字段完整、120 个只有状态码。此时可以先用 180 个做第一轮退出名单,把 120 个标记为待补扫,剩余 200 个单独排队。这个分级的意义在于:不必等全站扫完才动手,但也不能拿半份数据直接下架页面。

续扫、重扫还是手工补,取决于三个条件

三种处理方式各有适用前提,选择时看这三点:

具体到操作:先导出已落盘明细并冻结为“第一版基线”,再决定补扫范围。补扫完成后,把新增记录合并进基线,而不是覆盖它。这样即使第二次扫描再次中断,你仍然知道哪些结论来自哪一批数据。对准备退出的旧系统,这一步尤其重要,因为退出决策一旦执行,回滚成本通常高于多扫一次。

中断记录本身要留档,供下一轮判断

把中断时间、中断阶段、已落盘文件、候选清单来源和未覆盖清单一起保存。下一次再跑扫描时,这份记录能直接回答“上次缺的是哪一块”,而不必从头推断。若使用的是具体品牌工具,其断点续扫能力、导出字段和日志位置需要以该工具当前版本的实际说明为准,不同版本之间可能存在差异,不能凭旧印象套用。对需要保留、改写或退出的旧内容,判断依据始终是“这条记录能否支撑一个可复核的取舍”,而不是扫描是否跑到了 100%。

图1 图2

nginx