先给结论:如果旧实验缺数据或权限,不要试图“重做一遍再下判断”,而应把结论缩到可复现的最小单元——只保留“当时在什么条件下观察到什么”,把因果判断和效果幅度明确标为待验证。下一步动作是写一份“证据等级表”,按可复现程度把旧结论分成三档,避免把无法复现的部分继续当依据使用。
做soso推广复盘时常见一种情况:旧文档里写着某次投放或内容调整“带来了明显变化”,但今天既找不到当时的完整数据,也拿不到对应账号或后台权限。记录本身没丢,实验却无法按原样重跑。此时最容易犯的错,是拿今天能看到的片段去反推当年的效果,把“无法复现”悄悄变成“结论依然成立”。
更麻烦的是,旧记录往往只留下结论句,没留下条件句。比如只写“换标题后点击上升”,却不写换的是哪一版、同期还有没有别的改动、数据统计口径是什么。缺少这些条件,任何复现尝试都只能算新实验,不能算验证。
无法复现通常有两种解释,处理方式完全不同。
区分两者不靠回忆,靠证据。如果旧记录里有对照条件(同期未改动的部分、前后多期数据、明确的操作时间点),偏向解释一;如果只有单点前后对比、没有对照、口径不明,偏向解释二。注意:请求量或抓取量归零、某个旧指标查不到,都不能单独证明哪种解释成立——它们也可能只是入口变化、统计方式调整或数据留存策略变化造成的。
在缺数据、缺权限的前提下,仍能做的最小动作是:不重跑实验,只整理证据。把旧结论逐条拆成“观察—条件—证据强度”三列,按下面三档归档。
这个动作的结果会直接改变下一步:A档结论可以进入新一轮验证设计,B档结论需要先补条件再谈验证,C档结论则应从当前依据中移出。换句话说,分档不是为了归档好看,而是为了决定哪些结论还能被引用。
假设旧记录写:“soso推广期间把落地页首屏文案从A改成B,咨询量上升。”今天没有后台数据,只能看到当时的页面截图和一条修改备注。
按证据等级表,这属于B档或C档:有操作记录,但没有对照、没有统计口径、没有同期其他改动说明。此时可以保留的有限结论是“当时曾把首屏文案从A改为B,并记录到咨询量上升”,不能保留的是“改文案导致咨询量上升”。下一步动作是设计一个带对照的新测试,而不是继续引用旧结论。如果连修改备注都没有,只剩一句结论,那就归入C档,只作历史留存。
把这三条边界写进档案,旧实验即使无法复现,也能留下经得起复查的有限结论;而哪些结论该退出决策、哪些该进入新验证,也就有了明确的分界。