【MT-A:护栏 + 诚实截断 + 试算异步】
- maxTidyCompareItems 400(写死)→2000 并开放为 MEMORY_TIDY_COMPARE_LIMIT;
MEMORY_TIDY_CANDIDATE_LIMIT 默认 20→200(语义不变,仍每分区)
- 依据是首跑实测:459 条的分区被 400 截断 ⇒ compared(705) < scanned(784),
候选数(77)由上限而不是规则决定;三处上限的 WARN 都补齐了总数/上限/分区名
- 新增「上限 + 时间预算」双闸(实测 2000 条/分区 ≈234s > 3 分钟墙钟):
整分区跳过 / 两两比对中途收手,一律如实记 (budget) + WARN
- ?async=1 ⇒ 202 {runId,status};GET …/{runId} 轮询(writeAuth 同档);
done 的 result 与同步 data 逐字节同形;并发=复用既有 runId、TTL 30min 自完成起算、
重启即如实 404 tidy_run_not_found;不带 async 时同步路径逐字不变
【MT-B:D3 入库前审查(design/23 §15.1)】
- 新记忆经 Store.Add(仓库里唯一 INSERT INTO memory_items)落库后,由独立记忆管理
会话(sess-memorytidy)在有界后台队列异步判定 skip/merge/modify/create
- 软合并回写(status + merged_into/merged_from/merge_count,可 revert、绝不改 content)
- 隔离来源(群聊/陌生人)**概不审查**、召回/超时失败**零改写**(fail-safe 结构性成立)
- 写入侧仅 +62.7µs/条(非阻塞入队);默认 ENABLED=true(主人裁定:入库前先审查)
【耦合说明(重要)】两片同包且互相依赖:MT-B 的 preinsert_recall.go 用 MT-A 的
collectTidyPairs 新签名 + tidyBudget ⇒ **各自单独都 build 不过**,故一并落地。
MT-A 为让整包编译,最小幅度适配了 MT-B 的 preinsert_recall.go / preinsert_test.go
(零值预算=行为不变;符号重名改名)。
【我的验收】隔离 worktree(37 文件)build/vet/linux/darwin 全过,切片包全绿;
我亲手打红两个变异:① 去掉 (compare) 截断标记 ⇒ TestTidyCompareLimit_HitIsLoud 红;
② 中和隔离来源守卫 ⇒ TestReviewRestrictedSourceIsNeverTouched 红。
唯一红是 internal/runtime/tool 的两条超时用例(该包无人改)⇒ 主仓库 -count=8 全绿,
判定为负载敏感 flake(当时两个整树验收 + 子代理并发),已记入开发习惯与约定 §7。
.env.example 补 MEMORY_REVIEW_* 四键(MT-B 无该文件权限,由我按其代码语义补写)。
158 lines
6.8 KiB
Go
158 lines
6.8 KiB
Go
package memory
|
||
|
||
// 本文件是 D3「入库前审查」的 T0 判定内核(design/23 §15.1 D3-2):
|
||
// 对**一条新落库的记忆**与同分区既有的召回候选,给出 merge / modify /
|
||
// create / skip 四态之一,并留下可审计的依据。
|
||
//
|
||
// 判定顺序刻意与设计稿逐条对齐:
|
||
// 1. **归一化后完全等** ⇒ skip(§15 D3-2 T0-1:已有等价条目,只更新既有行的
|
||
// updated_at / confidence,绝不新建第二条);
|
||
// 2. **真包含** ⇒ merge 或 modify(§15 D3-2 T0-2 + §8 包含式判据):
|
||
// 新条目是既有条目的子集 ⇒ merge(并入既有,既有行存活);
|
||
// 既有条目是新条目的子集 ⇒ modify(**新行承载更全的内容**,旧行置为被合并,
|
||
// §15 D3-6「改写必须是新行 + 旧行置为被合并」);
|
||
// 3. 其余(互不包含 / 被规则否决 / 没有召回)⇒ create(normal 新建)。
|
||
//
|
||
// 两条不可走样:
|
||
// - **相似度只用来召回候选**,永不参与判定(design/23 §1.2「单阈值双向失效」);
|
||
// - **规则否决一票否决**,且**绝不跨作用域/跨角色/跨项目**(§5.2-7/8/9 是硬门,
|
||
// 不是权衡)—— 这里对每条候选再判一次,是纵深防御(分区过滤已在 SQL 里)。
|
||
|
||
// ingestCandidate 是一条被召回的既有记忆及其召回分数。
|
||
type ingestCandidate struct {
|
||
item MemoryItem
|
||
score float64
|
||
// mode 记录本轮相似度来源(embedding / lexical),进审查留痕(§15 D3-8)。
|
||
mode string
|
||
}
|
||
|
||
// ingestVerdict 是入库前审查的判定结果。Decision 为空表示「这条候选没有给出
|
||
// 决定性结论」(互不包含或被否决),调用方继续看下一条候选。
|
||
type ingestVerdict struct {
|
||
Decision IngestDecision
|
||
// Existing 是命中的既有条目(create 时为零值)—— 留痕里的「命中的既有 id」。
|
||
Existing MemoryItem
|
||
// Absorbed 是被软合并的那一行:merge/skip 时是**新落库的那一行**,
|
||
// modify 时是既有行(§15 D3-6 的「改写」)。
|
||
Absorbed MemoryItem
|
||
Score float64
|
||
Mode string
|
||
Reason string
|
||
// Veto 是命中的否决规则(未命中时为空)。它只影响依据,绝不改判决定。
|
||
Veto TidyVetoReason
|
||
}
|
||
|
||
// judgeIngest 对一条新落库的记忆做四态判定。cands 已按召回分数降序
|
||
// (collectTidyPairs 的确定性排序),因此同分时的选择可复现。
|
||
//
|
||
// 无论结论是什么,留痕都要带上**本轮召回来源**(§15 D3-8 的「依据」):
|
||
// 「没有命中任何包含关系」与「根本没召回到东西」是两件不同的事。
|
||
func judgeIngest(item MemoryItem, cands []ingestCandidate) ingestVerdict {
|
||
mode := ""
|
||
if len(cands) > 0 {
|
||
mode = cands[0].mode
|
||
}
|
||
if v, ok := judgeExactDuplicate(item, cands); ok {
|
||
return v
|
||
}
|
||
vetoed, vetoScore := VetoNone, 0.0
|
||
for _, c := range cands {
|
||
if veto, hit := tidyHardGate(item, c.item); hit {
|
||
vetoed, vetoScore = keepStrongerVeto(vetoed, vetoScore, veto, c.score)
|
||
continue
|
||
}
|
||
v := judgeContainedIngest(item, c)
|
||
if v.Decision != "" {
|
||
return v
|
||
}
|
||
if v.Veto != VetoNone {
|
||
vetoed, vetoScore = keepStrongerVeto(vetoed, vetoScore, v.Veto, c.score)
|
||
}
|
||
}
|
||
return ingestVerdict{Decision: IngestCreate, Reason: createReason(vetoed), Veto: vetoed, Mode: mode}
|
||
}
|
||
|
||
// judgeExactDuplicate 施加 §15 D3-2 T0-1:归一化后完全等 ⇒ skip。
|
||
// 它排在否决规则**之前**:完全相同的两条就是同一条事实,即便它带时效词或
|
||
// 低置信,把它折回既有行也绝不会丢信息(而「否决 ⇒ create」会让主人报的
|
||
// 「反复新建」原样复发)。作用域/来源硬门仍然先判 —— 跨分区与群聊来源
|
||
// 凭什么都不参与。
|
||
func judgeExactDuplicate(item MemoryItem, cands []ingestCandidate) (ingestVerdict, bool) {
|
||
key := dedupeKey(item.Content)
|
||
for _, c := range cands {
|
||
if _, hit := tidyHardGate(item, c.item); hit {
|
||
continue
|
||
}
|
||
if key != dedupeKey(c.item.Content) {
|
||
continue
|
||
}
|
||
// 存活方恒为**既有行**:新行是刚落库的那一条,把它折回既有行正是
|
||
// 「不新建」的含义(design §15 D3-2 T0-1)。
|
||
return ingestVerdict{
|
||
Decision: IngestSkip,
|
||
Existing: c.item,
|
||
Absorbed: item,
|
||
Score: c.score,
|
||
Mode: c.mode,
|
||
Reason: "exact_duplicate",
|
||
}, true
|
||
}
|
||
return ingestVerdict{}, false
|
||
}
|
||
|
||
// judgeContainedIngest 判定一条候选与新条目的事实关系。Decision 为空表示
|
||
// 「无决定性结论」:互不包含(相似但并列)或被规则否决。
|
||
func judgeContainedIngest(item MemoryItem, c ingestCandidate) ingestVerdict {
|
||
if hasAbsoluteTimestamp(item.Content) || hasAbsoluteTimestamp(c.item.Content) ||
|
||
hasTemporalState(item.Content) || hasTemporalState(c.item.Content) {
|
||
return ingestVerdict{Veto: VetoTemporal}
|
||
}
|
||
if !sameNumbers(item.Content, c.item.Content) {
|
||
return ingestVerdict{Veto: VetoNumeric}
|
||
}
|
||
if item.Confidence < tidyLowConfidenceThreshold || c.item.Confidence < tidyLowConfidenceThreshold {
|
||
return ingestVerdict{Veto: VetoLowConfidence}
|
||
}
|
||
cont := judgeContainment(item.Content, c.item.Content)
|
||
if cont.Kind == containNone {
|
||
// 相似但互不包含(design §1.3 的 [1]/[3]「红牛 vs 冰美式」):
|
||
// 绝不合并 —— 对入库而言等价于「正常新建」。
|
||
return ingestVerdict{Score: c.score, Mode: c.mode}
|
||
}
|
||
if !sameNegations(item.Content, c.item.Content) {
|
||
// 事实集合看似包含,但一方带否定而另一方没有(「X」vs「戒了X」):
|
||
// 那是新事实覆盖旧事实,不是重复(design §5.2-3)。
|
||
return ingestVerdict{Veto: VetoConflict}
|
||
}
|
||
if cont.Kind == containBSubsetA {
|
||
// 既有 ⊆ 新:新行承载更全的内容,旧行置为被合并(§15 D3-6)。
|
||
return ingestVerdict{
|
||
Decision: IngestModify, Existing: c.item, Absorbed: c.item,
|
||
Score: c.score, Mode: c.mode, Reason: "fact_superset",
|
||
}
|
||
}
|
||
// 新 ⊆ 既有(含双向等价但措辞不同):并入既有,既有行存活(§15 D3-2 T0-2)。
|
||
return ingestVerdict{
|
||
Decision: IngestMerge, Existing: c.item, Absorbed: item,
|
||
Score: c.score, Mode: c.mode, Reason: "fact_subset",
|
||
}
|
||
}
|
||
|
||
// keepStrongerVeto 在两条否决之间保留「分数更高那条候选」的否决原因,
|
||
// 让留痕里的依据对应最相关的候选,而不是随手一条。
|
||
func keepStrongerVeto(cur TidyVetoReason, curScore float64, next TidyVetoReason, nextScore float64) (TidyVetoReason, float64) {
|
||
if cur == VetoNone || nextScore > curScore {
|
||
return next, nextScore
|
||
}
|
||
return cur, curScore
|
||
}
|
||
|
||
// createReason 渲染 create 的依据:没有被否决就是「没有包含关系」,
|
||
// 否则如实写出命中的否决规则(留痕可查,design §15 D3-8)。
|
||
func createReason(veto TidyVetoReason) string {
|
||
if veto == VetoNone {
|
||
return "no_contained_match"
|
||
}
|
||
return "veto:" + string(veto)
|
||
}
|