Files
Cyrene_v2/internal/runtime/memory/retention_migration_test.go
T
AskaEth cc6904b1b4 feat(memory): retention_tier 档位列 + defer 与档位合并为同一判定(M37)
主人 2026-10-26 对「记忆分型」裁定「两列」:kind(关于什么)保留,新增
retention_tier(留多久 / 干什么用)。本片把这条轴从列、判定、写入、读侧过滤
一路打通,并把「判第五态 defer」与「判 retention_tier=temp」合并成一个判定。

结构(迁移 0026 + 自举前滚):
- memory_items 新增 retention_tier TEXT NOT NULL DEFAULT ''(空串 = 尚未分型,
  历史行与受限来源行),索引 idx_memory_items_retention_tier;up/down 均实跑过
  (在隔离的生产库副本上 migrate → 建 Store → down → 再 up,5073 行零丢失)。
- NewStore 幂等前滚该列 + 建索引(ensureRetentionSchema),与迁移同形由测试钉住。

判定(retention.go,全仓唯一入口):
- RetentionTier 闭集 temp/daily/work/long/knowledge + 空串未分型;与 kind 正交。
- resolveRetention 的优先级:调用方显式档位 > 显式有效期(⇒ temp)> 受限来源
  不分型 > 留存规则 N1~N7 ⇒ temp > 默认 long。判据靠元数据,规则不许推翻显式档位。
- tempDeadline 是「档位 → expires_at」的唯一换算:temp ⇔ 有效期非空,两列同一笔
  INSERT 落下(M2 登记过的「INSERT 与补写之间的短窗口」就此关闭)。

合并(defer ⇔ temp):
- judgeIngest 不再跑留存规则,只读 Add 落定的 item.RetentionTier;规则调用点因此
  全仓唯一(源码级断言钉住)。
- 判定不再依赖同步闸是否开启:闸未接/关着时档位与有效期照样落库。
- 异步层对已是 temp 的行不重复改写(避免 TTL 随审查延迟漂移)。
- IngestRuleVersion d3.3 → d3.4(判据作用范围变了,按既有硬规矩升版)。

读侧:
- 四条列表读路径的 SELECT 与 scanItem 读出 retention_tier(14 列);Get 同样读回。
- 新增 ListByPersonaTiers / ListScopeTiers / ListTiers / ListProjectTiers(可选档位
  过滤,缺省不过滤 ⇒ 历史行照常返回;显式传空串只取未分型;非法档位报错)。
  原方法签名逐字不变 —— 网关 MemoryStore 接口钉着它们,可变参数会编译不过。
- store.go 的读路径拆到 store_list.go,守 500 行上限。

回归:go build ./... + go vet ./... + go test ./... 全绿(内存包另有 -race)。
2026-10-26 13:09:30 +08:00

242 lines
10 KiB
Go
Raw Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
package memory
import (
"context"
"database/sql"
"slices"
"strings"
"testing"
"time"
"git.yeij.top/AskaEth/Cyrene_v2/internal/db"
)
// 本文件钉住**迁移 0026(`memory_retention_tier`)与 Store 自举 DDL 的同形与可回滚**,
// 手法照 preinsert_migration_test.go 对 0025 的那一套(同一批 helpers)。
//
// 真实启动顺序是「先 MigrateUp、后 NewStore」(cmd/cyrene/wire.go),因此新列有两份
// 真源:迁移(权威)与 NewStore 的幂等前滚(任意 *sql.DB 上的自举,retention_schema.go)。
// 少一列就是「新库有、老库无」的漂移,因此两条判据都必须有:
//
// 1. TestMigration0026AddsColumnOverExistingRows —— 迁移落在**已有数据**上:
// 行不丢、列补上、默认值是空串(未分型);down 真的把列删掉且不改任何一行的
// 其它数据;再 up 能重建。
// 2. TestMigration0026ShapeMatchesStoreBootstrap —— 两份 DDL **逐列逐索引同形**
// (它红的时候,正确的修法是让两份对齐,而不是放宽断言)。
// retentionTierColumn 是被测列名(迁移与自举 DDL 里的字面量)。
const retentionTierColumn = "retention_tier"
// retentionTierIndex 是被测索引名。
const retentionTierIndex = "idx_memory_items_retention_tier"
// retentionMigrationID 是 0026 在 schema_migrations 里的记账 id(= 文件名去掉 .up.sql)。
const retentionMigrationID = "0026_memory_retention_tier"
// hasMemoryColumn 报告 memory_items 上是否存在某列。
func hasMemoryColumn(t *testing.T, d *sql.DB, name string) bool {
t.Helper()
return slices.ContainsFunc(tableColumns(t, d, "memory_items"),
func(c string) bool { return strings.Contains(c, "|"+name+"|") })
}
// hasMemoryIndex 报告 memory_items 上是否存在某条索引。
func hasMemoryIndex(t *testing.T, d *sql.DB, name string) bool {
t.Helper()
return slices.ContainsFunc(tableIndexes(t, d, "memory_items"),
func(i string) bool { return strings.HasPrefix(i, name+"|") })
}
// insertLegacyMemoryRow 以**0026 之前的形态**写一行(不列 retention_tier)。
func insertLegacyMemoryRow(t *testing.T, d *sql.DB, id, content string) {
t.Helper()
if _, err := d.ExecContext(context.Background(), `INSERT INTO memory_items
(id, persona_id, scope, kind, content, created_at, updated_at)
VALUES (?, 'persona.a', 'persona', 'relationship', ?, `+legacyTimeLiteral+`, `+legacyTimeLiteral+`)`,
id, content); err != nil {
t.Fatalf("insert legacy row %s: %v", id, err)
}
}
// legacyTimeLiteral 是定宽 UTC 文本(与 formatTime 同形,读侧纯文本比较依赖它)。
const legacyTimeLiteral = "'2026-10-01T10:00:00.000000000Z'"
// TestMigration0026AddsColumnOverExistingRows 钉住迁移本体的三条:
// 落在既有数据上不丢行、默认值是空串(未分型)、down 真的删列且不动其它数据。
func TestMigration0026AddsColumnOverExistingRows(t *testing.T) {
t.Parallel()
ctx := context.Background()
d := openRawMemoryDB(t)
migrateUp(t, d)
// 造出「既有部署」:把 0026 撤掉(列与索引消失),再按**旧形态**写入两行。
if err := db.MigrateDown(ctx, d, 1, testLogger()); err != nil {
t.Fatalf("MigrateDown(1): %v", err)
}
if hasMemoryColumn(t, d, retentionTierColumn) || hasMemoryIndex(t, d, retentionTierIndex) {
t.Fatalf("0026 回滚后 %s / %s 应已消失", retentionTierColumn, retentionTierIndex)
}
insertLegacyMemoryRow(t, d, "legacy-1", "一条 0026 之前就存在的记忆")
insertLegacyMemoryRow(t, d, "legacy-2", "另一条 0026 之前就存在的记忆")
// 升级:0026 落在**已有数据**上。
migrateUp(t, d)
if !hasMemoryColumn(t, d, retentionTierColumn) {
t.Fatalf("迁移后 memory_items 应带 %s 列", retentionTierColumn)
}
if !hasMemoryIndex(t, d, retentionTierIndex) {
t.Fatalf("迁移后应存在索引 %s", retentionTierIndex)
}
var rows int
if err := d.QueryRowContext(ctx, `SELECT COUNT(*) FROM memory_items`).Scan(&rows); err != nil {
t.Fatalf("count rows: %v", err)
}
if rows != 2 {
t.Fatalf("迁移后行数 = %d, want 2(既有行一行都不能丢)", rows)
}
// 默认值必须是**未分型**(空串),不是某一档 —— 本迁移刻意不做回填。
for _, id := range []string{"legacy-1", "legacy-2"} {
var tier, content string
if err := d.QueryRowContext(ctx,
`SELECT retention_tier, content FROM memory_items WHERE id = ?`, id).
Scan(&tier, &content); err != nil {
t.Fatalf("read %s: %v", id, err)
}
if tier != "" {
t.Fatalf("既有行 %s 的档位 = %q, want 空串(历史行必须是「未分型」)", id, tier)
}
if content == "" {
t.Fatalf("既有行 %s 的正文丢了", id)
}
}
// 回滚:只撤结构,不改写任何一行的其它数据。
if err := db.MigrateDown(ctx, d, 1, testLogger()); err != nil {
t.Fatalf("MigrateDown(1, 二次): %v", err)
}
if hasMemoryColumn(t, d, retentionTierColumn) || hasMemoryIndex(t, d, retentionTierIndex) {
t.Fatalf("二次回滚后 %s / %s 应已消失", retentionTierColumn, retentionTierIndex)
}
if err := d.QueryRowContext(ctx, `SELECT COUNT(*) FROM memory_items`).Scan(&rows); err != nil {
t.Fatalf("count rows after down: %v", err)
}
if rows != 2 {
t.Fatalf("回滚后行数 = %d, want 2(down 只撤结构,不删行)", rows)
}
// 再 up:列以默认值重建,历史行回到「未分型」。
migrateUp(t, d)
if !hasMemoryColumn(t, d, retentionTierColumn) {
t.Fatalf("再次迁移后应重建 %s 列", retentionTierColumn)
}
var withTier int
if err := d.QueryRowContext(ctx,
`SELECT COUNT(*) FROM memory_items WHERE retention_tier = ""`).Scan(&withTier); err != nil {
t.Fatalf("count untyped: %v", err)
}
if withTier != 2 {
t.Fatalf("重建后未分型行 = %d, want 2", withTier)
}
}
// TestMigration0026ShapeMatchesStoreBootstrap 是**漂移护栏**:迁移建出的
// memory_items(列 + 索引)与自举 DDL 建出的必须逐项同形。
//
// ⚠️ 比对的是**列集合**而不是列序,理由是既有的既成事实:`project_id` 是自举
// 前滚补上的(ensureProjectIDColumn),迁移路径上它同样会被追加到末尾,因此两条
// 路径的列序本来就不同。本片新增的 `retention_tier` 在两条路径上都追加在**当时**的
// 末尾,不制造新的漂移 —— 集合一致 + 索引一致就是这条护栏的判据。
func TestMigration0026ShapeMatchesStoreBootstrap(t *testing.T) {
t.Parallel()
ctx := context.Background()
// 生产顺序:先迁移、后自举。两边都走完这一整套再比。
migrated := openRawMemoryDB(t)
migrateUp(t, migrated)
if _, err := NewStore(ctx, migrated, testLogger()); err != nil {
t.Fatalf("NewStore(migrated): %v", err)
}
bootstrapped := openRawMemoryDB(t)
if _, err := NewStore(ctx, bootstrapped, testLogger()); err != nil {
t.Fatalf("NewStore: %v", err)
}
gotCols := sortedColumns(tableColumns(t, migrated, "memory_items"))
wantCols := sortedColumns(tableColumns(t, bootstrapped, "memory_items"))
if !slices.Equal(gotCols, wantCols) {
t.Fatalf("迁移与自举的 memory_items 列集合不一致(两份 DDL 必须同形):\n迁移=%v\n自举=%v",
gotCols, wantCols)
}
gotIdx := tableIndexes(t, migrated, "memory_items")
wantIdx := tableIndexes(t, bootstrapped, "memory_items")
if !slices.Equal(gotIdx, wantIdx) {
t.Fatalf("迁移与自举的 memory_items 索引不一致:\n迁移=%v\n自举=%v", gotIdx, wantIdx)
}
// 新列在两份 DDL 里的形状必须逐字相同(TEXT NOT NULL DEFAULT + 空串字面量)。
for name, cols := range map[string][]string{"迁移": gotCols, "自举": wantCols} {
if !slices.Contains(cols, retentionTierColumn+"|TEXT|1|''|0") {
t.Fatalf("%s 侧的 %s 列形状不是 TEXT NOT NULL DEFAULT 空串:%v", name, retentionTierColumn, cols)
}
}
// 自举 DDL 里新列写在最后一列(新建库的期望形状)——迁移路径上它后面可能还有
// 自举追加的 project_id,因此只对自举侧断言顺序。
bootCols := tableColumns(t, bootstrapped, "memory_items")
if last := bootCols[len(bootCols)-1]; !strings.Contains(last, "|"+retentionTierColumn+"|") {
t.Fatalf("自举建的 memory_items 最后一列 = %q, want %s", last, retentionTierColumn)
}
}
// sortedColumns 把 `cid|name|type|notnull|default|pk` 渲染出的行去掉 cid 后排序,
// 使比对与列序无关(理由见 TestMigration0026ShapeMatchesStoreBootstrap)。
func sortedColumns(rows []string) []string {
out := make([]string, 0, len(rows))
for _, r := range rows {
if i := strings.Index(r, "|"); i >= 0 {
r = r[i+1:]
}
out = append(out, r)
}
slices.Sort(out)
return out
}
// TestMigration0026ThenStoreBootstrapIsARegularPath 覆盖**真实启动顺序**
// (cmd/cyrene/wire.go:先 MigrateUp、后 NewStore):0026 先建好列,随后 Store 的
// 自举前滚走到 "duplicate column name" —— 那是**预期路径**,必须无害;重复建 Store
// 同样幂等,且写入路径可用。
func TestMigration0026ThenStoreBootstrapIsARegularPath(t *testing.T) {
t.Parallel()
ctx := context.Background()
d := openRawMemoryDB(t)
migrateUp(t, d)
if !hasMemoryColumn(t, d, retentionTierColumn) {
t.Fatalf("迁移后应有 %s 列", retentionTierColumn)
}
store, err := NewStore(ctx, d, testLogger())
if err != nil {
t.Fatalf("NewStore(列已由迁移建好): %v", err)
}
after := tableColumns(t, d, "memory_items")
// 列必须还在(自举的 duplicate column 路径不许把它当成失败)。
if !hasMemoryColumn(t, d, retentionTierColumn) {
t.Fatalf("自举之后 %s 列消失了", retentionTierColumn)
}
if !hasMemoryIndex(t, d, retentionTierIndex) {
t.Fatalf("自举之后应存在索引 %s", retentionTierIndex)
}
// 幂等:再建一次 Store 不报错、不改形状。
if _, err := NewStore(ctx, d, testLogger()); err != nil {
t.Fatalf("NewStore(第二次): %v", err)
}
if got := tableColumns(t, d, "memory_items"); !slices.Equal(got, after) {
t.Fatalf("第二次自举改变了表结构:\n got=%v\nwant=%v", got, after)
}
// 写入路径可用(档位两列在同一笔 INSERT 落下)。
got := seedTidyItem(t, store, gateFixtureItem("谢谢啦", time.Time{}))
if tier, _ := readRetentionColumns(t, store, got.ID); tier != RetentionTemp {
t.Fatalf("迁移建表后经 Store 落库的档位 = %q, want %q", tier, RetentionTemp)
}
}