feat(config,runtime): 上下文预算按模型窗口推导 + usage/缓存可观测 + sidecar 存全文(T1)
CI / Backend (build / vet / test / cross-compile) (push) Has been cancelled
CI / Frontend (tsc + vite build) (push) Has been cancelled

- 窗口声明:models.json 组级 contextWindow + env LLM_CONTEXT_WINDOW(per-group materialize 播种,0 不写盘、负数报错)。

- 预算三态:CONTEXT_MAX_TOKENS 未设置 ⇒ 按窗口推导;>0 显式覆盖;0|负 关闭压缩(不变)。推导 budget = min(窗口×比例, 窗口−输出保留),比例默认 2/3(CONTEXT_BUDGET_RATIO,1M ⇒ 699050 tokens ≈ 683Ki);输出保留 = max(32768, 该组 maxTokens) 且封顶窗口/2(防配置矛盾时退化成 1 token);窗口未声明 ⇒ 回落 131072 + 恰好一条 WARN。接线在组合根 wire_context.go(唯一决策点)。

- usage/缓存可观测(此前**完全不可观测**):Response 增 CacheHit/CacheMiss/Reasoning tokens + CacheHitRate;解析 OpenAI 兼容(prompt_cache_hit_tokens/prompt_cache_miss_tokens/cached_tokens/reasoning_tokens)与 anthropic(cache_read_input_tokens/cache_creation_input_tokens)两种形状;记录点在适配器 record(换入口不丢成本日志),日志无凭据;单次输入 ≥预算 90% 记 WARN(不阻断)。

- 根治清单「续读」假承诺:抽取期不再按注入预算截断(sidecar 存全文,只受 MaxSidecarBytes=8 MiB 安全上限,ExtractorVersion v1→v2 旧 sidecar 失效重抽);注入预算改在装配期生效 ⇒ ref.Chars/Truncated 是注入侧事实、游标真是继续读的起点;document-read 的 limit 上限改为独立具名常量。

- 顺手修越界:config.go 505 行(超 500)拆出 llm.go。

- 主会话独立验收:隔离 worktree(HEAD + 本切片 39 文件,排除在途 gateway)build/vet 绿、全树 59 包 0 FAIL、linux+darwin 交叉编译绿;变异独立复现(比例改 0.25 ⇒ 推导用例红 262144 vs 699050)。
This commit is contained in:
AskaEth committed 2026-10-04 17:57:08 +08:00
1 parent 5b2b385524
commit 72b95df22b
39 files changed
+2496 -377

No files matched your search

+36 -21
View File
@@ -20,15 +20,26 @@ import (
// 抽取器的常量。它们全是编译期常量或纯函数分支,使抽取路径里不出现魔法数字。
const (
// ExtractorVersion 是抽取器的版本号,写进每条 sidecar 的元数据。抽取逻辑
// 一旦变化(清洗规则、摘要口径、预算)必须递增:版本不匹配时旧 sidecar
// 一旦变化(清洗规则、摘要口径、截断口径)必须递增:版本不匹配时旧 sidecar
// 被判为失效并重抽一次,从而不会让「升级前抽出来的正文」永远留在缓存里
// (design/24 §4.3 要求 sidecar 记「抽取器版本」,这就是它的用处)。
ExtractorVersion = "documents/v1"
//
// v2(切片 T1 §7.2):抽取期**不再**按注入预算截断,只在安全上限
// (MaxSidecarBytes)处截断 —— 旧缓存里的正文可能少了一大截,必须重抽。
ExtractorVersion = "documents/v2"
// MaxExtractChars 是**单份文档**注入上下文的字符预算(design/24 §3.4、
// §4.3 的 64K 字符)。超出即按 rune 截断并置 Result.Truncated;正文绝不
// 静默消失 —— 循环据 result 渲染 truncated 与续读游标。
MaxExtractChars = 64 * 1024
// MaxSidecarBytes 是 sidecar 正文的**安全上限**(字节,8 MiB 文本)。
//
// 它取代了旧的 MaxExtractChars(64K 字符):那个数曾经同时兼任「抽取预算」与
// 「注入预算」,导致 sidecar 里存的就是被注入预算砍过的正文 —— 于是清单行给
// 出的续读游标(= 已注入字符数)恒等于 sidecar 正文长度,模型照它去
// `document-read` 必然读到空(切片 T1 §7.1 实测的断裂)。
//
// 现在两件事分开:sidecar 存**抽取得到的全文**,只受这个安全上限约束(防止
// 一份畸形或超大文件把内存/磁盘拖垮);每回合注入多少由**装配期**的注入预算
// (loop.Options.DocumentMaxInjectChars)决定。命中本上限时 Truncated=true,
// 如实记进 sidecar 元数据 —— 「正文到此为止」绝不等于「原文件到此为止」。
MaxSidecarBytes = 8 << 20
// csvSummaryMaxColumns 限制摘要里列出的列名个数:超宽表只列前若干列,
// 免得摘要本身挤占注入预算。
@@ -72,12 +83,14 @@ var (
// Result 是一次抽取的产物。它是抽取器的全部对外事实:正文、字符数、是否
// 截断、种类与抽取器版本,sidecar 元数据与注入渲染都只读它。
type Result struct {
// Text 是要注入模型可见上下文的文本(CSV/TSV 的摘要行 + 正文,已按 rune
// 截断到预算内)。
// Text 是要落进 sidecar(并在装配期按注入预算取用)的文本(CSV/TSV 的摘要行
// + 正文,已按安全上限 MaxSidecarBytes 截断)。
Text string
// Chars 是 Text 的字符数(rune 数)。
Chars int
// Truncated 报告正文是否因预算被截断(design/24 §4.3:绝不静默截断)。
// Truncated 报告正文是否撞上了**安全上限**(design/24 §4.3:绝不静默截断)。
// 它与「注入被截断」是两件事:后者由装配期按注入预算判定并写进
// history.DocumentRef(切片 T1 §7.2)。
Truncated bool
// Kind 是抽取出内容的种类(text / csv / tsv)。
Kind string
@@ -115,8 +128,8 @@ func Extract(name, mime string, data []byte) (Result, error) {
text = summary + "\n" + body
}
res := Result{Kind: kind, ExtractorVersion: ExtractorVersion}
if utf8.RuneCountInString(text) > MaxExtractChars {
text = prefixRunes(text, MaxExtractChars)
if len(text) > MaxSidecarBytes {
text = prefixBytes(text, MaxSidecarBytes)
res.Truncated = true
}
res.Text = text
@@ -264,17 +277,19 @@ func splitColumns(line, delim string) []string {
return out
}
// prefixRunes 返回 s 的前 n 个 rune:rune 安全,绝不把多字节字符切成两半。
func prefixRunes(s string, n int) string {
if n <= 0 {
// prefixBytes 返回 s 的前若干个**完整 rune**,使其字节数不超过 max:
// 安全上限按字节设(MaxSidecarBytes),因此截断必须落在 rune 边界上,
// 绝不把多字节字符切成两半(否则 sidecar 正文会是非法 UTF-8)。
func prefixBytes(s string, max int) string {
if max <= 0 {
return ""
}
count := 0
for i := range s {
if count == n {
return s[:i]
}
count++
if len(s) <= max {
return s
}
return s
cut := max
for cut > 0 && !utf8.RuneStart(s[cut]) {
cut--
}
return s[:cut]
}