AskaEth
66dda084cd
M41 的「LLM / embedding / 视觉 上游错误体」一族（M38 #5 #6 #7 #8 #9 #14）： 非 2xx 时把响应体截断后拼进 error，而 error 会被 chat run / loop step / retrieve_fallback 打日志，等于把她的提问、记忆正文、要念的台词写进日志。 - model：openai/anthropic 两处 upstreamError 收口到 upstream.go 的 providerUpstreamError；anthropic 流内 error 事件的 evt.Error.Message （原本无上限）整段丢弃，只保留令牌形状的 type - embedding：readErrorBody 删除，改走 helper（input 就是她的记忆正文） - vision：错误路径不再沿用取图的 50 MiB 上限，改为 4 KiB 有界读且不拼原文 - voice：classifyDashscopeStatus 只解 code/request_id，正文只留在内存里做 分类判据；错误体读取同样改为 4 KiB 有界 - 测试：五个上游各一条「日志/error 里搜不到哨兵正文」用例，且能变异打红
93 lines
4.3 KiB
Go
93 lines
4.3 KiB
Go
package model
|
||
|
||
import (
|
||
"fmt"
|
||
"io"
|
||
"net/http"
|
||
"strings"
|
||
|
||
"git.yeij.top/AskaEth/Cyrene_v2/internal/runtime/trace"
|
||
)
|
||
|
||
// 本文件是 model 包**唯一**的「上游错误体 → error」收口。两个 provider 适配
|
||
// （OpenAI 兼容 /chat/completions 与 Anthropic /v1/messages，含流内 error 事件）
|
||
// 都经这里进 error，绝不各自截一段响应体再拼进去 —— 那样写的人早晚会漏掉一家，
|
||
// 而漏掉的方向永远是「她的提问进日志」。
|
||
//
|
||
// 出镜口径由 internal/runtime/trace.UpstreamError 决定（M40 的共享 helper，契约见
|
||
// 其文件头）：只留 upstream / status / contentType / bodyLen / body sha256 前缀 /
|
||
// error.code / error.type，**error.message 默认带不进**。这里不重新实现任何清洗
|
||
// —— 三家各写一份清洗就是三处漂移的起点。
|
||
|
||
// errBodyCap 限制错误路径**读多少字节**（只用来数长度、取摘要、抽 code/type），
|
||
// 不再决定「错误里带多少正文」：正文一个字节都不进 error。上界刻意小 ——
|
||
// 错误体是攻击面，不是数据面。
|
||
const errBodyCap = 512
|
||
|
||
// maxErrorTokenBytes 是 error.code / error.type 允许出镜的长度上限（见
|
||
// safeErrorToken）。
|
||
const maxErrorTokenBytes = 64
|
||
|
||
// upstreamLabel 报「这次调用实际打到哪」：优先主机（自建网关 / 代理下才看得出
|
||
// 真实去向），取不到主机时退回 provider 名（代码里写死的短名）。两种形态都不含
|
||
// 路径、查询串与凭据 —— 契约在 trace.HostOf。
|
||
func upstreamLabel(name, baseURL string) string {
|
||
if host := trace.HostOf(baseURL); host != "" {
|
||
return host
|
||
}
|
||
return name
|
||
}
|
||
|
||
// providerUpstreamError 把一次非 2xx 响应收敛成**可安全进日志**的错误。
|
||
//
|
||
// 为什么不再带正文：上游把用户的提问原样回显在错误里是真实写法 ——
|
||
// `{"error":{"code":"invalid_request_error","message":"Invalid value: '<她的原话>'"}}`，
|
||
// 而这类 error 会被 `chat run` / `loop step` 打日志。截断到 512 字节只是把
|
||
// 「整段泄漏」变成「前 512 字节泄漏」，不是修复。
|
||
//
|
||
// 双 %w：既保持 errors.Is(err, ErrUpstream)（降级链按它分类，主 → 备 → 本地），
|
||
// 也让 errors.Is(err, trace.ErrUpstream) 成立（调用方按上游失败分类）。
|
||
func providerUpstreamError(name, baseURL string, resp *http.Response) error {
|
||
body, _ := io.ReadAll(io.LimitReader(resp.Body, errBodyCap))
|
||
info := trace.UpstreamError(upstreamLabel(name, baseURL), resp.StatusCode,
|
||
resp.Header.Get("Content-Type"), body)
|
||
return fmt.Errorf("model: %w: %w", ErrUpstream, info)
|
||
}
|
||
|
||
// streamEventError 处理 /v1/messages 的**流内** error 事件：HTTP 已经是 200，
|
||
// 失败藏在 SSE 里，因此没有状态码。
|
||
//
|
||
// evt.Message 是上游自由文本，Anthropic 会用它回显请求内容（例如「prompt is too
|
||
// long: <片段>」），所以**整段丢弃**（原本是无上限拼进 error）。只保留 evt.Type
|
||
// （协议枚举，如 overloaded_error）且必须像令牌才出镜：网关把散文塞进 type 时它
|
||
// 是空串 —— 宁可少一条分类提示，不让自由文本借道 type 出去。
|
||
func streamEventError(upstream string, evt *anthropicStreamError) error {
|
||
info, ok := trace.UpstreamError(upstream, 0, "text/event-stream", nil).(*trace.UpstreamErrorInfo)
|
||
if !ok {
|
||
// helper 的构造是固定的，走不到这里；真走到也只少一条诊断，不破安全口径。
|
||
return fmt.Errorf("model: %w: anthropic stream error event", ErrUpstream)
|
||
}
|
||
info.Type = safeErrorToken(evt.Type)
|
||
return fmt.Errorf("model: %w: %w", ErrUpstream, info)
|
||
}
|
||
|
||
// safeErrorToken 只放行「像协议令牌」的短串（字母、数字与 `_ . -`），其余一律
|
||
// 丢弃。error.code / error.type 在主流上游是枚举，但它们是**自由文本面**：网关、
|
||
// 代理与兼容层可以往里面塞任何东西。丢弃它的代价只是少一条分类提示，保留一个
|
||
// 不受控字段的代价是她的话进日志。
|
||
func safeErrorToken(s string) string {
|
||
s = strings.TrimSpace(s)
|
||
if s == "" || len(s) > maxErrorTokenBytes {
|
||
return ""
|
||
}
|
||
for _, r := range s {
|
||
switch {
|
||
case r >= 'a' && r <= 'z', r >= 'A' && r <= 'Z', r >= '0' && r <= '9':
|
||
case r == '_' || r == '.' || r == '-':
|
||
default:
|
||
return ""
|
||
}
|
||
}
|
||
return s
|
||
}
|