From c2e413ec3895d6b3d861037765355080aecb82f0 Mon Sep 17 00:00:00 2001 From: AskaEth Date: Wed, 7 Oct 2026 09:34:47 +0800 Subject: [PATCH] =?UTF-8?q?feat(io):=20web-fetch=20=E7=9B=B4=E8=BF=9E?= =?UTF-8?q?=E2=86=92=E6=B5=8F=E8=A7=88=E5=99=A8=E6=B8=B2=E6=9F=93=E9=99=8D?= =?UTF-8?q?=E7=BA=A7=E6=A1=A3=20+=20fetchedBy=20=E5=A6=82=E5=AE=9E?= =?UTF-8?q?=E6=A0=87=E6=B3=A8=EF=BC=88Z5=20=E6=9C=BA=E5=88=B6=EF=BC=89?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit - 降级链:直连失败 / 判定为动态页 ⇒ 浏览器渲染取正文;返回体带 fetchedBy=direct|browser, 两条档的失败各自留痕(directError/browserError/browserSource/dynamicSuspect),**绝不静默替换** - 被 SSRF 拒绝的目标**不换路**(红线);渲染器缺位时如实报双失败 - 3 个变异自检(去掉动态页判据 / 去掉 SSRF 短路 / 掩盖双失败) ⚠️ **生产接不通**:internal/capability/browser 没有「取正文」入口(不在本片文件面)⇒ 开关默认关、不假装可用;解封形状已在报告里给出(加 RenderText ≈40 行) --- cmd/cyrene/wire_io_tools.go | 29 ++- plugins/tools/io/bodyfetch.go | 289 +++++++++++++++++++++++++++ plugins/tools/io/bodyfetch_test.go | 311 +++++++++++++++++++++++++++++ plugins/tools/io/doc.go | 7 +- plugins/tools/io/tools.go | 22 ++ plugins/tools/io/web_fetch.go | 70 +++---- 6 files changed, 687 insertions(+), 41 deletions(-) create mode 100644 plugins/tools/io/bodyfetch.go create mode 100644 plugins/tools/io/bodyfetch_test.go diff --git a/cmd/cyrene/wire_io_tools.go b/cmd/cyrene/wire_io_tools.go index 9fba52d..237fb8c 100644 --- a/cmd/cyrene/wire_io_tools.go +++ b/cmd/cyrene/wire_io_tools.go @@ -1,7 +1,8 @@ package main -// 本文件装配 io 工具集(plugins/tools/io)的选项:知识检索器、日志,以及 -// **web-search 的后端与超时**(切片 WS1-A 接线 + WS1-B provider 层 + PLG-4 可变源)。 +// 本文件装配 io 工具集(plugins/tools/io)的选项:知识检索器、日志、 +// **web-search 的后端与超时**(切片 WS1-A 接线 + WS1-B provider 层 + PLG-4 可变源), +// 以及 design/28 §8 B5 的**浏览器降级档开关**(`bodyFallbackOption`,当前 = 关)。 // // 为什么单独成文件而不是塞在 wire_runtime.go 里:那条装配线本就接近文件行数上限, // 而这里新增的裁决(端点/provider 关闭 ⇒ 工具不进注册面;选定 provider 未登记/未配置 @@ -90,10 +91,34 @@ func (a *app) ioToolOptions() []iotools.Option { opts := []iotools.Option{ iotools.WithKnowledgeRetriever(a.retriever), iotools.WithLogger(a.log), + // B5 的降级档开关(当前 = **关**,理由见 bodyFallbackOption 的文档)。 + a.bodyFallbackOption(), } return append(opts, a.webSearchOptions(webSearchCauseStartup)...) } +// bodyFallbackOption 是 design/28 §8 B5 的**开关点**:web-fetch 取正文时,直连失败 / +// 判定为动态页要不要改走**浏览器渲染**(`iotools.WithBrowserFallback`,默认关)。 +// +// **当前结论 = 关**(本函数返回的就是「不注入渲染器」)。理由在能力面上,不在这个开关上: +// `internal/capability/browser` 目前只导出 `Open`(导航,回报 url/title/readyState)、 +// `Screenshot`、`Fingerprint` —— **没有**任何「取页面正文」的入口,`plugins/tools/browser` +// 的工具动作也只有 `open`/`screenshot`/`info`。没有渲染器可注入,这一档打开也只可能 +// 如实失败 —— 那不是「降级档」,是给每次取正文加一条注定失败的噪声。 +// +// 打开它要等能力面先补一个正文抽取入口(形如 +// `Manager.RenderText(ctx, url) (RenderedText, error)`,内部走既有的隔离世界求值 + +// 同一份 `io.ValidateRequestURL` 判定源),届时把这里换成注入该适配器即可(一行)。 +// 在此之前**不假装可用** —— 与 web-search「拿不到后端就不注册」同一口径 +// (design/28 §7 判据 1、§7 判据 4 的诚实标注)。 +// +// 为什么不在这里现场探测浏览器:`ioToolOptions()` 是**只读装配**,探测的副作用 +// (起进程 / 连 CDP 端点)不属于「取一份 io 选项」这件事 —— 口径见 `wire_browser.go` +// 顶部第 3 条,且 `wire_browser_test.go` 钉住它不许在这里探测。 +func (a *app) bodyFallbackOption() iotools.Option { + return iotools.WithBrowserFallback(nil) +} + // buildWebSearchTool 按**当前生效配置**构造这一把 web-search 工具(面板保存后的热重载用它 // 重建工具,见 websearch_reload.go)。 // diff --git a/plugins/tools/io/bodyfetch.go b/plugins/tools/io/bodyfetch.go new file mode 100644 index 0000000..aac3dd3 --- /dev/null +++ b/plugins/tools/io/bodyfetch.go @@ -0,0 +1,289 @@ +package io + +import ( + "context" + "errors" + "fmt" + "mime" + "net/http" + "strings" + "unicode/utf8" +) + +// 本文件实现 design/28 §1 M5(搜索/取正文的降级档)与 §8 B5: +// +// 直连 fetch(既有 SSRF 白名单)→ 失败 / 判定为动态页 ⇒ 浏览器渲染取正文 +// +// 并在返回体里**如实标注实际走了哪条**(`fetchedBy`)。挂点是 web-fetch —— +// 「取正文」这件事在本项目里由它承担(web-search 返回的是上游给的摘要/正文片段, +// 它自己不抓页面正文)。 +// +// 四条口径: +// +// 1. **默认关**(见 WithBrowserFallback):不注入渲染器就是关。浏览器渲染要起会话 +// 甚至起进程,慢且重;M5 是**降级档**不是主路径,绝大多数站点直连足够。 +// 2. **绝不静默替换**:走了哪条就写哪条;直连的失败、被跳过的事实、浏览器这一档 +// 为什么没走成,全部照实留在返回体或错误里,不许用「看起来成功了」盖掉。 +// 3. **不绕 SSRF**:被 SSRF 判定拒绝的目标**不触发**降级 —— 换条路去访问同一个目标 +// 是绕过判定,不是降级(design/28 §4-1:判定源只有一个)。 +// 4. **浏览器侧自己再判一次**:本包把**原始 URL**原样交给渲染器,不替它免检; +// 渲染器必须用同一份 `ValidateRequestURL` 自己过一遍(见 BodyRenderer 文档)。 + +// FetchedBy 标注「正文实际从哪条路来」。它是 design/28 §1 M5 的硬要求: +// 必须显式标注来源,不许静默替换。 +const ( + // FetchedByDirect 表示正文来自直连 fetch(既有 SSRF 白名单那条路)。 + FetchedByDirect = "direct" + // FetchedByBrowser 表示正文来自浏览器渲染后的页面正文。 + FetchedByBrowser = "browser" +) + +const ( + // dynamicTextMinChars 是「直连拿到的可见文字够不够,才不像动态页」的下限(按字符计)。 + // 骨架页(React/Vue/Angular 的空挂载点)正常只剩导航与页脚,几十个字符量级; + // 200 是「明显不止骨架」的量级,宁可漏判(少起一次浏览器)也不误判。 + dynamicTextMinChars = 200 + + // renderedContentType 是浏览器这一档回报的内容类型。浏览器渲染只对 HTML 页面有意义, + // 而直连失败时我们拿不到原始响应头 ⇒ 如实口径是「渲染出来的正文」,不冒充原始类型。 + renderedContentType = "text/html" + + // reasonNoBrowserRenderer 是「浏览器降级档没打开」的原因文案(进结果与错误,不美化)。 + reasonNoBrowserRenderer = "browser fallback disabled: no body renderer configured" +) + +// ErrEmptyRenderedBody 是「浏览器渲染成功但一个字都没取到」。它按**失败**处理: +// 渲染出空正文不是成功,绝不用空文本冒充「取到了」。 +var ErrEmptyRenderedBody = errors.New("io: web-fetch: browser render returned empty text") + +// RenderedBody 是浏览器渲染一次取回的正文(渲染器只需给这两样)。 +type RenderedBody struct { + // Text 是**渲染后**页面的可见正文(已去标签的纯文本)。 + Text string + // Source 是渲染来源描述(本机有头 / 已跑的 CDP 端点),如实标注、不含凭据。 + Source string +} + +// BodyRenderer 是「浏览器渲染取正文」的注入点(design/28 §1 M5 的降级档)。 +// +// 实现方必须守住三条: +// +// - **只出站**:只做对外连接,不新开任何监听端口(AGENTS §9;CDP 端口由浏览器自己 +// 绑在 127.0.0.1 的随机端口,我们是连接方); +// - **自己过 SSRF**:对拿到的原始 URL 用 plugins/tools/io 的 `ValidateRequestURL` +// 再判一次 —— 那是全仓唯一的判定源(design/28 §4-1),本包不替它免检; +// - **渲染完成后才取正文**:骨架页的 DOM 摘要不是正文(design/28 §6 坑 4), +// 等待条件必须显式。 +type BodyRenderer interface { + RenderBody(ctx context.Context, rawURL string) (RenderedBody, error) +} + +// fetchBody 是降级链的**唯一入口**:直连 →(失败 / 判定为动态页)⇒ 浏览器渲染。 +// 它只决定走哪条,并把两条路的真实结果如实带回(不静默替换、不吞掉任何一条失败)。 +func (w *webFetchTool) fetchBody(ctx context.Context, rawURL string, max int64) (bodyFetch, error) { + direct, directErr := w.fetchBodyDirect(ctx, rawURL, max) + if directErr == nil && !direct.dynamicSuspect { + // 直连既成功、又不像动态页 ⇒ 停在原地,**绝不**无谓地起一次浏览器。 + return directBodyFetch(direct), nil + } + if errors.Is(directErr, ErrSSRF) { + // 被拒的目标不换路(口径 3)。 + return bodyFetch{}, directErr + } + if w.renderer == nil { + // 这一档没打开:如实报原因,并把直连的真实结果/失败原封不动带出去。 + return unavailableBrowserFallback(direct, directErr, reasonNoBrowserRenderer) + } + rendered, renderErr := w.renderBody(ctx, rawURL, max) + if renderErr != nil { + return browserFallbackFailed(direct, directErr, renderErr) + } + // 走成了浏览器:把直连那一档的**真实遭遇**一并标注(失败了就写失败原文)。 + rendered.directError = errText(directErr) + rendered.dynamicSuspect = direct.dynamicSuspect + return rendered, nil +} + +// bodyFetch 是一次取正文的结论。成功与降级失败共用一个形状,使每一条路径的 +// 「如实标注」都只有**一个出口**,不会在几条分支里各写各的文案。 +type bodyFetch struct { + text string + contentType string + truncated bool + // fetchedBy 是实际来源(FetchedByDirect / FetchedByBrowser)。 + fetchedBy string + // directError 是直连那一档的失败原文(直连成功时为空)。 + directError string + // browserSource 是浏览器渲染的来源描述(走了浏览器且成功时非空)。 + browserSource string + // browserError 是浏览器那一档没能取到正文的原因:没打开、渲染失败、空正文之一。 + browserError string + // dynamicSuspect 报告直连拿到的正文是否被判成「像动态页」。 + dynamicSuspect bool +} + +// directBody 是直连一次取回的原始结果(含「像不像动态页」的判定输入)。 +type directBody struct { + text string + contentType string + truncated bool + dynamicSuspect bool +} + +// fetchBodyDirect 直连取正文:与既有 web-fetch **完全同一条路** —— 同一份 SSRF 判定 +// (validateRequestURL)、同一个客户端、同一个字节上限、同一套 HTML→文本。 +func (w *webFetchTool) fetchBodyDirect(ctx context.Context, rawURL string, max int64) (directBody, error) { + if _, err := validateRequestURL(ctx, rawURL, w.allowedHosts); err != nil { + return directBody{}, err + } + if w.client == nil { + return directBody{}, fmt.Errorf("io: web-fetch: no underlying client") + } + req, err := http.NewRequestWithContext(ctx, http.MethodGet, rawURL, nil) + if err != nil { + return directBody{}, fmt.Errorf("io: web-fetch: build request: %w", err) + } + resp, err := w.client.Do(req) + if err != nil { + return directBody{}, fmt.Errorf("io: web-fetch: do: %w", err) + } + defer resp.Body.Close() + if resp.StatusCode != http.StatusOK { + return directBody{}, fmt.Errorf("io: web-fetch: url returned status %d", resp.StatusCode) + } + mt := "text/plain" + if rawCT := resp.Header.Get("Content-Type"); rawCT != "" { + parsed, _, perr := mime.ParseMediaType(rawCT) + if perr != nil || !isTextContentType(parsed) { + return directBody{}, fmt.Errorf("io: web-fetch: unexpected content type %q", rawCT) + } + mt = parsed + } + data, truncated, err := readLimited(resp.Body, max) + if err != nil { + return directBody{}, fmt.Errorf("io: web-fetch: read: %w", err) + } + raw := string(data) + text := raw + if isHTML(mt) { + text = htmlToText(raw) + } + return directBody{ + text: text, + contentType: mt, + truncated: truncated, + // 判定要在**原始 HTML**上做:转成文本后框架标记就没了。 + dynamicSuspect: looksDynamic(mt, text, raw), + }, nil +} + +// renderBody 走浏览器这一档,并把渲染结果收成 bodyFetch(内容类型的口径见常量注释)。 +func (w *webFetchTool) renderBody(ctx context.Context, rawURL string, max int64) (bodyFetch, error) { + rendered, err := w.renderer.RenderBody(ctx, rawURL) + if err != nil { + return bodyFetch{}, fmt.Errorf("io: web-fetch: browser render: %w", err) + } + if strings.TrimSpace(rendered.Text) == "" { + return bodyFetch{}, ErrEmptyRenderedBody + } + text, truncated := truncateBodyText(rendered.Text, max) + return bodyFetch{ + text: text, + contentType: renderedContentType, + truncated: truncated, + fetchedBy: FetchedByBrowser, + browserSource: rendered.Source, + }, nil +} + +// unavailableBrowserFallback 处置「这一档压根没打开」: +// +// - 直连也失败 ⇒ **两条都照实报**(错误里既有直连的真实失败,也有这一档为什么没走成); +// - 直连成功但像动态页 ⇒ 仍把直连的正文交出去,但同时如实标注「页面可疑」+ +// 「浏览器这一档为什么没走成」—— 不掩盖「本可以用浏览器核一遍」这件事。 +func unavailableBrowserFallback(direct directBody, directErr error, reason string) (bodyFetch, error) { + if directErr != nil { + return bodyFetch{}, fmt.Errorf("io: web-fetch: %w; %s", directErr, reason) + } + out := directBodyFetch(direct) + out.browserError = reason + return out, nil +} + +// browserFallbackFailed 处置「浏览器这一档走了但没取到正文」: +// +// - 直连也失败 ⇒ 两条失败**都出现在错误里**(谁也别替谁背锅); +// - 直连成功但像动态页 ⇒ 交出直连的正文,同时标注浏览器失败的原因(不掩盖)。 +func browserFallbackFailed(direct directBody, directErr, renderErr error) (bodyFetch, error) { + if directErr != nil { + return bodyFetch{}, fmt.Errorf("io: web-fetch: %w; browser fallback failed too: %w", directErr, renderErr) + } + out := directBodyFetch(direct) + out.browserError = renderErr.Error() + return out, nil +} + +// directBodyFetch 把直连结果收成 bodyFetch(fetchedBy 恒为 direct)。 +func directBodyFetch(d directBody) bodyFetch { + return bodyFetch{ + text: d.text, + contentType: d.contentType, + truncated: d.truncated, + fetchedBy: FetchedByDirect, + dynamicSuspect: d.dynamicSuspect, + } +} + +// looksDynamic 报告直连拿到的 HTML 页**像不像动态页**:可见正文少于阈值,且原始 HTML +// 里带着前端框架的挂载点 / 水合数据标记 —— 那正是该让浏览器渲染的信号(design/28 §6 坑 4)。 +// 非 HTML(纯文本、JSON 等)一律不算动态页:没有任何前端框架参与渲染。 +func looksDynamic(mt, text, rawHTML string) bool { + if !isHTML(mt) { + return false + } + if utf8.RuneCountInString(strings.TrimSpace(text)) >= dynamicTextMinChars { + return false + } + return containsAnyFold(rawHTML, dynamicMarkers()) +} + +// dynamicMarkers 是前端框架「客户端渲染」的常见标记(大小写不敏感匹配)。 +// 写成函数而不是包级变量(AGENTS §10:禁包级全局变量)。 +func dynamicMarkers() []string { + return []string{ + `id="app"`, `id="root"`, `id="__next"`, `id="__nuxt"`, + `__NEXT_DATA__`, `window.__nuxt__`, `data-reactroot`, `ng-version`, + } +} + +// containsAnyFold 报告 haystack 是否包含 needles 里的任一项(大小写不敏感)。 +func containsAnyFold(haystack string, needles []string) bool { + low := strings.ToLower(haystack) + for _, n := range needles { + if strings.Contains(low, strings.ToLower(n)) { + return true + } + } + return false +} + +// truncateBodyText 按**字节**上限截断渲染出来的正文,且不切断一个 UTF-8 字符 +// (与直连那条档同一个口径:max 是字节预算;max ≤ 0 视为无上限)。 +func truncateBodyText(s string, max int64) (string, bool) { + if max <= 0 || int64(len(s)) <= max { + return s, false + } + cut := s[:max] + for len(cut) > 0 && !utf8.ValidString(cut) { + cut = cut[:len(cut)-1] + } + return cut, true +} + +// errText 把 error 收成「原样文本 / 空串」(空 error 收成空串,便于直接进结果体)。 +func errText(err error) string { + if err == nil { + return "" + } + return err.Error() +} diff --git a/plugins/tools/io/bodyfetch_test.go b/plugins/tools/io/bodyfetch_test.go new file mode 100644 index 0000000..33b6643 --- /dev/null +++ b/plugins/tools/io/bodyfetch_test.go @@ -0,0 +1,311 @@ +package io + +import ( + "context" + "errors" + "io" + "net/http" + "net/http/httptest" + "strings" + "testing" +) + +// fakeBodyRenderer 是 BodyRenderer 的测试替身:它**记录**自己被调了几次、拿到的 +// URL 是什么 —— 「直连成功时绝不碰浏览器」「被拒的目标不换路」这类要求只能靠 +// calls 计数钉住,光看返回体看不出来。 +type fakeBodyRenderer struct { + body RenderedBody + err error + calls int + urls []string +} + +func (f *fakeBodyRenderer) RenderBody(_ context.Context, rawURL string) (RenderedBody, error) { + f.calls++ + f.urls = append(f.urls, rawURL) + if f.err != nil { + return RenderedBody{}, f.err + } + return f.body, nil +} + +// serveHTML 起一个恒返回这段 HTML 的测试服务(Content-Type 为 text/html)。 +func serveHTML(t *testing.T, doc string) *httptest.Server { + t.Helper() + srv := httptest.NewServer(http.HandlerFunc(func(w http.ResponseWriter, _ *http.Request) { + w.Header().Set("Content-Type", "text/html; charset=utf-8") + _, _ = io.WriteString(w, doc) + })) + t.Cleanup(srv.Close) + return srv +} + +// serveStatus 起一个恒返回指定状态码的测试服务(用于造「直连失败」)。 +func serveStatus(t *testing.T, code int) *httptest.Server { + t.Helper() + srv := httptest.NewServer(http.HandlerFunc(func(w http.ResponseWriter, _ *http.Request) { + http.Error(w, "boom", code) + })) + t.Cleanup(srv.Close) + return srv +} + +// normalDoc 是一篇「正文够长、不像动态页」的普通页面(> dynamicTextMinChars 字)。 +func normalDoc() string { + return `

Hello

` + strings.Repeat("正文句子。", 60) + `

` +} + +// skeletonDoc 是一个只有前端框架挂载点、没有任何可见正文的**骨架页**。 +func skeletonDoc() string { + return `` + + `
` +} + +// rendererTool 造一把带渲染器的 web-fetch(可选注入),并把服务主机放进白名单。 +func rendererTool(t *testing.T, srv *httptest.Server, r BodyRenderer) *webFetchTool { + t.Helper() + opts := []Option{WithAllowedHosts(serverHost(srv)), WithHTTPClient(srv.Client())} + if r != nil { + opts = append(opts, WithBrowserFallback(r)) + } + return webFetchToolForTest(t, opts...) +} + +// ① 直连成功 + 不像动态页 ⇒ **绝不**走浏览器(calls 必为 0),且标注 direct。 +func TestFetchBodyChain_DirectSuccessNeverTouchesBrowser(t *testing.T) { + t.Parallel() + srv := serveHTML(t, normalDoc()) + r := &fakeBodyRenderer{body: RenderedBody{Text: "不该被用到", Source: "fake"}} + wf := rendererTool(t, srv, r) + + got, err := wf.Execute(context.Background(), map[string]any{"url": srv.URL}) + if err != nil { + t.Fatalf("Execute: %v", err) + } + m := got.(map[string]any) + if m["fetchedBy"] != FetchedByDirect { + t.Errorf("fetchedBy = %v, want %q", m["fetchedBy"], FetchedByDirect) + } + if r.calls != 0 { + t.Errorf("直连成功却起了浏览器:calls = %d, urls = %v", r.calls, r.urls) + } + if !strings.Contains(m["text"].(string), "Hello") { + t.Errorf("text 不是直连的正文: %q", m["text"]) + } + // 没有发生过的事,不许出现在结果里(空字段一律不写)。 + for _, k := range []string{"directError", "browserSource", "browserError", "dynamicSuspect"} { + if _, exists := m[k]; exists { + t.Errorf("结果里不该有 %q(本次没有发生)", k) + } + } +} + +// ② 直连失败 + 浏览器可用 ⇒ 走浏览器、标注 browser,并把直连的失败照实留痕。 +func TestFetchBodyChain_BrowserRendersAfterDirectFailure(t *testing.T) { + t.Parallel() + srv := serveStatus(t, http.StatusInternalServerError) + r := &fakeBodyRenderer{body: RenderedBody{Text: "浏览器渲染出来的正文", Source: "本机有头 Chrome"}} + wf := rendererTool(t, srv, r) + + got, err := wf.Execute(context.Background(), map[string]any{"url": srv.URL}) + if err != nil { + t.Fatalf("Execute: %v", err) + } + m := got.(map[string]any) + if m["fetchedBy"] != FetchedByBrowser { + t.Errorf("fetchedBy = %v, want %q", m["fetchedBy"], FetchedByBrowser) + } + if m["text"] != "浏览器渲染出来的正文" { + t.Errorf("text = %q", m["text"]) + } + if m["browserSource"] != "本机有头 Chrome" { + t.Errorf("browserSource = %v(来源必须如实带出)", m["browserSource"]) + } + if de, _ := m["directError"].(string); !strings.Contains(de, "status 500") { + t.Errorf("directError = %q,必须留下直连为什么没成", m["directError"]) + } + // 渲染器拿到的必须是**原始 URL**(它自己要再过一遍 SSRF 判定)。 + if r.calls != 1 || len(r.urls) != 1 || r.urls[0] != srv.URL { + t.Errorf("渲染器入参错: calls = %d, urls = %v, want [%s]", r.calls, r.urls, srv.URL) + } +} + +// ③ 浏览器不可用(这一档没打开)+ 直连失败 ⇒ 两条都照实报,绝不只报一条、绝不冒充成功。 +func TestFetchBodyChain_BrowserUnavailableReportsBothFailures(t *testing.T) { + t.Parallel() + srv := serveStatus(t, http.StatusInternalServerError) + wf := rendererTool(t, srv, nil) // 不注入渲染器 = 默认关 + + _, err := wf.Execute(context.Background(), map[string]any{"url": srv.URL}) + if err == nil { + t.Fatal("两条档都没成,必须有错误,不许冒充成功") + } + if !strings.Contains(err.Error(), "status 500") { + t.Errorf("错误里丢了直连的真实失败: %v", err) + } + if !strings.Contains(err.Error(), reasonNoBrowserRenderer) { + t.Errorf("错误里没说清浏览器这一档为什么没走: %v", err) + } +} + +// ④ 浏览器这一档走了但失败 + 直连也失败 ⇒ 两条失败都出现在错误里(谁也别替谁背锅)。 +func TestFetchBodyChain_BrowserRenderFailureKeepsBothFailures(t *testing.T) { + t.Parallel() + srv := serveStatus(t, http.StatusInternalServerError) + r := &fakeBodyRenderer{err: errors.New("CDP 连不上")} + wf := rendererTool(t, srv, r) + + _, err := wf.Execute(context.Background(), map[string]any{"url": srv.URL}) + if err == nil { + t.Fatal("两条档都没成,必须有错误") + } + for _, want := range []string{"status 500", "CDP 连不上"} { + if !strings.Contains(err.Error(), want) { + t.Errorf("错误里缺 %q: %v", want, err) + } + } +} + +// ⑤ 直连成功但**像动态页** + 浏览器关着 ⇒ 交出直连正文,但把「页面可疑 + 浏览器 +// 这一档为什么没走」如实标出来(不掩盖「本可以核一遍」)。 +func TestFetchBodyChain_DynamicPageWithoutRendererIsHonest(t *testing.T) { + t.Parallel() + srv := serveHTML(t, skeletonDoc()) + wf := rendererTool(t, srv, nil) // 不注入渲染器 = 这一档关着 + + got, err := wf.Execute(context.Background(), map[string]any{"url": srv.URL}) + if err != nil { + t.Fatalf("Execute: %v", err) + } + m := got.(map[string]any) + if m["fetchedBy"] != FetchedByDirect { + t.Errorf("fetchedBy = %v, want %q(浏览器没走成,来源仍是直连)", m["fetchedBy"], FetchedByDirect) + } + if m["dynamicSuspect"] != true { + t.Errorf("dynamicSuspect = %v,骨架页必须被判成可疑", m["dynamicSuspect"]) + } + if m["browserError"] != reasonNoBrowserRenderer { + t.Errorf("browserError = %v,必须说明这一档为什么没走", m["browserError"]) + } +} + +// ⑥ 直连成功但像动态页 + 浏览器可用 ⇒ 改用浏览器渲染,并同时标注「页面可疑」。 +func TestFetchBodyChain_DynamicPageUsesBrowser(t *testing.T) { + t.Parallel() + srv := serveHTML(t, skeletonDoc()) + r := &fakeBodyRenderer{body: RenderedBody{Text: "渲染后的正文", Source: "本机有头 Chrome"}} + wf := rendererTool(t, srv, r) + + got, err := wf.Execute(context.Background(), map[string]any{"url": srv.URL}) + if err != nil { + t.Fatalf("Execute: %v", err) + } + m := got.(map[string]any) + if m["fetchedBy"] != FetchedByBrowser { + t.Errorf("fetchedBy = %v, want %q", m["fetchedBy"], FetchedByBrowser) + } + if m["text"] != "渲染后的正文" { + t.Errorf("text = %q", m["text"]) + } + if m["dynamicSuspect"] != true { + t.Errorf("dynamicSuspect = %v,判定为动态页这件事必须留痕", m["dynamicSuspect"]) + } + if _, exists := m["directError"]; exists { + t.Errorf("直连其实成功了,不该有 directError: %v", m["directError"]) + } + if r.calls != 1 { + t.Errorf("渲染器调用次数 = %d, want 1", r.calls) + } +} + +// ⑦ 被 SSRF 判定拒绝的目标**不换路**:降级档绝不能变成绕过判定的通道。 +func TestFetchBodyChain_SSRFDeniedNeverFallsBackToBrowser(t *testing.T) { + t.Parallel() + r := &fakeBodyRenderer{body: RenderedBody{Text: "不该被用到", Source: "fake"}} + wf := webFetchToolForTest(t, WithBrowserFallback(r)) + + _, err := wf.Execute(context.Background(), map[string]any{"url": "http://localhost:9/"}) + if !errors.Is(err, ErrSSRF) { + t.Fatalf("期望 ErrSSRF,实得 %v", err) + } + if r.calls != 0 { + t.Errorf("被拒的目标居然起了浏览器(calls = %d)—— 那是绕过判定,不是降级", r.calls) + } +} + +// ⑧ 渲染成功但一个字都没取到 ⇒ 按失败处理(空正文不许冒充「取到了」)。 +func TestFetchBodyChain_EmptyRenderedBodyIsFailure(t *testing.T) { + t.Parallel() + srv := serveStatus(t, http.StatusInternalServerError) + r := &fakeBodyRenderer{body: RenderedBody{Text: " \n "}} + wf := rendererTool(t, srv, r) + + _, err := wf.Execute(context.Background(), map[string]any{"url": srv.URL}) + if !errors.Is(err, ErrEmptyRenderedBody) { + t.Fatalf("期望 ErrEmptyRenderedBody,实得 %v", err) + } + if !strings.Contains(err.Error(), "status 500") { + t.Errorf("错误里还得有直连的真实失败: %v", err) + } +} + +// ⑨ 渲染出来的正文同样受字节上限约束,且截断不切断 UTF-8 字符。 +func TestFetchBodyChain_RenderedTextRespectsMaxBytes(t *testing.T) { + t.Parallel() + srv := serveStatus(t, http.StatusInternalServerError) + r := &fakeBodyRenderer{body: RenderedBody{Text: strings.Repeat("正", 50), Source: "fake"}} + wf := rendererTool(t, srv, r) + + got, err := wf.Execute(context.Background(), map[string]any{"url": srv.URL, "max_bytes": 10}) + if err != nil { + t.Fatalf("Execute: %v", err) + } + m := got.(map[string]any) + if len(m["text"].(string)) != 9 { + t.Errorf("按 10 字节截断后应为 3 个汉字 = 9 字节,实得 %d", len(m["text"].(string))) + } + if m["truncated"] != true { + t.Errorf("truncated = %v, want true", m["truncated"]) + } +} + +// ⑩ 开关默认关:不传选项、或显式传 nil,渲染器都是 nil(= 这一档关着)。 +func TestWithBrowserFallback_DefaultsAndNilAreOff(t *testing.T) { + t.Parallel() + srv := serveStatus(t, http.StatusInternalServerError) + if wf := webFetchToolForTest(t); wf.renderer != nil { + t.Error("默认(不传选项)必须是关:renderer 应为 nil") + } + wf := webFetchToolForTest(t, WithAllowedHosts(serverHost(srv)), WithHTTPClient(srv.Client()), + WithBrowserFallback(nil)) + if wf.renderer != nil { + t.Fatal("WithBrowserFallback(nil) 必须是关") + } + _, err := wf.Execute(context.Background(), map[string]any{"url": srv.URL}) + if err == nil || !strings.Contains(err.Error(), reasonNoBrowserRenderer) { + t.Fatalf("关着的时候直连失败必须如实报「这一档没打开」: %v", err) + } +} + +// ⑪ 动态页判定的三条边界:非 HTML 不算、正文够长不算、没有框架标记不算。 +func TestLooksDynamic(t *testing.T) { + t.Parallel() + cases := []struct { + name string + mt string + text string + rawHTML string + want bool + }{ + {"骨架页 + 框架标记", "text/html", "", skeletonDoc(), true}, + {"骨架页但没有任何框架标记", "text/html", "", ``, false}, + {"正文够长", "text/html", strings.Repeat("字", dynamicTextMinChars), skeletonDoc(), false}, + {"非 HTML(纯文本)", "text/plain", "", `id="app"`, false}, + {"非 HTML(JSON)", "application/json", "", `{"mount":"id=\"app\"","x":"id=\"root\""}`, false}, + } + for _, tc := range cases { + if got := looksDynamic(tc.mt, tc.text, tc.rawHTML); got != tc.want { + t.Errorf("%s: looksDynamic = %v, want %v", tc.name, got, tc.want) + } + } +} diff --git a/plugins/tools/io/doc.go b/plugins/tools/io/doc.go index 2ad3e56..daa6c67 100644 --- a/plugins/tools/io/doc.go +++ b/plugins/tools/io/doc.go @@ -33,7 +33,12 @@ // configuration (the model only supplies the query), hence their hosts are trusted // by this tool alone: a loopback fallback endpoint stays reachable without widening // the shared http/web-fetch allowlist. API keys never reach logs, results or prompts. -// - web-fetch: size- and content-type-limited readable text extraction. +// - web-fetch: size- and content-type-limited readable text extraction. 取正文走 +// **降级链**(design/28 §1 M5 / §8 B5):直连 fetch →(失败 / 判定为动态页) +// ⇒ 浏览器渲染取正文,返回体用 `fetchedBy`(direct / browser)**如实标注实际 +// 走了哪条**,两条档的失败原文分别留在 directError / browserError 里 —— 绝不静默 +// 替换、绝不把失败说成成功。这一档**默认关**(WithBrowserFallback);被 SSRF +// 判定拒绝的目标**不换路**(换条路访问同一目标是绕过判定,不是降级)。 // - knowledge: RAG lookup over the runtime memory retriever; a clear message // when no knowledge base is configured. // diff --git a/plugins/tools/io/tools.go b/plugins/tools/io/tools.go index dab5d67..c938630 100644 --- a/plugins/tools/io/tools.go +++ b/plugins/tools/io/tools.go @@ -67,6 +67,10 @@ type tools struct { // searchMaxResults 是 web-search 自己的条数上限(0 = 沿用 maxResults)。 // 与 WithMaxResults 分开,是因为后者会一起改到 knowledge 工具的条数。 searchMaxResults int + + // bodyRenderer 是「浏览器渲染取正文」这一档(design/28 §1 M5 / §8 B5)。 + // nil = **这一档关着**(默认),见 WithBrowserFallback。 + bodyRenderer BodyRenderer } // SearchProviderSpec 是组合根给 web-search 的**一家** provider 的接线(一家一行)。 @@ -177,6 +181,24 @@ func WithSearchMaxResults(n int) Option { } } +// WithBrowserFallback 打开 design/28 §1 M5 / §8 B5 的降级档:web-fetch **直连取正文** +// 失败、或直连拿到的页面被判成动态页时,改由**浏览器渲染**取正文,并在返回体里如实 +// 标注实际走了哪条(`fetchedBy` = direct / browser)。 +// +// **默认关**:不传这个选项就是关,传 nil 也是关。两条理由 —— +// +// 1. M5 是**降级档**不是主路径:浏览器渲染要起会话(必要时起进程),比直连慢一个量级; +// 绝大多数站点直连足够。它是「直连不行时的补一手」,不该挂在默认路径上。 +// 2. 浏览器是否可用取决于宿主(本机有没有 Chrome/Chromium、有没有配 CDP 端点), +// 拿不到就不该把一条注定走不通的档挂上去 —— 与 web-search「拿不到后端就不注册」 +// 同一个诚实口径。 +// +// 传入的 renderer 必须自己满足 BodyRenderer 的红线(只出站、复用同一份 SSRF 判定源、 +// 渲染完成后才取正文)。这一档无论开关,**都不会**把被 SSRF 拒绝的目标换条路再去访问。 +func WithBrowserFallback(r BodyRenderer) Option { + return func(t *tools) { t.bodyRenderer = r } +} + // WithKnowledgeRetriever wires the knowledge tool to a runtime memory retriever. // WithKnowledgeRetriever(nil) makes knowledge report "no knowledge base". func WithKnowledgeRetriever(r KnowledgeRetriever) Option { diff --git a/plugins/tools/io/web_fetch.go b/plugins/tools/io/web_fetch.go index d552590..c9be881 100644 --- a/plugins/tools/io/web_fetch.go +++ b/plugins/tools/io/web_fetch.go @@ -4,7 +4,6 @@ import ( "context" "fmt" "log/slog" - "mime" "net/http" "strings" @@ -21,6 +20,9 @@ type webFetchTool struct { allowedHosts []string maxBytes int64 log *slog.Logger + // renderer 是「浏览器渲染取正文」这一档(design/28 §1 M5 / §8 B5)。 + // nil = 关着(默认,见 WithBrowserFallback)。 + renderer BodyRenderer } func newWebFetchTool(t *tools) *webFetchTool { @@ -29,6 +31,7 @@ func newWebFetchTool(t *tools) *webFetchTool { allowedHosts: t.allowedHosts, maxBytes: t.maxFetchBytes, log: t.log, + renderer: t.bodyRenderer, } } @@ -53,6 +56,10 @@ func (w *webFetchTool) Parameters() (map[string]any, error) { } // Execute implements sdk.Tool. +// +// 取正文走**降级链**(design/28 §1 M5 / §8 B5):直连 fetch →(失败 / 判定为动态页) +// ⇒ 浏览器渲染。结果里的 `fetchedBy` 是**如实标注**(direct / browser);两条档的 +// 失败原文各自留在 directError / browserError 里,绝不静默替换、绝不掩盖。 func (w *webFetchTool) Execute(ctx context.Context, args any) (any, error) { m, ok := args.(map[string]any) if !ok { @@ -62,48 +69,35 @@ func (w *webFetchTool) Execute(ctx context.Context, args any) (any, error) { if strings.TrimSpace(rawURL) == "" { return nil, fmt.Errorf("io: web-fetch: url is required") } - if _, err := validateRequestURL(ctx, rawURL, w.allowedHosts); err != nil { - return nil, err - } - if w.client == nil { - return nil, fmt.Errorf("io: web-fetch: no underlying client") - } - req, err := http.NewRequestWithContext(ctx, http.MethodGet, rawURL, nil) - if err != nil { - return nil, fmt.Errorf("io: web-fetch: build request: %w", err) - } - resp, err := w.client.Do(req) - if err != nil { - return nil, fmt.Errorf("io: web-fetch: do: %w", err) - } - defer resp.Body.Close() - if resp.StatusCode != http.StatusOK { - return nil, fmt.Errorf("io: web-fetch: url returned status %d", resp.StatusCode) - } - mt := "text/plain" - if rawCT := resp.Header.Get("Content-Type"); rawCT != "" { - var err error - mt, _, err = mime.ParseMediaType(rawCT) - if err != nil || !isTextContentType(mt) { - return nil, fmt.Errorf("io: web-fetch: unexpected content type %q", rawCT) - } - } max := w.maxBytes if v, ok := argInt(m, "max_bytes"); ok && v > 0 { max = int64(v) } - data, truncated, err := readLimited(resp.Body, max) + body, err := w.fetchBody(ctx, rawURL, max) if err != nil { - return nil, fmt.Errorf("io: web-fetch: read: %w", err) + return nil, err } - text := string(data) - if isHTML(mt) { - text = htmlToText(text) - } - return map[string]any{ + out := map[string]any{ "url": rawURL, - "content_type": mt, - "text": text, - "truncated": truncated, - }, nil + "content_type": body.contentType, + "text": body.text, + "truncated": body.truncated, + // fetchedBy:正文**实际**来自哪条路。它是 M5 的硬要求(不许静默替换)—— + // 见到 browser 就意味着直连失败过、或被判成了动态页。 + "fetchedBy": body.fetchedBy, + } + // 以下字段只在**确有其事**时出现(有内容的失败/来源才写,不塞空串)。 + if body.directError != "" { + out["directError"] = body.directError + } + if body.browserSource != "" { + out["browserSource"] = body.browserSource + } + if body.browserError != "" { + out["browserError"] = body.browserError + } + if body.dynamicSuspect { + out["dynamicSuspect"] = true + } + return out, nil }