dsh-tui-browser-use

给 dsh-tui 的 agent 装上"看得见网页"的浏览器自动化工具。

dsh-tui-browser-use 是 dsh-tui 的子插件（Cordis 插件），随 dsh --profile dsh-tui 组合加载。它向 agent 注册 21 个 browser_* 工具，用 Playwright 驱动真实浏览器，并原生适配DeepSeek视觉模型理解截图，返回经 schema 校验的结构化结果。

功能特色

21 个工具：浏览、交互、观察、结构化提取、自然语言多步任务、文件下载等。
超级拼装: 针对DeepSeek官方识图后端的严格压缩进行适配,长页或宽页自动滚屏分段、分片、截断上传,确保识图的精度。
会话能力：会话档案与登录态管理（session.mode 持久化 / isolated 独立、锁文件防并发、冲突自动降级为独立临时档案、整目录可打包迁移），弹窗策略、串行互斥、导航/动作/收敛三类超时。
安全策略：视觉提示注入防护（`` 定界，截图视为不可信内容）、URL/敏感 query/cookie 脱敏、无沙箱参数按需门控。
浏览器引擎支持：chromium（默认内嵌,可跨平台）/ firefox / webkit，配置可进 dsh-tui /settings 面板修改。

架构

┌─────────────────────────────────────────────────────────────────┐
│        dsh --profile dsh-tui (Cordis 组合)              
│                                                          
│  dsh-tui-browser-use (本插件)                            
│    ├── src/index.ts            插件入口 + 配置/公共导出    
│    ├── src/tools/registry.ts   注册 browser_* 工具（逐工具注销）
│    ├── src/browser.ts          Playwright 浏览器会话管理   
│    │     └─ driver/            BrowserDriver + PlaywrightDriver 
│    ├── src/vision/             VisionAdapter 双实现        
│    │     ├─ deepseek-file-adapter (Files API 原生)       
│    │     └─ openai-compat-adapter (base64 内联)          
│    ├── src/session-profiles.ts 会话档案/锁/存储态原子写     
│    ├── src/runtime-env.ts      集中注入 DSH_TUI_* 环境变量 
│    ├── src/capabilities.ts     provider 能力判定          
│    ├── src/image-pipeline.ts   截图捕获期压缩/尺寸校验/切分 
│    ├── src/i18n.ts             双语 UI 字典               
│    └── src/settings-section.ts 注册 /settings 设置区块     
└──────────────────────────────────────────────────────────────────┘

工具一览

类别	工具	说明
导航	`browser_navigate` / `back` / `forward` / `reload`	返回标题 + URL + 状态码
交互	`browser_click` / `type` / `hover` / `press` / `scroll` / `wait`	支持 `text=`/`role=`/`label=`/CSS 定位；`type` 可选 `clear` + `enter`
观察	`browser_screenshot` / `snapshot` / `evaluate`	截图 + 视觉分析（`oversizeTiles` 报告超字节预算的段数）；DOM 元素索引快照（节点带跨调用稳定 `id`，可选 `delta` 返回增量）；页面内 JS 求值
提取/任务	`browser_extract` / `task`	schema 校验 + 失败重试 ≤2；自然语言多步循环，累计成本
会话	`browser_cookies` / `console_messages` / `network_requests` / `pdf` / `download` / `status`	cookie 值默认掩码、`readValues` 可选；console/网络捕获；PDF/下载；`browser_status` 额外报告运行期会话档案（`value.session`：mode/profile/profileDir 脱敏/degraded）

部署

安装与挂载

npm install dsh-tui-browser-use
npx playwright install chromium --with-deps   # Linux；Windows/macOS 去掉 --with-deps

在 dsh-tui profile 的 cordis.patch.yml 挂载：

- insert:
    - id: dsh-tui-browser-use
      name: 'dsh-tui-browser-use'
      config:
        visionMode: 'auto'

postinstall 会检测系统 Chrome / Playwright Chromium，缺失时输出可复制的安装命令；也可用 DSH_TUI_BROWSER_EXECUTABLE 直接指向已有 Chromium。

会话档案模式（可选）

session 配置块管理浏览器登录态档案：

config:
  visionMode: 'auto'
  session:
    mode: 'persistent'   # persistent 保留固定命名档案（重启登录仍在）；isolated 每次独立临时档案
    profile: 'default'    # 档案目录名（`^[A-Za-z0-9._-]{1,64}$`，拒绝 `.`/`..`）

目录布局：/profiles//user-data（含 cookies/登录态）、/states/.storage-state.json（原子写、0644→0600）、/ephemeral//（isolated 临时档案，关闭即清理）。
档案根为跨平台缓存目录：Linux $XDG_CACHE_HOME（默认 ~/.cache）→ macOS ~/Library/Caches → Windows %LOCALAPPDATA%，下挂 dsh-tui-browser-use。
整目录可打包迁移：把 profiles// 复制到另一台机器/路径，将 session.profile 指向它，登录态即随档案迁移。

设置面板

本插件于dsh-tui注册命名空间,可于dsh-tui的/settings看见常用设置,部分设置需要会话重启后生效

环境变量覆盖（可选）

常用配置也可经环境变量覆盖，部分需会话重启后生效：

变量	作用	默认
`DSH_TUI_BROWSER_PROVIDER` / `_MODEL` / `_BASE_URL` + `OPENAI_API_KEY`	切换到 OpenAI 兼容视觉路由（非 DeepSeek 端点）	内置 `deepseek` 路由
`DSH_TUI_BROWSER_DIALOG`	弹窗策略 `dismiss` / `accept` / `ignore`	`dismiss`
`DSH_TUI_BROWSER_ENGINE`	浏览器引擎 `chromium` / `firefox` / `webkit`	`chromium`
`DSH_TUI_BROWSER_PROXY` / `_PROXY_BYPASS`	外网代理（浏览器启动时读取）	无
`DSH_TUI_BROWSER_TIMEOUT_NAVIGATION` / `_ACTION` / `_SETTLE`	导航 / 动作 / 收敛超时（ms）	45000 / 12000 / 6000
`DSH_TUI_BROWSER_USER_DATA_DIR` / `_STORAGE_STATE`	外部会话目录 / 登录态快照（读取失败回退全新会话）	内置档案根

视觉管线（简述）

Playwright 截图
  → 捕获期 JPEG 压缩（品质 80→60→40 阶梯，超预算降档）；管线尺寸/字节校验
  → 超过 tiling.threshold？ → 滚屏分段（原生分辨率多图，含宽页分列）
  → DeepSeek Files API → file_id 引用（过期前按内容 hash 复用，命中 prompt cache）
  → OpenAI 兼容端点 → base64 内联

构建与验证

npm run build           # tsc → lib/types/
npm run check           # CI 门禁：build + smoke(21 tools) + manifest + i18n + router
npm run test:logic      # 18 个纯逻辑回归（无需浏览器/key；含会话档案/启动失败锁释放/快照 delta/驱动契约/密钥探测/运行时环境等）
npm run test:container  # stub harness 加载产物 + 真实启动浏览器（21 工具注册）
npm run test:integration # 真实浏览器集成（导航/点击/输入/截图/切分/快照）
npm run test:storage-state # storageState 损坏回退 + persistent 导入（真实浏览器）

编程接口 / 扩展点

插件暴露一个小的编程面，供宿主或第三方在不动工具注册表的情况下驱动浏览器或替换后端。

浏览器后端：BrowserSession 以一个 BrowserDriver（默认 PlaywrightDriver）构造。注入自己的 driver（如 stub 或将来的 headless-shell 后端）即可替换 Playwright 实现。driver 契约见 dsh-tui-browser-use/driver。
视觉传输：createVisionAdapter(env, runtimeEnv) 返回解析到的图像传输模式对应的 adapter（file → DeepSeek Files-API；base64/url → OpenAI 兼容内联）。可在 dsh-tui-browser-use/vision 替换。
工具注册：buildToolDefinitions(deps) / registerTools(ctx, deps) 注册表接受注入的 session + 视觉 resolver，宿主可包裹或扩展。

子路径导出：dsh-tui-browser-use/driver、dsh-tui-browser-use/vision、dsh-tui-browser-use/types。工具数与统一结果信封（{ ok, value|error, usage? }）属契约，不可改动。

已知限制

该项目是纯Vibe Coding产物：功能实现与完整回归在无头 Linux 验证，欢迎拷打。

文档

技能文档：skills/browser-bridge/SKILL.md

License

MIT

安装

说明文档