butubb
73895f7233
用户反馈：录制出来的滑动又被套上滑动那套逻辑（方向/幅度/拟人重新生成），
"导致滑动还是不顺畅"。录制就该是录制——按录下的路径与时间原样重放。
- 新步骤 `gesture`「录制手势」：存完整轨迹点列 `[[x,y,t_ms],…]`，
回放时原样交给设备（`d.swipe_points(points, duration)`），不做任何加工。
与 `swipe` 是两套东西（滑动是参数化的，录制是点列）。
- core/gesture.py（新）：
· 手机端录制 `PhoneRecorder`：`getevent` 读**真触屏**设备（自动挑 fts_ts 这类、
排除 uinput/vitural-sar 等合成节点），解析两套协议（BTN_TOUCH / ABS_MT_TRACKING_ID）；
**合成的注入事件不会出现在真触屏节点上**（实测），所以录到的只有人手的动作；
· 点列清洗：按 ≥16ms 抽稀但**末点必留**（快划时不能把收尾丢了）；
· 回放**一次调用**而不是逐点注入：实测这台设备单次触摸 RPC ≈190ms，
逐点回放 20 点要 3.8 秒——只能让设备自己插值，"时间"由点密度还原。
- 接口：POST /api/gesture/record/{start,stop}（需设备权限；重复开始返回 409）。
- 「录制手势」步骤卡片：录到就回填（手机上录 / 网页上录），显示点数/时长；
**滑动步骤上的「录制手势」按钮已移除**（按用户要求，录制不再走滑动逻辑）。
- 录制前自动唤醒设备：**息屏时 u2 抓 UI 树会从 3 秒退化到 65 秒**（实测），
截图也是黑的——这是本次排查最耗时的坑，已写进文档。
自测：假设备单测（点列/时长/抽稀/失败退回直线，10 项）；
无头浏览器 + CDP 真模拟拖动 → 录到 14 点/605ms 并按实际轨迹回填；
手机录制接口起停/重复拦截；
真机回放：用录下的轨迹跑任务 → 步骤 `gesture ok`。
⚠️ 手机端"真手指轨迹"这一段需要人真的去划才能端到端验证（我没有手指）。
文档：TASK_DEV §3.2（两套东西对比 + 三个坑）、步骤表 21 种、API、README。
5.9 KiB
5.9 KiB
auto_control 文档总索引
本目录是 auto_control（Android 多设备自动化任务平台）的唯一权威文档源。代码即事实，文档与代码不一致时以代码为准，并顺手把文档改对（见文末维护约定）。
项目名称统一为 auto_control（历史文档里出现过的
platform-tools均为旧名，已全部改名）。
1. 文档地图
| 文档 | 内容 | 主要读者 |
|---|---|---|
| ARCHITECTURE.md | 架构详解：分层、启动装配顺序、线程与并发模型、设备生命周期、任务调度链路、状态机、关键设计决策与扩展点 | 所有开发者（先读这篇） |
| DATA_MODEL.md | 数据模型：SQLite 表与字段、schema 迁移、非模型表、app_meta 配置键、数据目录、备份覆盖清单 |
后端开发、运维 |
| API.md | HTTP 接口全量：按蓝图分组的路由表、鉴权、请求/响应示例、非 JSON 响应、错误分支 | 前端开发、外部接入 |
| TASK_DEV.md | 任务与步骤开发：TaskType/TaskJob 概念、21 种步骤全表、公共巡检、选择器与定位、自定义动作、新增任务类型模板 | 写任务的开发 |
| MCP.md | MCP 手机控制手册：20 个 de_* 工具用法、写操作门控、坐标换算、接入示例 |
接入方、数字员工 |
| MCP_DESIGN.md | MCP 设计文档：边界划分、错误码、白名单/审计设计、演进方向 | 平台开发者 |
| AI_CONSOLE.md | AI 控制台：会话/SSE、经验库、动作库、巡检、Markdown 渲染、推理链、token 统计 | 使用者、平台开发者 |
| AI_TASK_GEN.md | AI 建任务：AI 自己在真机探索 → 写出可调度任务 → 人工确认入库（P0 已实现；契约与红线） | 平台开发者、使用者 |
| NOTIFY.md | 通知 / Webhook：事件目录、企业微信/通用 JSON 适配、防刷屏（聚合/限流/折叠）、排障、怎么加事件 | 运维、平台开发者 |
| DEVICE_AGENT.md | 设备端 Agent 接口契约：应用商店的设备专用接口（清单/下载/上报）、adb 指令协议、版本约定 —— 与设备端 APK 仓库共享的契约 | 设备端开发者、平台开发者 |
| DEPLOY.md | 部署与运维：环境准备、生产容器、数据备份导出/导入、故障排查 | 运维、部署者 |
| DEVELOPMENT.md | 开发手册：git 流程、技术红线、本地开发与调试、常见开发任务、文档同步约定 | 所有开发者 |
| STF_REMOVAL.md | 历史记录：摘除 OpenSTF 的迁移过程（阶段 0-3） | 追溯背景时参考 |
| staffdeck/KNOWLEDGE_BASE.md | 给 StaffDeck 数字员工的知识库（MCP 接入/工具/约定/红线） | 外部 AI 接入方 |
| staffdeck/JOB_SPEC.md | 数字员工岗位说明（岗位描述/看板摘要/执行约束） | 外部 AI 接入方 |
| research/U2_ELEMENT_SELECTORS.md | 元素选择器研究：「点不到按钮」的根因（序号型选择器随界面变形而错位）与语义选择器解法 | 写任务/抓元素的开发 |
| backlog/TODO.md | 已确认但暂缓的待办（含已知问题） | 所有开发者 |
项目根目录的 README.md 是项目总览与快速上手（面向第一次接触项目的人），细节都在本目录。
2. 推荐的阅读路径
| 你的目的 | 按顺序读 |
|---|---|
| 第一次接触项目 | 根 README.md → ARCHITECTURE.md → DATA_MODEL.md |
| 搭环境跑起来 | 根 README.md 的「快速上手」→ DEPLOY.md |
| 写/改任务 | TASK_DEV.md → ARCHITECTURE.md §任务调度 |
| 改后端/前端 | DEVELOPMENT.md（流程+红线+本地开发）→ ARCHITECTURE.md → API.md |
| 对外提供手机控制 | MCP.md → staffdeck/KNOWLEDGE_BASE.md |
| 排故障 | DEPLOY.md §故障排查 → DEVELOPMENT.md §调试 |
3. 文档维护约定（红线）
与「doc 同步红线」一致：任何功能/配置/接口/表结构的增删改，必须在同一个 commit 里同步更新对应文档。
| 改动类型 | 必须同步的文档 |
|---|---|
| HTTP 接口（新增/改参数/改返回/改鉴权） | API.md |
| 数据库表/字段/迁移 | DATA_MODEL.md + ARCHITECTURE.md |
| 新增持久化表 | 还要登记进 core/system_backup.py 的 SUMMARY_TABLES + DEPLOY.md §3.5（备份覆盖红线） |
config.py / .env 键 |
DEVELOPMENT.md 配置速查 + DEPLOY.md + .env.example |
| 页面 Tab / 子分栏 / 前端 JS 拆分 | ARCHITECTURE.md §前端 + DEVELOPMENT.md |
| 任务类型 / 步骤 schema | TASK_DEV.md |
| 常驻线程 / 进程装配 | ARCHITECTURE.md §线程与并发 |
| MCP 工具 | MCP.md + MCP_DESIGN.md |
| 设备端 Agent（APK） | DEVICE_AGENT.md |
| 对外接入约定 | staffdeck/KNOWLEDGE_BASE.md |
| 暂缓项 / 已知问题 | backlog/TODO.md（完成时移出并同步相关文档） |
新增文档时：在本文 §1 表格里登记一行，并在根 README 的「更多文档」里加链接——否则等于没写。
历史文档不追改：STF_REMOVAL.md 是迁移阶段的历史记录，只增不改，不随现状改写。