Compare commits
5
Commits
| Author | SHA1 | Date | |
|---|---|---|---|
 butubb
|
773cfbb763 | ||
|
butubb
|
73895f7233 | ||
|
butubb
|
f62bc8da28 | ||
|
butubb
|
97e2883fec | ||
|
butubb
|
bd51306a2a |
@@ -13,6 +13,8 @@ logs/*.log
|
||||
data/*.log
|
||||
data/apks/*.apk
|
||||
data/*.migrated
|
||||
# uiauto.pid 之类的运行时 PID 文件（**注释必须单独一行**：gitignore 不支持行尾注释）
|
||||
data/*.pid
|
||||
data/*.db-shm
|
||||
data/*.db-wal
|
||||
|
||||
|
||||
@@ -46,8 +46,10 @@
|
||||
| **多设备并发任务** | 每设备一个 Worker 线程；同一设备同时只跑一个任务（可配置"抢占"打断其他任务） |
|
||||
| **设备池** | SQLite 清单 + adb 在线状态；支持手工添加、网段自动发现、一键重连、型号采集、启用/停用 |
|
||||
| **任务调度** | 手动 / cron 定时 / 定时启停；运行窗口；失败重试（含端口耗尽类的长退避） |
|
||||
| **步骤编辑器** | 可视化拖拽编排 20 种步骤（含循环/条件/OCR/通知），可打包成"自定义动作"复用 |
|
||||
| **步骤编辑器** | 可视化拖拽编排 21 种步骤（含循环/条件/OCR/通知/录制回放），可打包成"自定义动作"复用 |
|
||||
| **拟人化操作** | 滑动默认走弧线轨迹、位置/幅度/时长每次抖动，且**每台设备有自己的手速与习惯**（同设备风格稳定、设备之间明显不同）——批量跑时不像同步机器人（见 [TASK_DEV.md](doc/TASK_DEV.md) §8.4） |
|
||||
| **录制回放** | 「录制手势」步骤 = **纯录制**：**用手指在真机上划**（读 getevent 真触屏）或在网页画面上拖，把轨迹点列原样存下来，回放时**照原路径与时长重放**——不套滑动那套方向/幅度/拟人参数 |
|
||||
| **动作配置 / 录制** | 「任务 → 动作配置」：① 配**步骤默认值**（新建步骤预填：滑动时长/幅度/抖动/拟人、点击超时、等待区间…）② **录制动作**——在设备画面上点/划/按键，自动翻译成步骤（点元素记选择器、划一下记方向/幅度/时长），可存成可复用动作，也可只取一个手势回填滑动步骤 |
|
||||
| **公共巡检** | 任务级的守护条件（**独立于步骤画布**）：每 N 秒检查屏幕亮/熄、元素在不在、前台是不是某 App，命中就点亮/息屏/停本设备/推通知——通知标题正文自己写（见 [TASK_DEV.md](doc/TASK_DEV.md) §4.5） |
|
||||
| **元素抓取** | 拉取设备 UI 元素树 → 点选回填选择器；支持"点一下"与"测选择器"真机验证 |
|
||||
| **实时看屏** | MJPEG 实时流 + 点击/滑动/按键/文字输入；全屏监控大屏（`/wall`） |
|
||||
@@ -144,6 +146,7 @@ auto_control/
|
||||
│ ├── notifier.py # 通知分发（队列/聚合/限流/适配器）+ notify_events.py 事件目录
|
||||
│ ├── step_log.py # 任务步骤明细（异步写线程 + 保留期清理）
|
||||
│ ├── patrol.py # 任务级公共巡检（检查项/动作注册表，穿插执行）
|
||||
│ ├── step_defaults.py # 步骤默认值（app_meta 单键，出厂值 + 用户覆盖）
|
||||
│ ├── tailscale_client.py # Tailscale API v2 客户端
|
||||
│ ├── ssh_client.py # SSH 封装（当前无人调用，预留）
|
||||
│ ├── logger.py # 分文件日志（core/task/web/action）
|
||||
@@ -152,7 +155,7 @@ auto_control/
|
||||
├── tasks/ # 任务定义层
|
||||
│ ├── base.py # BaseTask + _TASK_TYPES + register_task
|
||||
│ └── generic/ # 通用步骤任务（task_type=generic_steps，当前唯一类型）
|
||||
│ └── task.py # STEP_TYPES（20 种步骤）+ Worker + 执行器
|
||||
│ └── task.py # STEP_TYPES（21 种步骤）+ Worker + 执行器
|
||||
│
|
||||
├── mcp_server/ # MCP Server（20 个 de_* 工具，:8033）
|
||||
│ ├── mcp_server.py # 工具定义 + 平台登录 + 门控
|
||||
@@ -189,7 +192,7 @@ auto_control/
|
||||
|
||||
```
|
||||
base.js → markdown.js → list.js → monitor.js → editor.js → tasks.js
|
||||
→ tools.js → apps.js → admin.js → agent.js → taskgen.js → system.js → notify.js → steplog.js
|
||||
→ tools.js → apps.js → admin.js → agent.js → taskgen.js → system.js → notify.js → steplog.js → recorder.js
|
||||
```
|
||||
|
||||
---
|
||||
@@ -250,7 +253,7 @@ self.set_progress(done=5, total=80, unit="视频", action_counts={"like": 3}, el
|
||||
| Tab | 内容 | 可见性 |
|
||||
|-----|------|--------|
|
||||
| **监控** | 统计卡片 + 设备表（在线/型号/任务状态/进度/前台 App/最近错误，支持排序、搜索、分页、多选批量操作）+ 异常汇总 + **任务运行概况**（每张任务卡：执行任务 / 停用任务 + 覆盖设备彩色 chip）；导航栏「📺 大屏」打开 `/wall` | 所有登录用户（设备操作按钮需"设备控制"） |
|
||||
| **任务** | 子分栏：**任务计划**（CRUD / 启停 / 执行 / 下次运行时间 / 离线跳过 / 步骤编辑器 / **公共巡检**）、**自定义动作**（步骤打包复用） | 可看；写操作需"任务管理" |
|
||||
| **任务** | 子分栏：**任务计划**（CRUD / 启停 / 执行 / 下次运行时间 / 离线跳过 / 步骤编辑器 / **公共巡检**）、**自定义动作**（步骤打包复用）、**动作配置**（步骤默认值 + 录制动作） | 可看；写操作需"任务管理" |
|
||||
| **日志** | 子分栏：**文件日志**（文件切换含滚动历史、关键字/级别/时间过滤、命中高亮、下载筛选结果、自动刷新）、**步骤明细**（按设备/任务/结果/时间过滤、按运行归组的概览、导出 CSV） | 需"日志查看" |
|
||||
| **用户** | 用户 CRUD、改密、分配权限 | 仅管理员 |
|
||||
| **工具** | 8 个子分栏：剪贴板注入 / adb 远程终端 / Tailscale 管理 / 应用管理 / 应用版本管理 / 设备已装应用 / **设备池管理**（含自动发现）/ 设备分组 | 仅管理员 |
|
||||
@@ -278,7 +281,7 @@ self.set_progress(done=5, total=80, unit="视频", action_counts={"like": 3}, el
|
||||
|
||||
`generic_steps` 的执行内容全在 `params.steps`（JSON 数组），由步骤编辑器产出。**没有默认步骤**——空步骤任务执行时会明确报错。
|
||||
|
||||
**20 种步骤**（完整参数见 [doc/TASK_DEV.md](doc/TASK_DEV.md)）：
|
||||
**21 种步骤**（完整参数见 [doc/TASK_DEV.md](doc/TASK_DEV.md)）：
|
||||
|
||||
| 类别 | 步骤 |
|
||||
|------|------|
|
||||
@@ -400,7 +403,7 @@ read_log_text()`，`file` 参数走白名单，不接受任意路径。
|
||||
| [doc/ARCHITECTURE.md](doc/ARCHITECTURE.md) | 架构详解（分层、装配顺序、线程模型、设备生命周期、调度链路、设计决策） |
|
||||
| [doc/DATA_MODEL.md](doc/DATA_MODEL.md) | 数据模型（表结构、迁移、`app_meta`、数据目录、备份覆盖清单） |
|
||||
| [doc/API.md](doc/API.md) | HTTP 接口全量说明 |
|
||||
| [doc/TASK_DEV.md](doc/TASK_DEV.md) | 任务与步骤开发（20 种步骤、公共巡检、选择器、自定义动作、新增任务类型） |
|
||||
| [doc/TASK_DEV.md](doc/TASK_DEV.md) | 任务与步骤开发（21 种步骤、公共巡检、录制回放、选择器、自定义动作） |
|
||||
| [doc/MCP.md](doc/MCP.md) · [doc/MCP_DESIGN.md](doc/MCP_DESIGN.md) | MCP 使用手册 / 设计文档 |
|
||||
| [doc/AI_CONSOLE.md](doc/AI_CONSOLE.md) · [doc/AI_TASK_GEN.md](doc/AI_TASK_GEN.md) | AI 控制台机制 / AI 建任务设计（规划） |
|
||||
| [doc/DEPLOY.md](doc/DEPLOY.md) | 部署与运维（含生产容器、备份导入、故障排查） |
|
||||
|
||||
+276
@@ -0,0 +1,276 @@
|
||||
"""录制手势：**纯录制、纯回放**——录下真实手指的轨迹与时间，回放时一模一样地重放。
|
||||
|
||||
和「滑动」步骤的区别（这是两套东西，别混）：
|
||||
|
||||
| | `swipe` 步骤 | `gesture` 步骤（本模块） |
|
||||
|---|---|---|
|
||||
| 内容 | 方向 + 幅度 + 时长区间 | **完整轨迹点列** `[[x, y, t_ms], ...]` |
|
||||
| 回放 | 每次重新生成（弧线/抖动/本设备手速） | **照录制的路径与时间逐点重放**，不加任何修饰 |
|
||||
| 适合 | 通用滑动，换设备也能用 | 你亲手划的、要求一模一样的手势 |
|
||||
|
||||
两个录制来源：
|
||||
1. **手机上录**（`PhoneRecorder`）：`getevent` 读**真触屏**设备，抓的是你手指的真实轨迹
|
||||
——注意合成的注入事件不会出现在真触屏节点上（实测确认），所以录到的只有人手的动作；
|
||||
2. **网页上录**：看着设备画面拖鼠标，前端采样路径与时间（见 `static/admin/recorder.js`）。
|
||||
|
||||
## 回放怎么做（实测定的，别改回去）
|
||||
|
||||
**一次调用把整条轨迹交给设备**（`d.swipe_points(points, duration)`），不是逐点注入。
|
||||
原因：实测这台设备上**单次触摸注入 RPC ≈190ms**（`d.touch.move` 25 次平均 190ms），
|
||||
逐点回放 20 个点要 3.8 秒——比录的手势慢一个数量级，根本不能用。所以只能让设备
|
||||
自己去插值：`swipe_points` 内部按 `steps = duration/0.005` 在轨迹上均匀推进，
|
||||
手势的真实速度由设备端决定。
|
||||
|
||||
拿到"时间"靠的是**点密度**：手指慢的地方采样点天然更密（单位长度上点更多），
|
||||
无论设备是按弧长均匀插值还是按段均匀插值，"点密的段落走得更久"都成立
|
||||
——所以把**录制的原始点 + 录制总时长**一起交给设备，速度曲线就能大致还原。
|
||||
"""
|
||||
import re
|
||||
import subprocess
|
||||
import threading
|
||||
import time
|
||||
|
||||
from core.adb_helper import ADB_PATH
|
||||
from core.logger import get_logger
|
||||
|
||||
_log = get_logger("core.gesture")
|
||||
|
||||
# 采样下限：手指在 16ms 内位移极小，比这更密的点只增加注入次数与延迟误差
|
||||
MIN_GAP_MS = 16
|
||||
MAX_POINTS = 240 # 单条手势的点数上限（约 4s @60Hz，够用且不让步骤 JSON 膨胀）
|
||||
MAX_REPLAY_POINTS = 40 # 回放时最多发给设备多少个点（实测每点开销大，40 点是画质/耗时折中）
|
||||
MIN_POINTS = 2
|
||||
|
||||
# getevent -lt 的行： [ 12345.678901] EV_ABS ABS_MT_POSITION_X 000003e8
|
||||
# 第 4 列不能限定十六进制：BTN_TOUCH 的值是 DOWN/UP 这类**键名**（含非十六进制字母），
|
||||
# 限定 [0-9a-fA-F]+ 会让这些行整个被跳过 → 老协议解析不出任何手势
|
||||
_LINE_RE = re.compile(r"\[\s*([\d.]+)\]\s+(\S+)\s+(\S+)\s+(\S+)")
|
||||
|
||||
# "像真触屏"的设备名特征（先挑这些）；明显是合成/虚拟的一律排除
|
||||
_TOUCH_HINTS = ("ts", "touch", "goodix", "fts", "synaptics", "novatek", "himax", "sec_touch")
|
||||
_VIRTUAL_HINTS = ("uinput", "virtual", "vitural", "sar", "gpio", "pon", "jack", "button")
|
||||
|
||||
|
||||
# ================== 点列处理 ==================
|
||||
|
||||
def clean_points(points, min_gap_ms=MIN_GAP_MS, max_points=MAX_POINTS):
|
||||
"""规范点列：丢掉过密的采样、限制总数，时间归零到第一点。
|
||||
|
||||
输入/输出都是 `[[x, y, t_ms], ...]`（t 为相对第一点的毫秒）。点数不足 2 返回 []。
|
||||
"""
|
||||
pts = []
|
||||
for p in points or []:
|
||||
try:
|
||||
pts.append([int(p[0]), int(p[1]), float(p[2])])
|
||||
except (TypeError, ValueError, IndexError):
|
||||
continue
|
||||
if len(pts) < MIN_POINTS:
|
||||
return []
|
||||
out = [pts[0]]
|
||||
for p in pts[1:-1]:
|
||||
if (p[2] - out[-1][2]) >= min_gap_ms:
|
||||
out.append(p)
|
||||
# 末点**必须保留**：它决定手势收尾在哪（快划时中间点稀，终点不能跟着丢）
|
||||
if pts[-1][:2] != out[-1][:2] or pts[-1][2] > out[-1][2]:
|
||||
out.append(pts[-1])
|
||||
if len(out) < MIN_POINTS:
|
||||
return []
|
||||
if len(out) > max_points: # 均匀抽稀，保住首尾
|
||||
step = len(out) / float(max_points)
|
||||
out = [out[min(len(out) - 1, int(i * step))] for i in range(max_points)]
|
||||
t0 = out[0][2]
|
||||
for p in out:
|
||||
p[2] = int(round(p[2] - t0))
|
||||
return out
|
||||
|
||||
|
||||
def duration_ms(points):
|
||||
return int(points[-1][2]) if points else 0
|
||||
|
||||
|
||||
def replay(d, points, speed=1.0):
|
||||
"""按录制的轨迹与时长回放（一次调用交给设备插值）。返回发给设备的参数。
|
||||
|
||||
点太多会让设备端逐点开销累积（实测每个点约 1s 量级），所以超过 MAX_REPLAY_POINTS
|
||||
就抽稀——路径形状基本不变，但快得多。首尾点一定保留。
|
||||
"""
|
||||
pts = clean_points(points, min_gap_ms=0) # 回放不再按时间丢点
|
||||
if len(pts) < MIN_POINTS:
|
||||
raise ValueError("手势点列无效（少于 2 个点）")
|
||||
if len(pts) > MAX_REPLAY_POINTS:
|
||||
n = MAX_REPLAY_POINTS
|
||||
step = (len(pts) - 1) / float(n - 1)
|
||||
pts = [pts[min(len(pts) - 1, int(round(i * step)))] for i in range(n)]
|
||||
speed = max(0.1, float(speed or 1.0))
|
||||
dur = max(0.05, duration_ms(pts) / 1000.0 / speed)
|
||||
xy = [[x, y] for x, y, _ in pts]
|
||||
try:
|
||||
d.swipe_points(xy, dur)
|
||||
except Exception as e: # 有的设备/agent 不支持多点注入
|
||||
_log.warning("swipe_points 回放失败（%s），退回直线滑动", e)
|
||||
d.swipe(xy[0][0], xy[0][1], xy[-1][0], xy[-1][1], dur)
|
||||
return {"points": len(pts), "duration": round(dur, 3)}
|
||||
|
||||
|
||||
# ================== getevent 解析（纯函数，好单测） ==================
|
||||
|
||||
def parse_getevent(lines, max_x, max_y, screen_w, screen_h):
|
||||
"""把 getevent 行流解析成若干条轨迹 `[[x, y, t_ms], ...]`（屏幕坐标）。
|
||||
|
||||
兼容两套协议：`BTN_TOUCH DOWN/UP`（老）与 `ABS_MT_TRACKING_ID`（新，-1=抬起）。
|
||||
只认 EV_ABS 的 X/Y；Y 到达时才落一个点（X/Y 是先后到达的两个事件）。
|
||||
"""
|
||||
strokes, cur = [], None
|
||||
lx = ly = 0
|
||||
t0 = None
|
||||
for ln in lines or []:
|
||||
m = _LINE_RE.search(ln)
|
||||
if not m:
|
||||
continue
|
||||
ts, kind, code, val = float(m.group(1)), m.group(2), m.group(3), m.group(4)
|
||||
if kind == "EV_ABS":
|
||||
if code == "ABS_MT_POSITION_X":
|
||||
lx = int(val, 16)
|
||||
elif code == "ABS_MT_POSITION_Y":
|
||||
ly = int(val, 16)
|
||||
if cur is not None:
|
||||
if t0 is None:
|
||||
t0 = ts
|
||||
cur.append([lx, ly, (ts - t0) * 1000.0])
|
||||
elif code == "ABS_MT_TRACKING_ID":
|
||||
if val.lower().endswith("ffffffff"): # 抬起
|
||||
if cur:
|
||||
strokes.append(cur)
|
||||
cur = None
|
||||
elif cur is None: # 按下
|
||||
cur = []
|
||||
elif kind == "EV_KEY" and code == "BTN_TOUCH":
|
||||
if val == "DOWN":
|
||||
if cur is None:
|
||||
cur = []
|
||||
else:
|
||||
if cur:
|
||||
strokes.append(cur)
|
||||
cur = None
|
||||
if cur:
|
||||
strokes.append(cur)
|
||||
|
||||
sx = float(screen_w) / max_x if max_x else 1.0
|
||||
sy = float(screen_h) / max_y if max_y else 1.0
|
||||
out = []
|
||||
for st in strokes:
|
||||
pts = [[int(round(x * sx)), int(round(y * sy)), t] for x, y, t in st]
|
||||
pts = clean_points(pts)
|
||||
if len(pts) >= MIN_POINTS:
|
||||
out.append(pts)
|
||||
return out
|
||||
|
||||
|
||||
def find_touch_device(serial, screen_w=0, screen_h=0):
|
||||
"""找真触屏设备，返回 (device_path, max_x, max_y)；找不到返回 (None, 0, 0)。
|
||||
|
||||
设备名里带 uinput/virtual/sar/gpio 的一律排除（那些是合成输入）；
|
||||
多个候选时优先名字像触屏的，其次挑坐标范围最接近屏幕的那个。
|
||||
"""
|
||||
from core.adb_helper import _adb
|
||||
out = _adb("-s", serial, "shell", "getevent -pl") or ""
|
||||
cands, dev, name = [], None, ""
|
||||
for ln in out.splitlines():
|
||||
s = ln.strip()
|
||||
if s.startswith("add device"):
|
||||
dev, name = s.split(":", 1)[-1].strip(), ""
|
||||
elif s.startswith("name:"):
|
||||
name = s.split(":", 1)[1].strip().strip('"')
|
||||
elif "ABS_MT_POSITION_X" in s or "ABS_MT_POSITION_Y" in s:
|
||||
m = re.search(r"max (\d+)", s)
|
||||
if not (dev and m):
|
||||
continue
|
||||
key = "x" if "POSITION_X" in s else "y"
|
||||
for c in cands:
|
||||
if c[0] == dev:
|
||||
c[1 if key == "x" else 2] = int(m.group(1))
|
||||
break
|
||||
else:
|
||||
mx = int(m.group(1)) if key == "x" else 0
|
||||
my = int(m.group(1)) if key == "y" else 0
|
||||
cands.append([dev, mx, my, name])
|
||||
real = [c for c in cands
|
||||
if not any(h in (c[3] or "").lower() for h in _VIRTUAL_HINTS)]
|
||||
pool = real or cands
|
||||
if not pool:
|
||||
return None, 0, 0
|
||||
|
||||
def score(c):
|
||||
hit = any(h in (c[3] or "").lower() for h in _TOUCH_HINTS)
|
||||
return (0 if hit else 1, abs(c[1] - (screen_w or c[1])) + abs(c[2] - (screen_h or c[2])))
|
||||
|
||||
pool.sort(key=score)
|
||||
best = pool[0]
|
||||
_log.info(f"[{serial}] 录制用手势设备: {best[0]} ({best[3]}) {best[1]}x{best[2]}"
|
||||
f"，候选 {[c[0] + '/' + (c[3] or '?') for c in cands]}")
|
||||
return best[0], best[1], best[2]
|
||||
|
||||
|
||||
# ================== 手机端录制 ==================
|
||||
|
||||
class PhoneRecorder:
|
||||
"""在**手机真触屏**上录手指轨迹（getevent 流式读取）。"""
|
||||
|
||||
def __init__(self, serial, screen_w=0, screen_h=0):
|
||||
self.serial = serial
|
||||
self.screen_w = int(screen_w or 0)
|
||||
self.screen_h = int(screen_h or 0)
|
||||
self.device = None
|
||||
self.max_x = self.max_y = 0
|
||||
self._proc = None
|
||||
self._lines = []
|
||||
self._thread = None
|
||||
self._stop = threading.Event()
|
||||
self._started = 0.0
|
||||
self.error = ""
|
||||
|
||||
def start(self):
|
||||
"""起 getevent 子进程并开始收行。失败抛异常（调用方转成用户可读错误）。"""
|
||||
self.device, self.max_x, self.max_y = find_touch_device(
|
||||
self.serial, self.screen_w, self.screen_h)
|
||||
if not self.device or not self.max_x:
|
||||
raise RuntimeError("没找到触屏设备节点，无法在手机上录制")
|
||||
self._proc = subprocess.Popen(
|
||||
[ADB_PATH, "-s", self.serial, "shell", f"getevent -lt {self.device}"],
|
||||
stdout=subprocess.PIPE, stderr=subprocess.STDOUT)
|
||||
self._started = time.time()
|
||||
self._thread = threading.Thread(target=self._pump, daemon=True)
|
||||
self._thread.start()
|
||||
_log.info(f"[{self.serial}] 手机录制已开始（{self.device}）")
|
||||
|
||||
def _pump(self):
|
||||
try:
|
||||
for raw in iter(self._proc.stdout.readline, b""):
|
||||
if self._stop.is_set():
|
||||
break
|
||||
self._lines.append(raw.decode("utf-8", "replace").rstrip())
|
||||
if len(self._lines) > 20000: # 防爆：留最近 2 万行足够解析
|
||||
del self._lines[:5000]
|
||||
except Exception as e:
|
||||
self.error = f"读取事件流失败: {e}"
|
||||
|
||||
def stop(self):
|
||||
"""停止并返回 `[[[x,y,t_ms], ...], ...]`（每条手势一段）。"""
|
||||
self._stop.set()
|
||||
try:
|
||||
if self._proc:
|
||||
self._proc.terminate()
|
||||
try:
|
||||
self._proc.wait(timeout=3)
|
||||
except Exception:
|
||||
self._proc.kill()
|
||||
except Exception:
|
||||
pass
|
||||
if self._thread:
|
||||
self._thread.join(timeout=2)
|
||||
w = self.screen_w or self.max_x
|
||||
h = self.screen_h or self.max_y
|
||||
gestures = parse_getevent(self._lines, self.max_x, self.max_y, w, h)
|
||||
_log.info(f"[{self.serial}] 手机录制结束：{len(self._lines)} 行事件 → "
|
||||
f"{len(gestures)} 条手势（{sum(len(g) for g in gestures)} 点）")
|
||||
return gestures
|
||||
@@ -0,0 +1,148 @@
|
||||
"""步骤默认值：新建步骤时预填的参数（后台「任务 → 动作配置」页可改）。
|
||||
|
||||
存在 `app_meta.step_defaults` 一个键里（**不建表** → 不碰备份覆盖红线），
|
||||
与 `notify_webhooks` 同一套做法：**出厂默认 + 用户覆盖**，读的时候合并。
|
||||
|
||||
为什么是"出厂 + 覆盖"而不是只存用户值：以后调整某个步骤的出厂默认时，
|
||||
**没配过的字段**会跟着变好，**配过的字段**不动——这符合直觉。
|
||||
|
||||
字段白名单 + 范围校验都在这里（`SPEC`）：写进库的东西必须能校验，否则手改
|
||||
JSON 塞个奇怪值进去，之后新建步骤就把它带进任务里了。
|
||||
|
||||
⚠️ 这里只管**编辑器预填**；`tasks/generic/task.py` 的 `STEP_TYPES` 仍是执行侧
|
||||
的默认值来源（AI/MCP 造步骤也用它）。两处都改了要一起同步。
|
||||
"""
|
||||
import json
|
||||
|
||||
# 出厂默认（前端「动作配置」页的初始内容，也是没配过时的回退）
|
||||
FACTORY = {
|
||||
"swipe": {"direction": "up", "duration_min": 0.25, "duration_max": 0.5,
|
||||
"distance_ratio": 0.6, "jitter": 0.15, "humanize": True},
|
||||
"click": {"wait_timeout": 2},
|
||||
"long_click": {"duration": 1.0, "wait_timeout": 2},
|
||||
"wait": {"min": 1.0, "max": 3.0},
|
||||
"key_event": {"key": "back"},
|
||||
"input_text": {"mode": "random", "texts": "你好\n有趣\n支持",
|
||||
"fixed_text": "", "clear_first": True},
|
||||
}
|
||||
|
||||
# 字段规格：("num", 最小, 最大) / ("bool",) / ("choice", 可选值) / ("text", 最大长度)
|
||||
SPEC = {
|
||||
"swipe": {
|
||||
"direction": ("choice", ("up", "down", "left", "right")),
|
||||
"duration_min": ("num", 0.05, 5.0),
|
||||
"duration_max": ("num", 0.05, 5.0),
|
||||
"distance_ratio": ("num", 0.1, 0.9),
|
||||
"jitter": ("num", 0.0, 0.4),
|
||||
"humanize": ("bool",),
|
||||
},
|
||||
"click": {"wait_timeout": ("num", 0.0, 30.0)},
|
||||
"long_click": {"duration": ("num", 0.2, 10.0),
|
||||
"wait_timeout": ("num", 0.0, 30.0)},
|
||||
"wait": {"min": ("num", 0.1, 600.0), "max": ("num", 0.1, 600.0)},
|
||||
"key_event": {"key": ("text", 30)},
|
||||
"input_text": {"mode": ("choice", ("random", "fixed")),
|
||||
"texts": ("text", 2000), "fixed_text": ("text", 200),
|
||||
"clear_first": ("bool",)},
|
||||
}
|
||||
|
||||
# 与 notifier 的键同住 app_meta（`key` 是 MySQL 保留字，读写只走 db_config.meta_get/set）
|
||||
META_KEY = "step_defaults"
|
||||
|
||||
|
||||
def factory():
|
||||
"""出厂默认的深拷贝（别让调用方改到常量）。"""
|
||||
return json.loads(json.dumps(FACTORY, ensure_ascii=False))
|
||||
|
||||
|
||||
def _clean_one(stype, raw):
|
||||
"""校验并清洗单个步骤类型的默认值；非法字段**丢弃**（不让脏值进库）。"""
|
||||
spec = SPEC.get(stype)
|
||||
if not spec or not isinstance(raw, dict):
|
||||
return None
|
||||
out = {}
|
||||
for k, v in raw.items():
|
||||
rule = spec.get(k)
|
||||
if not rule:
|
||||
continue
|
||||
kind = rule[0]
|
||||
try:
|
||||
if kind == "bool":
|
||||
out[k] = bool(v)
|
||||
elif kind == "num":
|
||||
n = float(v)
|
||||
lo, hi = rule[1], rule[2]
|
||||
out[k] = max(lo, min(hi, n))
|
||||
elif kind == "choice":
|
||||
s = str(v)
|
||||
if s in rule[1]:
|
||||
out[k] = s
|
||||
elif kind == "text":
|
||||
out[k] = str(v)[:rule[1]]
|
||||
except (TypeError, ValueError):
|
||||
continue
|
||||
return out or None
|
||||
|
||||
|
||||
def clean(raw):
|
||||
"""清洗整份配置（只保留白名单里的步骤类型与字段）。"""
|
||||
if not isinstance(raw, dict):
|
||||
return {}
|
||||
out = {}
|
||||
for stype in SPEC:
|
||||
got = _clean_one(stype, raw.get(stype))
|
||||
if got:
|
||||
out[stype] = got
|
||||
return out
|
||||
|
||||
|
||||
def merged(user):
|
||||
"""出厂默认 + 用户覆盖（按字段合并）。"""
|
||||
out = factory()
|
||||
for stype, vals in (clean(user) or {}).items():
|
||||
out.setdefault(stype, {}).update(vals)
|
||||
return out
|
||||
|
||||
|
||||
def get():
|
||||
"""当前生效的默认值（读库，必须在 app context 内调）。"""
|
||||
from core.db_config import meta_get
|
||||
raw = meta_get(META_KEY) or ""
|
||||
if not raw:
|
||||
return factory()
|
||||
try:
|
||||
return merged(json.loads(raw))
|
||||
except (ValueError, TypeError):
|
||||
return factory()
|
||||
|
||||
|
||||
def save(raw):
|
||||
"""保存（只落用户显式给的字段）。返回 (ok, msg)。
|
||||
|
||||
与出厂默认**相同的字段不入库**：这样以后调出厂值，这些字段能跟着更新
|
||||
——库里只留"用户真的改过"的部分。
|
||||
"""
|
||||
from core.db_config import meta_set
|
||||
cleaned = clean(raw)
|
||||
fac = FACTORY
|
||||
diff = {}
|
||||
for stype, vals in cleaned.items():
|
||||
keep = {k: v for k, v in vals.items()
|
||||
if not (stype in fac and k in fac[stype] and fac[stype][k] == v)}
|
||||
if keep:
|
||||
diff[stype] = keep
|
||||
try:
|
||||
meta_set(META_KEY, json.dumps(diff, ensure_ascii=False))
|
||||
except Exception as e:
|
||||
return False, f"保存失败: {e}"
|
||||
return True, "已保存"
|
||||
|
||||
|
||||
def as_payload():
|
||||
"""给前端的完整载荷：生效值 + 出厂值 + 字段规格（前端据此画表单与范围）。"""
|
||||
spec = {st: {k: (list(r[1]) if r[0] == "choice" else
|
||||
(list(r[1:]) if r[0] == "num" else None))
|
||||
for k, r in fields.items()}
|
||||
for st, fields in SPEC.items()}
|
||||
kinds = {st: {k: r[0] for k, r in fields.items()} for st, fields in SPEC.items()}
|
||||
return {"defaults": get(), "factory": factory(), "spec": spec, "kinds": kinds}
|
||||
+1
-1
@@ -184,7 +184,7 @@ mcp_agent.Agent.run_stream(prompt, serial, history, on_delta, on_tool, on_usage,
|
||||
从本轮**成功**的步骤轨迹里提炼命名动作（如「打开抖音」）。硬约束：
|
||||
|
||||
- **禁坐标**：带 `click_xy` 的步骤不会被沉淀（坐标换个设备/分辨率就失效）
|
||||
- 白名单步骤类型（20 种去掉 `click_xy`、`keep_screen`）
|
||||
- 白名单步骤类型（21 种去掉 `click_xy`、`keep_screen`、`gesture`）
|
||||
- 每类型有必填参数校验（如 `click` 必须有选择器）
|
||||
- 输入/产出限量：最多 10 步输入、最多 3 个动作 × 4 步
|
||||
- 保存时服务端**再校验一次**，含坐标的提交直接 400
|
||||
|
||||
+1
-1
@@ -9,7 +9,7 @@
|
||||
|
||||
平台已有两套能力，但互不相通：
|
||||
- **AI 控制台**：一句话 + 选设备 → 多模态 Agent（DeepSeek）通过 20 个 `de_*` 工具在手机上「边看边做」（截图看屏、`de_ui_tree` 拿元素树、`de_tap_element/de_tap_text` 语义点按），流式回放步骤。
|
||||
- **任务系统 + 步骤编辑器**：`generic_steps` 任务 = 一棵可嵌套步骤树（open_app/click/swipe/loop/group/if_el…20 种节点），在编辑器里拖拽编排、单步试跑、定时调度。
|
||||
- **任务系统 + 步骤编辑器**：`generic_steps` 任务 = 一棵可嵌套步骤树（open_app/click/swipe/loop/group/if_el…21 种节点），在编辑器里拖拽编排、单步试跑、定时调度。
|
||||
|
||||
目标：让**非工程用户用一句自然语言需求**（例：「创建一个每日养号刷视频的任务，每天 8:00-9:00 在 100.100.10.13 跑」）得到**一条可直接调度、可继续在现有步骤编辑器里手改的任务**。AI 先自己在设备上打开 App、看 UI 树、确认可点元素，再直接撰写编辑器的步骤 JSON。
|
||||
|
||||
|
||||
@@ -124,6 +124,10 @@
|
||||
| POST | `/api/custom_actions` | T | 新建自定义动作 |
|
||||
| PUT | `/api/custom_actions/<action_id>` | T | 更新自定义动作 |
|
||||
| DELETE | `/api/custom_actions/<action_id>` | T | 删除自定义动作 |
|
||||
| GET | `/api/step_defaults` | L | 步骤默认值（生效值 + 出厂值 + 字段规格，供「动作配置」页画表单） |
|
||||
| POST | `/api/step_defaults` | T | 保存步骤默认值（只落与出厂值不同的字段） |
|
||||
| POST | `/api/gesture/record/start` | D | 开始录制手势（手机端 getevent，返回 token） |
|
||||
| POST | `/api/gesture/record/stop` | D | 停止录制并取回轨迹 `gestures:[[[x,y,t_ms],…]]` |
|
||||
| GET | `/api/uiauto/status` | L | uiautodev 服务是否在跑 |
|
||||
| GET | `/api/uiauto/devices` | D | 抓元素可选设备 |
|
||||
| GET | `/api/uiauto/elements` | D | 设备 UI 元素树 |
|
||||
|
||||
@@ -277,6 +277,7 @@ UTF-8 等价于字节序）。
|
||||
| `deployment_id` | 库唯一标识（uuid），用于识别"这份备份来自哪个库" | 同上 |
|
||||
| `deployment_claimed_at` | 标签写入时间 | 同上 |
|
||||
| `notify_webhooks` | **通知 / Webhook 全部配置**（JSON：`{version, settings, webhooks[]}`，见 [NOTIFY.md](NOTIFY.md) §4）。**不建表**——新增/删除 webhook 都只改这一个键 | 系统 → 通知 页 |
|
||||
| `step_defaults` | **步骤默认值**（JSON：`{步骤类型: {字段: 值}}`，见 [TASK_DEV.md](TASK_DEV.md) §3.1）。新建步骤时预填用。**只存与出厂值不同的字段**，这样以后调出厂默认能跟着走 | 任务 → 动作配置 页 |
|
||||
|
||||
> ⚠️ `agent_api_key` 是**明文存储**，导出备份的 zip 里也含它——备份预览会固定给出"含敏感信息"告警。
|
||||
> **同理 `notify_webhooks` 里的 webhook URL 本身就是凭据**（企业微信 `?key=`、钉钉 `?access_token=`、
|
||||
|
||||
+1
-1
@@ -13,7 +13,7 @@
|
||||
| [ARCHITECTURE.md](ARCHITECTURE.md) | **架构详解**：分层、启动装配顺序、线程与并发模型、设备生命周期、任务调度链路、状态机、关键设计决策与扩展点 | 所有开发者（先读这篇） |
|
||||
| [DATA_MODEL.md](DATA_MODEL.md) | **数据模型**：SQLite 表与字段、schema 迁移、非模型表、`app_meta` 配置键、数据目录、备份覆盖清单 | 后端开发、运维 |
|
||||
| [API.md](API.md) | **HTTP 接口全量**：按蓝图分组的路由表、鉴权、请求/响应示例、非 JSON 响应、错误分支 | 前端开发、外部接入 |
|
||||
| [TASK_DEV.md](TASK_DEV.md) | **任务与步骤开发**：TaskType/TaskJob 概念、20 种步骤全表、公共巡检、选择器与定位、自定义动作、新增任务类型模板 | 写任务的开发 |
|
||||
| [TASK_DEV.md](TASK_DEV.md) | **任务与步骤开发**：TaskType/TaskJob 概念、21 种步骤全表、公共巡检、选择器与定位、自定义动作、新增任务类型模板 | 写任务的开发 |
|
||||
| [MCP.md](MCP.md) | **MCP 手机控制手册**：20 个 `de_*` 工具用法、写操作门控、坐标换算、接入示例 | 接入方、数字员工 |
|
||||
| [MCP_DESIGN.md](MCP_DESIGN.md) | **MCP 设计文档**：边界划分、错误码、白名单/审计设计、演进方向 | 平台开发者 |
|
||||
| [AI_CONSOLE.md](AI_CONSOLE.md) | **AI 控制台**：会话/SSE、经验库、动作库、巡检、Markdown 渲染、推理链、token 统计 | 使用者、平台开发者 |
|
||||
|
||||
+77
-2
@@ -10,7 +10,7 @@
|
||||
|
||||
- [1. 核心概念](#1-核心概念)
|
||||
- [2. 通用步骤任务 generic_steps](#2-通用步骤任务-generic_steps)
|
||||
- [3. 20 种步骤全表](#3-20-种步骤全表)
|
||||
- [3. 21 种步骤全表](#3-21-种步骤全表)（含 [3.1 步骤默认值与动作录制](#31-步骤默认值与动作录制任务--动作配置)）
|
||||
- [4. 容器步骤与公共参数](#4-容器步骤与公共参数)（含 [4.5 公共巡检](#45-公共巡检任务级独立于步骤画布)）
|
||||
- [5. 选择器与元素定位](#5-选择器与元素定位)
|
||||
- [6. 自定义动作](#6-自定义动作)
|
||||
@@ -108,7 +108,7 @@ from .generic import task # 触发 @register_task（当前唯一任务类型）
|
||||
|
||||
---
|
||||
|
||||
## 3. 20 种步骤全表
|
||||
## 3. 21 种步骤全表
|
||||
|
||||
> 参数与默认值以 `tasks/generic/task.py` 为准；前端 `STEP_LIB`（`static/admin/editor.js`）负责在编辑器里呈现这些字段。
|
||||
|
||||
@@ -134,6 +134,81 @@ from .generic import task # 触发 @register_task（当前唯一任务类型）
|
||||
| 18 | `if_el` | 条件判断 | `selector_type`、`selector_value`、`timeout`(3) | `ocr_click`(False) | `then` / `else` | 见 §4.2；条件类型除元素/OCR 外还支持 **屏幕状态**、**前台App** |
|
||||
| 19 | `notify` | 发通知 | — | `title`("")、`message`("")、`level`("info") | — | 推一条**自定义**通知（事件 `task.notify.custom`）：标题正文自己写，支持 `{device} {serial} {job} {time} {app} {screen}`；谁收到取决于 webhook 的事件订阅。两者都空则跳过 |
|
||||
| 20 | `stop_self` | 停止本设备 | — | `reason`("") | — | 只停**本设备**的任务（其它设备照跑）：置 worker 停止位，后续步骤不再执行，任务记成**被停止而不是失败**（不触发重试） |
|
||||
| 21 | `gesture` | 录制手势 | `points`（录出来的） | `speed`(1.0) | — | **纯录制回放**：把录下的轨迹点列 `[[x,y,t_ms],…]` 按原路径与时长交给设备插值，不做弧线/抖动/手速加工。与「滑动」是两套东西，见 §3.2 |
|
||||
|
||||
### 3.2 录制手势：**纯录制、纯回放**（`core/gesture.py`）
|
||||
|
||||
「滑动」和「录制手势」是**两套东西**，别混：
|
||||
|
||||
| | `swipe` 步骤 | `gesture` 步骤 |
|
||||
|---|---|---|
|
||||
| 存什么 | 方向 + 幅度 + 时长区间 | **完整轨迹点列** `[[x,y,t_ms], …]` |
|
||||
| 回放时 | 每次重新生成（弧线/抖动/本设备手速） | **照录制的路径与时长**，不做任何修饰 |
|
||||
| 适合 | 通用滑动，换设备也能用 | 你亲手划的、要求一模一样的手势 |
|
||||
|
||||
**为什么录制的不能走滑动那套**：滑动是"参数化"的——它按方向+幅度重新生成轨迹并叠
|
||||
拟人抖动，录下来的路径就被丢掉了。要"完全按我划的重放"，就只能存点列、回放点列。
|
||||
|
||||
**两个录制来源**（都在「录制手势」步骤的卡片上）：
|
||||
|
||||
| 来源 | 做法 | 特点 |
|
||||
|---|---|---|
|
||||
| ● 手机上录 | 点开始后**用手指在真机上划**，后端读 `getevent` 抓真触屏 | 最真实：录的是人手的原始轨迹。合成注入不会出现在真触屏节点上（实测），所以录到的只有人手 |
|
||||
| ● 网页上录 | 在弹窗画面里按住鼠标拖，前端按 8ms/3px 采样 | 不用碰手机，但有鼠标的机械感 |
|
||||
|
||||
要点与坑：
|
||||
|
||||
- **录制前必须唤醒设备**：息屏时 u2 抓 UI 树会从 3 秒退化到 **65 秒**（实测），截图还是黑的。
|
||||
前端在选好设备后会自动调一次亮屏（`/api/device/screen_all`）。
|
||||
- **回放是一次调用**（`d.swipe_points(points, duration)`），不是逐点注入：实测这台设备
|
||||
**单次触摸注入 RPC ≈190ms**，逐点回放 20 个点要 3.8 秒，比录的手势慢一个数量级。
|
||||
所以只能让设备自己插值——"时间"靠**点密度**还原（手指慢的地方采样点更密）。
|
||||
- 回放点数**抽稀到 40 个**（`MAX_REPLAY_POINTS`）：这台设备每个点开销大，40 是画质/耗时折中；
|
||||
首尾点一定保留。
|
||||
- 轨迹是**屏幕绝对像素**：换分辨率不同的设备可能偏，同型号/同分辨率最稳。
|
||||
- 点列存在步骤 JSON 里（一条 0.5s 的手势约 25 点 / 400 字节），不新建表。
|
||||
|
||||
### 3.1 步骤默认值与动作录制（任务 → 动作配置）
|
||||
|
||||
**步骤默认值**：新建步骤时预填的参数（`core/step_defaults.py`，存 `app_meta.step_defaults`）。
|
||||
在「任务 → 动作配置」页改，**只影响之后新建的步骤**，已有步骤里的参数不动。
|
||||
|
||||
覆盖范围：`swipe`（方向/时长区间/幅度/抖动/拟人）、`click`（等待超时）、
|
||||
`long_click`（长按时长/超时）、`wait`（时长区间）、`key_event`（按键）、
|
||||
`input_text`（模式/候选文案/是否清空）。
|
||||
|
||||
三条实现口径：
|
||||
|
||||
- **只存与出厂值不同的字段**——以后调出厂默认时，没配过的字段能跟着更新；
|
||||
- 字段**白名单 + 范围夹取**（`SPEC`）：越界值夹到边界、非法值直接丢弃，
|
||||
不会把手改 JSON 塞进来的脏值带进任务；
|
||||
- 前端 `_makeStep` 用 `STEP_LIB` 出厂值打底，再用这里的默认值覆盖，
|
||||
`/api/step_defaults` 在打开「任务」Tab 时加载一次。
|
||||
|
||||
**动作录制**（`static/admin/recorder.js`）：在设备画面上点/划/按键/输入，
|
||||
自动翻译成步骤。两个入口：
|
||||
|
||||
| 入口 | 模式 | 产出 |
|
||||
|---|---|---|
|
||||
| 动作配置页「● 录制动作」 | `action` | 录完存成**自定义动作**（进动作库，拖进任何任务画布） |
|
||||
| 步骤编辑器里滑动那一步的「● 录制手势」 | `gesture` | 只取最后一个手势，**回填当前滑动步骤**的方向/幅度/时长 |
|
||||
|
||||
翻译规则：
|
||||
|
||||
| 你做的 | 记成 | 依据 |
|
||||
|---|---|---|
|
||||
| 点一下 | `click`（选择器） | 从当前元素树里取**包含该点的最小可点击元素**，用它的 `suggested` 选择器 |
|
||||
| 点一下（没命中元素） | `click_xy` | 退化成屏幕百分比坐标 |
|
||||
| 按住划一下 | `swipe` | 方向（dx/dy 谁大取谁）、幅度（划距 ÷ 屏高/宽）、时长（你按住的毫秒数） |
|
||||
| 停顿（间隔 ≥1s） | `wait` | 真实间隔 ±15%，可在录制器里关掉「记录停顿」 |
|
||||
| 按键 / 输入 | `key_event` / `input_text` | 输入文字按**原样**记 `fixed_text`（不是随机候选） |
|
||||
|
||||
实现要点（改之前先看）：
|
||||
|
||||
- 画面与元素树走 **`/api/uiauto/snapshot` 一次取齐**（截图+元素背靠背取，避免"框落在旧位置"）；
|
||||
**每次操作后自动刷新**，所以下一次点击能用到最新的树。
|
||||
- 录制器**只负责翻译**，真正执行仍走 `/api/screen/{tap,swipe,key,text}`——和设备大屏同一套接口。
|
||||
- 录到的步骤在列表里可上移/下移/删除；存成动作走现有 `POST /api/custom_actions`（不新增表）。
|
||||
|
||||
---
|
||||
|
||||
|
||||
@@ -104,7 +104,8 @@ function showTab(name){
|
||||
if(_discoveryTimer){clearInterval(_discoveryTimer);_discoveryTimer=null;}
|
||||
// 按需加载数据
|
||||
if(name==='monitor'){loadMonitor();_monitorTimer=setInterval(loadMonitor,5000);}
|
||||
if(name==='tasks'){showSubTab('tasks',_activeSubs.tasks);loadTasks();loadCustomActions();}
|
||||
if(name==='tasks'){showSubTab('tasks',_activeSubs.tasks);loadTasks();loadCustomActions();
|
||||
if(typeof loadStepDefaults==='function')loadStepDefaults();}
|
||||
if(name==='tools'){showSubTab('tools',_activeSubs.tools);loadToolsDevices();loadAdbDevices();loadTailscaleDevices();loadApks();}
|
||||
if(name==='logs'){
|
||||
showSubTab('logs', _activeSubs.logs||'files'); // 文件日志 / 步骤明细
|
||||
@@ -134,6 +135,7 @@ function showSubTab(tabId, name){
|
||||
if(tabId==='system' && name==='notify' && typeof loadNotifyPanel==='function') loadNotifyPanel();
|
||||
if(tabId==='logs' && name==='files' && typeof loadLogs==='function') loadLogs();
|
||||
if(tabId==='logs' && name==='steps' && typeof loadStepLogs==='function') loadStepLogs(true);
|
||||
if(tabId==='tasks' && name==='actioncfg' && typeof loadActionConfig==='function') loadActionConfig();
|
||||
if(name==='groups' && typeof loadGroups==='function') loadGroups();
|
||||
if(name==='apks' && typeof loadAgentStore==='function') loadAgentStore();
|
||||
if(name==='devpool' && typeof loadDevPool==='function'){
|
||||
|
||||
+64
-2
@@ -21,8 +21,11 @@ var STEP_LIB=[
|
||||
{type:'group',label:'动作组',icon:'📦',cat:'flow',params:{children:[]}},
|
||||
{type:'if_el',label:'条件判断',icon:'❓',cat:'flow',params:{selector_type:'xpath',selector_value:'',timeout:3,ocr_click:false,then:[],else:[]}},
|
||||
{type:'notify',label:'发通知',icon:'🔔',cat:'flow',params:{title:'',message:'',level:'info'}},
|
||||
{type:'stop_self',label:'停止本设备',icon:'⛔',cat:'flow',params:{reason:''}}
|
||||
{type:'stop_self',label:'停止本设备',icon:'⛔',cat:'flow',params:{reason:''}},
|
||||
{type:'gesture',label:'录制手势',icon:'⏺',cat:'interact',params:{points:[],speed:1.0}}
|
||||
];
|
||||
// 步骤默认值（「任务 → 动作配置」页配置，见 core/step_defaults.py）；新建步骤时预填
|
||||
let _stepDefaults = null;
|
||||
var STEP_LIB_CATS=[['interact','交互操作'],['screen','屏幕与App'],['flow','流程控制']];
|
||||
var _customActions=[]; // 后端加载的自定义动作
|
||||
var _stepIdCounter=0;
|
||||
@@ -330,6 +333,7 @@ var _stepEditor={
|
||||
h+='<div class="form-group"><label>最短时长(秒)</label><input type="number" class="form-control" data-key="duration_min" value="'+(p.duration_min||0.25)+'" step="0.05" min="0.05"></div>';
|
||||
h+='<div class="form-group"><label>最长时长(秒)</label><input type="number" class="form-control" data-key="duration_max" value="'+(p.duration_max||0.50)+'" step="0.05" min="0.05"></div></div>';
|
||||
h+=_humanizeRowHtml(p,'<div class="form-group"><label>幅度(屏占比)</label><input type="number" class="form-control" data-key="distance_ratio" value="'+(p.distance_ratio!=null?p.distance_ratio:0.6)+'" step="0.05" min="0.1" max="0.9"></div>');
|
||||
h+='<div class="help">想要"照我划的那一下原样重放"，请用操作库里的《录制手势》步骤——那个是纯轨迹回放，不套这里的参数</div>';
|
||||
}else if(step.type==='click'){
|
||||
h+=_selRowHtml(p,'<div class="form-group"><label>等待超时(秒)</label><input type="number" class="form-control" data-key="wait_timeout" value="'+(p.wait_timeout||2)+'" step="0.5" min="0.5"></div>');
|
||||
}else if(step.type==='long_click'){
|
||||
@@ -343,6 +347,7 @@ var _stepEditor={
|
||||
'<div class="form-group"><label>幅度(屏占比)</label><input type="number" class="form-control" data-key="distance_ratio" value="'+(p.distance_ratio!=null?p.distance_ratio:0.6)+'" step="0.05" min="0.1" max="0.9"></div></div>'+
|
||||
'<div class="form-group form-check"><input type="checkbox" data-key="click_when_found" '+(p.click_when_found!==false?'checked':'')+'><label>找到后点击</label></div>'+
|
||||
_humanizeChkHtml(p)+
|
||||
|
||||
'<div class="help">上滑/下滑直到目标元素出现（每次滑动后检查一次），找不到则跳过继续。滑动同样走拟人轨迹</div>');
|
||||
}else if(step.type==='wait_el'){
|
||||
h+=_selRowHtml(p,'<div class="form-group"><label>最长等待(秒)</label><input type="number" class="form-control" data-key="timeout" value="'+(p.timeout||10)+'" min="1" max="120"></div>'+
|
||||
@@ -371,6 +376,22 @@ var _stepEditor={
|
||||
h+='<div class="form-group"><label>停止原因（可留空）</label><input type="text" class="form-control" data-key="reason" value="'+esc(p.reason||'')+'" placeholder="如 连续刷到广告"></div>';
|
||||
h+='<div class="help">只停<b>本设备</b>的任务，其它设备照常；后续步骤不再执行，任务记为「被停止」而不是失败'
|
||||
+'（不会触发失败重试）。常配合「条件判断」用：命中条件 → 先「发通知」再「停止本设备」</div>';
|
||||
}else if(step.type==='gesture'){
|
||||
var pts=(p.points||[]);
|
||||
var dur=pts.length?pts[pts.length-1][2]:0;
|
||||
h+='<div class="form-row"><div class="form-group" style="flex:2"><label>录制状态</label>'+
|
||||
'<div style="padding:6px 0;font-size:13px">'+(pts.length
|
||||
? (pts.length+' 个轨迹点 · 时长 '+(dur/1000).toFixed(2)+' 秒 · 起点 ('+pts[0][0]+','+pts[0][1]+')')
|
||||
: '<span class="text-muted">还没有录制</span>')+'</div></div>';
|
||||
if(_can('devices')){
|
||||
h+='<div class="form-group"><button class="btn btn-sm btn-primary" onclick="_stepEditor.recordInto(this,\'phone\')">● 手机上录</button></div>';
|
||||
h+='<div class="form-group"><button class="btn btn-sm" onclick="_stepEditor.recordInto(this,\'web\')">● 网页上录</button></div>';
|
||||
}
|
||||
h+='<div class="form-group"><label>速度</label><input type="number" class="form-control" data-key="speed" value="'+(p.speed!=null?p.speed:1.0)+'" step="0.1" min="0.1" max="5"></div>';
|
||||
h+='<div class="form-group"><button class="btn btn-sm btn-danger" onclick="_stepEditor.clearGesture(this)">清空</button></div></div>';
|
||||
h+='<div class="help">这是<b>纯录制回放</b>：路径与时长照录制原样重放，不做弧线/抖动/手速那套加工（和「滑动」步骤是两回事）。'
|
||||
+'<b>手机上录</b>=用手指在真机上划（最真实）；<b>网页上录</b>=在弹窗画面里按住鼠标拖。'
|
||||
+'轨迹按屏幕绝对像素存，换分辨率不同的设备可能偏，同型号/同分辨率最稳</div>';
|
||||
}else if(step.type==='wait'){
|
||||
h+='<div class="form-row"><div class="form-group"><label>最短(秒)</label><input type="number" class="form-control" data-key="min" value="'+(p.min||1.0)+'" step="0.5" min="0.1"></div>';
|
||||
h+='<div class="form-group"><label>最长(秒)</label><input type="number" class="form-control" data-key="max" value="'+(p.max||3.0)+'" step="0.5" min="0.1"></div></div>';
|
||||
@@ -507,7 +528,44 @@ var _stepEditor={
|
||||
}
|
||||
},
|
||||
_makeStep:function(lib){
|
||||
return {id:_newStepId(),type:lib.type,label:lib.label,params:JSON.parse(JSON.stringify(lib.params))};
|
||||
// 参数 = STEP_LIB 出厂值 ← 用户在「动作配置」里配的默认值（有才覆盖）
|
||||
var params=JSON.parse(JSON.stringify(lib.params));
|
||||
var d=_stepDefaults&&_stepDefaults[lib.type];
|
||||
if(d)Object.keys(d).forEach(function(k){ if(d[k]!==undefined)params[k]=d[k]; });
|
||||
return {id:_newStepId(),type:lib.type,label:lib.label,params:params};
|
||||
},
|
||||
// 递归找步骤对象（按 id）——写入录音必须改 _steps，不能只改 DOM
|
||||
_findStep:function(id,arr){
|
||||
var self=this, found=null;
|
||||
(arr||this._steps).forEach(function(st){
|
||||
if(found)return;
|
||||
if(st.id===id){found=st;return;}
|
||||
_childArrs(st).forEach(function(a){ if(!found)found=self._findStep(id,a); });
|
||||
});
|
||||
return found;
|
||||
},
|
||||
// 给某个「录制手势」步骤录制轨迹（src: 'phone' 手机上录 / 'web' 网页上录）
|
||||
recordInto:function(btn,src){
|
||||
var card=btn.closest('.step-card');
|
||||
var step=card?this._findStep(card.dataset.stepId):null;
|
||||
if(!step){showToast('找不到这个步骤','error');return;}
|
||||
if(typeof openRecorder!=='function'){showToast('录制器未加载','error');return;}
|
||||
var self=this;
|
||||
openRecorder({mode:'gesture', autoStartPhone: src==='phone', onDone:function(p,from){
|
||||
step.params={points:p.points,speed:p.speed||1.0};
|
||||
var dur=p.points.length?p.points[p.points.length-1][2]:0;
|
||||
step.label='录制手势 '+(from==='phone'?'手机':'网页')+' '+p.points.length+'点';
|
||||
self._renderCanvas();
|
||||
showToast('已录到 '+(p.points.length)+' 个点 / '+(dur/1000).toFixed(2)+' 秒','success');
|
||||
}});
|
||||
},
|
||||
clearGesture:function(btn){
|
||||
var card=btn.closest('.step-card');
|
||||
var step=card?this._findStep(card.dataset.stepId):null;
|
||||
if(!step){return;}
|
||||
step.params={points:[],speed:1.0};
|
||||
this._renderCanvas();
|
||||
showToast('已清空录制的轨迹','success');
|
||||
},
|
||||
// 测试此步骤：在选中设备上试执行当前步骤，验证选择器
|
||||
_testStep:function(btn){
|
||||
@@ -781,6 +839,10 @@ var _stepEditor={
|
||||
if(!s.params.text){
|
||||
warnings.push(name+' "'+label+'": 注入内容为空，步骤会跳过。');
|
||||
}
|
||||
}else if(s.type==='gesture'){
|
||||
if(!(s.params.points||[]).length){
|
||||
warnings.push(name+' "'+label+'": 录制手势还没有轨迹，执行时会被跳过。');
|
||||
}
|
||||
}else if(s.type==='if_el'){
|
||||
if(!s.params.selector_value){
|
||||
warnings.push(name+' "'+label+'": 条件判断的选择器为空，会直接走"未找到"分支。');
|
||||
|
||||
@@ -0,0 +1,418 @@
|
||||
// ================== 动作录制器 ==================
|
||||
// 在设备截图上操作（点/划/按键/输入），自动翻译成**步骤**：
|
||||
// · 点 → 命中元素就记「点击元素」(选择器)，抓不到就退化成「点击坐标」(百分比)
|
||||
// · 划 → 记**「录制手势」**：完整轨迹点列 [[x,y,t_ms],…]，**纯回放**，不再套滑动逻辑
|
||||
// · 停顿 → 可选记成「等待」（按真实间隔 ±15%）
|
||||
//
|
||||
// 两个录制来源：
|
||||
// · 网页上录：在这个窗口里按住鼠标拖（采样路径 + 时间）
|
||||
// · 手机上录：点「手机上录」后**用手指在真机上划**——后端读 getevent 抓真触屏，
|
||||
// 录到的是人手的真实轨迹（比在网页上模拟更真）
|
||||
//
|
||||
// 两种用法（同一个窗口）：
|
||||
// mode='action' —— 录一段，存成「自定义动作」（进动作库，能拖进任何任务）
|
||||
// mode='gesture' —— 录到的手势直接回填给调用方（步骤编辑器里的「录制手势」步骤）
|
||||
//
|
||||
// 元素树用 /api/uiauto/snapshot 一次取齐（截图 + 元素），**每次操作后自动刷新**，
|
||||
// 这样下一次点击就能用最新的树翻译选择器（抖音这种没有 id 的界面靠 text/desc）。
|
||||
|
||||
let _rec = null;
|
||||
|
||||
function _recEl() { return document.getElementById('rec-overlay'); }
|
||||
|
||||
async function openRecorder(opts) {
|
||||
opts = opts || {};
|
||||
if (_recEl()) return;
|
||||
_rec = {
|
||||
mode: opts.mode || 'action',
|
||||
serial: opts.serial || '',
|
||||
onDone: opts.onDone || null,
|
||||
steps: [],
|
||||
elements: [],
|
||||
devW: 0, devH: 0, imgURL: '',
|
||||
lastTs: 0, dragFrom: null, busy: false, keepPause: true,
|
||||
samples: [], phone: null, autoPhone: !!opts.autoStartPhone,
|
||||
shots: 0, unstable: false,
|
||||
};
|
||||
const ov = document.createElement('div');
|
||||
ov.id = 'rec-overlay';
|
||||
ov.className = 'modal-overlay show'; // .modal-overlay 默认 display:none，必须带 show
|
||||
ov.innerHTML =
|
||||
'<div class="modal-box rec-box">' +
|
||||
'<div class="rec-head">' +
|
||||
'<b>' + (_rec.mode === 'gesture' ? '录制手势' : '录制动作') + '</b>' +
|
||||
'<select id="rec-device" class="form-control" style="width:auto" onchange="recPickDevice()"></select>' +
|
||||
'<button class="btn btn-sm" onclick="recRefresh()">刷新画面</button>' +
|
||||
'<label class="form-check"><input type="checkbox" id="rec-pause" checked onchange="_rec.keepPause=this.checked"><span>记录停顿</span></label>' +
|
||||
'<span style="flex:1"></span>' +
|
||||
'<button class="btn btn-sm" onclick="closeRecorder()">关闭</button>' +
|
||||
'</div>' +
|
||||
'<div class="rec-body">' +
|
||||
'<div class="rec-stage" id="rec-stage"><div class="rec-hint">正在取画面…</div></div>' +
|
||||
'<div class="rec-side">' +
|
||||
'<div class="rec-ops">' +
|
||||
'<button class="btn btn-sm" onclick="recKey(\'back\')">返回</button>' +
|
||||
'<button class="btn btn-sm" onclick="recKey(\'home\')">Home</button>' +
|
||||
'<button class="btn btn-sm" onclick="recKey(\'recent\')">最近</button>' +
|
||||
'<button class="btn btn-sm" onclick="recKey(\'enter\')">回车</button>' +
|
||||
'</div>' +
|
||||
'<div class="rec-row"><input id="rec-text" class="form-control" placeholder="要输入的文字">' +
|
||||
'<button class="btn btn-sm" onclick="recText()">输入</button></div>' +
|
||||
'<div class="rec-ops">' +
|
||||
'<button class="btn btn-sm" onclick="recAddWait()">+ 等待</button>' +
|
||||
'<button class="btn btn-sm" onclick="recClear()">清空</button>' +
|
||||
'</div>' +
|
||||
'<div class="rec-list-title">录到的步骤 <span id="rec-count" class="text-muted"></span></div>' +
|
||||
'<div class="rec-list" id="rec-list"></div>' +
|
||||
'<div class="rec-foot" id="rec-foot"></div>' +
|
||||
'</div>' +
|
||||
'</div>' +
|
||||
'</div>';
|
||||
ov.addEventListener('mousedown', function (e) { if (e.target === ov) closeRecorder(); });
|
||||
document.body.appendChild(ov);
|
||||
await recLoadDevices();
|
||||
recRender();
|
||||
if (_rec.autoPhone && _rec.serial) recStartPhone();
|
||||
}
|
||||
|
||||
function closeRecorder() {
|
||||
const ov = _recEl();
|
||||
if (ov) ov.remove();
|
||||
_rec = null;
|
||||
}
|
||||
|
||||
async function recLoadDevices() {
|
||||
const sel = document.getElementById('rec-device');
|
||||
if (!sel) return;
|
||||
sel.innerHTML = '<option value="">选择设备…</option>';
|
||||
const r = await apiGet('/api/devices');
|
||||
if (!r || !r.ok) return;
|
||||
(r.items || []).forEach(function (d) {
|
||||
const o = document.createElement('option');
|
||||
o.value = d.serial;
|
||||
o.textContent = d.name ? (d.name + '（' + d.serial + '）') : d.serial;
|
||||
sel.appendChild(o);
|
||||
});
|
||||
if (_rec.serial) { sel.value = _rec.serial; }
|
||||
else if ((r.items || []).length) { sel.value = r.items[0].serial; _rec.serial = r.items[0].serial; }
|
||||
if (_rec.serial) { await recWake(); recRefresh(); }
|
||||
}
|
||||
|
||||
async function recPickDevice() {
|
||||
const sel = document.getElementById('rec-device');
|
||||
_rec.serial = sel ? sel.value : '';
|
||||
_rec.elements = [];
|
||||
recRender();
|
||||
if (_rec.serial) { await recWake(); recRefresh(); }
|
||||
}
|
||||
|
||||
// 录制前先唤醒设备：**息屏时 u2 抓 UI 树会退化到几十秒**（实测 65s，唤醒后 3.3s），
|
||||
// 截图也是一片黑。唤醒是幂等的，多调一次没有副作用。
|
||||
async function recWake() {
|
||||
if (!_rec || !_rec.serial) return;
|
||||
try {
|
||||
const r = await apiPost('/api/device/screen_all', { mode: 'on', serials: [_rec.serial] });
|
||||
if (r && r.ok) await new Promise(function (z) { setTimeout(z, 800); });
|
||||
} catch (e) { /* 唤醒失败也继续，用户自己会看到黑屏 */ }
|
||||
}
|
||||
|
||||
// 取一张快照：截图 + 元素树（同一个连接背靠背取，避免框错位）
|
||||
async function recRefresh() {
|
||||
if (!_rec || !_rec.serial) return;
|
||||
const r = await apiGet('/api/uiauto/snapshot?serial=' + encodeURIComponent(_rec.serial));
|
||||
if (!r || !r.ok) {
|
||||
const st = document.getElementById('rec-stage');
|
||||
if (st) st.innerHTML = '<div class="rec-hint">取画面失败：' + esc((r && r.error) || '未知错误') + '</div>';
|
||||
return;
|
||||
}
|
||||
_rec.imgURL = r.image || '';
|
||||
_rec.devW = r.width || 0;
|
||||
_rec.devH = r.height || 0;
|
||||
_rec.elements = r.elements || [];
|
||||
_rec.unstable = !!r.unstable;
|
||||
_rec.shots++;
|
||||
recPaint();
|
||||
}
|
||||
|
||||
function recPaint() {
|
||||
const st = document.getElementById('rec-stage');
|
||||
if (!st) return;
|
||||
if (!_rec.imgURL) { st.innerHTML = '<div class="rec-hint">正在取画面…</div>'; return; }
|
||||
st.innerHTML = '<img id="rec-img" src="' + _rec.imgURL + '" draggable="false">' +
|
||||
(_rec.unstable ? '<div class="rec-warn">画面在变化，这次框可能不准</div>' : '');
|
||||
const img = document.getElementById('rec-img');
|
||||
img.addEventListener('mousedown', recDown);
|
||||
img.addEventListener('mousemove', recMove);
|
||||
img.addEventListener('mouseup', recUp);
|
||||
img.addEventListener('mouseleave', function () { _rec.dragFrom = null; recPaintOverlay(); });
|
||||
recPaintOverlay();
|
||||
}
|
||||
|
||||
// 拖动中的轨迹提示（录制时能看见自己划到哪）
|
||||
function recPaintOverlay() {
|
||||
const st = document.getElementById('rec-stage');
|
||||
if (!st) return;
|
||||
let cv = document.getElementById('rec-overlay-line');
|
||||
if (!cv) {
|
||||
cv = document.createElement('div');
|
||||
cv.id = 'rec-overlay-line';
|
||||
cv.className = 'rec-line';
|
||||
st.appendChild(cv);
|
||||
}
|
||||
if (!_rec.dragFrom) { cv.style.display = 'none'; return; }
|
||||
cv.style.display = 'block';
|
||||
const a = _rec.dragFrom;
|
||||
const b = _rec.dragTo || a;
|
||||
const x = Math.min(a.x, b.x), y = Math.min(a.y, b.y);
|
||||
cv.style.left = x + 'px'; cv.style.top = y + 'px';
|
||||
cv.style.width = Math.abs(b.x - a.x) + 'px';
|
||||
cv.style.height = Math.abs(b.y - a.y) + 'px';
|
||||
}
|
||||
|
||||
function _recPos(e) {
|
||||
const img = document.getElementById('rec-img');
|
||||
if (!img) return null;
|
||||
const r = img.getBoundingClientRect();
|
||||
const x = e.clientX - r.left, y = e.clientY - r.top;
|
||||
if (x < 0 || y < 0 || x > r.width || y > r.height) return null;
|
||||
// 显示坐标 → 设备坐标
|
||||
const sx = _rec.devW / r.width, sy = _rec.devH / r.height;
|
||||
return { x: Math.round(x * sx), y: Math.round(y * sy), rx: x, ry: y, cssW: r.width, cssH: r.height };
|
||||
}
|
||||
|
||||
function recDown(e) {
|
||||
if (_rec.busy) return;
|
||||
const p = _recPos(e);
|
||||
if (!p) return;
|
||||
_rec.dragFrom = p; _rec.dragTo = null; _rec.dragT0 = Date.now();
|
||||
// 采样：拖动过程中把每个点连时间一起记下来（这就是"轨迹"）
|
||||
_rec.samples = [[p.x, p.y, 0]];
|
||||
recPaintOverlay();
|
||||
}
|
||||
|
||||
function recMove(e) {
|
||||
if (!_rec.dragFrom) return;
|
||||
const p = _recPos(e);
|
||||
if (!p) return;
|
||||
_rec.dragTo = p;
|
||||
const t = Date.now() - _rec.dragT0;
|
||||
const last = _rec.samples[_rec.samples.length - 1];
|
||||
if (!last || t - last[2] >= 8 || Math.abs(p.x - last[0]) + Math.abs(p.y - last[1]) >= 3) {
|
||||
if (_rec.samples.length < 400) _rec.samples.push([p.x, p.y, t]);
|
||||
}
|
||||
recPaintOverlay();
|
||||
}
|
||||
|
||||
async function recUp(e) {
|
||||
if (!_rec.dragFrom || _rec.busy) { _rec.dragFrom = null; return; }
|
||||
const a = _rec.dragFrom;
|
||||
const b = _recPos(e) || a;
|
||||
const durMs = Date.now() - _rec.dragT0;
|
||||
_rec.dragFrom = null;
|
||||
recPaintOverlay();
|
||||
const dist = Math.hypot(b.x - a.x, b.y - a.y);
|
||||
if (dist < 12 || durMs < 60) { // 视为点击
|
||||
_rec.samples = [];
|
||||
await recTap(a.x, a.y);
|
||||
} else {
|
||||
const pts = _rec.samples.slice();
|
||||
pts.push([b.x, b.y, durMs]); // 末点补上（决定手势收尾位置）
|
||||
_rec.samples = [];
|
||||
recPushGesture(pts, 'web');
|
||||
await recRefresh();
|
||||
}
|
||||
}
|
||||
|
||||
// 一条录到的轨迹 → 「录制手势」步骤（**纯回放**：点列+时长原样存下，不再套滑动逻辑）
|
||||
function recPushGesture(points, src) {
|
||||
if (!points || points.length < 2) { showToast('没录到有效轨迹（太短了）', 'error'); return; }
|
||||
if (_rec.mode === 'gesture') { // 回填模式：直接交给调用方，收工
|
||||
const cb = _rec.onDone;
|
||||
closeRecorder();
|
||||
if (cb) cb({ points: points, speed: 1.0 }, src);
|
||||
return;
|
||||
}
|
||||
const dur = points[points.length - 1][2] || 0;
|
||||
_recPush({ type: 'gesture',
|
||||
label: '录制手势 ' + points.length + '点/' + (dur / 1000).toFixed(1) + 's',
|
||||
params: { points: points, speed: 1.0 } });
|
||||
}
|
||||
|
||||
// ---------- 手机端录制（getevent 抓真手指） ----------
|
||||
async function recStartPhone() {
|
||||
if (!_rec.serial) { showToast('先选设备', 'error'); return; }
|
||||
const r = await apiPost('/api/gesture/record/start', { serial: _rec.serial });
|
||||
if (!r || !r.ok) { showToast((r && r.error) || '开始失败', 'error'); return; }
|
||||
_rec.phone = { token: r.token, t0: Date.now() };
|
||||
showToast('开始录制——现在用手指在手机上划', 'success');
|
||||
recRenderFoot();
|
||||
}
|
||||
|
||||
async function recStopPhone() {
|
||||
if (!_rec.phone) return;
|
||||
const token = _rec.phone.token;
|
||||
_rec.phone = null;
|
||||
const r = await apiPost('/api/gesture/record/stop', { token: token });
|
||||
if (!r || !r.ok) { showToast((r && r.error) || '停止失败', 'error'); recRenderFoot(); return; }
|
||||
const gs = r.gestures || [];
|
||||
if (!gs.length) {
|
||||
showToast('没录到手势——请在手机屏幕上用指划一下（不是点）', 'error');
|
||||
recRenderFoot(); return;
|
||||
}
|
||||
if (_rec.mode === 'gesture') { recPushGesture(gs[gs.length - 1], 'phone'); return; }
|
||||
gs.forEach(function (g) { recPushGesture(g, 'phone'); });
|
||||
showToast('录到 ' + gs.length + ' 个手势', 'success');
|
||||
recRenderFoot();
|
||||
recRefresh();
|
||||
}
|
||||
|
||||
// ---------- 翻译：点击 → 步骤 ----------
|
||||
function _recFindElement(x, y) {
|
||||
// 取包含该点的最小元素；优先可点击的（和 /api/screen/tap 的 snap 同一口径）
|
||||
let best = null, bestClick = null;
|
||||
(_rec.elements || []).forEach(function (el) {
|
||||
const m = (el.bounds || '').match(/\[(\d+),(\d+)\]\[(\d+),(\d+)\]/);
|
||||
if (!m) return;
|
||||
const x1 = +m[1], y1 = +m[2], x2 = +m[3], y2 = +m[4];
|
||||
if (!(x1 <= x && x <= x2 && y1 <= y && y <= y2)) return;
|
||||
const area = (x2 - x1) * (y2 - y1);
|
||||
const cand = { el: el, area: area, cx: Math.round((x1 + x2) / 2), cy: Math.round((y1 + y2) / 2) };
|
||||
if (!best || area < best.area) best = cand;
|
||||
if (String(el.clickable) === 'true' && (!bestClick || area < bestClick.area)) bestClick = cand;
|
||||
});
|
||||
return bestClick || best;
|
||||
}
|
||||
|
||||
async function recTap(x, y) {
|
||||
if (!_rec || _rec.busy) return;
|
||||
_rec.busy = true;
|
||||
try {
|
||||
const hit = _recFindElement(x, y);
|
||||
let step;
|
||||
if (hit && hit.el.suggested && hit.el.suggested.value) {
|
||||
step = { type: 'click', label: '点击' + _recShort(hit.el),
|
||||
params: { selector_type: hit.el.suggested.type || 'xpath',
|
||||
selector_value: hit.el.suggested.value, wait_timeout: 2 } };
|
||||
} else {
|
||||
step = { type: 'click_xy', label: '点击坐标',
|
||||
params: { x: Math.round(x / _rec.devW * 100), y: Math.round(y / _rec.devH * 100) } };
|
||||
}
|
||||
_recPush(step);
|
||||
const r = await apiPost('/api/screen/tap', { serial: _rec.serial, x: x, y: y, snap: 1 });
|
||||
if (r && !r.ok) showToast((r.error || '点击失败'), 'error');
|
||||
await recRefresh();
|
||||
} finally { _rec.busy = false; }
|
||||
}
|
||||
|
||||
function _recShort(el) {
|
||||
const s = el.text || el.description || el.name || el.resource_id || '';
|
||||
return s ? ('「' + String(s).slice(0, 12) + '」') : '';
|
||||
}
|
||||
|
||||
async function recKey(key) {
|
||||
if (!_rec || !_rec.serial) { showToast('先选设备', 'error'); return; }
|
||||
_recPush({ type: 'key_event', label: '按键 ' + key, params: { key: key } });
|
||||
const r = await apiPost('/api/screen/key', { serial: _rec.serial, key: key });
|
||||
if (r && !r.ok) showToast((r.error || '按键失败'), 'error');
|
||||
await recRefresh();
|
||||
}
|
||||
|
||||
async function recText() {
|
||||
if (!_rec || !_rec.serial) { showToast('先选设备', 'error'); return; }
|
||||
const inp = document.getElementById('rec-text');
|
||||
const t = (inp ? inp.value : '').trim();
|
||||
if (!t) { showToast('先填要输入的文字', 'error'); return; }
|
||||
_recPush({ type: 'input_text', label: '输入 ' + t.slice(0, 8),
|
||||
params: { mode: 'fixed', fixed_text: t, clear_first: false } });
|
||||
const r = await apiPost('/api/screen/text', { serial: _rec.serial, text: t });
|
||||
if (r && !r.ok) showToast((r.error || '输入失败'), 'error');
|
||||
if (inp) inp.value = '';
|
||||
await recRefresh();
|
||||
}
|
||||
|
||||
function recAddWait() {
|
||||
_recPush({ type: 'wait', label: '等待', params: { min: 1, max: 3 } });
|
||||
}
|
||||
|
||||
// 入列：按需自动补一条「等待」（真实停顿，±15%），并刷新列表
|
||||
function _recPush(step) {
|
||||
const now = Date.now();
|
||||
if (_rec.keepPause && _rec.lastTs && step.type !== 'wait') {
|
||||
const gap = (now - _rec.lastTs) / 1000;
|
||||
if (gap >= 1.0) {
|
||||
_rec.steps.push({ id: 'rec_' + Math.random().toString(36).slice(2, 8),
|
||||
type: 'wait', label: '等待 ' + gap.toFixed(1) + 's',
|
||||
params: { min: +(gap * 0.85).toFixed(1), max: +(gap * 1.15).toFixed(1) } });
|
||||
}
|
||||
}
|
||||
step.id = 'rec_' + Math.random().toString(36).slice(2, 8);
|
||||
_rec.steps.push(step);
|
||||
_rec.lastTs = now;
|
||||
recRender();
|
||||
}
|
||||
|
||||
function recClear() { _rec.steps = []; _rec.lastTs = 0; recRender(); }
|
||||
|
||||
function recDel(i) { _rec.steps.splice(i, 1); recRender(); }
|
||||
function recMove2(i, d) {
|
||||
const j = i + d;
|
||||
if (j < 0 || j >= _rec.steps.length) return;
|
||||
const t = _rec.steps[i]; _rec.steps[i] = _rec.steps[j]; _rec.steps[j] = t;
|
||||
recRender();
|
||||
}
|
||||
|
||||
function recRender() {
|
||||
const list = document.getElementById('rec-list');
|
||||
if (!list) return;
|
||||
const steps = _rec ? _rec.steps : [];
|
||||
document.getElementById('rec-count').textContent = steps.length ? ('共 ' + steps.length + ' 步') : '';
|
||||
list.innerHTML = steps.map(function (s, i) {
|
||||
return '<div class="rec-item"><span class="rec-idx">' + (i + 1) + '</span>' +
|
||||
'<span class="rec-label">' + esc(s.label || s.type) + '</span>' +
|
||||
'<span class="rec-ops2">' +
|
||||
'<button class="btn btn-xs" onclick="recMove2(' + i + ',-1)" title="上移">↑</button>' +
|
||||
'<button class="btn btn-xs" onclick="recMove2(' + i + ',1)" title="下移">↓</button>' +
|
||||
'<button class="btn btn-xs btn-danger" onclick="recDel(' + i + ')">×</button>' +
|
||||
'</span></div>';
|
||||
}).join('') || '<div class="text-muted" style="font-size:12px;padding:6px 0">还没有录到步骤——在左边画面上点一下或划一下试试</div>';
|
||||
recRenderFoot();
|
||||
}
|
||||
|
||||
function recRenderFoot() {
|
||||
const foot = document.getElementById('rec-foot');
|
||||
if (!foot) return;
|
||||
const steps = _rec.steps;
|
||||
if (_rec.mode === 'gesture') {
|
||||
// 回填模式：录到就立刻填回那个步骤，不用再点确认
|
||||
foot.innerHTML = _rec.phone
|
||||
? '<button class="btn btn-danger" onclick="recStopPhone()">■ 停止并填入</button>'
|
||||
: '<button class="btn btn-primary" onclick="recStartPhone()">● 手机上录</button>' +
|
||||
'<div class="help">或在左边画面上按住鼠标拖一下——录到就立刻填进那一步</div>';
|
||||
return;
|
||||
}
|
||||
const phoneBtn = _rec.phone
|
||||
? '<button class="btn btn-danger" onclick="recStopPhone()">■ 停止手机录制</button>'
|
||||
: '<button class="btn btn-primary" onclick="recStartPhone()">● 手机上录</button>';
|
||||
foot.innerHTML =
|
||||
'<div class="rec-row" style="margin-bottom:6px">' + phoneBtn +
|
||||
'<span class="help" style="margin:0">' + (_rec.phone
|
||||
? '正在录：请用手指在手机屏幕上划，划完点「停止」'
|
||||
: '手机上用手指划 = 录真手指轨迹；在左边画面上拖 = 网页录制') + '</span></div>' +
|
||||
'<div class="rec-row"><input id="rec-name" class="form-control" placeholder="动作名，如「抖音-进评论」">' +
|
||||
'<button class="btn btn-primary" onclick="recSaveAsAction()">存成动作</button></div>' +
|
||||
'<div class="help">划出来的每一段都是一条「录制手势」步骤（按原路径与时长回放，不再套滑动逻辑）</div>';
|
||||
}
|
||||
|
||||
async function recSaveAsAction() {
|
||||
const el = document.getElementById('rec-name');
|
||||
const name = (el ? el.value : '').trim();
|
||||
if (!name) { showToast('先给动作起个名', 'error'); return; }
|
||||
const steps = _rec.steps.filter(function (s) { return s.type !== 'wait' || true; })
|
||||
.map(function (s) { return { type: s.type, label: s.label, params: s.params }; });
|
||||
if (!steps.length) { showToast('还没有录到步骤', 'error'); return; }
|
||||
const r = await apiPost('/api/custom_actions', { name: name, icon: '⏺', steps: steps });
|
||||
if (!r || !r.ok) { showToast((r && r.error) || '保存失败', 'error'); return; }
|
||||
showToast('已存成动作「' + name + '」（' + steps.length + ' 步）', 'success');
|
||||
if (typeof loadCustomActions === 'function') loadCustomActions();
|
||||
closeRecorder();
|
||||
}
|
||||
@@ -503,3 +503,103 @@ function closeActionModal(){
|
||||
document.getElementById('action-modal-overlay').classList.remove('show');
|
||||
}
|
||||
|
||||
|
||||
// ================== 动作配置：步骤默认值 ==================
|
||||
// 存 app_meta.step_defaults（见 core/step_defaults.py）；只影响**之后新建**的步骤。
|
||||
const _CFG_LABELS = {
|
||||
swipe: '滑动', click: '点击元素', long_click: '长按元素', wait: '等待',
|
||||
key_event: '按键', input_text: '输入文字',
|
||||
};
|
||||
const _CFG_FIELD_LABELS = {
|
||||
direction: '方向', duration_min: '最短时长(秒)', duration_max: '最长时长(秒)',
|
||||
distance_ratio: '幅度(屏占比)', jitter: '抖动幅度', humanize: '拟人轨迹',
|
||||
wait_timeout: '等待超时(秒)', duration: '长按时长(秒)', min: '最短(秒)',
|
||||
max: '最长(秒)', key: '按键', mode: '输入模式', texts: '候选文案(每行一条)',
|
||||
fixed_text: '固定文字', clear_first: '输入前清空',
|
||||
};
|
||||
const _CFG_DIR_LABELS = {up:'上滑', down:'下滑', left:'左滑', right:'右滑'};
|
||||
let _cfgPayload = null;
|
||||
|
||||
// 取一次步骤默认值缓存在 _stepDefaults（editor.js 的 _makeStep 用它预填新步骤）
|
||||
async function loadStepDefaults(force) {
|
||||
if (_stepDefaults && !force) return _stepDefaults;
|
||||
const r = await apiGet('/api/step_defaults');
|
||||
_stepDefaults = (r && r.ok) ? (r.defaults || {}) : {};
|
||||
return _stepDefaults;
|
||||
}
|
||||
|
||||
async function loadActionConfig(force) {
|
||||
const box = document.getElementById('cfg-forms');
|
||||
if (!box) return;
|
||||
if (_cfgPayload && !force) { renderStepDefaults(); return; }
|
||||
box.innerHTML = '<div class="text-muted" style="padding:10px">加载中…</div>';
|
||||
const r = await apiGet('/api/step_defaults');
|
||||
if (!r || !r.ok) { box.innerHTML = '<div class="text-muted" style="padding:10px">加载失败</div>'; return; }
|
||||
_cfgPayload = r;
|
||||
_stepDefaults = r.defaults || {}; // 编辑器新建步骤时预填用
|
||||
renderStepDefaults();
|
||||
}
|
||||
|
||||
function renderStepDefaults() {
|
||||
const box = document.getElementById('cfg-forms');
|
||||
if (!box || !_cfgPayload) return;
|
||||
const d = _cfgPayload.defaults || {}, kinds = _cfgPayload.kinds || {}, spec = _cfgPayload.spec || {};
|
||||
box.innerHTML = Object.keys(d).map(function (st) {
|
||||
const fields = Object.keys(kinds[st] || {}).map(function (k) {
|
||||
const kind = kinds[st][k], v = d[st][k], rule = spec[st] ? spec[st][k] : null;
|
||||
let inp;
|
||||
if (kind === 'bool') {
|
||||
inp = '<label class="form-check"><input type="checkbox" data-st="' + st + '" data-k="' + k + '"' +
|
||||
(v ? ' checked' : '') + '><span>' + (_CFG_FIELD_LABELS[k] || k) + '</span></label>';
|
||||
return inp;
|
||||
}
|
||||
if (kind === 'choice') {
|
||||
inp = '<select class="form-control" data-st="' + st + '" data-k="' + k + '">' +
|
||||
(rule || []).map(function (o) {
|
||||
const lab = _CFG_DIR_LABELS[o] || (o === 'random' ? '随机' : o === 'fixed' ? '指定' : o);
|
||||
return '<option value="' + esc(o) + '"' + (v === o ? ' selected' : '') + '>' + esc(lab) + '</option>';
|
||||
}).join('') + '</select>';
|
||||
} else if (kind === 'num') {
|
||||
inp = '<input type="number" class="form-control" data-st="' + st + '" data-k="' + k + '" value="' + esc(v) +
|
||||
'" step="0.05" min="' + (rule ? rule[0] : '') + '" max="' + (rule ? rule[1] : '') + '">';
|
||||
} else if (k === 'texts') {
|
||||
inp = '<textarea class="form-control" rows="3" data-st="' + st + '" data-k="' + k + '">' + esc(v) + '</textarea>';
|
||||
} else {
|
||||
inp = '<input type="text" class="form-control" data-st="' + st + '" data-k="' + k + '" value="' + esc(v) + '">';
|
||||
}
|
||||
return '<div class="pg"><label>' + (_CFG_FIELD_LABELS[k] || k) + '</label>' + inp + '</div>';
|
||||
}).join('');
|
||||
return '<div class="cfg-card"><h4>' + (_CFG_LABELS[st] || st) + ' <span class="text-muted" style="font-weight:400">' + st + '</span></h4>' +
|
||||
'<div class="cfg-row">' + fields + '</div></div>';
|
||||
}).join('');
|
||||
document.getElementById('cfg-hint').textContent = '';
|
||||
}
|
||||
|
||||
function collectStepDefaults() {
|
||||
const out = {};
|
||||
document.querySelectorAll('#cfg-forms [data-st]').forEach(function (el) {
|
||||
const st = el.dataset.st, k = el.dataset.k;
|
||||
out[st] = out[st] || {};
|
||||
if (el.type === 'checkbox') out[st][k] = el.checked;
|
||||
else if (el.type === 'number') out[st][k] = parseFloat(el.value);
|
||||
else out[st][k] = el.value;
|
||||
});
|
||||
return out;
|
||||
}
|
||||
|
||||
async function saveStepDefaults() {
|
||||
const r = await apiPost('/api/step_defaults', { defaults: collectStepDefaults() });
|
||||
if (!r || !r.ok) { showToast((r && r.error) || '保存失败', 'error'); return; }
|
||||
_cfgPayload = r;
|
||||
_stepDefaults = r.defaults || {};
|
||||
showToast('默认值已保存（只影响之后新建的步骤）', 'success');
|
||||
document.getElementById('cfg-hint').textContent = '已保存 ' + new Date().toLocaleTimeString();
|
||||
renderStepDefaults();
|
||||
}
|
||||
|
||||
function resetStepDefaults() {
|
||||
if (!_cfgPayload) return;
|
||||
if (!confirm('恢复成出厂默认？（只影响这张表单，点「保存默认值」才真正生效）')) return;
|
||||
_cfgPayload.defaults = JSON.parse(JSON.stringify(_cfgPayload.factory || {}));
|
||||
renderStepDefaults();
|
||||
}
|
||||
|
||||
+23
-2
@@ -28,6 +28,7 @@ worker 按 steps 顺序执行，支持 loop 步骤循环、停止信号、进度
|
||||
wait - 等待时长
|
||||
notify - 发自定义通知（标题/正文自己写，推送 webhook）
|
||||
stop_self - 停止本设备的任务（其它设备不受影响）
|
||||
gesture - 回放录制的手势轨迹（纯录制：路径与时长照录制，见 core/gesture.py）
|
||||
loop - 循环块（含 children 步骤列表 + max_iterations）
|
||||
group - 动作组（含 children 步骤列表，按序执行一次，可折叠复用）
|
||||
"""
|
||||
@@ -40,7 +41,7 @@ from core.device_worker import BaseWorker, _update_status
|
||||
from core.u2_helper import (ensure_app_running, wait_for_app_home, random_sleep,
|
||||
screen_is_on, current_package)
|
||||
from core.logger import get_logger
|
||||
from core import notifier, step_log, humanize, patrol
|
||||
from core import notifier, step_log, humanize, patrol, gesture
|
||||
|
||||
_log = get_logger("task.generic")
|
||||
|
||||
@@ -117,6 +118,8 @@ STEP_TYPES = [
|
||||
"params": {"title": "", "message": "", "level": "info"}},
|
||||
{"type": "stop_self", "label": "停止本设备", "icon": "⛔",
|
||||
"params": {"reason": ""}},
|
||||
{"type": "gesture", "label": "录制手势", "icon": "⏺",
|
||||
"params": {"points": [], "speed": 1.0}},
|
||||
]
|
||||
|
||||
|
||||
@@ -233,7 +236,11 @@ class GenericStepsWorker(BaseWorker):
|
||||
self._record_step(step, "skip", f"概率 {prob}% 未触发", 0)
|
||||
return
|
||||
self.set_action(f"执行: {label}")
|
||||
_log.info(f"[{self.serial}] 步骤: {label}({stype}) params={params}")
|
||||
if stype == "gesture": # 点列可能有几十个点，别整段甩进日志
|
||||
_log.info(f"[{self.serial}] 步骤: {label}({stype}) "
|
||||
f"{len(params.get('points') or [])} 个轨迹点")
|
||||
else:
|
||||
_log.info(f"[{self.serial}] 步骤: {label}({stype}) params={params}")
|
||||
|
||||
ret = None
|
||||
# 结果归类：异常 > 未命中（handler 返回 False）> 正常
|
||||
@@ -710,6 +717,20 @@ class GenericStepsWorker(BaseWorker):
|
||||
self.stop()
|
||||
return True
|
||||
|
||||
def _exec_gesture(self, d, params, depth=0):
|
||||
"""回放**录制**的手势（路径与时长照录制，不做任何再加工）。
|
||||
|
||||
与「滑动」步骤是两套东西：滑动每次重新生成（弧线/抖动/本设备手速），
|
||||
这里只把录下来的点列原样交给设备插值（原因见 core/gesture.py 模块头）。
|
||||
"""
|
||||
pts = params.get("points") or []
|
||||
if len(pts) < 2:
|
||||
_log.warning(f"[{self.serial}] gesture 步骤没有有效轨迹（points 为空），跳过")
|
||||
return None
|
||||
info = gesture.replay(d, pts, speed=params.get("speed", 1.0))
|
||||
_log.info(f"[{self.serial}] 录制回放：{info['points']} 个点 / {info['duration']}s")
|
||||
return True
|
||||
|
||||
def _exec_click(self, d, params, depth=0):
|
||||
sel_type = params.get("selector_type", "xpath")
|
||||
sel_val = params.get("selector_value", "")
|
||||
|
||||
@@ -464,6 +464,37 @@ body{background:var(--bg);font-family:var(--body);color:var(--text);font-size:14
|
||||
.agent-inputbar .btn-primary:hover{background:#155e75}
|
||||
.agent-inputbar .btn-primary:disabled{background:#9ca3af}
|
||||
.agent-empty{color:#6b7280;font-size:13px;text-align:center;padding:44px 0}
|
||||
|
||||
/* ===== 动作配置：步骤默认值表单 ===== */
|
||||
.cfg-card{border:1px solid var(--border-strong);border-radius:10px;padding:12px;margin-bottom:10px}
|
||||
.cfg-card>h4{margin:0 0 8px;font-size:13px}
|
||||
.cfg-row{display:flex;gap:12px;flex-wrap:wrap}
|
||||
.cfg-row .pg{display:flex;flex-direction:column;gap:2px;min-width:120px}
|
||||
.cfg-row .pg label{font-size:11px;color:var(--text-light)}
|
||||
|
||||
/* ===== 动作录制器 ===== */
|
||||
.rec-box{width:min(1180px,96vw);max-height:92vh;display:flex;flex-direction:column}
|
||||
.rec-head{display:flex;align-items:center;gap:10px;padding:12px 16px;border-bottom:1px solid var(--border)}
|
||||
.rec-head b{font-size:14px}
|
||||
.rec-body{display:flex;gap:14px;padding:14px 16px;overflow:hidden;flex:1;min-height:0}
|
||||
.rec-stage{flex:1;min-width:0;position:relative;background:var(--ink);border-radius:10px;
|
||||
display:flex;align-items:center;justify-content:center;overflow:hidden}
|
||||
.rec-stage img{max-width:100%;max-height:74vh;display:block;cursor:crosshair;user-select:none}
|
||||
.rec-hint{color:#8a94a6;font-size:13px;padding:40px}
|
||||
.rec-warn{position:absolute;left:10px;top:10px;background:#fbbf24;color:#3b2f00;
|
||||
font-size:11px;padding:2px 8px;border-radius:6px}
|
||||
.rec-line{position:absolute;border:2px dashed #f97316;border-radius:4px;pointer-events:none}
|
||||
.rec-side{width:330px;flex:0 0 330px;display:flex;flex-direction:column;gap:8px;min-height:0}
|
||||
.rec-ops{display:flex;gap:6px;flex-wrap:wrap}
|
||||
.rec-row{display:flex;gap:6px}
|
||||
.rec-list-title{font-size:12px;color:var(--text-light);margin-top:4px}
|
||||
.rec-list{flex:1;overflow-y:auto;border:1px solid var(--border);border-radius:8px;padding:6px;min-height:120px}
|
||||
.rec-item{display:flex;align-items:center;gap:6px;padding:3px 4px;border-bottom:1px dashed var(--border)}
|
||||
.rec-item:last-child{border-bottom:0}
|
||||
.rec-idx{width:18px;color:var(--text-light);font-size:11px;text-align:right}
|
||||
.rec-label{flex:1;font-size:12px;overflow:hidden;text-overflow:ellipsis;white-space:nowrap}
|
||||
.rec-ops2{display:flex;gap:2px}
|
||||
.rec-foot{border-top:1px solid var(--border);padding-top:8px}
|
||||
</style>
|
||||
</head>
|
||||
<body>
|
||||
@@ -556,6 +587,7 @@ body{background:var(--bg);font-family:var(--body);color:var(--text);font-size:14
|
||||
<div class="sub-tabs">
|
||||
<button class="sub-tab active" data-sub="plan" onclick="showSubTab('tasks','plan')">任务计划</button>
|
||||
<button class="sub-tab" data-sub="actions" onclick="showSubTab('tasks','actions')">自定义动作</button>
|
||||
<button class="sub-tab" data-sub="actioncfg" onclick="showSubTab('tasks','actioncfg')">动作配置</button>
|
||||
</div>
|
||||
|
||||
<!-- 子分栏 1：任务计划 -->
|
||||
@@ -588,6 +620,24 @@ body{background:var(--bg);font-family:var(--body);color:var(--text);font-size:14
|
||||
</table>
|
||||
<div class="list-pager" id="pager-actions"></div>
|
||||
</div>
|
||||
|
||||
<!-- 子分栏 3：动作配置（步骤默认值 + 录制动作） -->
|
||||
<div class="sub-panel" id="tasks-sub-actioncfg">
|
||||
<div class="toolbar">
|
||||
<button class="btn btn-primary" onclick="saveStepDefaults()" data-perm="tasks">保存默认值</button>
|
||||
<button class="btn" onclick="resetStepDefaults()">恢复出厂</button>
|
||||
<button class="btn" onclick="openRecorder({mode:'action'})" data-perm="devices">● 录制动作</button>
|
||||
<button class="btn" onclick="loadActionConfig()">刷新</button>
|
||||
<span class="hint" id="cfg-hint"></span>
|
||||
</div>
|
||||
<div class="help">
|
||||
<b>步骤默认值</b>：新建步骤时预填这套参数（<b>只影响之后新建的步骤</b>，已有步骤不动；
|
||||
单步想改就打开那个任务改那一步）。<br>
|
||||
<b>录制动作</b>：在设备画面上点/划/按键，自动翻译成步骤 —— 既能存成可复用的「自定义动作」，
|
||||
也能只取一个手势回填到滑动步骤上（步骤编辑器里滑动那一步有「录制手势」按钮）。
|
||||
</div>
|
||||
<div id="cfg-forms"><div class="text-muted" style="padding:10px">加载中…</div></div>
|
||||
</div>
|
||||
</div>
|
||||
|
||||
<!-- ========== Tab 3: 分组 ========== -->
|
||||
@@ -1369,5 +1419,6 @@ body{background:var(--bg);font-family:var(--body);color:var(--text);font-size:14
|
||||
<script src="/static/admin/system.js"></script>
|
||||
<script src="/static/admin/notify.js"></script>
|
||||
<script src="/static/admin/steplog.js"></script>
|
||||
<script src="/static/admin/recorder.js"></script>
|
||||
</body>
|
||||
</html>
|
||||
|
||||
+107
-2
@@ -7,9 +7,9 @@ from datetime import datetime
|
||||
from concurrent.futures import ThreadPoolExecutor, as_completed, TimeoutError as FuturesTimeout
|
||||
|
||||
from flask import (Blueprint, jsonify, request, Response)
|
||||
from flask_login import login_required
|
||||
from flask_login import login_required, current_user
|
||||
|
||||
from core import device_pool, uiauto_helper
|
||||
from core import device_pool, uiauto_helper, step_defaults
|
||||
from core.adb_helper import adb_connect_light
|
||||
from core.models import db, DeviceGroup, TaskJob, CustomAction
|
||||
from core.logger import get_logger
|
||||
@@ -215,6 +215,111 @@ def api_groups_delete(name):
|
||||
return jsonify({"ok": False, "error": "分组不存在"}), 404
|
||||
|
||||
|
||||
# ================== API：录制手势（手机端真手指轨迹） ==================
|
||||
#
|
||||
# 用 getevent 读**真触屏**设备抓手指轨迹（见 core/gesture.py）。合成的注入事件不会
|
||||
# 出现在真触屏节点上，所以录到的只有人手的动作。
|
||||
# 录制器实例存在内存里（单进程；不落库——录完的点列由前端放进步骤/动作再保存）。
|
||||
|
||||
_gesture_recorders = {} # token -> PhoneRecorder
|
||||
_gesture_lock = threading.Lock()
|
||||
_GESTURE_TTL = 300 # 超过 5 分钟自动收摊，避免忘了点"停止"
|
||||
|
||||
|
||||
def _gesture_sweep():
|
||||
"""清掉超时的录制器（停止并释放 getevent 进程）。"""
|
||||
now = time.time()
|
||||
with _gesture_lock:
|
||||
stale = [t for t, r in _gesture_recorders.items()
|
||||
if now - r._started > _GESTURE_TTL]
|
||||
for t in stale:
|
||||
_gesture_recorders.pop(t, None)
|
||||
for t in stale:
|
||||
try:
|
||||
r.stop()
|
||||
except Exception:
|
||||
pass
|
||||
_log.info("录制手势超时自动停止: %s", t)
|
||||
|
||||
|
||||
@bp.route("/api/gesture/record/start", methods=["POST"])
|
||||
@perm_required(PERM_DEVICES)
|
||||
def api_gesture_record_start():
|
||||
"""开始录：{serial} → {token}。之后在手机屏幕上用手指划，停止时取回轨迹。"""
|
||||
from core import gesture
|
||||
_gesture_sweep()
|
||||
serial = ((request.json or {}).get("serial") or "").strip()
|
||||
if not serial:
|
||||
return jsonify({"ok": False, "error": "缺少 serial"}), 400
|
||||
with _gesture_lock:
|
||||
if _gesture_recorders:
|
||||
return jsonify({"ok": False, "error": "已有录制在进行中，先停止"}), 409
|
||||
try:
|
||||
w, h = 0, 0
|
||||
try:
|
||||
import uiautomator2 as u2
|
||||
from core.u2_helper import screen_size
|
||||
d = u2.connect(serial)
|
||||
d.unlock() # 息屏时 u2 抓树会退化到几十秒，先唤醒
|
||||
w, h = screen_size(d, serial)
|
||||
except Exception as e:
|
||||
_log.warning("录制前取屏幕尺寸失败（按原始坐标范围换算）: %s", e)
|
||||
rec = gesture.PhoneRecorder(serial, w, h)
|
||||
rec.start()
|
||||
except Exception as e:
|
||||
return jsonify({"ok": False, "error": f"开始录制失败: {e}"}), 502
|
||||
token = uuid.uuid4().hex[:12]
|
||||
with _gesture_lock:
|
||||
_gesture_recorders[token] = rec
|
||||
_log.info("开始录制手势: %s @ %s（%s）by %s", token, serial, rec.device,
|
||||
getattr(current_user, "username", ""))
|
||||
return jsonify({"ok": True, "token": token, "device": rec.device,
|
||||
"screen": [w, h],
|
||||
"msg": "现在请用手指在手机上划，划完点「停止」"})
|
||||
|
||||
|
||||
@bp.route("/api/gesture/record/stop", methods=["POST"])
|
||||
@perm_required(PERM_DEVICES)
|
||||
def api_gesture_record_stop():
|
||||
"""停止录制：{token} → {gestures: [[[x,y,t_ms],...], ...]}。"""
|
||||
token = ((request.json or {}).get("token") or "").strip()
|
||||
with _gesture_lock:
|
||||
rec = _gesture_recorders.pop(token, None)
|
||||
if rec is None:
|
||||
return jsonify({"ok": False, "error": "录制会话不存在或已超时"}), 404
|
||||
try:
|
||||
gestures = rec.stop()
|
||||
except Exception as e:
|
||||
return jsonify({"ok": False, "error": f"停止录制失败: {e}"}), 500
|
||||
_log.info("停止录制手势: %s → %s 条", token, len(gestures))
|
||||
return jsonify({"ok": True, "gestures": gestures, "count": len(gestures),
|
||||
"device": rec.device})
|
||||
|
||||
|
||||
# ================== API：步骤默认值（「动作配置」页） ==================
|
||||
#
|
||||
# 存 app_meta.step_defaults 一个键（不建表），校验与合并都在 core/step_defaults.py。
|
||||
|
||||
@bp.route("/api/step_defaults")
|
||||
@login_required
|
||||
def api_step_defaults_get():
|
||||
"""生效的默认值 + 出厂值 + 字段规格（前端画表单用）。"""
|
||||
return jsonify({"ok": True, **step_defaults.as_payload()})
|
||||
|
||||
|
||||
@bp.route("/api/step_defaults", methods=["POST"])
|
||||
@perm_required(PERM_TASKS)
|
||||
def api_step_defaults_save():
|
||||
"""保存默认值（只落与出厂值不同的字段，便于以后出厂值升级能跟着走）。"""
|
||||
data = request.json or {}
|
||||
ok, msg = step_defaults.save(data.get("defaults") or data)
|
||||
if not ok:
|
||||
return jsonify({"ok": False, "error": msg}), 400
|
||||
_log.info("更新步骤默认值 by %s: %s", getattr(current_user, "username", ""),
|
||||
list((data.get("defaults") or data).keys()))
|
||||
return jsonify({"ok": True, "msg": msg, **step_defaults.as_payload()})
|
||||
|
||||
|
||||
# ================== API：用户管理 CRUD ==================
|
||||
|
||||
@bp.route("/api/custom_actions")
|
||||
|
||||
Reference in New Issue
Block a user