"""SQLAlchemy 数据模型 + db 初始化(用户/设备分组/任务计划)。 为什么放这里: web_server 和 task_manager 都要访问这些模型,放 core/ 避免循环依赖。 web_server 负责初始化 db(app context),task_manager 只读写数据。 模型说明: User — 后台用户(Flask-Login 认证) DeviceGroup — 设备分组(持久化,替代旧 groups.json) TaskJob — 任务计划(持久化,替代旧 jobs.json) 字段设计: DeviceGroup.serials 用 JSON 存列表(SQLite 无数组类型) TaskJob.target/params/schedule/retry 用 JSON 存嵌套结构 Flask-Admin 默认用 TextArea 编辑 JSON,够用且通用 """ import os import json import hashlib import sqlite3 from flask_sqlalchemy import SQLAlchemy from flask_login import UserMixin from sqlalchemy import event, text from sqlalchemy.engine import Engine from werkzeug.security import generate_password_hash, check_password_hash from core.logger import get_logger _log = get_logger("core.models") db = SQLAlchemy() def _long_text(): """长文本列:SQLite 用 TEXT,MySQL 用 MEDIUMTEXT。 裸 TEXT 在 MySQL 只有 64KB(而且是"字节"),AI 会话消息、任务参数这类 JSON 文本很容易超;超了在严格模式下直接报错(不是截断)。 """ from sqlalchemy.dialects.mysql import MEDIUMTEXT return db.Text().with_variant(MEDIUMTEXT(), "mysql") def _DOUBLE(): """REAL/DOUBLE:MySQL 的 FLOAT 是单精度,评分这类值会出现 7.8000001 这种尾巴。""" from sqlalchemy.dialects.mysql import DOUBLE return DOUBLE() @event.listens_for(Engine, "connect") def _sqlite_pragma(dbapi_connection, connection_record): """SQLite 并发写优化:WAL 模式 + 忙等待超时 + 降同步级别。 多 worker 后台线程同时写库(任务参数/分组)时,避免 database is locked。 注意:这个监听器挂在 Engine 基类上,对**所有方言**的连接都会触发; MySQL 下执行 PRAGMA 会直接报语法错误导致连接失败,所以必须先判类型。 """ if not isinstance(dbapi_connection, sqlite3.Connection): return cursor = dbapi_connection.cursor() cursor.execute("PRAGMA journal_mode=WAL") cursor.execute("PRAGMA busy_timeout=5000") cursor.execute("PRAGMA synchronous=NORMAL") cursor.close() class User(UserMixin, db.Model): """后台用户。 权限模型: - is_admin=True:管理员,拥有全部权限,不受 perms 限制 - is_admin=False:按 perms 授权(JSON 数组,如 ["tasks","devices"]) - 权限位:tasks=任务管理, devices=设备控制, apks=应用管理, logs=日志查看 - 用户管理本身只有管理员能做(web_server 层强制),不设普通权限位 """ id = db.Column(db.Integer, primary_key=True) username = db.Column(db.String(80), unique=True, nullable=False) password_hash = db.Column(db.String(255), nullable=False) is_admin = db.Column(db.Boolean, default=True) perms = db.Column(db.Text, default="[]") # JSON 数组:业务权限位 def get_perms(self): try: return json.loads(self.perms or "[]") except Exception: return [] def set_perms(self, lst): """设置权限位。管理员强制为全部权限(内部不区分)。""" self.perms = json.dumps(list(lst or []), ensure_ascii=False) def has_perm(self, perm): """是否拥有指定权限。管理员恒为 True。""" if self.is_admin: return True return perm in self.get_perms() def set_password(self, password): self.password_hash = generate_password_hash(password) def check_password(self, password): """校验密码。兼容旧 SHA-256 哈希(匹配则自动升级为新哈希)。""" ph = self.password_hash or "" if ph and not ph.startswith(("pbkdf2:", "scrypt:")): # 旧版裸 SHA-256:比对通过则升级为加盐哈希 if hashlib.sha256(password.encode()).hexdigest() == ph: self.set_password(password) try: db.session.commit() except Exception: pass return True return False return check_password_hash(ph, password) def __repr__(self): return f"" class DeviceGroup(db.Model): """设备分组(替代旧 groups.json 的 DeviceGroup 类)。""" id = db.Column(db.Integer, primary_key=True) name = db.Column(db.String(80), unique=True, nullable=False) serials = db.Column(db.Text, default="[]") # JSON 列表 description = db.Column(db.Text, default="") def get_serials(self): try: return json.loads(self.serials or "[]") except Exception: return [] def set_serials(self, lst): self.serials = json.dumps(lst or [], ensure_ascii=False) def to_dict(self): return {"name": self.name, "serials": self.get_serials(), "description": self.description or ""} def __repr__(self): return f"" class TaskJob(db.Model): """任务计划(替代旧 jobs.json 的 TaskJob 类)。 字段含义和旧 TaskJob 一致,只是持久化方式从 JSON 文件改到 SQLite。 """ id = db.Column(db.String(32), primary_key=True) # uuid 前 8 位 name = db.Column(db.String(120), nullable=False) task_type = db.Column(db.String(60), default="generic_steps") target = db.Column(db.Text, default='{"mode":"all"}') # JSON params = db.Column(db.Text, default="{}") # JSON schedule = db.Column(db.Text, default='{"mode":"once"}') # JSON retry = db.Column(db.Text, default='{"max_attempts":1,"delay":60}') # JSON enabled = db.Column(db.Boolean, default=True) def _load_json(self, field, default): try: return json.loads(getattr(self, field) or default) except Exception: return json.loads(default) def _dump_json(self, field, value): setattr(self, field, json.dumps(value or {}, ensure_ascii=False)) def get_target(self): return self._load_json("target", '{"mode":"all"}') def set_target(self, v): self._dump_json("target", v) def get_params(self): return self._load_json("params", "{}") def set_params(self, v): self._dump_json("params", v) def get_schedule(self): return self._load_json("schedule", '{"mode":"once"}') def set_schedule(self, v): self._dump_json("schedule", v) def get_retry(self): return self._load_json("retry", '{"max_attempts":1,"delay":60}') def set_retry(self, v): self._dump_json("retry", v) def to_dict(self): return {"id": self.id, "name": self.name, "task_type": self.task_type, "target": self.get_target(), "params": self.get_params(), "schedule": self.get_schedule(), "retry": self.get_retry(), "enabled": self.enabled} def __repr__(self): return f"" class CustomAction(db.Model): """自定义动作(把一系列步骤打包成一个可复用的动作)。 steps 字段存 JSON 数组,格式同 generic_steps 的 step schema。 前端拖拽到画布时,展开为 group 步骤(type='group')。 """ id = db.Column(db.String(32), primary_key=True) name = db.Column(db.String(120), nullable=False) icon = db.Column(db.String(4), default="📦") steps = db.Column(db.Text, default="[]") # JSON 数组 created_at = db.Column(db.String(20), default="") def get_steps(self): try: return json.loads(self.steps or "[]") except Exception: return [] def set_steps(self, v): self.steps = json.dumps(v or [], ensure_ascii=False) def to_dict(self): return {"id": self.id, "name": self.name, "icon": self.icon or "📦", "steps": self.get_steps(), "created_at": self.created_at or ""} def __repr__(self): return f"" class ApkFile(db.Model): """上传的 APK 文件元信息(应用管理功能)。""" id = db.Column(db.String(32), primary_key=True) # uuid 前 8 位 filename = db.Column(db.String(255), nullable=False) # 磁盘文件名 (id.apk) display_name = db.Column(db.String(120), default="") # 应用名 package_name = db.Column(db.String(200), default="") # 包名 version_name = db.Column(db.String(50), default="") # 版本号 version_code = db.Column(db.Integer, default=0) # 版本码 size = db.Column(db.Integer, default=0) # 文件大小(字节) upload_time = db.Column(db.String(20), default="") # 上传时间 def to_dict(self): return {"id": self.id, "filename": self.filename, "display_name": self.display_name or "", "package_name": self.package_name or "", "version_name": self.version_name or "", "version_code": self.version_code or 0, "size": self.size or 0, "upload_time": self.upload_time or ""} def __repr__(self): return f"" class Device(db.Model): """设备池(本地设备清单,替代 STF 池作为调度数据源)。 serial 即 adb 序列号(IP:5555 或 USB 序列号);enabled=False 不参与调度。 model 为在线时自动采集的型号(如 Redmi 12C),供管理页/监控页区分设备。 """ serial = db.Column(db.String(120), primary_key=True) name = db.Column(db.String(80), default="") # 设备名(唯一,人可读标识) model = db.Column(db.String(120), default="") # 型号(自动采集) enabled = db.Column(db.Boolean, default=True) # 是否参与调度 note = db.Column(db.Text, default="") # 备注 created_at = db.Column(db.String(20), default="") # 添加时间 # 设备指纹(ro.serialno):识别"同一台物理设备"的稳定标识。 # 网络设备(serial=IP:5555)换 IP 后靠它认领回原记录,名称/分组/任务引用都不丢。 fingerprint = db.Column(db.String(120), default="") def to_dict(self): return {"serial": self.serial, "name": self.name or "", "model": self.model or "", "enabled": bool(self.enabled), "note": self.note or "", "created_at": self.created_at or "", "fingerprint": self.fingerprint or ""} def __repr__(self): return f"" class PendingDevice(db.Model): """自动发现待连接池:扫描验证通过的设备,等待用户确认后才入正式池。 与 Device 表的区别:只代表"被扫描到、可连接",不参与任务调度。 """ serial = db.Column(db.String(120), primary_key=True) # 如 192.168.20.5:5555 source = db.Column(db.String(20), default="") # lan / tailscale first_seen = db.Column(db.String(20), default="") # 首次发现时间 last_seen = db.Column(db.String(20), default="") # 最近一次扫描仍可见的时间 # 扫描时顺带读取的设备指纹:与设备池中已有记录比对,用于提示 # 「这台其实就是 <名称>(原 IP 变了)」而不是让用户在一堆陌生 IP 里猜 fingerprint = db.Column(db.String(120), default="") def to_dict(self): return {"serial": self.serial, "source": self.source or "", "first_seen": self.first_seen or "", "last_seen": self.last_seen or "", "fingerprint": self.fingerprint or ""} class AppMeta(db.Model): """全局 KV 配置(AI 配置、设备发现参数、schema_version、库环境标签…)。 ⚠️ 列名沿用历史的 `key`/`value`:**`key` 在 MySQL 里是保留字**, 因此不要直接拼裸 SQL 读写本表,统一走 `core/db_config.meta_get/meta_set` (方言中立、自动按方言加引号)。 ORM 属性名用 `k`:`key` 在 SQLAlchemy 声明式 API 里是保留名,不能直接当属性。 """ __tablename__ = "app_meta" k = db.Column("key", db.String(64), primary_key=True) value = db.Column(db.Text) def __repr__(self): return f"" class AgentExperience(db.Model): """AI 控制台经验记忆:任务成功后的操作配方,下次相似任务检索注入。 recipe/tool_seq 存 JSON 文本;hits 是被召回引用的次数(巡检按它判重要性)。 """ __tablename__ = "agent_experience" id = db.Column(db.Integer, primary_key=True, autoincrement=True) task_prompt = db.Column(_long_text(), default="") recipe = db.Column(_long_text(), default="") tool_seq = db.Column(_long_text(), default="") hits = db.Column(db.Integer, default=0) created_at = db.Column(db.String(20), default="") def __repr__(self): return f"" class ExperienceAudit(db.Model): """经验巡检记录(AI 质检):疑似有问题的经验标 pending,删除只走人工确认。""" __tablename__ = "experience_audit" id = db.Column(db.Integer, primary_key=True, autoincrement=True) exp_id = db.Column(db.Integer, nullable=False) # 对应的 agent_experience.id verdict = db.Column(db.String(20), default="") # keep / delete score = db.Column(db.Float().with_variant(_DOUBLE(), "mysql"), default=0) reason = db.Column(_long_text(), default="") hits = db.Column(db.Integer, default=0) # 巡检时的引用次数 action = db.Column(db.String(20), default="pending") # pending/kept/deleted audited_at = db.Column(db.String(20), default="") class AgentAction(db.Model): """动作库:带语义名的可复用动作单元(含元素定位、不含坐标)。 与任务级配方(agent_experience)互补;执行前按 name/别名/App 召回注入。 """ __tablename__ = "agent_action" id = db.Column(db.Integer, primary_key=True, autoincrement=True) name = db.Column(db.String(120), nullable=False) app = db.Column(db.String(80), default="") aliases = db.Column(_long_text(), default="[]") params = db.Column(_long_text(), default="[]") steps = db.Column(_long_text(), nullable=False) preconditions = db.Column(_long_text(), default="") hits = db.Column(db.Integer, default=0) source_prompt = db.Column(_long_text(), default="") created_at = db.Column(db.String(20), default="") updated_at = db.Column(db.String(20), default="") class DeviceInstallLog(db.Model): """设备端应用商店的下载/安装记录(设备上的 Agent 上报,平台侧展示)。 平台**不主动**发起这条通道的安装:设备自己拉清单、自己下载、自己调 PackageInstaller 安装——这样走的是普通应用安装流程,不会触发 MIUI 针对 `adb install` 的「USB 安装」拦截(USER_RESTRICTED)。 """ __tablename__ = "device_install_log" id = db.Column(db.Integer, primary_key=True, autoincrement=True) fingerprint = db.Column(db.String(120), default="") # ro.serialno,识别物理设备 serial = db.Column(db.String(120), default="") # 上报时的地址(可能换过) device_name = db.Column(db.String(80), default="") # 平台侧的名称(快照) apk_id = db.Column(db.String(32), default="") package_name = db.Column(db.String(200), default="") version_name = db.Column(db.String(50), default="") action = db.Column(db.String(20), default="") # download / install_ok / install_fail message = db.Column(db.String(500), default="") # 失败原因等 created_at = db.Column(db.String(20), default="") class TaskStepLog(db.Model): """任务步骤明细:每一次步骤执行的落库记录(「日志 → 步骤明细」页)。 与 `logs/task.log` 的分工:文本日志是**排障时的原始现场**(什么都往里写、 10MB 滚动),本表是**结构化的一份**——设备/任务/步骤/结果/耗时都是列, 所以能按设备、任务、时间、结果过滤和统计,文本日志只能 grep。 写入方是 `core/step_log.py` 的专用写线程(异步批量落库),**任务线程不直接 写库**:一次运行可能上万步,每步一次 INSERT 会拖慢热路径。 保留期由 `core/step_log.py` 的清理任务控制(默认 14 天,见该模块常量)。 """ __tablename__ = "task_step_log" id = db.Column(db.Integer, primary_key=True, autoincrement=True) run_id = db.Column(db.String(24), default="", index=True) # 一次运行=设备×任务×第几次尝试 job_id = db.Column(db.String(32), default="") job_name = db.Column(db.String(120), default="") serial = db.Column(db.String(120), default="") device_name = db.Column(db.String(80), default="") step_path = db.Column(db.String(32), default="") # 嵌套位置,如 "2.1.3" step_label = db.Column(db.String(120), default="") step_type = db.Column(db.String(40), default="") # click_el / loop / input_text … selector = db.Column(db.String(300), default="") # 元素选择器(长选择器截断) result = db.Column(db.String(16), default="") # ok/skip/miss/error/unknown/cap detail = db.Column(db.String(500), default="") # 异常消息、跳过原因等 duration_ms = db.Column(db.Integer, default=0) created_at = db.Column(db.String(20), default="", index=True) __table_args__ = ( db.Index("ix_step_log_serial_ts", "serial", "created_at"), db.Index("ix_step_log_job_ts", "job_id", "created_at"), ) class DoneMark(db.Model): """「已做过」账本:跨设备幂等的标记(「任务 → 去重记录」页)。 要解决的问题(用户场景):一台手机登录多个账号、多台手机跑同一个任务, 任务被反复重跑(因为不知道什么时候跑完)→ 同一个号被做两次、有的号还没做。 **判据只有一条:`scope_key` 的唯一索引。** 多台设备可能同时判断"没做过","先查后插"会两台都插进去; 唯一索引 + `INSERT ... ON DUPLICATE KEY`/`INSERT OR IGNORE` 的**受影响行数** 才是原子的(见 `core/dedup.py` 的 `mark()`)。 写入方是任务步骤 `_exec_mark_done`(**成功之后才记账**):动作失败就不记账, 下次重跑还会重试该设备——这是"失败不丢"的关键。 `kind` 是有效期策略(`day`/`hours`/`all`),清理时**只删 day/hours**: `all` 代表"只做一次",删掉就等于去重失效。 """ __tablename__ = "done_mark" id = db.Column(db.Integer, primary_key=True, autoincrement=True) scope_key = db.Column(db.String(300), unique=True) # 幂等的全部依据(唯一索引) kind = db.Column(db.String(12), default="day") # day / hours / all job_id = db.Column(db.String(32), default="", index=True) job_name = db.Column(db.String(120), default="") serial = db.Column(db.String(120), default="") device_name = db.Column(db.String(80), default="") identity = db.Column(db.String(200), default="") # 身份值(如抖音号) created_at = db.Column(db.String(20), default="", index=True) __table_args__ = ( db.Index("ix_done_mark_job_ts", "job_id", "created_at"), ) class DeviceAccount(db.Model): """账号台账:一台设备上登录着哪些账号(「账号」页)。 要解决的问题(用户场景):一台手机登好几个抖音号、十几台手机四五十个号, 账号信息散在一张电子表格里 —— 换 IP、加号、想查"这台登的是哪几个号"都要翻表。 这里把台账落进平台:web 能查能改(支持从表格粘贴导入), 手机端 Agent 的「身份大字页」顺带显示本机账号,任务的「条件判断」 也可以直接从台账取号(不用再把号一个个手写进 cmp_value)。 ⚠ **`douyin_id` 是纯号(`35377983067`),而元素原文是 `抖音号:35377983067`。** - 当条件判断的**比对值**可以 ✓(运算符用「包含」,纯号是子串) - **绝不能当去重身份** ✗ —— `done_mark.identity` 存的是元素原文、逐字算 key, 格式不一致会让去重**静默失效**(见 `core/dedup.py`)。 `device_name` 是设备号(平台设备名,如 A01);`serial` 是**录入时的地址快照**, 设备换 IP 或改名后,台账靠任一侧都能找回来(见 `core/ledger.for_device`)。 同一抖音号不允许两条 —— 唯一性由服务层保证(号可能为空,DB 层要做 "部分唯一索引"三处方言适配,人工维护的几十条不值当)。 """ __tablename__ = "device_account" id = db.Column(db.String(32), primary_key=True) # uuid 前 8 位 device_name = db.Column(db.String(80), default="", index=True) # 设备号(平台设备名) serial = db.Column(db.String(120), default="") # 录入时的地址快照 phone = db.Column(db.String(32), default="", index=True) # 手机号 nickname = db.Column(db.String(80), default="") # 账号名称 douyin_id = db.Column(db.String(64), default="", index=True) # 抖音号(纯号,不带前缀) registered_at = db.Column(db.String(20), default="") # 注册时间(原样存文本) sim_in_device = db.Column(db.Boolean, default=False) # 卡在机内(空=否) can_post_video = db.Column(db.Boolean, default=False) # 可发视频(空=否) bio = db.Column(db.Text, default="") # 简介 note = db.Column(db.Text, default="") # 备注 created_at = db.Column(db.String(20), default="") updated_at = db.Column(db.String(20), default="") def to_dict(self): return {"id": self.id, "device_name": self.device_name or "", "serial": self.serial or "", "phone": self.phone or "", "nickname": self.nickname or "", "douyin_id": self.douyin_id or "", "registered_at": self.registered_at or "", "sim_in_device": bool(self.sim_in_device), "can_post_video": bool(self.can_post_video), "bio": self.bio or "", "note": self.note or "", "created_at": self.created_at or "", "updated_at": self.updated_at or ""} def __repr__(self): return f"" class AgentConversation(db.Model): """AI 控制台会话:整个消息序列以 JSON 存在一行里(单会话几十 KB,够用)。""" __tablename__ = "agent_conversation" id = db.Column(db.String(20), primary_key=True) title = db.Column(db.String(100), default="") messages = db.Column(_long_text(), default="[]") created_at = db.Column(db.String(20), default="") updated_at = db.Column(db.String(20), default="") # 版本化 schema 迁移账本 (版本号, 说明, 数据回填 SQL 或 None) # # 注意:**建表与补列不再由这张表驱动**——改由 db.create_all() + _sync_columns() # 按模型定义自动完成(SQLite / MySQL 两种方言都正确)。这里只保留: # - 版本号(写进 app_meta.schema_version,备份/恢复时用来判断新旧) # - 未来可能需要的数据回填语句(纯数据操作,与方言无关) # 历史条目(v1~v6 建表/加列)保留在账本里以便追溯,SQL 位置一律为 None。 SCHEMA_MIGRATIONS = [ (1, "用户权限位:user 表新增 perms 列(JSON 数组,默认空=无业务权限,管理员不受限)", None), (2, "设备池:device 表(本地设备清单,替代 STF 池)", None), (3, "设备池:device 表新增 model 列(型号,在线时自动采集)", None), (4, "自动发现:pending_device 待连接池表(扫描发现的设备,用户确认后才入正式池)", None), (5, "设备池:device 表新增 fingerprint 列(设备指纹 ro.serialno,换 IP 后认领回原记录)", None), (6, "自动发现:pending_device 表新增 fingerprint 列(扫描时读取,用于提示是已有设备换了 IP)", None), (7, "去重账本:done_mark 表(跨设备幂等的「已做过」标记,唯一索引 scope_key)", None), (8, "账号台账:device_account 表(设备号/手机号/账号名称/抖音号/注册时间/卡在机内/可发视频/简介/备注)", None), ] # 当前 schema 版本(备份/恢复用它判断新旧,也写进 app_meta.schema_version) CURRENT_SCHEMA_VERSION = max(v for v, _, _ in SCHEMA_MIGRATIONS) # 唯一索引(语义 = 部分索引:空值不参与唯一约束,兼容历史未命名/未采指纹的老数据) # 名称唯一 = 设备的人可读标识;指纹唯一 = 一台物理设备在池中只能有一条记录 # # SQLite 支持带 WHERE 的部分索引,直接写;MySQL 5.7 不支持过滤索引, # 改用「虚拟生成列 + 唯一索引」复刻同一语义(唯一索引允许多个 NULL)—— # 见 _ensure_unique_indexes() 的 MySQL 分支。 _UNIQUE_INDEXES_SQLITE = ( ("ux_device_name", "CREATE UNIQUE INDEX IF NOT EXISTS ux_device_name " "ON device(name) WHERE name IS NOT NULL AND name <> ''"), ("ux_device_fingerprint", "CREATE UNIQUE INDEX IF NOT EXISTS ux_device_fingerprint " "ON device(fingerprint) WHERE fingerprint IS NOT NULL " "AND fingerprint <> ''"), ) # MySQL:为空值生成 NULL 的伴随列,唯一索引建在它上面 _MYSQL_UQ_COLUMNS = ( # (表, 源列, 生成列名, 生成列类型) ("device", "name", "name_uq", "VARCHAR(80)"), ("device", "fingerprint", "fingerprint_uq", "VARCHAR(120)"), ) _MYSQL_UNIQUE_INDEXES = ( ("ux_device_name", "device", "name_uq"), ("ux_device_fingerprint", "device", "fingerprint_uq"), ) def init_db(app): """在 Flask app context 里初始化数据库 + 创建默认管理员。 web_server 启动时调用。自动迁移旧 groups.json/jobs.json 到数据库。 顺序:建表(create_all)→ 补列(_sync_columns)→ 版本账本 → 唯一索引 → 管理员/旧 JSON。 建表与补列都以模型定义为准,SQLite / MySQL 两种方言自动匹配,不再手写 DDL。 """ db.init_app(app) with app.app_context(): db.create_all() _sync_columns() _migrate_schema() _ensure_unique_indexes() _ensure_default_admin() _migrate_old_json() def _sync_columns(): """按模型定义补齐"实表缺的列"(幂等)。 取代原来靠 "duplicate column name" 报错文本判断的老写法:那是 SQLite 时代的 容错路径,换 MySQL 后报错文本/错误码都不同,靠字符串匹配太脆。 现在直接读数据库元数据(sqlalchemy.inspect)比对,缺什么补什么。 """ from sqlalchemy import inspect from sqlalchemy.schema import CreateColumn try: insp = inspect(db.engine) existing = set(insp.get_table_names()) except Exception as e: _log.error(f"读取表结构失败,跳过补列: {e}") return added = [] for table in db.metadata.sorted_tables: if table.name not in existing: continue # 缺整表交给 create_all try: have = {c["name"] for c in insp.get_columns(table.name)} except Exception as e: _log.warning(f"读取 {table.name} 列失败: {e}") continue for col in table.columns: if col.name in have: continue try: ddl = CreateColumn(col).compile(dialect=db.engine.dialect) db.session.execute( text("ALTER TABLE {} ADD COLUMN {}".format(table.name, ddl))) db.session.commit() added.append(f"{table.name}.{col.name}") except Exception as e: db.session.rollback() _log.warning(f"补列失败 {table.name}.{col.name}: {e}") if added: _log.info("schema 补列: " + ", ".join(added)) def _migrate_schema(): """维护 schema_version 账本 + 执行数据回填类迁移。 建表/加列已由 create_all + _sync_columns 按模型自动完成,本函数不再写 DDL; SCHEMA_MIGRATIONS 里带 SQL 的条目只允许是方言无关的数据操作。 """ from core import db_config try: try: current = int(db_config.meta_get("schema_version") or 0) except Exception: current = 0 for version, desc, backfill_sql in SCHEMA_MIGRATIONS: if version <= current: continue if backfill_sql: try: db.session.execute(text(backfill_sql)) db.session.commit() except Exception as e: db.session.rollback() _log.error(f"迁移 v{version} 数据回填失败: {e}") _log.info(f"schema 迁移到版本 {version}(结构由模型自动同步): {desc}") if current < CURRENT_SCHEMA_VERSION: db_config.meta_set("schema_version", str(CURRENT_SCHEMA_VERSION)) except Exception as e: _log.error(f"schema 迁移失败(不阻塞启动): {e}") def _ensure_unique_indexes(): """建"空值不参与唯一约束"的设备名/指纹唯一索引(幂等,方言分叉)。 单独抽出来是因为索引不属于某个版本迁移:老库升级后也要补建。 历史数据若存在重复(名称/指纹撞车),建索引会失败——只告警不回滚、 不阻塞启动,由管理页提示用户改名(唯一约束从此刻起对新数据生效)。 """ if db.engine.dialect.name == "mysql": _ensure_unique_indexes_mysql() return for name, sql in _UNIQUE_INDEXES_SQLITE: try: db.session.execute(text(sql)) db.session.commit() except Exception as e: db.session.rollback() _log.warning(f"唯一索引 {name} 创建失败(历史数据可能有重复): {e}") def _ensure_unique_indexes_mysql(): """MySQL 5.7 没有过滤索引,用「虚拟生成列 + 唯一索引」复刻部分索引语义。 生成列把空值映射成 NULL,而唯一索引允许多个 NULL —— 正好等于 「空值不参与唯一约束」。生成列不进 ORM 模型(进了 create_all 会尝试写入它 并报 Error 3105),所以只能在这里用 DDL 补。 """ from sqlalchemy import inspect coll = "utf8mb4_bin" # 与库默认一致:逐码点比较,等价 SQLite 的大小写敏感 for table, col, gen, typ in _MYSQL_UQ_COLUMNS: try: have = {c["name"] for c in inspect(db.engine).get_columns(table)} if gen in have: continue db.session.execute(text( "ALTER TABLE {t} ADD COLUMN {g} {ty} COLLATE {coll} " "GENERATED ALWAYS AS (IF({c} IS NULL OR {c} = '', NULL, {c})) VIRTUAL" .format(t=table, g=gen, ty=typ, coll=coll, c=col))) db.session.commit() _log.info(f"已建生成列 {table}.{gen}(部分唯一索引的 MySQL 替代)") except Exception as e: db.session.rollback() _log.warning(f"生成列 {table}.{gen} 创建失败: {e}") for name, table, gen in _MYSQL_UNIQUE_INDEXES: try: have = {i["name"] for i in inspect(db.engine).get_indexes(table)} if name in have: continue db.session.execute( text("CREATE UNIQUE INDEX {} ON {}({})".format(name, table, gen))) db.session.commit() _log.info(f"已建唯一索引 {name}") except Exception as e: db.session.rollback() _log.warning(f"唯一索引 {name} 创建失败(历史数据可能有重复): {e}") def _ensure_default_admin(): """首次启动创建默认管理员 admin/admin123。""" if not User.query.filter_by(username="admin").first(): u = User(username="admin", is_admin=True) u.set_password("admin123") db.session.add(u) db.session.commit() _log.info("已创建默认管理员 admin/admin123,请及时改密码") def _migrate_old_json(): """把旧 groups.json / jobs.json 迁移到 SQLite(仅首次)。 迁移策略: 1. 仅当数据库对应表为空时才迁移(首次启动场景) 2. 迁移成功后立即把 JSON 文件重命名为 .json.migrated, 保留备份但永不再迁移——避免"用户删完全部任务后重启又从旧文件复原" 3. 若数据库已有数据但 JSON 文件仍在(历史残留),直接归档, 避免将来数据库被清空后又触发迁移导致已删任务复原 4. 迁移任务时顺手剔除已废弃的 comment action 配置, 避免 _load 阶段还要再写回一次 """ from config import DATA_DIR # 迁移分组 groups_file = os.path.join(DATA_DIR, "groups.json") if os.path.exists(groups_file) and DeviceGroup.query.count() == 0: try: with open(groups_file, encoding="utf-8") as f: groups = json.load(f) for g in groups: if not DeviceGroup.query.filter_by(name=g["name"]).first(): row = DeviceGroup(name=g["name"], description=g.get("description", "")) row.set_serials(g.get("serials", [])) db.session.add(row) db.session.commit() _log.info(f"已迁移 {len(groups)} 个分组到数据库") _archive_migrated(groups_file) except Exception as e: _log.error(f"迁移 groups.json 失败: {e}") # 迁移任务 jobs_file = os.path.join(DATA_DIR, "jobs.json") if os.path.exists(jobs_file) and TaskJob.query.count() == 0: try: with open(jobs_file, encoding="utf-8") as f: jobs = json.load(f) for j in jobs: if TaskJob.query.get(j["id"]): continue params = j.get("params", {}) # 剔除已废弃的 comment action,避免带入数据库 actions = params.get("actions", {}) if "comment" in actions: del actions["comment"] _log.info(f"迁移任务 {j.get('name')}: 已剔除废弃的 comment 配置") row = TaskJob(id=j["id"], name=j["name"], task_type=j.get("task_type", "generic_steps"), enabled=j.get("enabled", True)) row.set_target(j.get("target", {"mode": "all"})) row.set_params(params) row.set_schedule(j.get("schedule", {"mode": "once"})) row.set_retry(j.get("retry", {"max_attempts": 1, "delay": 60})) db.session.add(row) db.session.commit() _log.info(f"已迁移 {len(jobs)} 个任务到数据库") _archive_migrated(jobs_file) except Exception as e: _log.error(f"迁移 jobs.json 失败: {e}") # 清理历史残留:数据库已有数据但 JSON 文件仍在(修复前遗留下来的文件)。 # 不归档的话,用户哪天删光所有任务/分组,count==0 又会触发迁移导致已删数据复原。 if DeviceGroup.query.count() > 0 and os.path.exists(groups_file): _archive_migrated(groups_file) if TaskJob.query.count() > 0 and os.path.exists(jobs_file): _archive_migrated(jobs_file) def _archive_migrated(file_path): """把已迁移的 JSON 文件重命名为 .migrated,避免下次重启再迁移。 保留备份以便排查,但 _migrate_old_json 的 exists 判断会跳过它。 重命名失败只警告不抛出,不影响启动。 """ archived = file_path + ".migrated" try: if os.path.exists(archived): os.remove(archived) os.rename(file_path, archived) _log.info(f"已归档迁移文件: {os.path.basename(file_path)} -> {os.path.basename(archived)}") except Exception as e: _log.warning(f"归档 {file_path} 失败(不影响运行): {e}")