butubb
bf5071b14d
按 git 红线撤回：该功能未经 dev 验收就被合并进 main（是我提交时没切分支、
又把自己的自测当成了用户验收）—— main 必须保持"已验收可部署"的状态。
功能本身没问题，代码仍在 **dev**（dad1af8）与 feature 分支上，等设备端 Agent
写出来、端到端验收通过后，再从 dev 合并回 main。
main 内容已回到 66632bb（git diff 66632bb HEAD 为空）。
646 lines
28 KiB
Python
646 lines
28 KiB
Python
"""SQLAlchemy 数据模型 + db 初始化（用户/设备分组/任务计划）。
|
||
|
||
为什么放这里：
|
||
web_server 和 task_manager 都要访问这些模型，放 core/ 避免循环依赖。
|
||
web_server 负责初始化 db（app context），task_manager 只读写数据。
|
||
|
||
模型说明：
|
||
User — 后台用户（Flask-Login 认证）
|
||
DeviceGroup — 设备分组（持久化，替代旧 groups.json）
|
||
TaskJob — 任务计划（持久化，替代旧 jobs.json）
|
||
|
||
字段设计：
|
||
DeviceGroup.serials 用 JSON 存列表（SQLite 无数组类型）
|
||
TaskJob.target/params/schedule/retry 用 JSON 存嵌套结构
|
||
Flask-Admin 默认用 TextArea 编辑 JSON，够用且通用
|
||
"""
|
||
import os
|
||
import json
|
||
import hashlib
|
||
import sqlite3
|
||
|
||
from flask_sqlalchemy import SQLAlchemy
|
||
from flask_login import UserMixin
|
||
from sqlalchemy import event, text
|
||
from sqlalchemy.engine import Engine
|
||
from werkzeug.security import generate_password_hash, check_password_hash
|
||
|
||
from core.logger import get_logger
|
||
|
||
_log = get_logger("core.models")
|
||
|
||
db = SQLAlchemy()
|
||
|
||
|
||
def _long_text():
|
||
"""长文本列：SQLite 用 TEXT，MySQL 用 MEDIUMTEXT。
|
||
|
||
裸 TEXT 在 MySQL 只有 64KB（而且是"字节"），AI 会话消息、任务参数这类
|
||
JSON 文本很容易超；超了在严格模式下直接报错（不是截断）。
|
||
"""
|
||
from sqlalchemy.dialects.mysql import MEDIUMTEXT
|
||
return db.Text().with_variant(MEDIUMTEXT(), "mysql")
|
||
|
||
|
||
def _DOUBLE():
|
||
"""REAL/DOUBLE：MySQL 的 FLOAT 是单精度，评分这类值会出现 7.8000001 这种尾巴。"""
|
||
from sqlalchemy.dialects.mysql import DOUBLE
|
||
return DOUBLE()
|
||
|
||
|
||
@event.listens_for(Engine, "connect")
|
||
def _sqlite_pragma(dbapi_connection, connection_record):
|
||
"""SQLite 并发写优化：WAL 模式 + 忙等待超时 + 降同步级别。
|
||
|
||
多 worker 后台线程同时写库（任务参数/分组）时，避免 database is locked。
|
||
|
||
注意：这个监听器挂在 Engine 基类上，对**所有方言**的连接都会触发；
|
||
MySQL 下执行 PRAGMA 会直接报语法错误导致连接失败，所以必须先判类型。
|
||
"""
|
||
if not isinstance(dbapi_connection, sqlite3.Connection):
|
||
return
|
||
cursor = dbapi_connection.cursor()
|
||
cursor.execute("PRAGMA journal_mode=WAL")
|
||
cursor.execute("PRAGMA busy_timeout=5000")
|
||
cursor.execute("PRAGMA synchronous=NORMAL")
|
||
cursor.close()
|
||
|
||
|
||
class User(UserMixin, db.Model):
|
||
"""后台用户。
|
||
|
||
权限模型：
|
||
- is_admin=True：管理员，拥有全部权限，不受 perms 限制
|
||
- is_admin=False：按 perms 授权（JSON 数组，如 ["tasks","devices"]）
|
||
- 权限位：tasks=任务管理, devices=设备控制, apks=应用管理, logs=日志查看
|
||
- 用户管理本身只有管理员能做（web_server 层强制），不设普通权限位
|
||
"""
|
||
id = db.Column(db.Integer, primary_key=True)
|
||
username = db.Column(db.String(80), unique=True, nullable=False)
|
||
password_hash = db.Column(db.String(255), nullable=False)
|
||
is_admin = db.Column(db.Boolean, default=True)
|
||
perms = db.Column(db.Text, default="[]") # JSON 数组：业务权限位
|
||
|
||
def get_perms(self):
|
||
try:
|
||
return json.loads(self.perms or "[]")
|
||
except Exception:
|
||
return []
|
||
|
||
def set_perms(self, lst):
|
||
"""设置权限位。管理员强制为全部权限（内部不区分）。"""
|
||
self.perms = json.dumps(list(lst or []), ensure_ascii=False)
|
||
|
||
def has_perm(self, perm):
|
||
"""是否拥有指定权限。管理员恒为 True。"""
|
||
if self.is_admin:
|
||
return True
|
||
return perm in self.get_perms()
|
||
|
||
def set_password(self, password):
|
||
self.password_hash = generate_password_hash(password)
|
||
|
||
def check_password(self, password):
|
||
"""校验密码。兼容旧 SHA-256 哈希（匹配则自动升级为新哈希）。"""
|
||
ph = self.password_hash or ""
|
||
if ph and not ph.startswith(("pbkdf2:", "scrypt:")):
|
||
# 旧版裸 SHA-256：比对通过则升级为加盐哈希
|
||
if hashlib.sha256(password.encode()).hexdigest() == ph:
|
||
self.set_password(password)
|
||
try:
|
||
db.session.commit()
|
||
except Exception:
|
||
pass
|
||
return True
|
||
return False
|
||
return check_password_hash(ph, password)
|
||
|
||
def __repr__(self):
|
||
return f"<User {self.username}>"
|
||
|
||
|
||
class DeviceGroup(db.Model):
|
||
"""设备分组（替代旧 groups.json 的 DeviceGroup 类）。"""
|
||
id = db.Column(db.Integer, primary_key=True)
|
||
name = db.Column(db.String(80), unique=True, nullable=False)
|
||
serials = db.Column(db.Text, default="[]") # JSON 列表
|
||
description = db.Column(db.Text, default="")
|
||
|
||
def get_serials(self):
|
||
try:
|
||
return json.loads(self.serials or "[]")
|
||
except Exception:
|
||
return []
|
||
|
||
def set_serials(self, lst):
|
||
self.serials = json.dumps(lst or [], ensure_ascii=False)
|
||
|
||
def to_dict(self):
|
||
return {"name": self.name, "serials": self.get_serials(),
|
||
"description": self.description or ""}
|
||
|
||
def __repr__(self):
|
||
return f"<Group {self.name}>"
|
||
|
||
|
||
class TaskJob(db.Model):
|
||
"""任务计划（替代旧 jobs.json 的 TaskJob 类）。
|
||
|
||
字段含义和旧 TaskJob 一致，只是持久化方式从 JSON 文件改到 SQLite。
|
||
"""
|
||
id = db.Column(db.String(32), primary_key=True) # uuid 前 8 位
|
||
name = db.Column(db.String(120), nullable=False)
|
||
task_type = db.Column(db.String(60), default="generic_steps")
|
||
target = db.Column(db.Text, default='{"mode":"all"}') # JSON
|
||
params = db.Column(db.Text, default="{}") # JSON
|
||
schedule = db.Column(db.Text, default='{"mode":"once"}') # JSON
|
||
retry = db.Column(db.Text, default='{"max_attempts":1,"delay":60}') # JSON
|
||
enabled = db.Column(db.Boolean, default=True)
|
||
|
||
def _load_json(self, field, default):
|
||
try:
|
||
return json.loads(getattr(self, field) or default)
|
||
except Exception:
|
||
return json.loads(default)
|
||
|
||
def _dump_json(self, field, value):
|
||
setattr(self, field, json.dumps(value or {}, ensure_ascii=False))
|
||
|
||
def get_target(self): return self._load_json("target", '{"mode":"all"}')
|
||
def set_target(self, v): self._dump_json("target", v)
|
||
def get_params(self): return self._load_json("params", "{}")
|
||
def set_params(self, v): self._dump_json("params", v)
|
||
def get_schedule(self): return self._load_json("schedule", '{"mode":"once"}')
|
||
def set_schedule(self, v): self._dump_json("schedule", v)
|
||
def get_retry(self): return self._load_json("retry", '{"max_attempts":1,"delay":60}')
|
||
def set_retry(self, v): self._dump_json("retry", v)
|
||
|
||
def to_dict(self):
|
||
return {"id": self.id, "name": self.name, "task_type": self.task_type,
|
||
"target": self.get_target(), "params": self.get_params(),
|
||
"schedule": self.get_schedule(), "retry": self.get_retry(),
|
||
"enabled": self.enabled}
|
||
|
||
def __repr__(self):
|
||
return f"<TaskJob {self.name}>"
|
||
|
||
|
||
class CustomAction(db.Model):
|
||
"""自定义动作（把一系列步骤打包成一个可复用的动作）。
|
||
|
||
steps 字段存 JSON 数组，格式同 generic_steps 的 step schema。
|
||
前端拖拽到画布时，展开为 group 步骤（type='group'）。
|
||
"""
|
||
id = db.Column(db.String(32), primary_key=True)
|
||
name = db.Column(db.String(120), nullable=False)
|
||
icon = db.Column(db.String(4), default="📦")
|
||
steps = db.Column(db.Text, default="[]") # JSON 数组
|
||
created_at = db.Column(db.String(20), default="")
|
||
|
||
def get_steps(self):
|
||
try:
|
||
return json.loads(self.steps or "[]")
|
||
except Exception:
|
||
return []
|
||
|
||
def set_steps(self, v):
|
||
self.steps = json.dumps(v or [], ensure_ascii=False)
|
||
|
||
def to_dict(self):
|
||
return {"id": self.id, "name": self.name, "icon": self.icon or "📦",
|
||
"steps": self.get_steps(), "created_at": self.created_at or ""}
|
||
|
||
def __repr__(self):
|
||
return f"<CustomAction {self.name}>"
|
||
|
||
|
||
class ApkFile(db.Model):
|
||
"""上传的 APK 文件元信息（应用管理功能）。"""
|
||
id = db.Column(db.String(32), primary_key=True) # uuid 前 8 位
|
||
filename = db.Column(db.String(255), nullable=False) # 磁盘文件名 (id.apk)
|
||
display_name = db.Column(db.String(120), default="") # 应用名
|
||
package_name = db.Column(db.String(200), default="") # 包名
|
||
version_name = db.Column(db.String(50), default="") # 版本号
|
||
version_code = db.Column(db.Integer, default=0) # 版本码
|
||
size = db.Column(db.Integer, default=0) # 文件大小(字节)
|
||
upload_time = db.Column(db.String(20), default="") # 上传时间
|
||
|
||
def to_dict(self):
|
||
return {"id": self.id, "filename": self.filename,
|
||
"display_name": self.display_name or "",
|
||
"package_name": self.package_name or "",
|
||
"version_name": self.version_name or "",
|
||
"version_code": self.version_code or 0,
|
||
"size": self.size or 0,
|
||
"upload_time": self.upload_time or ""}
|
||
|
||
def __repr__(self):
|
||
return f"<ApkFile {self.display_name}>"
|
||
|
||
|
||
class Device(db.Model):
|
||
"""设备池（本地设备清单，替代 STF 池作为调度数据源）。
|
||
|
||
serial 即 adb 序列号（IP:5555 或 USB 序列号）；enabled=False 不参与调度。
|
||
model 为在线时自动采集的型号（如 Redmi 12C），供管理页/监控页区分设备。
|
||
"""
|
||
serial = db.Column(db.String(120), primary_key=True)
|
||
name = db.Column(db.String(80), default="") # 设备名（唯一，人可读标识）
|
||
model = db.Column(db.String(120), default="") # 型号（自动采集）
|
||
enabled = db.Column(db.Boolean, default=True) # 是否参与调度
|
||
note = db.Column(db.Text, default="") # 备注
|
||
created_at = db.Column(db.String(20), default="") # 添加时间
|
||
# 设备指纹（ro.serialno）：识别"同一台物理设备"的稳定标识。
|
||
# 网络设备（serial=IP:5555）换 IP 后靠它认领回原记录，名称/分组/任务引用都不丢。
|
||
fingerprint = db.Column(db.String(120), default="")
|
||
|
||
def to_dict(self):
|
||
return {"serial": self.serial, "name": self.name or "",
|
||
"model": self.model or "", "enabled": bool(self.enabled),
|
||
"note": self.note or "", "created_at": self.created_at or "",
|
||
"fingerprint": self.fingerprint or ""}
|
||
|
||
def __repr__(self):
|
||
return f"<Device {self.serial}>"
|
||
|
||
|
||
class PendingDevice(db.Model):
|
||
"""自动发现待连接池：扫描验证通过的设备，等待用户确认后才入正式池。
|
||
|
||
与 Device 表的区别：只代表"被扫描到、可连接"，不参与任务调度。
|
||
"""
|
||
serial = db.Column(db.String(120), primary_key=True) # 如 192.168.20.5:5555
|
||
source = db.Column(db.String(20), default="") # lan / tailscale
|
||
first_seen = db.Column(db.String(20), default="") # 首次发现时间
|
||
last_seen = db.Column(db.String(20), default="") # 最近一次扫描仍可见的时间
|
||
# 扫描时顺带读取的设备指纹：与设备池中已有记录比对，用于提示
|
||
# 「这台其实就是 <名称>（原 IP 变了）」而不是让用户在一堆陌生 IP 里猜
|
||
fingerprint = db.Column(db.String(120), default="")
|
||
|
||
def to_dict(self):
|
||
return {"serial": self.serial, "source": self.source or "",
|
||
"first_seen": self.first_seen or "", "last_seen": self.last_seen or "",
|
||
"fingerprint": self.fingerprint or ""}
|
||
|
||
|
||
class AppMeta(db.Model):
|
||
"""全局 KV 配置（AI 配置、设备发现参数、schema_version、库环境标签…）。
|
||
|
||
⚠️ 列名沿用历史的 `key`/`value`：**`key` 在 MySQL 里是保留字**，
|
||
因此不要直接拼裸 SQL 读写本表，统一走 `core/db_config.meta_get/meta_set`
|
||
（方言中立、自动按方言加引号）。
|
||
|
||
ORM 属性名用 `k`：`key` 在 SQLAlchemy 声明式 API 里是保留名，不能直接当属性。
|
||
"""
|
||
__tablename__ = "app_meta"
|
||
k = db.Column("key", db.String(64), primary_key=True)
|
||
value = db.Column(db.Text)
|
||
|
||
def __repr__(self):
|
||
return f"<AppMeta {self.k}>"
|
||
|
||
|
||
class AgentExperience(db.Model):
|
||
"""AI 控制台经验记忆：任务成功后的操作配方，下次相似任务检索注入。
|
||
|
||
recipe/tool_seq 存 JSON 文本；hits 是被召回引用的次数（巡检按它判重要性）。
|
||
"""
|
||
__tablename__ = "agent_experience"
|
||
id = db.Column(db.Integer, primary_key=True, autoincrement=True)
|
||
task_prompt = db.Column(_long_text(), default="")
|
||
recipe = db.Column(_long_text(), default="")
|
||
tool_seq = db.Column(_long_text(), default="")
|
||
hits = db.Column(db.Integer, default=0)
|
||
created_at = db.Column(db.String(20), default="")
|
||
|
||
def __repr__(self):
|
||
return f"<AgentExperience {self.id}>"
|
||
|
||
|
||
class ExperienceAudit(db.Model):
|
||
"""经验巡检记录（AI 质检）：疑似有问题的经验标 pending，删除只走人工确认。"""
|
||
__tablename__ = "experience_audit"
|
||
id = db.Column(db.Integer, primary_key=True, autoincrement=True)
|
||
exp_id = db.Column(db.Integer, nullable=False) # 对应的 agent_experience.id
|
||
verdict = db.Column(db.String(20), default="") # keep / delete
|
||
score = db.Column(db.Float().with_variant(_DOUBLE(), "mysql"), default=0)
|
||
reason = db.Column(_long_text(), default="")
|
||
hits = db.Column(db.Integer, default=0) # 巡检时的引用次数
|
||
action = db.Column(db.String(20), default="pending") # pending/kept/deleted
|
||
audited_at = db.Column(db.String(20), default="")
|
||
|
||
|
||
class AgentAction(db.Model):
|
||
"""动作库：带语义名的可复用动作单元（含元素定位、不含坐标）。
|
||
|
||
与任务级配方（agent_experience）互补；执行前按 name/别名/App 召回注入。
|
||
"""
|
||
__tablename__ = "agent_action"
|
||
id = db.Column(db.Integer, primary_key=True, autoincrement=True)
|
||
name = db.Column(db.String(120), nullable=False)
|
||
app = db.Column(db.String(80), default="")
|
||
aliases = db.Column(_long_text(), default="[]")
|
||
params = db.Column(_long_text(), default="[]")
|
||
steps = db.Column(_long_text(), nullable=False)
|
||
preconditions = db.Column(_long_text(), default="")
|
||
hits = db.Column(db.Integer, default=0)
|
||
source_prompt = db.Column(_long_text(), default="")
|
||
created_at = db.Column(db.String(20), default="")
|
||
updated_at = db.Column(db.String(20), default="")
|
||
|
||
|
||
class AgentConversation(db.Model):
|
||
"""AI 控制台会话：整个消息序列以 JSON 存在一行里（单会话几十 KB，够用）。"""
|
||
__tablename__ = "agent_conversation"
|
||
id = db.Column(db.String(20), primary_key=True)
|
||
title = db.Column(db.String(100), default="")
|
||
messages = db.Column(_long_text(), default="[]")
|
||
created_at = db.Column(db.String(20), default="")
|
||
updated_at = db.Column(db.String(20), default="")
|
||
|
||
|
||
# 版本化 schema 迁移账本 (版本号, 说明, 数据回填 SQL 或 None)
|
||
#
|
||
# 注意：**建表与补列不再由这张表驱动**——改由 db.create_all() + _sync_columns()
|
||
# 按模型定义自动完成（SQLite / MySQL 两种方言都正确）。这里只保留：
|
||
# - 版本号（写进 app_meta.schema_version，备份/恢复时用来判断新旧）
|
||
# - 未来可能需要的数据回填语句（纯数据操作，与方言无关）
|
||
# 历史条目（v1~v6 建表/加列）保留在账本里以便追溯，SQL 位置一律为 None。
|
||
SCHEMA_MIGRATIONS = [
|
||
(1, "用户权限位：user 表新增 perms 列（JSON 数组，默认空=无业务权限，管理员不受限）", None),
|
||
(2, "设备池：device 表（本地设备清单，替代 STF 池）", None),
|
||
(3, "设备池：device 表新增 model 列（型号，在线时自动采集）", None),
|
||
(4, "自动发现：pending_device 待连接池表（扫描发现的设备，用户确认后才入正式池）", None),
|
||
(5, "设备池：device 表新增 fingerprint 列（设备指纹 ro.serialno，换 IP 后认领回原记录）", None),
|
||
(6, "自动发现：pending_device 表新增 fingerprint 列（扫描时读取，用于提示是已有设备换了 IP）", None),
|
||
]
|
||
|
||
# 当前 schema 版本（备份/恢复用它判断新旧，也写进 app_meta.schema_version）
|
||
CURRENT_SCHEMA_VERSION = max(v for v, _, _ in SCHEMA_MIGRATIONS)
|
||
|
||
# 唯一索引（语义 = 部分索引：空值不参与唯一约束，兼容历史未命名/未采指纹的老数据）
|
||
# 名称唯一 = 设备的人可读标识；指纹唯一 = 一台物理设备在池中只能有一条记录
|
||
#
|
||
# SQLite 支持带 WHERE 的部分索引，直接写；MySQL 5.7 不支持过滤索引，
|
||
# 改用「虚拟生成列 + 唯一索引」复刻同一语义（唯一索引允许多个 NULL）——
|
||
# 见 _ensure_unique_indexes() 的 MySQL 分支。
|
||
_UNIQUE_INDEXES_SQLITE = (
|
||
("ux_device_name", "CREATE UNIQUE INDEX IF NOT EXISTS ux_device_name "
|
||
"ON device(name) WHERE name IS NOT NULL AND name <> ''"),
|
||
("ux_device_fingerprint", "CREATE UNIQUE INDEX IF NOT EXISTS ux_device_fingerprint "
|
||
"ON device(fingerprint) WHERE fingerprint IS NOT NULL "
|
||
"AND fingerprint <> ''"),
|
||
)
|
||
|
||
# MySQL：为空值生成 NULL 的伴随列，唯一索引建在它上面
|
||
_MYSQL_UQ_COLUMNS = (
|
||
# (表, 源列, 生成列名, 生成列类型)
|
||
("device", "name", "name_uq", "VARCHAR(80)"),
|
||
("device", "fingerprint", "fingerprint_uq", "VARCHAR(120)"),
|
||
)
|
||
_MYSQL_UNIQUE_INDEXES = (
|
||
("ux_device_name", "device", "name_uq"),
|
||
("ux_device_fingerprint", "device", "fingerprint_uq"),
|
||
)
|
||
|
||
|
||
def init_db(app):
|
||
"""在 Flask app context 里初始化数据库 + 创建默认管理员。
|
||
|
||
web_server 启动时调用。自动迁移旧 groups.json/jobs.json 到数据库。
|
||
|
||
顺序：建表（create_all）→ 补列（_sync_columns）→ 版本账本 → 唯一索引 → 管理员/旧 JSON。
|
||
建表与补列都以模型定义为准，SQLite / MySQL 两种方言自动匹配，不再手写 DDL。
|
||
"""
|
||
db.init_app(app)
|
||
with app.app_context():
|
||
db.create_all()
|
||
_sync_columns()
|
||
_migrate_schema()
|
||
_ensure_unique_indexes()
|
||
_ensure_default_admin()
|
||
_migrate_old_json()
|
||
|
||
|
||
def _sync_columns():
|
||
"""按模型定义补齐"实表缺的列"（幂等）。
|
||
|
||
取代原来靠 "duplicate column name" 报错文本判断的老写法：那是 SQLite 时代的
|
||
容错路径，换 MySQL 后报错文本/错误码都不同，靠字符串匹配太脆。
|
||
现在直接读数据库元数据（sqlalchemy.inspect）比对，缺什么补什么。
|
||
"""
|
||
from sqlalchemy import inspect
|
||
from sqlalchemy.schema import CreateColumn
|
||
|
||
try:
|
||
insp = inspect(db.engine)
|
||
existing = set(insp.get_table_names())
|
||
except Exception as e:
|
||
_log.error(f"读取表结构失败，跳过补列: {e}")
|
||
return
|
||
|
||
added = []
|
||
for table in db.metadata.sorted_tables:
|
||
if table.name not in existing:
|
||
continue # 缺整表交给 create_all
|
||
try:
|
||
have = {c["name"] for c in insp.get_columns(table.name)}
|
||
except Exception as e:
|
||
_log.warning(f"读取 {table.name} 列失败: {e}")
|
||
continue
|
||
for col in table.columns:
|
||
if col.name in have:
|
||
continue
|
||
try:
|
||
ddl = CreateColumn(col).compile(dialect=db.engine.dialect)
|
||
db.session.execute(
|
||
text("ALTER TABLE {} ADD COLUMN {}".format(table.name, ddl)))
|
||
db.session.commit()
|
||
added.append(f"{table.name}.{col.name}")
|
||
except Exception as e:
|
||
db.session.rollback()
|
||
_log.warning(f"补列失败 {table.name}.{col.name}: {e}")
|
||
if added:
|
||
_log.info("schema 补列: " + ", ".join(added))
|
||
|
||
|
||
def _migrate_schema():
|
||
"""维护 schema_version 账本 + 执行数据回填类迁移。
|
||
|
||
建表/加列已由 create_all + _sync_columns 按模型自动完成，本函数不再写 DDL；
|
||
SCHEMA_MIGRATIONS 里带 SQL 的条目只允许是方言无关的数据操作。
|
||
"""
|
||
from core import db_config
|
||
try:
|
||
try:
|
||
current = int(db_config.meta_get("schema_version") or 0)
|
||
except Exception:
|
||
current = 0
|
||
for version, desc, backfill_sql in SCHEMA_MIGRATIONS:
|
||
if version <= current:
|
||
continue
|
||
if backfill_sql:
|
||
try:
|
||
db.session.execute(text(backfill_sql))
|
||
db.session.commit()
|
||
except Exception as e:
|
||
db.session.rollback()
|
||
_log.error(f"迁移 v{version} 数据回填失败: {e}")
|
||
_log.info(f"schema 迁移到版本 {version}（结构由模型自动同步）: {desc}")
|
||
if current < CURRENT_SCHEMA_VERSION:
|
||
db_config.meta_set("schema_version", str(CURRENT_SCHEMA_VERSION))
|
||
except Exception as e:
|
||
_log.error(f"schema 迁移失败（不阻塞启动）: {e}")
|
||
|
||
|
||
def _ensure_unique_indexes():
|
||
"""建"空值不参与唯一约束"的设备名/指纹唯一索引（幂等，方言分叉）。
|
||
|
||
单独抽出来是因为索引不属于某个版本迁移：老库升级后也要补建。
|
||
历史数据若存在重复（名称/指纹撞车），建索引会失败——只告警不回滚、
|
||
不阻塞启动，由管理页提示用户改名（唯一约束从此刻起对新数据生效）。
|
||
"""
|
||
if db.engine.dialect.name == "mysql":
|
||
_ensure_unique_indexes_mysql()
|
||
return
|
||
for name, sql in _UNIQUE_INDEXES_SQLITE:
|
||
try:
|
||
db.session.execute(text(sql))
|
||
db.session.commit()
|
||
except Exception as e:
|
||
db.session.rollback()
|
||
_log.warning(f"唯一索引 {name} 创建失败（历史数据可能有重复）: {e}")
|
||
|
||
|
||
def _ensure_unique_indexes_mysql():
|
||
"""MySQL 5.7 没有过滤索引，用「虚拟生成列 + 唯一索引」复刻部分索引语义。
|
||
|
||
生成列把空值映射成 NULL，而唯一索引允许多个 NULL —— 正好等于
|
||
「空值不参与唯一约束」。生成列不进 ORM 模型（进了 create_all 会尝试写入它
|
||
并报 Error 3105），所以只能在这里用 DDL 补。
|
||
"""
|
||
from sqlalchemy import inspect
|
||
coll = "utf8mb4_bin" # 与库默认一致：逐码点比较，等价 SQLite 的大小写敏感
|
||
for table, col, gen, typ in _MYSQL_UQ_COLUMNS:
|
||
try:
|
||
have = {c["name"] for c in inspect(db.engine).get_columns(table)}
|
||
if gen in have:
|
||
continue
|
||
db.session.execute(text(
|
||
"ALTER TABLE {t} ADD COLUMN {g} {ty} COLLATE {coll} "
|
||
"GENERATED ALWAYS AS (IF({c} IS NULL OR {c} = '', NULL, {c})) VIRTUAL"
|
||
.format(t=table, g=gen, ty=typ, coll=coll, c=col)))
|
||
db.session.commit()
|
||
_log.info(f"已建生成列 {table}.{gen}（部分唯一索引的 MySQL 替代）")
|
||
except Exception as e:
|
||
db.session.rollback()
|
||
_log.warning(f"生成列 {table}.{gen} 创建失败: {e}")
|
||
|
||
for name, table, gen in _MYSQL_UNIQUE_INDEXES:
|
||
try:
|
||
have = {i["name"] for i in inspect(db.engine).get_indexes(table)}
|
||
if name in have:
|
||
continue
|
||
db.session.execute(
|
||
text("CREATE UNIQUE INDEX {} ON {}({})".format(name, table, gen)))
|
||
db.session.commit()
|
||
_log.info(f"已建唯一索引 {name}")
|
||
except Exception as e:
|
||
db.session.rollback()
|
||
_log.warning(f"唯一索引 {name} 创建失败（历史数据可能有重复）: {e}")
|
||
|
||
|
||
def _ensure_default_admin():
|
||
"""首次启动创建默认管理员 admin/admin123。"""
|
||
if not User.query.filter_by(username="admin").first():
|
||
u = User(username="admin", is_admin=True)
|
||
u.set_password("admin123")
|
||
db.session.add(u)
|
||
db.session.commit()
|
||
_log.info("已创建默认管理员 admin/admin123，请及时改密码")
|
||
|
||
|
||
def _migrate_old_json():
|
||
"""把旧 groups.json / jobs.json 迁移到 SQLite（仅首次）。
|
||
|
||
迁移策略：
|
||
1. 仅当数据库对应表为空时才迁移（首次启动场景）
|
||
2. 迁移成功后立即把 JSON 文件重命名为 <name>.json.migrated，
|
||
保留备份但永不再迁移——避免"用户删完全部任务后重启又从旧文件复原"
|
||
3. 若数据库已有数据但 JSON 文件仍在（历史残留），直接归档，
|
||
避免将来数据库被清空后又触发迁移导致已删任务复原
|
||
4. 迁移任务时顺手剔除已废弃的 comment action 配置，
|
||
避免 _load 阶段还要再写回一次
|
||
"""
|
||
from config import DATA_DIR
|
||
|
||
# 迁移分组
|
||
groups_file = os.path.join(DATA_DIR, "groups.json")
|
||
if os.path.exists(groups_file) and DeviceGroup.query.count() == 0:
|
||
try:
|
||
with open(groups_file, encoding="utf-8") as f:
|
||
groups = json.load(f)
|
||
for g in groups:
|
||
if not DeviceGroup.query.filter_by(name=g["name"]).first():
|
||
row = DeviceGroup(name=g["name"],
|
||
description=g.get("description", ""))
|
||
row.set_serials(g.get("serials", []))
|
||
db.session.add(row)
|
||
db.session.commit()
|
||
_log.info(f"已迁移 {len(groups)} 个分组到数据库")
|
||
_archive_migrated(groups_file)
|
||
except Exception as e:
|
||
_log.error(f"迁移 groups.json 失败: {e}")
|
||
|
||
# 迁移任务
|
||
jobs_file = os.path.join(DATA_DIR, "jobs.json")
|
||
if os.path.exists(jobs_file) and TaskJob.query.count() == 0:
|
||
try:
|
||
with open(jobs_file, encoding="utf-8") as f:
|
||
jobs = json.load(f)
|
||
for j in jobs:
|
||
if TaskJob.query.get(j["id"]):
|
||
continue
|
||
params = j.get("params", {})
|
||
# 剔除已废弃的 comment action，避免带入数据库
|
||
actions = params.get("actions", {})
|
||
if "comment" in actions:
|
||
del actions["comment"]
|
||
_log.info(f"迁移任务 {j.get('name')}: 已剔除废弃的 comment 配置")
|
||
row = TaskJob(id=j["id"], name=j["name"],
|
||
task_type=j.get("task_type", "generic_steps"),
|
||
enabled=j.get("enabled", True))
|
||
row.set_target(j.get("target", {"mode": "all"}))
|
||
row.set_params(params)
|
||
row.set_schedule(j.get("schedule", {"mode": "once"}))
|
||
row.set_retry(j.get("retry", {"max_attempts": 1, "delay": 60}))
|
||
db.session.add(row)
|
||
db.session.commit()
|
||
_log.info(f"已迁移 {len(jobs)} 个任务到数据库")
|
||
_archive_migrated(jobs_file)
|
||
except Exception as e:
|
||
_log.error(f"迁移 jobs.json 失败: {e}")
|
||
|
||
# 清理历史残留：数据库已有数据但 JSON 文件仍在（修复前遗留下来的文件）。
|
||
# 不归档的话，用户哪天删光所有任务/分组，count==0 又会触发迁移导致已删数据复原。
|
||
if DeviceGroup.query.count() > 0 and os.path.exists(groups_file):
|
||
_archive_migrated(groups_file)
|
||
if TaskJob.query.count() > 0 and os.path.exists(jobs_file):
|
||
_archive_migrated(jobs_file)
|
||
|
||
|
||
def _archive_migrated(file_path):
|
||
"""把已迁移的 JSON 文件重命名为 <name>.migrated，避免下次重启再迁移。
|
||
|
||
保留备份以便排查，但 _migrate_old_json 的 exists 判断会跳过它。
|
||
重命名失败只警告不抛出，不影响启动。
|
||
"""
|
||
archived = file_path + ".migrated"
|
||
try:
|
||
if os.path.exists(archived):
|
||
os.remove(archived)
|
||
os.rename(file_path, archived)
|
||
_log.info(f"已归档迁移文件: {os.path.basename(file_path)} -> {os.path.basename(archived)}")
|
||
except Exception as e:
|
||
_log.warning(f"归档 {file_path} 失败（不影响运行）: {e}")
|