移植自 mac-agent-os 的 mediacrawler_adapter:不起子进程、不开页面,用浏览器里那份
登录态直接调抖音 Web 接口。产物键名照抄 store/douyin,所以 ingest 那条链路一个字不用改。
**目前能用的(真环境实测,非推断)**:
profile/other : 200, 7075 字节 —— 博主主页指标(粉丝/获赞/作品数/昵称)
aweme/detail : 200, 45425 字节 —— 单条作品详情(含点赞/评论/收藏/分享)
**目前不能用的:作品列表 `aweme/post`。** 两个互相独立的原因:
1. 这个接口被抖音单独升级成了真校验:不带 x-tt-argus 回 403「Uifid Not Found」,
带上 dummy 值回 200 + **空 body**。也就是说「头在不在」骗得过,「真校验」过不了。
同一套头打 profile/other 和 aweme/detail 都是通的 —— 抖音是挑着接口加保护的,
挑中的恰好是「批量拉作品列表」这个最敏感的动作。
2. 改走页面截获也不行:CDP 浏览器打开博主主页会落到「验证码中间页」(当天大量探测的
代价,过几小时要重测)。
所以现在的边界是:**已知作品的指标刷新能做,自动发现新作品做不了**。
**排查中控住变量后得到的两条事实**(都写进注释了):
· `Accept` / `Accept-Language` / `Referer` 才是主页接口能返回真数据的原因 —— 只有
UA+client hints+Cookie 时是 200 但仅 121 字节的空壳,补上这三个头变 7074 字节。
(我先前猜的 sec-ch-ua 不是关键。)
· 因此 UA 与 client hints 必须**成套地取自同一个浏览器**,所以 BrowserIdentity 一次
从 CDP 取齐 cookie + UA + hints,而不是各自写死。
「200 + 空 body 必须当场报错」也是刻意写死的:放过去它会在下游变成「这个博主没作品」,
把一次失败伪装成一条正常结果 —— 爬虫那条路正是这么栽的,还被翻译成「账号被封」。
测试 +11:cookie 解析、请求头成套性(含 uifid 缺失/回退)、产物键名与 store 对齐、
以及 _get 的三条失败路径(空 body / 403 带网关原话 / 正常返回)。
153 lines
5.6 KiB
Markdown
153 lines
5.6 KiB
Markdown
---
|
||
|
||
title: Matrix 养号系统架构与运维指南
|
||
tags: [matrix, nurture, architecture, operations, douyin, xhs]
|
||
created: 2026-05-29
|
||
updated: 2026-05-29
|
||
nature: method
|
||
collected: true
|
||
collected_date: 2026-06-09
|
||
---
|
||
|
||
## 系统概览
|
||
|
||
Matrix 养号系统是一套多平台浏览器自动化框架,支持抖音(Douyin)和小红书(XHS)的账号养号、浏览互动、评论等操作。
|
||
|
||
## 架构
|
||
|
||
```
|
||
统一入口 matrix.py (CLI)
|
||
├── 双引擎连接 cdp_connector.py
|
||
│ ├── Chrome CDP (UA + viewport + touchEmulation 三合一)
|
||
│ └── Camoufox 持久化 (config 注入, 反检测)
|
||
├── 养号控制 runner.py (nurture_loop / nurture_xhs_loop)
|
||
├── 操作层 ops/
|
||
│ ├── douyin/ (browse.py, interact.py)
|
||
│ └── xhs/ (browse.py, interact.py, selectors.py)
|
||
├── 行为模拟 nurture/behavior.py (13 项可配置参数)
|
||
├── 身份管理 identities/{name}/
|
||
│ ├── config.yaml (窗口位置、代理等)
|
||
│ ├── fingerprint.pkl (浏览器指纹)
|
||
│ └── user_data/ (浏览器 profile 数据)
|
||
└── 主控脚本 nurture_master.sh (Phase 1 抖音 → Phase 2 小红书)
|
||
```
|
||
|
||
## 核心概念
|
||
|
||
### 双引擎模式
|
||
|
||
| 引擎 | 适用场景 | 特点 |
|
||
|------|----------|------|
|
||
| Chrome CDP | 需要高性能/稳定连接 | UA+viewport+touchEmulation 三合一注入 |
|
||
| Camoufox | 需要强反检测 | 持久化 profile, config 注入, 指纹隔离 |
|
||
|
||
### 统一 CLI
|
||
|
||
```bash
|
||
matrix {account|nurture|config|status} {action} {params}
|
||
```
|
||
|
||
### 账号共享身份
|
||
|
||
XHS 和抖音可共享同一 identity_dir(如 `douyin_01_camo` 同时用于 `xhs_01`),实现指纹统一。但需注意 **profile 互斥**:同一时刻只能有一个浏览器实例使用同一 profile。
|
||
|
||
## 养号流程
|
||
|
||
### 抖音养号轮次
|
||
|
||
```
|
||
首页 → 点击推荐卡片 → 看视频(随机时长) → 点赞/收藏(5中1) → 搜索框搜索 → 返回首页 → 循环
|
||
```
|
||
|
||
### 小红书养号轮次
|
||
|
||
```
|
||
首页(瀑布流)
|
||
→ Step 0: click_refresh_button() ← 必执行,预防黑屏/卡死
|
||
→ Step 1: scroll_feed_human(1-3屏) ← 拟人化滚动
|
||
→ Step 2: click_note_card(max_retries=3) ← 含误触作者→新标签页检测+重试
|
||
→ Step 3: browse_note_detail(4-12s) ← 图文/视频自适应
|
||
→ Step 4: random_interact() ← 点赞/收藏/关注随机触发
|
||
→ Step 5: comment(每3轮1次) ← pbcopy+Meta+V+Enter
|
||
→ Step 6: QR墙检测 + 返回首页 ← click_qr_wall_back_button优先
|
||
→ Step 7: 搜索发现(每2轮1次) → 返回后刷新 ← 搜索返回后加click_refresh_button
|
||
→ 循环
|
||
```
|
||
|
||
所有 `page.evaluate()` 调用均有 `asyncio.wait_for` 超时保护(8-10s),防止卡死。
|
||
|
||
## 后台运行
|
||
|
||
```bash
|
||
nohup matrix nurture run --account <name> --rounds 10 > /tmp/nurture_<acct>.log 2>&1 &
|
||
```
|
||
|
||
- 独立日志:`/tmp/nurture_<acct>.log`
|
||
- 全局日志:`/tmp/nurture.log`
|
||
- **Python stdout 缓冲问题**:后台进程日志可能延迟写入,需检查账号级日志
|
||
|
||
## 浏览器生命周期管理
|
||
|
||
### daemon 模式(重要)
|
||
|
||
- `--daemon`:养号结束后浏览器保持运行(便于调试)
|
||
- `--no-daemon`:养号结束后正常关闭浏览器释放资源
|
||
- **跨 Phase 场景**:Phase 1 抖音结束必须用 `--no-daemon` 关闭浏览器,否则 Phase 2 小红书复用同 profile 会 TargetClosedError
|
||
- `argparse.BooleanOptionalAction` 实现 `--daemon` / `--no-daemon` 双向开关
|
||
|
||
### Profile 冲突排查
|
||
|
||
**现象**:`TargetClosedError` 或页面无法操作
|
||
**根因**:两个浏览器实例争用同一 profile 目录(`.parentlock` 锁文件)
|
||
**解决**:确保前一个实例完全关闭(`conn.close()`),必要时清理 `.parentlock`
|
||
|
||
### conn.close() 实现
|
||
|
||
调用 `_camoufox_browser.close()` + `_playwright.stop()`,完整释放所有资源。
|
||
|
||
## Cookie 管理(CookieGuard)
|
||
|
||
- **模块**:`utils/cookie_manager.py` 中的 `CookieGuard(identity_name)`
|
||
- **规则**:共享 identity_dir 不能用裸 `sqlite3 DELETE`,必须用 `delete_platform_cookies_safe()` 自动备份对方平台 cookie
|
||
- **备份位置**:`backups/cookies/{identity_dir_name}/`
|
||
- **自动集成**:runner.py + matrix.py + nurture_master.sh
|
||
|
||
## 行为模拟参数(behavior.py)
|
||
|
||
13 项可配置参数控制养号行为的人性化程度:
|
||
- 点击延迟、滑动速度、浏览时长、互动概率、轮间休息等
|
||
|
||
## 账号管理
|
||
|
||
- **identities 目录**:每个身份独立文件夹(config.yaml + fingerprint.pkl + user_data/)
|
||
- **accounts.yaml**:集中管理所有账号配置(窗口位置、identity_dir 映射等)
|
||
- **窗口位置**:从 accounts.yaml 读取,运行结束不回写
|
||
- **identity_dir**:必须从 accounts.yaml 读取,不能仅用 identity_name 构造路径
|
||
|
||
## known-pitfalls
|
||
|
||
### Camoufox
|
||
- 启动失败 → 清理 `.user_data` 锁文件(`.parentlock`)
|
||
- 指纹分辨率影响 XHS 布局版本(见 AI-layout 兼容知识卡)
|
||
|
||
### Chrome
|
||
- Chrome 148+ → `Emulation.setDeviceMetricsOverride` 失效,改用 `set_viewport_size`
|
||
- macOS 窗口激活需用 AppleScript(系统限制)
|
||
|
||
### macOS 26.4
|
||
- 系统升级后 .so 文件因 Team ID 不匹配无法加载 → ad-hoc 重新签名
|
||
- 脚本:`codesign --force --sign - <file>`
|
||
|
||
### Python 后台进程
|
||
- stdout 默认缓冲导致日志延迟/丢失 → 检查账号级日志文件
|
||
- `PYTHONUNBUFFERED=1` 可强制无缓冲
|
||
|
||
## 全模拟运营架构
|
||
|
||
```
|
||
Layer 4: 管理层 排期/调度/KPI(规划中)
|
||
Layer 3: 流水线层 内容/电商/直播流水线
|
||
Layer 2: 操作层 原子操作(发布/评论/互动)
|
||
Layer 1: 数据层 每账号工作区(素材/脚本/发布记录/cookie备份)
|
||
```
|