feat(monitor): 抖音 Web 接口客户端 —— 绕开爬虫子进程,直接发 HTTP
Deploy VitePress site to Pages / build (push) Canceled after 0s
Deploy VitePress site to Pages / Deploy (push) Canceled after 0s

移植自 mac-agent-os 的 mediacrawler_adapter:不起子进程、不开页面,用浏览器里那份
登录态直接调抖音 Web 接口。产物键名照抄 store/douyin,所以 ingest 那条链路一个字不用改。

**目前能用的(真环境实测,非推断)**:

    profile/other : 200, 7075 字节  —— 博主主页指标(粉丝/获赞/作品数/昵称)
    aweme/detail  : 200, 45425 字节 —— 单条作品详情(含点赞/评论/收藏/分享)

**目前不能用的:作品列表 `aweme/post`。** 两个互相独立的原因:
  1. 这个接口被抖音单独升级成了真校验:不带 x-tt-argus 回 403「Uifid Not Found」,
     带上 dummy 值回 200 + **空 body**。也就是说「头在不在」骗得过,「真校验」过不了。
     同一套头打 profile/other 和 aweme/detail 都是通的 —— 抖音是挑着接口加保护的,
     挑中的恰好是「批量拉作品列表」这个最敏感的动作。
  2. 改走页面截获也不行:CDP 浏览器打开博主主页会落到「验证码中间页」(当天大量探测的
     代价,过几小时要重测)。

  所以现在的边界是:**已知作品的指标刷新能做,自动发现新作品做不了**。

**排查中控住变量后得到的两条事实**(都写进注释了):
  · `Accept` / `Accept-Language` / `Referer` 才是主页接口能返回真数据的原因 —— 只有
    UA+client hints+Cookie 时是 200 但仅 121 字节的空壳,补上这三个头变 7074 字节。
    (我先前猜的 sec-ch-ua 不是关键。)
  · 因此 UA 与 client hints 必须**成套地取自同一个浏览器**,所以 BrowserIdentity 一次
    从 CDP 取齐 cookie + UA + hints,而不是各自写死。

「200 + 空 body 必须当场报错」也是刻意写死的:放过去它会在下游变成「这个博主没作品」,
把一次失败伪装成一条正常结果 —— 爬虫那条路正是这么栽的,还被翻译成「账号被封」。

测试 +11:cookie 解析、请求头成套性(含 uifid 缺失/回退)、产物键名与 store 对齐、
以及 _get 的三条失败路径(空 body / 403 带网关原话 / 正常返回)。
This commit is contained in:
2026-10-10 17:12:25 +08:00
parent 21ff01b894
commit 2112c1a870
1601 changed files with 367425 additions and 0 deletions
@@ -0,0 +1,31 @@
# accounts.override.yaml — 本机账号覆写配置 (L1)
# 位置: ~/workbuddy-agent-os/agent-local/tools/matrix/config/accounts.override.yaml
# 同步: 不参与任何同步, 每机独⽴
# 用途: 覆写 registry 中的本机账号的敏感/环境相关字段
#
# 规则:
# - 只写本机有归属的账号 (assigned_machine == 本机 hostname)
# - 手机号/代理/启用状态只在这里定义
# - identity_dir 可覆盖 (如果本机身份目录名不⼀致)
# - 不存在的字段自动从 registry 继承
version: "1.0"
hostname: "__YOUR_HOSTNAME__" # 改为本机 hostname
accounts:
# 示例: douyin_01 的覆写
- id: douyin_01
phone: "185xxxx8610" # 完整手机号
proxy: "" # 代理 (空=不使⽤)
enabled: true # 本机是否启用此账号
# identity_dir: identities/my_custom_dir # 可选覆盖
- id: douyin_02
phone: "185xxxx3366"
proxy: ""
enabled: true
- id: douyin_camo01
phone: "153xxxx8283"
proxy: ""
enabled: true
@@ -0,0 +1,54 @@
# Matrix 账号配置模板
# 复制到 agent-local/tools/matrix/config/accounts.yaml 后编辑
#
# 同手机号共享身份原则:
# - 同一个手机号只创建一个 identity 目录
# - 在该浏览器 profile 中分别登录抖音和小红书
# - identity_dir 指向同一个目录
accounts:
# ── 示例:抖音账号 ──
- id: douyin_01 # 账号ID(唯一标识)
platform: douyin # 平台:douyin / xiaohongshu
phone: "13800138000" # 手机号(必填)
display_name: 我的抖音号 # 显示名称(选填)
enabled: true # 启用状态
browser_type: camoufox # 浏览器引擎
profile_dir: phone_13800138000 # 共享身份目录名
identity_dir: phone_13800138000
# ── 示例:同手机号小红书账号 ──
- id: xhs_01 # 同一手机号
platform: xiaohongshu
phone: "13800138000"
display_name: 我的小红书号
enabled: true
browser_type: camoufox
profile_dir: phone_13800138000 # 指向同一个目录
identity_dir: phone_13800138000
# ── 示例:另一个手机号的抖音账号 ──
- id: douyin_02
platform: douyin
phone: "13900139000"
display_name: 小号
enabled: true
browser_type: camoufox
profile_dir: phone_13900139000
identity_dir: phone_13900139000
# ── 目录结构说明 ──
#
# agent-local/tools/matrix/
# identities/
# phone_13800138000/ ← 身份目录(浏览器指纹+cookie)
# config.yaml ← 指纹配置(自动生成)
# user_data/ ← Camoufox 浏览器 profile
# cookies.sqlite ← 登录态(自动维护)
# cache2/ ← 浏览器缓存
# ...
# phone_13900139000/ ← 另一个手机号的身份
# ...
# config/
# accounts.yaml ← 本文件
@@ -0,0 +1,13 @@
# Matrix AI 评论生成配置模板
# 复制到 config/ai.yaml 后编辑
#
# 不配置 api_key 时 AI 功能自动禁用,不影响现有语料库功能
# 支持 OpenAI 兼容 API(可接本地模型)
ai:
provider: openai # openai / local(兼容任何 OpenAI 格式的 API)
api_key: "" # 从环境变量 OPENAI_API_KEY 读取,留空则不启用
base_url: "https://api.openai.com/v1"
model: "gpt-4o-mini" # 模型名
temperature: 0.8 # 生成温度 0-1,越高越随机
max_tokens: 100 # 最大生成长度
@@ -0,0 +1,27 @@
{
"douyin_01": {
"nickname": "我的抖音号",
"user_id": "抖音号xxx",
"platform": "douyin",
"updated": "2026-06-13T00:00:00",
"persona": {
"age_group": "25-35",
"gender": "男",
"interests": ["科技", "数码", "汽车"],
"comment_style": ["称赞", "提问"],
"search_keywords": ["手机评测", "数码产品", "汽车测评"]
}
},
"xhs_01": {
"nickname": "我的小红书号",
"platform": "xiaohongshu",
"updated": "2026-06-13T00:00:00",
"persona": {
"age_group": "25-35",
"gender": "女",
"interests": ["美食", "旅行", "穿搭"],
"comment_style": ["称赞", "共鸣"],
"search_keywords": ["美食探店", "旅行攻略", "穿搭分享"]
}
}
}
@@ -0,0 +1,31 @@
# Matrix 定时任务配置模板
# 复制到 config/schedule.yaml 后编辑
#
# time 格式: HH:MM(每天固定时间执行)
# enabled: true 启用 / false 禁用
# @persona 自动从人设配置取搜索关键词
schedules:
douyin_daily_morning:
enabled: false
account: douyin_01
blueprint: douyin_daily
rounds: 3
time: "09:00"
xhs_daily_noon:
enabled: false
account: xhs_01
blueprint: xhs_daily
rounds: 2
time: "12:30"
douyin_search_evening:
enabled: false
account: douyin_01
blueprint: douyin_search
rounds: 1
time: "18:00"
args:
keyword: "@persona" # 自动用人设关键词
@@ -0,0 +1,39 @@
# screen_layout.yaml — UI 布局参数(可感知的基准配置)
#
# 用途:存储基于真人操作的 UI 布局参数,替代硬编码坐标
# 位置:config/ 目录(不随账号变化)
# 优先级:账号 config.yaml中的 ui_layout > 本文件 > ui_layout.py 默认值
#
# 调整方法:
# 1. 打开评论区(KeyX)
# 2. 手动点击输入框,记住大概的 X/Y
# 3. 如果点击不准,调整 from_right_margin(越大越靠左)
# 原理:X = 窗口宽度 - from_right_margin
# 4. 如果 Y 不准,调整 from_top_fallback
#
# 窗口默认尺寸: 702×783
douyin_comment:
input_box:
# 从窗口右边缘往左偏移量(避开 Emoji / @ / 发送按钮)
# 窗口宽度从右往左算:X = window_width - from_right_margin
# windows_width=702时 → X ≈ 702-140 = 562
from_right_margin: 140
# Y坐标兜底(DOM 检测不到时的 fallback)
# 窗口高度=783,输入框在底部
from_top_fallback: 720
buttons:
send_width: 60 # 发送按钮宽度
icon_width: 30 # emoji/@图标宽度
button_count: 3 # 按钮总数 (emoji + @ + 发送)
margin: 10 # 按钮间距
send_key:
method: dom # 发送方式: dom (找"发送"按钮) / alt_enter
alt_enter_fallback: true
verify_code:
input_placeholder: "验证码"
confirm_button_texts: ["确认", "提交", "验证"]
@@ -0,0 +1,15 @@
# SMS 验证码 API 配置
# 复制本文件到 ../scripts/config/sms.yaml 并填入真实值
#
# API 服务:wx.tyhtak.com(短信转发平台)
# 使用方式:
# 1. cp config_template/sms.yaml scripts/config/sms.yaml
# 2. 填入你的 API Key 和手机号
# 3. 运行养号脚本时会自动读取
sms:
api_key: "gtmsg2026" # API 密钥
phone: "15370103682" # 接收验证码的手机号
base_url: "https://wx.tyhtak.com/api/biz/msg/messages" # API 地址
poll_interval: 3 # 轮询间隔(秒)
timeout: 120 # 默认超时(秒)
@@ -0,0 +1,24 @@
# Matrix 任务配置
# 格式说明:每个任务定义 blueprint + 执行账号 + 触发时间
tasks:
- id: daily_douyin_browse
name: 抖音日常浏览养号
blueprint: douyin_browse
accounts:
- account_01
enabled: true
- id: daily_xhs_like
name: 小红书点赞互动
blueprint: xiaohongshu_like
accounts:
- account_01
enabled: true
- id: daily_zhihu_read
name: 知乎阅读任务
blueprint: zhihu_read
accounts:
- account_01
enabled: false # 先禁用,等知乎蓝图完成后再开启