feat(monitor): 抖音 Web 接口客户端 —— 绕开爬虫子进程,直接发 HTTP
移植自 mac-agent-os 的 mediacrawler_adapter:不起子进程、不开页面,用浏览器里那份
登录态直接调抖音 Web 接口。产物键名照抄 store/douyin,所以 ingest 那条链路一个字不用改。
**目前能用的(真环境实测,非推断)**:
profile/other : 200, 7075 字节 —— 博主主页指标(粉丝/获赞/作品数/昵称)
aweme/detail : 200, 45425 字节 —— 单条作品详情(含点赞/评论/收藏/分享)
**目前不能用的:作品列表 `aweme/post`。** 两个互相独立的原因:
1. 这个接口被抖音单独升级成了真校验:不带 x-tt-argus 回 403「Uifid Not Found」,
带上 dummy 值回 200 + **空 body**。也就是说「头在不在」骗得过,「真校验」过不了。
同一套头打 profile/other 和 aweme/detail 都是通的 —— 抖音是挑着接口加保护的,
挑中的恰好是「批量拉作品列表」这个最敏感的动作。
2. 改走页面截获也不行:CDP 浏览器打开博主主页会落到「验证码中间页」(当天大量探测的
代价,过几小时要重测)。
所以现在的边界是:**已知作品的指标刷新能做,自动发现新作品做不了**。
**排查中控住变量后得到的两条事实**(都写进注释了):
· `Accept` / `Accept-Language` / `Referer` 才是主页接口能返回真数据的原因 —— 只有
UA+client hints+Cookie 时是 200 但仅 121 字节的空壳,补上这三个头变 7074 字节。
(我先前猜的 sec-ch-ua 不是关键。)
· 因此 UA 与 client hints 必须**成套地取自同一个浏览器**,所以 BrowserIdentity 一次
从 CDP 取齐 cookie + UA + hints,而不是各自写死。
「200 + 空 body 必须当场报错」也是刻意写死的:放过去它会在下游变成「这个博主没作品」,
把一次失败伪装成一条正常结果 —— 爬虫那条路正是这么栽的,还被翻译成「账号被封」。
测试 +11:cookie 解析、请求头成套性(含 uifid 缺失/回退)、产物键名与 store 对齐、
以及 _get 的三条失败路径(空 body / 403 带网关原话 / 正常返回)。
This commit is contained in:
@@ -0,0 +1,31 @@
|
||||
# accounts.override.yaml — 本机账号覆写配置 (L1)
|
||||
# 位置: ~/workbuddy-agent-os/agent-local/tools/matrix/config/accounts.override.yaml
|
||||
# 同步: 不参与任何同步, 每机独⽴
|
||||
# 用途: 覆写 registry 中的本机账号的敏感/环境相关字段
|
||||
#
|
||||
# 规则:
|
||||
# - 只写本机有归属的账号 (assigned_machine == 本机 hostname)
|
||||
# - 手机号/代理/启用状态只在这里定义
|
||||
# - identity_dir 可覆盖 (如果本机身份目录名不⼀致)
|
||||
# - 不存在的字段自动从 registry 继承
|
||||
|
||||
version: "1.0"
|
||||
hostname: "__YOUR_HOSTNAME__" # 改为本机 hostname
|
||||
|
||||
accounts:
|
||||
# 示例: douyin_01 的覆写
|
||||
- id: douyin_01
|
||||
phone: "185xxxx8610" # 完整手机号
|
||||
proxy: "" # 代理 (空=不使⽤)
|
||||
enabled: true # 本机是否启用此账号
|
||||
# identity_dir: identities/my_custom_dir # 可选覆盖
|
||||
|
||||
- id: douyin_02
|
||||
phone: "185xxxx3366"
|
||||
proxy: ""
|
||||
enabled: true
|
||||
|
||||
- id: douyin_camo01
|
||||
phone: "153xxxx8283"
|
||||
proxy: ""
|
||||
enabled: true
|
||||
@@ -0,0 +1,54 @@
|
||||
# Matrix 账号配置模板
|
||||
# 复制到 agent-local/tools/matrix/config/accounts.yaml 后编辑
|
||||
#
|
||||
# 同手机号共享身份原则:
|
||||
# - 同一个手机号只创建一个 identity 目录
|
||||
# - 在该浏览器 profile 中分别登录抖音和小红书
|
||||
# - identity_dir 指向同一个目录
|
||||
|
||||
accounts:
|
||||
|
||||
# ── 示例:抖音账号 ──
|
||||
- id: douyin_01 # 账号ID(唯一标识)
|
||||
platform: douyin # 平台:douyin / xiaohongshu
|
||||
phone: "13800138000" # 手机号(必填)
|
||||
display_name: 我的抖音号 # 显示名称(选填)
|
||||
enabled: true # 启用状态
|
||||
browser_type: camoufox # 浏览器引擎
|
||||
profile_dir: phone_13800138000 # 共享身份目录名
|
||||
identity_dir: phone_13800138000
|
||||
|
||||
# ── 示例:同手机号小红书账号 ──
|
||||
- id: xhs_01 # 同一手机号
|
||||
platform: xiaohongshu
|
||||
phone: "13800138000"
|
||||
display_name: 我的小红书号
|
||||
enabled: true
|
||||
browser_type: camoufox
|
||||
profile_dir: phone_13800138000 # 指向同一个目录
|
||||
identity_dir: phone_13800138000
|
||||
|
||||
# ── 示例:另一个手机号的抖音账号 ──
|
||||
- id: douyin_02
|
||||
platform: douyin
|
||||
phone: "13900139000"
|
||||
display_name: 小号
|
||||
enabled: true
|
||||
browser_type: camoufox
|
||||
profile_dir: phone_13900139000
|
||||
identity_dir: phone_13900139000
|
||||
|
||||
# ── 目录结构说明 ──
|
||||
#
|
||||
# agent-local/tools/matrix/
|
||||
# identities/
|
||||
# phone_13800138000/ ← 身份目录(浏览器指纹+cookie)
|
||||
# config.yaml ← 指纹配置(自动生成)
|
||||
# user_data/ ← Camoufox 浏览器 profile
|
||||
# cookies.sqlite ← 登录态(自动维护)
|
||||
# cache2/ ← 浏览器缓存
|
||||
# ...
|
||||
# phone_13900139000/ ← 另一个手机号的身份
|
||||
# ...
|
||||
# config/
|
||||
# accounts.yaml ← 本文件
|
||||
@@ -0,0 +1,13 @@
|
||||
# Matrix AI 评论生成配置模板
|
||||
# 复制到 config/ai.yaml 后编辑
|
||||
#
|
||||
# 不配置 api_key 时 AI 功能自动禁用,不影响现有语料库功能
|
||||
# 支持 OpenAI 兼容 API(可接本地模型)
|
||||
|
||||
ai:
|
||||
provider: openai # openai / local(兼容任何 OpenAI 格式的 API)
|
||||
api_key: "" # 从环境变量 OPENAI_API_KEY 读取,留空则不启用
|
||||
base_url: "https://api.openai.com/v1"
|
||||
model: "gpt-4o-mini" # 模型名
|
||||
temperature: 0.8 # 生成温度 0-1,越高越随机
|
||||
max_tokens: 100 # 最大生成长度
|
||||
@@ -0,0 +1,27 @@
|
||||
{
|
||||
"douyin_01": {
|
||||
"nickname": "我的抖音号",
|
||||
"user_id": "抖音号xxx",
|
||||
"platform": "douyin",
|
||||
"updated": "2026-06-13T00:00:00",
|
||||
"persona": {
|
||||
"age_group": "25-35",
|
||||
"gender": "男",
|
||||
"interests": ["科技", "数码", "汽车"],
|
||||
"comment_style": ["称赞", "提问"],
|
||||
"search_keywords": ["手机评测", "数码产品", "汽车测评"]
|
||||
}
|
||||
},
|
||||
"xhs_01": {
|
||||
"nickname": "我的小红书号",
|
||||
"platform": "xiaohongshu",
|
||||
"updated": "2026-06-13T00:00:00",
|
||||
"persona": {
|
||||
"age_group": "25-35",
|
||||
"gender": "女",
|
||||
"interests": ["美食", "旅行", "穿搭"],
|
||||
"comment_style": ["称赞", "共鸣"],
|
||||
"search_keywords": ["美食探店", "旅行攻略", "穿搭分享"]
|
||||
}
|
||||
}
|
||||
}
|
||||
@@ -0,0 +1,31 @@
|
||||
# Matrix 定时任务配置模板
|
||||
# 复制到 config/schedule.yaml 后编辑
|
||||
#
|
||||
# time 格式: HH:MM(每天固定时间执行)
|
||||
# enabled: true 启用 / false 禁用
|
||||
# @persona 自动从人设配置取搜索关键词
|
||||
|
||||
schedules:
|
||||
|
||||
douyin_daily_morning:
|
||||
enabled: false
|
||||
account: douyin_01
|
||||
blueprint: douyin_daily
|
||||
rounds: 3
|
||||
time: "09:00"
|
||||
|
||||
xhs_daily_noon:
|
||||
enabled: false
|
||||
account: xhs_01
|
||||
blueprint: xhs_daily
|
||||
rounds: 2
|
||||
time: "12:30"
|
||||
|
||||
douyin_search_evening:
|
||||
enabled: false
|
||||
account: douyin_01
|
||||
blueprint: douyin_search
|
||||
rounds: 1
|
||||
time: "18:00"
|
||||
args:
|
||||
keyword: "@persona" # 自动用人设关键词
|
||||
@@ -0,0 +1,39 @@
|
||||
# screen_layout.yaml — UI 布局参数(可感知的基准配置)
|
||||
#
|
||||
# 用途:存储基于真人操作的 UI 布局参数,替代硬编码坐标
|
||||
# 位置:config/ 目录(不随账号变化)
|
||||
# 优先级:账号 config.yaml中的 ui_layout > 本文件 > ui_layout.py 默认值
|
||||
#
|
||||
# 调整方法:
|
||||
# 1. 打开评论区(KeyX)
|
||||
# 2. 手动点击输入框,记住大概的 X/Y
|
||||
# 3. 如果点击不准,调整 from_right_margin(越大越靠左)
|
||||
# 原理:X = 窗口宽度 - from_right_margin
|
||||
# 4. 如果 Y 不准,调整 from_top_fallback
|
||||
#
|
||||
# 窗口默认尺寸: 702×783
|
||||
|
||||
douyin_comment:
|
||||
input_box:
|
||||
# 从窗口右边缘往左偏移量(避开 Emoji / @ / 发送按钮)
|
||||
# 窗口宽度从右往左算:X = window_width - from_right_margin
|
||||
# windows_width=702时 → X ≈ 702-140 = 562
|
||||
from_right_margin: 140
|
||||
|
||||
# Y坐标兜底(DOM 检测不到时的 fallback)
|
||||
# 窗口高度=783,输入框在底部
|
||||
from_top_fallback: 720
|
||||
|
||||
buttons:
|
||||
send_width: 60 # 发送按钮宽度
|
||||
icon_width: 30 # emoji/@图标宽度
|
||||
button_count: 3 # 按钮总数 (emoji + @ + 发送)
|
||||
margin: 10 # 按钮间距
|
||||
|
||||
send_key:
|
||||
method: dom # 发送方式: dom (找"发送"按钮) / alt_enter
|
||||
alt_enter_fallback: true
|
||||
|
||||
verify_code:
|
||||
input_placeholder: "验证码"
|
||||
confirm_button_texts: ["确认", "提交", "验证"]
|
||||
@@ -0,0 +1,15 @@
|
||||
# SMS 验证码 API 配置
|
||||
# 复制本文件到 ../scripts/config/sms.yaml 并填入真实值
|
||||
#
|
||||
# API 服务:wx.tyhtak.com(短信转发平台)
|
||||
# 使用方式:
|
||||
# 1. cp config_template/sms.yaml scripts/config/sms.yaml
|
||||
# 2. 填入你的 API Key 和手机号
|
||||
# 3. 运行养号脚本时会自动读取
|
||||
|
||||
sms:
|
||||
api_key: "gtmsg2026" # API 密钥
|
||||
phone: "15370103682" # 接收验证码的手机号
|
||||
base_url: "https://wx.tyhtak.com/api/biz/msg/messages" # API 地址
|
||||
poll_interval: 3 # 轮询间隔(秒)
|
||||
timeout: 120 # 默认超时(秒)
|
||||
@@ -0,0 +1,24 @@
|
||||
# Matrix 任务配置
|
||||
# 格式说明:每个任务定义 blueprint + 执行账号 + 触发时间
|
||||
|
||||
tasks:
|
||||
- id: daily_douyin_browse
|
||||
name: 抖音日常浏览养号
|
||||
blueprint: douyin_browse
|
||||
accounts:
|
||||
- account_01
|
||||
enabled: true
|
||||
|
||||
- id: daily_xhs_like
|
||||
name: 小红书点赞互动
|
||||
blueprint: xiaohongshu_like
|
||||
accounts:
|
||||
- account_01
|
||||
enabled: true
|
||||
|
||||
- id: daily_zhihu_read
|
||||
name: 知乎阅读任务
|
||||
blueprint: zhihu_read
|
||||
accounts:
|
||||
- account_01
|
||||
enabled: false # 先禁用,等知乎蓝图完成后再开启
|
||||
Reference in New Issue
Block a user