butubb/MediaCrawler

Fork 0

Files

T

butubb 2112c1a870

Deploy VitePress site to Pages / build (push) Canceled after 0s

Details

Deploy VitePress site to Pages / Deploy (push) Canceled after 0s

Details

feat(monitor): 抖音 Web 接口客户端 —— 绕开爬虫子进程，直接发 HTTP

移植自 mac-agent-os 的 mediacrawler_adapter：不起子进程、不开页面，用浏览器里那份
登录态直接调抖音 Web 接口。产物键名照抄 store/douyin，所以 ingest 那条链路一个字不用改。

**目前能用的（真环境实测，非推断）**：

    profile/other : 200, 7075 字节  —— 博主主页指标（粉丝/获赞/作品数/昵称）
    aweme/detail  : 200, 45425 字节 —— 单条作品详情（含点赞/评论/收藏/分享）

**目前不能用的：作品列表 `aweme/post`。** 两个互相独立的原因：
  1. 这个接口被抖音单独升级成了真校验：不带 x-tt-argus 回 403「Uifid Not Found」，
     带上 dummy 值回 200 + **空 body**。也就是说「头在不在」骗得过，「真校验」过不了。
     同一套头打 profile/other 和 aweme/detail 都是通的 —— 抖音是挑着接口加保护的，
     挑中的恰好是「批量拉作品列表」这个最敏感的动作。
  2. 改走页面截获也不行：CDP 浏览器打开博主主页会落到「验证码中间页」（当天大量探测的
     代价，过几小时要重测）。

  所以现在的边界是：**已知作品的指标刷新能做，自动发现新作品做不了**。

**排查中控住变量后得到的两条事实**（都写进注释了）：
  · `Accept` / `Accept-Language` / `Referer` 才是主页接口能返回真数据的原因 —— 只有
    UA+client hints+Cookie 时是 200 但仅 121 字节的空壳，补上这三个头变 7074 字节。
    （我先前猜的 sec-ch-ua 不是关键。）
  · 因此 UA 与 client hints 必须**成套地取自同一个浏览器**，所以 BrowserIdentity 一次
    从 CDP 取齐 cookie + UA + hints，而不是各自写死。

「200 + 空 body 必须当场报错」也是刻意写死的：放过去它会在下游变成「这个博主没作品」，
把一次失败伪装成一条正常结果 —— 爬虫那条路正是这么栽的，还被翻译成「账号被封」。

测试 +11：cookie 解析、请求头成套性（含 uifid 缺失/回退）、产物键名与 store 对齐、
以及 _get 的三条失败路径（空 body / 403 带网关原话 / 正常返回）。

2026-10-10 17:12:25 +08:00

21 KiB

Raw Blame History

知识库变更日志

2026-06-06

2026-06-03

2026-06-02

2026-06-01

2026-05-29

新增（04_ops/matrix/）

Matrix 养号系统架构与运维指南（综合方法卡：架构、双引擎、养号流程、浏览器生命周期、Cookie管理）
小红书养号页面交互技术（方法卡：选择器、JS智能查找、鼠标模拟、黑屏/QR墙/AI-layout恢复）
抖音评论自动化双路径技术（方法卡：Draft.js输入、状态机、快捷键、视频页评论区定位）
Matrix 养号系统已知坑与解决方案（方法卡：浏览器引擎/macOS/XHS/抖音/代码层面问题汇总）

更新（2026-05-29 13:00 → 19:00）

xhs-browse-interaction-techniques.md：新增"误触作者主页tab检测"、"page.evaluate()超时保护"、"搜索结果页刷新按钮问题"、"每轮必刷新策略"
matrix-known-pitfalls.md：新增"page.evaluate()无限挂起"、"搜索结果页无FAB刷新按钮"
matrix-nurture-system-architecture.md：更新小红书的完整养号轮次（含Step0强制刷新、超时保护）
xhs-nurture skill：同步所有新知识（刷新按钮、QR墙增强、误触作者检测、超时保护）

已有

指纹分辨率触发小红书 AI-layout 版本（2026-05-27 事实卡）

2026-04-26

新增

KB-20260426-001：AgentOS 架构设计（概念卡，10_concepts/cs/）
KB-20260426-002：oMLX 本地 LLM 部署配置（事实卡，30_facts/cs/）

更新

知识库首页：统计数字更新、最后更新时间刷新

2026-04-25

新增

知识库目录结构（按属性分层：概念/方法/事实/参考/资源/观点）
知识卡片模板（概念卡、事实卡、方法卡、个人洞见卡）
领域分类表（16 个一级领域）
知识属性分类表（9 种 nature 类型 + 分类决策树）
中文映射配置（folder-aliases.json）
知识分类提示词模板

21 KiB

Raw Blame History

知识库变更日志

2026-06-06

归档

2026-06-03

归档

2026-06-02

归档

2026-06-01

归档

2026-05-29

新增（04_ops/matrix/）

更新（2026-05-29 13:00 → 19:00）

已有

2026-04-26

新增

更新

2026-04-25

新增

21 KiB Raw Blame History Unescape Escape

知识库变更日志

2026-06-06

归档

2026-06-03

归档

2026-06-02

归档

2026-06-01

归档

2026-05-29

新增（04_ops/matrix/）

更新（2026-05-29 13:00 → 19:00）

已有

2026-04-26

新增

更新

2026-04-25

新增

21 KiB

Raw Blame History