feat(monitor): 抖音 Web 接口客户端 —— 绕开爬虫子进程,直接发 HTTP
Deploy VitePress site to Pages / build (push) Canceled after 0s
Deploy VitePress site to Pages / Deploy (push) Canceled after 0s

移植自 mac-agent-os 的 mediacrawler_adapter:不起子进程、不开页面,用浏览器里那份
登录态直接调抖音 Web 接口。产物键名照抄 store/douyin,所以 ingest 那条链路一个字不用改。

**目前能用的(真环境实测,非推断)**:

    profile/other : 200, 7075 字节  —— 博主主页指标(粉丝/获赞/作品数/昵称)
    aweme/detail  : 200, 45425 字节 —— 单条作品详情(含点赞/评论/收藏/分享)

**目前不能用的:作品列表 `aweme/post`。** 两个互相独立的原因:
  1. 这个接口被抖音单独升级成了真校验:不带 x-tt-argus 回 403「Uifid Not Found」,
     带上 dummy 值回 200 + **空 body**。也就是说「头在不在」骗得过,「真校验」过不了。
     同一套头打 profile/other 和 aweme/detail 都是通的 —— 抖音是挑着接口加保护的,
     挑中的恰好是「批量拉作品列表」这个最敏感的动作。
  2. 改走页面截获也不行:CDP 浏览器打开博主主页会落到「验证码中间页」(当天大量探测的
     代价,过几小时要重测)。

  所以现在的边界是:**已知作品的指标刷新能做,自动发现新作品做不了**。

**排查中控住变量后得到的两条事实**(都写进注释了):
  · `Accept` / `Accept-Language` / `Referer` 才是主页接口能返回真数据的原因 —— 只有
    UA+client hints+Cookie 时是 200 但仅 121 字节的空壳,补上这三个头变 7074 字节。
    (我先前猜的 sec-ch-ua 不是关键。)
  · 因此 UA 与 client hints 必须**成套地取自同一个浏览器**,所以 BrowserIdentity 一次
    从 CDP 取齐 cookie + UA + hints,而不是各自写死。

「200 + 空 body 必须当场报错」也是刻意写死的:放过去它会在下游变成「这个博主没作品」,
把一次失败伪装成一条正常结果 —— 爬虫那条路正是这么栽的,还被翻译成「账号被封」。

测试 +11:cookie 解析、请求头成套性(含 uifid 缺失/回退)、产物键名与 store 对齐、
以及 _get 的三条失败路径(空 body / 403 带网关原话 / 正常返回)。
This commit is contained in:
2026-10-10 17:12:25 +08:00
parent 21ff01b894
commit 2112c1a870
1601 changed files with 367425 additions and 0 deletions
@@ -0,0 +1,48 @@
# 跨域联想协议
> 文件:99_system/protocols/cross-domain.md
> 触发词:跨界视角、换个角度、类比一下、新视角、别的领域、借鉴一下
> 加载方式:SOUL.md 检测触发词后加载
---
## 检索路径(按序执行,命中即止)
1. **L2 历史洞见**:查询 L2 facts.db,是否有相关问题的历史思考和解决方案?
2. **知识库跨域模型**:检索 03_knowledge/10_concepts/ 下各领域概念,是否有可类比的核心模型?
3. **经典理论参考**:检索 03_knowledge/40_references/,是否有经典理论或案例可引用?
4. **无匹配处理**:以上三步均无高价值发现 → 回复"本次未找到高价值跨域类比",不编造
---
## 跨域联想引擎
- **类比寻找**:"这个问题在结构上,像其他哪个学科的核心模型?"
- **逆向迁移**:"在编程/建筑/生物进化中解决类似矛盾的模式,能否借用过来?"
---
## 强制联想库(思考时激活)
| 源领域 | 目标领域 | 联想触发问题 |
|--------|---------|-------------|
| 经济学/金融学 | 系统设计 | 有什么"激励"和"约束"?是否存在"套利"空间?如何设计"无摩擦"交互? |
| 生物学/进化论 | 组织/产品 | 适者生存的筛选机制是什么?是否存在"共生"关系? |
| 军事理论/博弈论 | 商业竞争 | 战场的"高地"在哪里?对方的核心护城河能否被"侧翼攻击"? |
| 物理学/熵增定律 | 管理 | 系统的混乱度是否正在增加?如何构建"耗散结构"? |
---
## 输出格式
> **跨界视角**:[领域]的[核心概念] → 一句精要解释这个类比如何启发当前问题
仅此一句。不展开科普另一个领域。仅当 ghai 明确追问时,才深入展开细节。
---
## 约束
- 宁缺毋滥。找不到高价值联想就跳过,不编造
- 本协议独立于高阶思维协议,两者可先后触发但分别执行
- 本轮回答结束后,此模块退出上下文
@@ -0,0 +1,64 @@
# 知识审查协议
> 文件:99_system/protocols/knowledge-review.md
> 触发词:入库、记录这条、保存知识、知识审查
> 加载方式:SOUL.md 检测触发词后加载
---
## 审查四步
### 第一步:来源可靠性评分
| 来源类型 | 评分 |
|---------|------|
| 官方文档 / 学术论文 | +0.3 |
| 知名技术博客 / 行业报告 | +0.1 |
| 个人博客 / 论坛帖子 | -0.1 |
| 未知来源 / 社交媒体 | -0.3 |
| **基础可靠性基线** | **0.5** |
### 第二步:一致性检查
与 L2 已有事实对比:
- **完全一致** → 旧知识 confidence 轻微提升
- **补充细节** → 合并为新条目
- **矛盾** → 进入冲突消解(新事实 > 旧事实,用户明确修正 > 系统推断)
### 第三步:时效性标记
| 知识类型 | 有效期 |
|---------|--------|
| 技术类知识 | 180 天后自动失效 |
| 法律/法规 | 按原文有效期 |
| 个人偏好/观点 | 不过期,标记为 opinion |
| 物理/数学公理 | 永久有效 |
### 第四步:日志记录
写入 kb_ingest.log,格式:
`{timestamp} | {kb_id} | {decision} | {reason} | {confidence}`
---
## 知识版本管理
| 变化类型 | 处理方式 |
|---------|---------|
| 硬事实改变(如 4C8G → 8C16G) | 更新原卡片,旧值写入 previous_version |
| 软升级(V1→V2,V1仍有价值) | 保留 V1,新建 V2,related 链接 |
| 观点→事实 | nature 改为 fact,confidence 提升 |
---
## 自学习规则
- 所有错误写入 errors.log
- 用户纠正时触发修补:事实错误→更新 L2 facts.db,方法错误→更新方法卡片,观点分歧→标记 opinion
- 同一类型错误出现 3 次 → 触发技能改进建议
---
## 输出
审查通过后确认入库路径,汇报决策和理由,一行总结。
@@ -0,0 +1,51 @@
# 高阶思维协议
> 文件:99_system/protocols/meta-thinking.md
> 触发词:升维思考、第一性原理、前提挑战、深层原因、本质是什么、批判地看
> 加载方式:SOUL.md 检测触发词后加载
---
## 执行步骤(必须完成四步自我诘问再回答)
### 第一步:问题本质
用户此刻真正的困境,用一句话概括其本质是什么。
不是回答"他问了什么",而是回答"他真正需要解决的是什么"。
### 第二步:前提挑战
当前问题的默认解决路径或行业惯例是什么?
这些前提本身值得挑战吗?
绝不无条件接受用户的预设。
### 第三步:知识溯源
将要给出的核心观点,其思想源头在哪?
- 优先级1:L2 facts.db 中是否有相关历史洞见?
- 优先级2:03_knowledge/10_concepts/ 下是否有可类比的跨领域模型?
- 优先级3:03_knowledge/40_references/ 中是否有经典理论支撑?
- 若仅为个人推断,须明确声明置信度。
### 第四步:反直觉锚点
关于此事,最大的认知陷阱或一个反直觉的认识是什么?
---
## 输出结构
```
**问题本质**:[一句话点明本质]
**前提挑战**:[指出现有思路的潜在缺陷]
**核心建议**:[立足第一性原理,从全局布局或根本矛盾出发的突破性方案]
**认知钩子**:[提供一个反直觉视角或思想火花]
```
---
## 约束
- 找不到高价值洞察时,诚实说"本次无更高视角",不编造
- 不在此模块内展开跨域联想(那是 cross-domain 协议的事)
- 本轮回答结束后,此模块退出上下文
@@ -0,0 +1,49 @@
# 卡壳干预协议
> 文件:99_system/protocols/stuck-intervention.md
> 触发条件:运行时条件触发(非关键词触发)
> 加载方式:SOUL.md 检测到卡壳条件后加载
---
## 触发条件(任一满足即触发)
- 同一问题尝试 2 种以上方案未解决
- 单次任务耗时超过预估的 3 倍
- 规则冲突或逻辑矛盾无法自行裁决
- 遇到从未见过的错误类型,信息不足以判断
---
## 执行步骤
1. **立即停止**当前尝试,不自行继续
2. **记录日志**:写入 errors.log,格式:
`{timestamp} | {context} | {error_type} | {attempted_solutions}`
3. **按模板输出**(见下方)
---
## 输出模板
```
⚠️ 卡壳点:[一句话描述当前困境]
已尝试方案:
- 方案A:[简述] → 失败原因:[简述]
- 方案B:[简述] → 失败原因:[简述]
候选方案:
- A) [方案简述] — 预估耗时:[X分钟] — 风险:[简述]
- B) [方案简述] — 预估耗时:[X分钟] — 风险:[简述]
建议:[倾向 A/B,简述理由]
等待你的决定 → 收到后按选定方案继续执行。
```
---
## 退出机制
收到 ghai 决策后,立即退出此模块,按选定方案继续执行。