butubb
2112c1a870
移植自 mac-agent-os 的 mediacrawler_adapter：不起子进程、不开页面，用浏览器里那份
登录态直接调抖音 Web 接口。产物键名照抄 store/douyin，所以 ingest 那条链路一个字不用改。
**目前能用的（真环境实测，非推断）**：
profile/other : 200, 7075 字节 —— 博主主页指标（粉丝/获赞/作品数/昵称）
aweme/detail : 200, 45425 字节 —— 单条作品详情（含点赞/评论/收藏/分享）
**目前不能用的：作品列表 `aweme/post`。** 两个互相独立的原因：
1. 这个接口被抖音单独升级成了真校验：不带 x-tt-argus 回 403「Uifid Not Found」，
带上 dummy 值回 200 + **空 body**。也就是说「头在不在」骗得过，「真校验」过不了。
同一套头打 profile/other 和 aweme/detail 都是通的 —— 抖音是挑着接口加保护的，
挑中的恰好是「批量拉作品列表」这个最敏感的动作。
2. 改走页面截获也不行：CDP 浏览器打开博主主页会落到「验证码中间页」（当天大量探测的
代价，过几小时要重测）。
所以现在的边界是：**已知作品的指标刷新能做，自动发现新作品做不了**。
**排查中控住变量后得到的两条事实**（都写进注释了）：
· `Accept` / `Accept-Language` / `Referer` 才是主页接口能返回真数据的原因 —— 只有
UA+client hints+Cookie 时是 200 但仅 121 字节的空壳，补上这三个头变 7074 字节。
（我先前猜的 sec-ch-ua 不是关键。）
· 因此 UA 与 client hints 必须**成套地取自同一个浏览器**，所以 BrowserIdentity 一次
从 CDP 取齐 cookie + UA + hints，而不是各自写死。
「200 + 空 body 必须当场报错」也是刻意写死的：放过去它会在下游变成「这个博主没作品」，
把一次失败伪装成一条正常结果 —— 爬虫那条路正是这么栽的，还被翻译成「账号被封」。
测试 +11：cookie 解析、请求头成套性（含 uifid 缺失/回退）、产物键名与 store 对齐、
以及 _get 的三条失败路径（空 body / 403 带网关原话 / 正常返回）。
59 lines
1.9 KiB
Markdown
59 lines
1.9 KiB
Markdown
---
|
||
name: web_crawler
|
||
version: 1.2.0
|
||
status: archived
|
||
archived_date: 2026-06-21
|
||
description: [已归档] 网页抓取设计，无实现代码
|
||
triggers: []
|
||
---
|
||
|
||
# Web Crawler Skill（网页抓取+反爬）
|
||
|
||
## 概述
|
||
|
||
使用 Scrapling + Crawl4AI 进行结构化网页抓取，绕过 Cloudflare 等高级反爬。
|
||
|
||
## 抓取引擎选择
|
||
|
||
| 反爬级别 | 引擎 | 说明 |
|
||
|----------|------|------|
|
||
| 低（静态页面） | Scrapling 静态模式 | 最快，无需浏览器 |
|
||
| 中（动态渲染） | Scrapling 动态模式 | Camoufox 隐身浏览器 |
|
||
| 高（Cloudflare 等） | **CloakBrowser** | 源码级反爬，30/30检测通过（2026-05 新增） |
|
||
|
||
> **2026-05-14 更新**：Playwright + Stealth 已替换为 CloakBrowser。
|
||
> CloakBrowser 是源码级修改的 Chromium，49项 C++ 补丁修改指纹，
|
||
> 通过率远高于 JS 注入方案。安装：`pip install cloakbrowser`
|
||
|
||
## 执行流程
|
||
|
||
```
|
||
1. 解析目标 URL，判断反爬级别
|
||
2. 选择最优引擎
|
||
3. 抓取内容，Crawl4AI 过滤广告/导航 → 生成干净 Markdown
|
||
4. 输出到指定路径或直接传给 kb_manager 入库
|
||
5. 失败自动重试（最多 3 次），引擎自动降级
|
||
```
|
||
|
||
## 使用场景
|
||
|
||
- 网页内容抓取 → 传给 content_processor / kb_manager
|
||
- 网页变化监控 → 配合 auto_collector 定时检查
|
||
- 数据采集 → 结构化提取
|
||
|
||
## 依赖
|
||
|
||
| 包 | 用途 | 安装状态 |
|
||
|---|---|---|
|
||
| scrapling | 三引擎自适应抓取 | ✅ 已安装 |
|
||
| crawl4ai | LLM 友好结构化输出 | ✅ 已安装 |
|
||
| playwright | 浏览器控制 | ✅ 已安装 |
|
||
| playwright-stealth | 反检测 | ✅ 已安装 |
|
||
| Playwright Chromium | 浏览器引擎 | ⚠️ 需下载（网络问题待解决） |
|
||
|
||
## 注意事项
|
||
|
||
- Playwright Chromium 浏览器需下载，运行 `playwright install chromium`
|
||
- 如果 Playwright 不可用，fallback 到 Scrapling 静态/动态模式
|
||
- 抓取频率过高可能被目标网站封禁，建议设置合理间隔
|