面向开发者与数据团队

面向数据采集工作流的网页采集代理

把现有采集程序连接到住宅代理入口:设置地区与会话方式,先测试一个请求,采集与解析留在你自己的流程中。

示例
采集程序
代理入口
公开网页
地区会话协议

搭建可复现的采集配置

网页采集代理将客户端接入公开页面,住宅代理可配合下述地区与会话选择。

匹配目标市场

选择要查看的页面所需的地区,并把该选择与每次采集任务一起记录。

选择会话方式

相互独立的请求使用独立会话;相关联的页面序列则保持同一会话。

让请求可追溯

记录请求时间、响应状态与会话设置,便于排查失败或不一致的结果。

如何把采集程序接入 MIYAIP

  1. 1

    先定义小样本

    在运行更大的任务前,先确定项目需要的公开 URL 与字段。

    示例 / Example · 先定义小样本
    示例图:先定义小样本

    先定义小样本

    仅为示例布局,结果、截图与日期需在实际测试后填写。

  2. 2

    配置连接

    选择代理产品与可用地区选项,然后把连接参数复制到你的客户端。

    示例 / Example · 配置连接
    示例图:配置连接

    配置连接

    仅为示例布局,结果、截图与日期需在实际测试后填写。

  3. 3

    测试并检查

    发送一小批请求,检查响应状态、返回页面与目标地区是否符合预期。

    示例 / Example · 测试并检查
    示例图:测试并检查

    测试并检查

    仅为示例布局,结果、截图与日期需在实际测试后填写。

  4. 4

    运行并复盘

    用你的采集程序调度请求、解析结果,并在任务扩大后持续查看日志。

    示例 / Example · 运行并复盘
    示例图:运行并复盘

    运行并复盘

    仅为示例布局,结果、截图与日期需在实际测试后填写。

阅读接入指南 ↗

一次采集运行应该记录什么

把网络请求与提取的字段放在一起保存,便于对比多次运行,判断差异来自源页面、会话还是解析器。

把网页采集代理服务配置与请求日志放在一起,便于追溯每次运行使用的代理入口。

仅为示例布局,结果、截图与日期需在实际测试后填写。

示例 / Example · 客户端代理配置
示例图:客户端代理配置

客户端代理配置

仅为示例布局,结果、截图与日期需在实际测试后填写。

示例请求日志

运行 ID目标 URL请求地区会话模式HTTP 状态获取时间
run-1042https://example.com/catalog?page=1美国轮换待记录待记录
run-1043https://example.com/catalog?page=2美国轮换待记录待记录
run-1044https://example.com/product/item-77德国粘性(配置窗口)待记录待记录

公开页面字段提取模板 / Example

{ "source_url": "https://example.com/catalog", "title": null, "extracted_at": null }

网页采集选轮换还是粘性会话?

相互独立的采集请求选择轮换会话;连贯的浏览序列可测试粘性会话,并把序列保持在配置窗口内;需要更长寿命固定 IP 的任务,可了解静态住宅代理。

任务建议产品会话方式
独立页面请求动态住宅代理轮换会话
连贯浏览步骤动态住宅代理配置窗口内的粘性会话
持续固定 IP 任务静态住宅代理所选套餐分配的 IP

常见问题

如何用代理做网页采集?

把代理连接参数添加到你的采集程序或 HTTP 客户端,选择地区与会话设置,先测试一小批请求。调度与字段提取由你的采集程序完成。

这项服务会返回解析好的数据吗?

本页介绍的是代理连接。解析 HTML、处理页面结构、存储提取记录,由你接入的采集程序或数据管道完成。

每个请求都要换 IP 吗?

按任务需要选择会话方式:独立请求可以轮换,多步浏览序列可能需要保持连续。确定策略前,先用小样本各测一次。

请求失败时应该记录什么?

记录时间戳、目标 URL、响应状态与相关会话设置。与团队或客服分享日志前,请先删除凭据。

选择你的代理方案

查看产品选项,并按接入指南开始下一次测试。

了解动态住宅代理