Search API 深度解析:获取实时 Google SERP 结果与 AI Overview(SGE)数据

Emily RodriguezEmily Rodriguez· AI 与数据科学负责人2026-07-14
要点速览

2026 年的 Google 搜索结果页面已变得极为复杂——AI Overview(前 SGE)回答、Shopping 轮播以及丰富的 SERP 特性与传统自然排名并列呈现。AntsData Search API 提供对这些 SERP 组件的编程化访问,返回结构化自然结果、带引用来源的 AI Overview 内容、Shopping 商品数据和分页控制。本指南详细介绍 API 参数、响应结构以及 SEO 监控、竞争对手追踪和 AI 可见性优化的实操工作流。

为什么要抓取 Google SERP 数据?

Google 仍然是大多数企业的主要需求渠道。了解目标关键词在搜索结果页面上的呈现方式,是 SEO、内容策略和竞争情报的基础。

三大应用场景最为常见。

SEO 排名监控。 跟踪页面在目标关键词上的排名变化是最常见的用途。自动化 SERP 采集取代了人工检查,可实现数千个关键词的每日甚至每小时追踪。排名变动、新竞争对手进入 SERP、精选摘要的获得或丢失都将即时可见。

竞争对手分析。 除了排名,SERP 数据还揭示了哪些竞争对手的内容获得了 Google 的可见性奖励。通过同时提取自然结果和 AI Overview 引用,你可以识别 Google 算法在特定话题上认为权威的信息来源,从而直接指导内容策略和外链建设优先级。

AI Overview 分析。 随着 AI Overview 出现在越来越多的搜索结果中,理解其运作方式已不再是可选项。团队需要知道:自己的内容是否被 AI Overview 引用、哪些竞争对手被引用、Google 从哪些类型的来源中提取信息。这些信息在传统 SEO 工具中完全不可获取,只有编程化提取 AI Overview 数据才能实现规模化分析。

对于 GEO(生成式引擎优化)团队而言,SERP 数据是衡量 AI 可见性的原始素材。无法衡量就无法优化,而 AI Overview 引用的追踪需要系统化的数据采集。


2026 年 Google SERP 组件解析

Google 的搜索结果页面不再是简单的十条蓝色链接列表,而是由多种结果类型组成的复合体,每种类型对可见性和流量都有不同的影响。

自然结果仍然是搜索的核心。这些是由 Google 算法排序的标准列表,每项包含标题、URL、摘要和位置。它们是大多数查询的主要流量来源,也是传统 SEO 的重点。

AI Overview(SGE) 出现在许多搜索结果的顶部,提供由 Google 语言模型生成的综合回答。AI Overview 包含文本块(段落、列表和少量表格)、指向来源页面的引用参考,以及建议相关搜索的后续查询芯片。对于越来越多的查询,AI Overview 截获了原本会流向第一个自然结果的用户注意力。

Shopping 结果出现在商品和产品相关查询中,展示产品图片、价格、商家名称和评分。Google Shopping 结果日益突出,已成为独立于自然搜索的可见性渠道。

知识面板出现在桌面端 SERP 的右侧,用于实体类查询,从 Google Knowledge Graph 中提取结构化数据,展示人物、组织、地点和事物的相关信息。

People Also Ask(PAA) 包含与搜索查询相关的可展开问答对,揭示了 Google 与特定话题关联的语义空间,为内容策划提供信号。

精选摘要被选为查询的直接答案,醒目地展示在自然结果上方,来源于特定页面,带来可观的流量。

理解这些组件至关重要,因为你的优化策略需要覆盖所有组件。如果 AI Overview 直接满足了用户需求而不将流量导向你的网站,即使自然排名第一也意义大减。AntsData Search API 在单次请求中提取所有这些组件,为你提供完整的 SERP 组成画面。


AntsData Search API 返回哪些数据?

AntsData 提供两个 SERP 端点,分别针对 Google 搜索结果的不同维度。

端点 用途 主要输入参数 主要输出字段
google-search 从网页搜索中提取自然排名、AI Overview 内容、图片结果和分页数据 query, searchType, gl, hl, location, device, num, start totalResults, organicResults[], imageResults[], aiOverview, pagination
google-shopping 从 Google Shopping 结果中提取商品列表、价格、商家数据和评分 query, gl, hl, minPrice, maxPrice, condition, sortBy, resultsLimit totalResults, products[]

google-search 端点是 SERP 分析的核心工具。每次请求最多返回 100 条自然结果,并完整提取 AI Overview 内容,包括文本块、引用参考和后续查询。这是 SEO 团队和 GEO 分析师最常使用的端点。

google-shopping 端点专为电商情报构建。每次请求最多返回 60 条商品列表,包含价格、商家信息、评分和产品链接。支持价格区间过滤和商品状况过滤,适用于竞争定价分析和产品品类追踪。

两个端点均通过 API 接口处理反爬虫绕过、地理定位和区域设置,你无需自行管理代理、浏览器会话或验证码破解。


如何抓取 Google 搜索结果

第一步:发起 API 请求

AntsData google-search 端点通过 POST 请求接收 JSON 数据并返回结构化 SERP 数据。使用请求头中的 Bearer 令牌进行身份验证。关键参数包括:query(搜索词)、gl(国家代码,如 "us""gb")、hl(界面语言)、location(城市级地理定位,如 "New York,NY,US")、device"desktop""mobile")以及 num(返回结果数量,最多 100 条)。

以下是一个典型的 curl 请求示例:

curl -X POST "https://api.antsdata.com/v1/google-search" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "searchType": "web",
    "query": "best project management software 2026",
    "gl": "us",
    "hl": "en",
    "location": "New York,NY,US",
    "device": "desktop",
    "num": 20
  }'

device 参数很重要,因为移动端 SERP 的布局和结果组成通常与桌面端不同。location 参数支持城市级地理定位,对于本地 SEO 分析至关重要——相邻城市之间的搜索结果可能存在显著差异。

第二步:解析自然结果与排名

响应的 organicResults 数组包含核心排名数据。每个结果对象包括 position(在 SERP 上的排名)、title(搜索中显示的页面标题)、link(完整 URL)、snippet(标题下方展示的描述文本),以及 date(如可用)。

对于排名监控,关键字段是 positionlink。将这些值随时间存储,即可为每个追踪的查询建立排名历史。snippet 字段有助于检测 Google 展示你页面方式的变化,包括你的内容是否被用于精选摘要或其他 SERP 特性。

响应还包含 totalResults 字段,显示 Google 估计的匹配页面总数。虽然该数字精度有限,但可用于评估查询的整体竞争程度。

第三步:提取 AI Overview(SGE)内容与引用

当 SERP 上出现 AI Overview 时,响应会包含一个 aiOverview 对象,下设三个子组件。

textBlocks 数组包含 Google 针对该查询生成的段落、列表和结构化内容,有助于了解 Google 认为某个话题的权威回答是什么。

references 数组对 GEO 团队最具可操作性。每条引用包含 titlelink,精确揭示了 Google 在生成 AI Overview 时引用了哪些来源。如果你的域名出现在这些引用中,说明你的内容正在被 Google 的 AI 系统使用。如果竞争对手的域名持续出现,那就是你需要竞争的来源。

followUpChips 数组包含 Google 向用户展示的后续建议查询。这些揭示了 Google 与目标关键词关联的语义空间,对内容策划非常有价值。如果某个查询没有触发 AI Overview,响应中 aiOverview 字段将直接缺失。

第四步:处理分页以获取深度 SERP 数据

对于全面的 SERP 分析,通常需要第一页以外的结果。start 参数通过指定结果偏移量实现分页。每次请求最多返回 100 条结果,因此将 start 设为 0、100、200 等即可逐页遍历 SERP。

这种方法对于竞争分析至关重要——你需要识别某个查询的所有排名域名,而不仅仅是前 10 个。响应中的 pagination 对象指示是否还有更多结果可用,允许你构建动态分页逻辑而非硬编码页数。


如何抓取 Google Shopping 结果

对于电商团队和产品营销,Google Shopping 数据需使用专用的 google-shopping 端点。该端点以结构化格式提取包含定价、商家信息和评分的商品列表。

你需要发送一个 POST 请求,包含搜索 query、地理定位参数(glhl)以及 Shopping 专用过滤器。minPricemaxPrice 参数支持价格区间过滤,用于特定市场的竞争定价分析。condition 参数接受 "new""used"resultsLimit 控制返回的商品数量,最多 60 条。

响应的 products 数组中,每个商品包含 positiontitlepricecurrencymerchantratingreviewCountimageUrlproductUrlproductId 字段支持跨查询追踪同一商品。结合商家、价格和评分数据,可支撑竞争定价看板、产品品类分析和市场定位报告。


利用 SERP 数据进行 GEO 与 AI 可见性优化

AI Overview 改变了可见性的等式。自然排名第一不再保证曾经的关注度。对于专注于 GEO(生成式引擎优化)的团队来说,问题不仅是你的排名在哪里,还有你的内容是否被 AI 生成的回答引用。

AntsData Search API 返回的 aiOverview.references 数据是 AI 可见性度量的基础。以下是具体使用方法。

建立引用追踪系统。 每周对目标关键词进行查询,从每个 AI Overview 响应中提取 references 数组。追踪哪些域名最常作为被引用来源出现。这将清晰地呈现哪些发布商和网站被 Google AI 系统视为各话题的权威。

识别引用差距。 将 AI Overview 中引用的域名与你自己的域名进行对比。如果竞争对手持续作为 AI Overview 来源出现而你不在其中,说明你的内容未被 Google AI 系统认可。这一差距需要内容策略的调整,而不仅仅是传统 SEO。

分析被引用来源的内容模式。 研究获得 AI Overview 引用的页面,寻找结构模式:它们是否使用特定的标题结构、包含数据或统计信息、直接回答问题或遵循特定内容格式?这些模式将指导你如何为 AI 可见性优化自身内容结构。

追踪后续查询以扩展内容。 AI Overview 响应中的 followUpChips 揭示了 Google 将目标话题关联到的问题。这些是高价值的内容机会,因为它们代表了 Google 已通过自身查询数据验证的用户兴趣。

监测 SERP 特性分布随时间的变化。 追踪目标查询中触发 AI Overview 与传统纯自然结果的百分比。随着 AI Overview 覆盖范围扩大,你的流量预测和 SEO 策略需要考虑这一转变。

这一工作流需要定期的自动化 SERP 采集。人工检查无法提供所需的频率和广度。AntsData API 使你能够以最小的工程投入在数百个关键词上运行此分析。


对比:AntsData SERP API vs. Google Custom Search API vs. 其他 SERP 服务商

特性 AntsData Search API Google Custom Search JSON API 典型 SERP API 服务商
AI Overview(SGE)提取 完整提取:textBlocks、references、followUpChips 不可用 有限或不可用
每次请求自然结果数 最多 100 条 最多 10 条 不等(通常 10-100)
Google Shopping 端点 专用端点,支持过滤器(价格、状况、排序) 独立 Product Search API(已弃用) 不等
地理定位 通过 location 参数支持城市级定位 仅国家级 不等(多数支持国家级)
设备定位 桌面端和移动端 多数端点仅桌面端 不等
反爬虫处理 由 AntsData 管理(代理轮换、验证码绕过) 不适用(官方 API) 不等(多数处理基本场景)
结果时效性 实时 实时 接近实时(部分有缓存)
计费模式 按请求计费,阶梯价格 免费额度(100 次查询/天),超出付费 通常为订阅制
图片结果 包含在 google-search 响应中 独立 Image Search API 不等
分页 通过 start 参数实现深度提取 start 参数,有限制 不等

最关键的区别在于 AI Overview 提取能力。Google 自己的 Custom Search API 不返回 AI Overview 数据。大多数第三方 SERP API 尚未构建可靠的 AI Overview 解析功能。AntsData 返回完整的 AI Overview 结构,包括引用来源,这对 GEO 分析至关重要。

location 参数也是 AntsData 区别于大多数竞争对手的特性。城市级地理定位对本地 SEO 分析和特定地区的 SERP 监控非常重要,相邻城市之间的搜索结果可能存在显著差异。


常见问题

1. AntsData Search API 是否对每个查询都返回 AI Overview 数据?

不是。Google 不会为每个搜索查询都触发 AI Overview。AI Overview 出现在 Google 认为综合回答合适的查询中,这在信息类查询中更常见,而在导航类或高度特定的商业查询中较少出现。当 SERP 上存在 AI Overview 时,AntsData 会提取完整内容;当不存在时,响应中将缺失 aiOverview 字段。你的监控系统应考虑到这种变化性。

2. API 返回的自然结果排名位置有多准确?

排名位置反映了请求时刻的实际 SERP 状态,包含个性化、地理定位和设备类型的影响。位置由你发送的参数决定:gl(国家)、hl(语言)、location(城市/地区)和 device(桌面端或移动端)。对于排名追踪,这些参数的一致性至关重要。在检查之间更改位置或设备设置,即使查询相同也会产生不同的排名数据。

3. 能否使用此 API 监控数百个关键词的 SERP 变化?

可以。该 API 支持高量使用,按请求计费并提供阶梯价格。典型的排名监控工作流每天(或按你设定的频率)查询每个关键词并将结果存储在数据库中。每次请求最多 100 条自然结果,加上分页支持,可以为每个关键词捕获全面的 SERP 数据。主要限制是 API 使用量,随关键词数量和检查频率增长。

4. Google Shopping 端点与从网页搜索端点提取 Shopping 结果有何不同?

google-search 端点的响应中可能包含部分 Shopping 结果,但这些与自然结果混在一起,缺乏结构化的产品数据。专用的 google-shopping 端点仅返回商品列表,使用标准化字段:productIdtitlepricecurrencyratingreviewCountmerchantimageUrlproductUrl。它还支持 Shopping 专用过滤器,如 minPricemaxPriceconditionsortBy。对于任何严肃的产品或定价分析,专用端点是正确选择。

5. SEO 排名追踪与 GEO 分析有什么区别?

SEO 排名追踪衡量你的页面在传统自然搜索结果中的位置。GEO(生成式引擎优化)分析衡量你的内容是否被 AI 生成的回答(如 Google 的 AI Overview)引用。两者相关但目标不同。你的页面可能自然排名第一但未被 AI Overview 引用,也可能在自然排名较低的同时被 AI Overview 引用。两者都对可见性很重要,AntsData Search API 在单次请求中同时返回两种分析所需的数据。

Emily Rodriguez

关于作者

Emily Rodriguez

AI 与数据科学负责人 @ AntsData

Emily Rodriguez 是 AntsData AI 与数据科学负责人,专注于网页数据采集与人工智能的交叉领域。她专注于为 LLM 训练、RAG 系统和 AI Agent 架构构建数据管道。Emily 在机器学习工程领域拥有 7 年经验,在自然语言处理、检索系统和数据质量框架方面具有专长。她拥有斯坦福大学人工智能硕士学位,并为 AI/ML 社区的开源项目做出了贡献。Emily 热衷于让高质量训练数据的获取更加民主化。