OAI-SearchBot:ChatGPT搜索的索引爬虫
OAI-SearchBot是OpenAI为ChatGPT搜索功能建立网页索引的爬虫,抓取内容用于用户搜索时的实时引用来源,官方公布IP段于openai.com/searchbot.json。放行OAI-SearchBot是品牌出现在ChatGPT搜索答案的前提条件,封禁则答案内不再引用该站。
词条定义(OAI-SearchBot)
OAI-SearchBot是OpenAI为ChatGPT搜索功能建立网页索引的爬虫,抓取内容用于用户搜索时的实时引用来源,官方公布IP段于openai.com/searchbot.json。放行OAI-SearchBot是品牌出现在ChatGPT搜索答案的前提条件,封禁则答案内不再引用该站。
OAI-SearchBot是OpenAI为ChatGPT搜索功能建立网页索引的爬虫,抓取内容用于用户搜索时的来源引用。据OpenAI官方文档,封禁它意味着站点不出现在ChatGPT搜索答案中(导航链接除外),因此放行OAI-SearchBot是品牌进入ChatGPT答案链路的前提条件,做GEO的站点应默认放行并保障其顺利抓取。
机制
据OpenAI官方文档,OAI-SearchBot完整UA以Chrome桌面字符串开头,形如Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/131.0.0.0 Safari/537.36; compatible; OAI-SearchBot/1.3; +https://openai.com/searchbot。UA模拟Chrome是其识别特征,日志过滤若只匹配旧版短格式会漏掉新流量,宜用OAI-SearchBot关键词做包含匹配。
OAI-SearchBot声明遵守robots.txt,官方建议站点放行其规则并允许其公布IP段的请求,IP清单发布于openai.com/searchbot.json,格式与gptbot.json一致,可程序化拉取。据官方文档,robots更新约24小时后系统调整生效;被封站点仍可能作为导航链接出现,但不会进入搜索答案的引用来源。
与GPTBot的职责区别是决策关键:OAI-SearchBot建搜索索引,直接决定ChatGPT搜索与购物场景的候选资格,封禁等于退出候选池;GPTBot只服务训练语料。ChatGPT搜索索引还融合Bing等外部数据增强,但自有索引是引用与来源链接展示的基础,页面需服务端直出正文供其抓取解析。
落地方法
- robots.txt中明确User-agent: OAI-SearchBot并设置Allow: /
- 拉取openai.com/searchbot.json维护IP白名单并接入WAF
- 页面服务端输出完整正文,不依赖JS执行渲染
- 在ChatGPT内搜索品类词验证品牌是否被引用并带来源链接
- 日志用OAI-SearchBot关键词匹配,覆盖Chrome前缀的新UA形态
- 与GPTBot规则分开声明,避免连带误封
- 关注Bing收录情况,其数据与ChatGPT搜索存在互补关系
常见误区
- 与GPTBot混为一谈一刀切封禁,搜索曝光随之消失
- 页面纯前端渲染,爬虫抓到的初始HTML只是空壳
- 日志只匹配短UA格式,误判新版流量未曾到访
- 以为被Bing收录就必然进ChatGPT答案,忽略独立索引差异
相关词条:ChatGPT搜索、GPTBot、SSR服务端渲染