跳到正文
Cloudflare· Chris Tsoukaladelis·· 14 天前推荐指数62

Cloudflare 推出 Verified Bot 持续问责系统,评估爬虫是否遵守站点偏好

Continuous accountability for Verified bots

AI 导读

Cloudflare 宣布推出一套评估与报告系统,用于衡量 Verified Bot 的行为是否持续符合规则,重点考察爬虫是否遵守站点偏好(robots.txt,符合 RFC 9309)以及收到 HTTP 429 响应后是否调整请求频率。

来源:Cloudflare · blog.cloudflare.com