Cloudflare· Chris Tsoukaladelis·· 14 天前推荐指数62
Cloudflare 推出 Verified Bot 持续问责系统,评估爬虫是否遵守站点偏好
Continuous accountability for Verified bots
AI 导读
Cloudflare 宣布推出一套评估与报告系统,用于衡量 Verified Bot 的行为是否持续符合规则,重点考察爬虫是否遵守站点偏好(robots.txt,符合 RFC 9309)以及收到 HTTP 429 响应后是否调整请求频率。
来源:Cloudflare · blog.cloudflare.com