Performa Web
工具

免费工具

robots.txt 生成器

通过定义抓取规则、站点地图位置以及针对各个机器人的限制,创建您网站的 robots.txt 文件。

爬虫默认访问权限

适用于所有爬虫的规则(User-agent: *).

每行一个路径(或用逗号分隔)。留空表示全部允许。

按爬虫设置规则

为单个爬虫设置专属规则。

无专属规则。所有爬虫遵循默认访问权限。

屏蔽 AI 爬虫

阻止 GPTBot、ClaudeBot、CCBot、Google-Extended 等使用您的内容。

User-agent: *
Allow: /
Disallow:

将文件保存为robots.txt在您网站的根目录下(例如:seusite.com.br/robots.txt).