51工具箱
全部分类
编码转换
加密哈希
文本处理
格式化美化
开发辅助
站长工具
图片工具
计算工具
API
关于
搜索
0
首页
站长工具
robots.txt 生成
robots.txt 生成
按爬虫规则、屏蔽路径与 sitemap 地址生成标准 robots.txt。
收藏
站点域名
允许收录
允许所有爬虫
禁止所有爬虫
禁止路径(每行一条)
/admin/ /api/ /search
包含 Sitemap
包含
不包含
执行
重置
Ctrl + Enter 快速执行
处理结果
全部复制
关于这个工具
按爬虫规则、屏蔽路径与 sitemap 地址生成标准 robots.txt。
robots
txt
爬虫
seo
禁止
收录
sitemap
同类工具
Sitemap 生成
网站状态检测
SSL 证书检测
SEO 诊断
安全响应头检测
DNS 记录查询
我的收藏
还没有收藏任何工具,在工具页点击右上角星标即可收藏。
最近使用