LinuxSir.cn,穿越时空的Linuxsir!

 找回密码
 注册
搜索
热搜: shell linux mysql
查看: 655|回复: 4

web网站一定要设置robots.txt吗?

[复制链接]
发表于 2004-3-13 17:11:22 | 显示全部楼层 |阅读模式
如果没设置,会不会影响安全?
发表于 2004-3-14 20:28:02 | 显示全部楼层
robots.txt可以禁止robot爬你的一些网站的某些你不想被爬到的目录的
 楼主| 发表于 2004-3-14 22:34:16 | 显示全部楼层
最初由 包子 发表
robots.txt可以禁止robot爬你的一些网站的某些你不想被爬到的目录的

明白一点点:thank
我在找找详细资料看看
发表于 2004-3-15 09:38:47 | 显示全部楼层

找到资料了记得来这里帖一下哦:)
 楼主| 发表于 2004-3-16 11:33:24 | 显示全部楼层
最初由 包子 发表

找到资料了记得来这里帖一下哦:)


找到了一些,因为太大,我把她作为附件,如下:

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x
您需要登录后才可以回帖 登录 | 注册

本版积分规则

快速回复 返回顶部 返回列表