本帖最后由 SEO小工 于 2010-7-13 20:30 编辑
禁止*.asp不会影响/xxx/收录,即使它的索引文件是.asp
Allow: /*/$ 不只充许一级目录,所有目录都是允许的,因为*也匹配了/
Disallow: /* 这个写法有点蒙,意义应该和 Disallow: / 是一样的,呵
如果这两个组合,那就是只允许收录目录。
只允许收录一级目录的规则想不出来怎么写,也许真的没法实现。
关于robots.txt 的作用可以用google管理员工具来测试。当然各SE的规则还是不太一样的,见discuz robots.txt设置最后有简单的总结,不过很久了。
百度也推出管理员工具了,不知道开放注册没,不知道有没有测试robots.txt的功能,好久不关注这些了 |