世界各大搜索引擎的蜘蛛名称列表

本文记录了全世界比较出名的Robots.txt 列表需要设置的搜索蜘蛛。如何设置那个目录不想被搜索引擎收录的可参照下去设置。 当然也必须从Robots.txt ...