Hi,歡迎訪問前端老白
如果是規(guī)范的爬蟲,robots文件就夠了,如果是不規(guī)范的爬蟲,靠UA沒用還可能誤殺,最好的方法是使用日志分析程序找到爬蟲的IP封掉
老白網(wǎng)絡(luò) (http://www.lofty888.cn/) 前端 后端 zblog主題.網(wǎng)站地圖xml