蜘蛛耗盡服務器資源分析

2015-06-04 分類：網站建設

當我們成都網站建設的網站剛上線后，都希望網站被盡快收錄，于是會去吸引蜘蛛的到來，蜘蛛到來的頻率過高有時候會導致iis資源耗盡，網站中時常數出現service unavoidable的提示，這個詞的出現可以直接表現為訪問量很小。

是蜘蛛的到來引起我們網站資源的缺乏，是蜘蛛耗盡服務器資源的，所以我們的解決辦法就針對蜘蛛進行。利用robots.txt中的disallow屏蔽部分沒有實際意義的內容。

格式如下：

user-agent:*
disallow:/search.html
disallow:/index.php?
disallow:/tempweb/

說明：

user-agent:*： *代表允許所有的搜索引擎來抓取數據。
disallow:/search.html：不允許收錄/search.html這個文件的數據。
disallow:/index.php?：不允許收錄以/index.php?為前綴的鏈接。
disallow:/tempweb/：不允許收錄/tempweb/里所有的文件，但可以收錄如：/tempwebtaim.html的鏈接。

本文標題：蜘蛛耗盡服務器資源分析
瀏覽地址：http://www.2m8n56k.cn/news/19142.html

成都網站建設公司_創新互聯，為您提供服務器托管、網站維護、自適應網站、手機網站建設、外貿網站建設、網站排名

聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：[email protected]。內容未經允許不得轉載，或轉載時需注明來源：創新互聯

猜你還喜歡下面的內容

中文字幕第五页-中文字幕第页-中文字幕韩国-中文字幕最新-国产尤物二区三区在线观看-国产尤物福利视频一区二区

蜘蛛耗盡服務器資源分析