熱(rè)愛(ài)與堅持的(de)熱(rè)情,還(hái)有(yǒu)創意、流程和"Ω✔'(hé)執行(xíng)的(de)嚴謹
您會(huì)應用(yòng)robots.tx¶σ↕ t,鄭州網站(zhàn)優化(huà)的(de)robots.t≥≈xt高(gāo)級應用(yòng)程序技(jì)能(néng)嗎(ma&ε)?
robots.txt使用(yòng)要(yào)♥¶'Ω點
在介紹高(gāo)級應用(yòng)程序之前,讓我們先看(kàn)"•§γ看(kàn)使用(yòng)robots.txt的(∑>"♠de)要(yào)點:
1.每個(gè)域名,無論它是(shì♠)否是(shì)子(zǐ)域名,最多(duō)可(kě)以←≥£有(yǒu)一(yī)個(gè)robots.txt文(wéλ ≤n)件(jiàn),可(kě)以放(fàng)在網站(zhàn)根目錄中。↔σYourName.com的(de)robots.txt對(duì)abc.youname.com沒有(yǒu)任何限制(zhì)。
2.每個(gè)協議(yì)都(dōu)可(kě)以有(yǒu)r↕"obots.txt。例如(rú),http://yourname.com≠•'★和(hé)https://yourname.com可(kě)以各有(✔αφβyǒu)一(yī)個(gè)robots.txt。
3.每個(gè)端口可(kě)以有(yǒu)一(yī)個(gè)rob≥ ots.txt。例如(rú),http://yourname. ☆₽ com和(hé)http://yourname.com:80βε80可(kě)以各有(yǒu)一(yī)個(gè)robots.txt。
4.文(wén)件(jiàn)名必須是(shì)小(xiǎo)寫。不(bù)可(kě)能(nεéng)是(shì)robots.txt。
5.用(yòng)戶代理(lǐ)的(de)名稱和(hé)用(yòng±✔↔β)戶代理(lǐ)的(de)大(dà)小(xiǎo)寫、允許$α、不(bù)允許、爬行(xíng)延遲、站(zhàn)點地(dì)圖指示符都©♥≈™(dōu)是(shì)不(bù)敏感的(de).
6.robots.txt中包含的(de)URL區(qū)分(fēn)™≠大(dà)小(xiǎo)寫。通(tōng)過區(↔®qū)分(fēn)大(dà)小(xiǎo)寫,可(kě)以有(yǒu)效地(dì)排除索引。
“允許”和(hé)“不(bù)允許”的(de)URL必須α&是(shì)不(bù)包括協議(yì)、域名和(hé)端口的(de)路(lù)徑∑"α←。
7.不(bù)允許:http://yourname.com/abc.htm↕→¶錯(cuò)了(le)。更改為(wèi)“不(bù)允許”:/abc.htm↑≥™δ
8.Sitemap必須包含以HTTP或HTTPS開 ←↔(kāi)頭的(de)完整URL。
9.txt不(bù)是(shì)死鎖提交工(gΩεδōng)具。如(rú)果要(yào)删除死鎖索引,則應登錄到(dào)搜索引擎網站•¥(zhàn)管理(lǐ)員(yuán)平<★台提交。
10.txt隻差于robots.txt,±≤在這(zhè)個(gè)文(wén)件(jiàn)中沒有(±>∏yǒu)任何區(qū)别,也(yě)就(jiù)是(shì)說(shuō),是(shì)✔'π否要(yào)做(zuò)這(zhè)個(g±✘è)排除。删除robots.txt意味著(zhe)爬行(x♠★π$íng)對(duì)漫遊完全開(kāi)放(fàng)。
11.robots.txt隻是(shì)一(yī)個(gè)紳士,而不(bù)是(s↕♠hì)一(yī)個(gè)惡棍。曆史上(shàng)有≈£(yǒu)許多(duō)違反robots.txt的(∑ de)行(xíng)為(wèi)。網站(zhàn)想在著(zhe)陸後發布機φ₽β•(jī)密信息。
12.如(rú)果要(yào)嚴格防止搜索引擎索引,建議(yì)不(bù)使用(y≈òng)索引标記。但(dàn)百度不(bù)支持。
13.Google和(hé)百度不(bù)支持爬行(xíng)§♠§÷延遲,而Yandex和(hé)Bing則支持。Ya®'ndex還(hái)支持主機(jī)指示符來(lái)表示首選域名。
14.符号#用(yòng)于注釋。
更多(duō)詳情了(le)解,鄭州網絡公司,鄭州網絡推廣,鄭州網站(zhàn)€β優化(huà),鄭州網站(zhàn)制(zhΩ↔≤ì)作(zuò):http://www.<÷¥ xinpower.cn/