DevTulz Online

Robots.txt መፍጠሪያ


robots.txt ምንድን ነው?

robots.txt በድረ-ገጽዎ ሥር (ለምሳሌ https://example.com/robots.txt) የሚቀመጥ የጽሑፍ ፋይል ሲሆን ድሮ ክሮለሮች የትኞቹን ገጾች ወይም ክፍሎች ሊደርሱ እንደሚችሉ ወይም እንደማይችሉ ይነግረዋል። እሱ የሮቦቶች Exclusion Protocol አካል ነው። የፍለጋ ሞተር ቦቶች በአጠቃላይ ያከብሩታል፣ ሆኖም ሆን ብለው ጎጂ ቦቶች ሊያወናብዱት ይችላሉ። ተባዥ ገጾችን፣ የአስተዳዳሪ አካባቢዎችን እና የግል ክፍሎችን ከክሮሊንግ ለመከልከል ይጠቀሙበት።

Robots.txt መፍጠሪያን እንዴት ይጠቀሙ

  1. አዘጋጅ ይምረጡ ወይም '+ ደንብ ያክሉ' ን ጠቅ በማድረግ ከባዶ ይጀምሩ።

  2. ልዩ ቦትን ለማነጣጠር User-agent መስኩን ያሰናዱ (ሁሉም ቦቶች ለ * ይጠቀሙ)።

  3. ክሮል ለማይደረጉ ገጾች Disallow ዱካዎችን ያክሉ፣ ለልዩ ሁኔታዎች Allow ዱካዎችን ያክሉ።

  4. አጥቂ ክሮለሮችን ለማዘግየት ሁለፈቃደኛ Crawl-delay (በሰኮንዶች) ያሰናዱ።

  5. ስር ያለውን የሳይትማፕ URL ያክሉ።

  6. ውጤቱን ቅዱ እና በድረ-ገጽዎ ሥር ዳይሬክቶሪ ውስጥ robots.txt ሆኖ ያስቀምጡ።

ተደጋግሞ የሚጠየቁ ጥያቄዎች

ሚስጢር ውሂብ እዚህ ለመቀልበስ ደህንነቱ ይጠበቃል? አዎ። ሁሉም ቀልበስ በአንተ ጀብዱ ውስጥ JavaScript ተጠቀሞ ይከናወናል። ምንም ውሂብ ወደ ማንኛውም ሰርቨር አይልከም፣ ስለዚህ የተቀናበሩ ሕብረቁምፍ ሙሉ በሙሉ ግላዊ ሆኖ ይቆያሉ።

Base64 እና URL-safe Base64 መካከል ልዩነት ምንድነው? መደበኛ Base64 + እና / ቁምፊዎችን ይጠቀማል፣ እነዚህ በURL ውስጥ ልዩ ቁምፊዎች ናቸው። URL-safe Base64 ወደ - እና _ ይለውጣዋል ስለዚህ ሕብረቁምፍ በURL እና በፋይል ስሞች ውስጥ ያለ በመቶ ኢንኮዲንግ በደህና ሊገለገል ይችላል።

ቀልበስ ውጤቴ ለምን ያልተገባ ስሪት ይመስላል? ዋናው ውሂብ ሁለትዮሽ ከሆነ (ምስል፣ PDF ወይም የተጨመቀ ፋይል)፣ ቀልበስ ውጤት ተነበብ ይችል አይሆንም። በዚያ ሁኔታ Base64 ሕብረቁምፍ ሁለትዮሽ ፋይል ይወክላል፣ ጽሑፍ ሕብረቁምፍ አይደለም።

Base64 የኢንክሪፕሽን ዓይነት ነው? አይ። Base64 ኢንኮዲንግ ዘዴ ነው፣ ኢንክሪፕሽን አይደለም። ማንም ሰው Base64 ሕብረቁምፍ ያለ ቁልፍ ሊቀልበስ ይችላል። ሚስጢር ውሂብ ለመጠበቅ ሊያገለግል አይገባም - ለዚያ ትክክለኛ ኢንክሪፕሽን ይጠቀሙ።

Keywords: robots.txt መፍጠሪያ፣ robots.txt ፋይል፣ ክሮለሮችን ዝጋ፣ ቦቶችን ዝጋ፣ SEO ሮቦቶች፣ sitemap ሮቦቶች፣ የድር ክሮለር ደንቦች