Din WordPress-webbplats har redan en robots.txt-fil och den fattar beslut om vad sökmotor-crawlers kan komma åt, oavsett om du någonsin har rört den eller inte.
De flesta av dessa beslut är ofarliga. Men en enda dåligt vald regel kan också hindra crawlers från att upptäcka URL:er som du faktiskt vill att de ska hitta.
I den här guiden visar vi dig vad din robots.txt-fil gör just nu och hur du redigerar den utan att röra koden.
Här är allt vi kommer att täcka i den här guiden:
Vad är en robots.txt-fil?
Robots.txt är en vanlig textfil som talar om för sökmotorernas bottar vilka delar av din webbplats de kan genomsöka.
Filen ligger i rotkatalogen (huvudmappen) på din webbplats. Grundformatet ser ut så här:
User-agent: [user-agent name]
Disallow: [URL string not to be crawled]
User-agent: [user-agent name]
Allow: [URL string to be crawled]
Sitemap: [URL of your XML Sitemap]
Du kan lägga till så många regler och webbplatser som du behöver. Om du inte nekar en URL antar bottar att de kan genomsöka den.
Din webbplats fungerar bra utan en robots.txt-fil när du först startar en blogg. Men när ditt innehåll växer blir den här filen mer användbar.
Sökmotorer ger varje webbplats en genomsökningsbudget, vilket är antalet sidor de kommer att genomsöka under en viss tidsperiod. Genom att blockera oviktiga sidor hjälper du bottar att spendera den budgeten på det innehåll du vill ha i sökresultaten.
Detta är viktigast för stora webbplatser med tusentals sidor.
Tänk på att robots.txt hjälper dig att kontrollera genomsökning, inte indexering.
- Genomsökning är när sökmotorernas bottar (som Googlebot) besöker din webbplats för att upptäcka dess innehåll.
- Indexering är när de lägger till det innehållet i sin massiva sökningsdatabas så att det kan visas i sökresultaten.
Tänk på det som att en bibliotekarie läser en ny bok (genomsökning) och sedan lägger till den i bibliotekets katalog (indexering).
Med andra ord är robots.txt inte heller ett bra sätt att dölja innehåll eftersom en nekad sida fortfarande kan visas i sökresultaten om andra webbplatser länkar till den. För att på ett tillförlitligt sätt hålla en sida utanför Google, använd istället en 'noindex'-metatagg. Detta talar om för sökmotorer att inte lista sidan alls.
Exempel och bästa praxis för Robots.txt
För de flesta WordPress-webbplatser kan du hålla din robots.txt-fil ganska enkel. Här är den grundläggande konfiguration vi rekommenderar:
User-Agent: *
Allow: /wp-content/uploads/
Allow: /wp-admin/admin-ajax.php
Disallow: /wp-admin/
Disallow: /readme.html
Disallow: /refer/
Disallow: /?s=
Sitemap: https://www.example.com/post-sitemap.xml
Sitemap: https://www.example.com/page-sitemap.xml
Här är vad varje regel gör:
Allow: /wp-content/uploads/låter sökmotorer genomsöka dina bilder och andra filer som laddats upp till ditt WordPress-mediebibliotek.Allow: /wp-admin/admin-ajax.phphåller WordPress AJAX-hanterare tillgänglig. Teman och plugins kan använda den här filen för att ladda eller uppdatera innehåll utan att uppdatera sidan.Disallow: /wp-admin/förhindrar genomsökare från att komma åt ditt WordPress-adminområde, som inte innehåller innehåll du vill ska visas i sökresultaten.Disallow: /readme.htmlförhindrar genomsökare från att komma åt WordPress standardfilreadme.html. Den här filen är inte användbar för sökmotorer, så det finns liten anledning för dem att genomsöka den.Disallow: /refer/förhindrar genomsökare från att följa affiliate- eller andra omdirigerings-URL:er som använder prefixet/refer/. Om din webbplats använder ett annat prefix för dessa länkar, ersätt/refer/med ditt eget.Disallow: /?s=förhindrar genomsökare från att begära WordPress interna sök-URL:er. Dessa sidor är generellt sett inte användbara landningssidor för sökmotorer och kan skapa många onödiga URL:er att genomsöka.Sitemaptalar om för sökmotorer var de hittar dina XML-sitemaps. Detta gör det lättare för dem att upptäcka de URL:er du vill att de ska genomsöka.
Detta är samma kärntyper av regler som vi använder på WPBeginner. Du kan se vår livefil på wpbeginner.com/robots.txt. Vår produktionsfil innehåller ytterligare regler för en mycket större webbplats, men de grundläggande principerna är desamma.
Tänk på att användningen av jokertecknet* gäller alla crawlers.
Till exempel blockerar denna regel Googlebot från att genomsöka mappen /private/:
User-agent: Googlebot
Disallow: /private/
Vanliga användaragentnamn inkluderar Googlebot (Google), Bingbot (Bing) och Baiduspider (Baidu).
Hur man skapar en Robots.txt-fil i WordPress
Det finns två sätt att skapa en robots.txt-fil i WordPress. Du kan välja den metod som fungerar bäst för dig.
Metod 1: Redigera robots.txt-filen med All in One SEO
De flesta kostnadsfria WordPress SEO-plugins, som All in One SEO (AIOSEO), Yoast eller Rank Math, låter dig anpassa din robots.txt-fil direkt från din WordPress-instrumentpanel.
Vi använder AIOSEO på WPBeginner. Den kostnadsfria versionen av AIOSEO hjälper dig att validera din robots.txt-regel medan du skriver, vilket gör att du kan upptäcka syntaxfel innan den går live.
När pluginet är aktivt, gå helt enkelt till All in One SEO » Verktyg i din WordPress-instrumentpanel. Du kommer att hamna på Robots.txt-redigeraren. Aktivera växlingsknappen 'Aktivera anpassad Robots.txt' för att börja redigera.
Redigeraren visar standardreglerna som WordPress genererar på egen hand.
Nu kan du lägga till dina egna regler. Ange en användaragent i fältet 'Användaragent', eller använd * för att tillämpa regeln på alla bots.
Välj sedan 'Tillåt' eller 'Neka' i kolumnen 'Direktiv', och skriv sökvägen till filen eller mappen i fältet 'Värde'. För att lägga till en ny regel, klicka på knappen 'Lägg till regel'.
Du kan kontrollera din färdiga fil i 'Förhandsgranskning av anpassad Robots.txt' längst ner på skärmen. Den visar hela filen exakt som bots kommer att se den.
När du är klar, klicka på knappen 'Spara ändringar' för att spara dina regler.
Metod 2: Redigera Robots.txt-filen manuellt med FTP
Om du hellre vill redigera din robots.txt-fil direkt, följ då denna metod. För att redigera filen måste du använda en FTP-klient eller filhanteraren i din WordPress-värdpanel.
Innan du redigerar något, ladda ner en säkerhetskopia av din nuvarande robots.txt-fil till din dator. På så sätt kan du återställa den om något går fel.
Först, anslut din FTP-klient till din WordPress-webbplats och hitta robots.txt-filen i din webbplats rotmapp.
Om du inte ser en, har din webbplats ingen robots.txt-fil ännu. Du kan skapa en direkt där.
Robots.txt är en vanlig textfil. Du kan ladda ner den, redigera den i en vanlig textredigerare som Anteckningar eller TextEdit, och ladda upp den tillbaka till din rotmapp.
Hur du testar din Robots.txt-fil
Efter att ha skapat eller redigerat din robots.txt-fil, kontrollera den alltid för fel. En liten felskrivning kan blockera viktiga sidor från sökmotorer, och du kanske inte märker det på flera veckor.
Det enklaste sättet att testa din robots.txt-fil för fel är med Google Search Console.
Gör först en säkerhetskoll att din webbplats är ansluten till Google Search Console. Om den inte är det, följ vår guide om hur du lägger till din WordPress-webbplats i Google Search Console.
Gå sedan till din Search Console-instrumentpanel och öppna Inställningar från menyn längst ner till vänster. Leta reda på avsnittet 'Crawling' och klicka på 'Öppna rapport' bredvid 'robots.txt'.
Klicka på den aktuella versionen av filen i listan. Rapporten visar den senaste robots.txt som Google har hittat, och den markerar eventuella syntaxfel eller logiska problem som den upptäckt.
Om du precis har uppdaterat din fil och ändringarna inte visas, ge det en dag och kontrollera den sedan igen.
Vanliga frågor om WordPress robots.txt
Här är de vanligaste frågorna som läsare ställer oss om optimering av robots.txt-filen i WordPress.
1. Kan användning av robots.txt förbättra min webbplats säkerhet?
Nej, robots.txt är inte en säkerhetsåtgärd. Filen är offentligt synlig, så den hindrar faktiskt ingen från att komma åt de URL:er du listar. Den ger helt enkelt direktiv till väluppfostrade sökmotor-crawlers.
2. Ska jag blockera WordPress kategori- och taggsidor i robots.txt?
Nej, du bör inte blockera kategori- och taggsidor. Dessa arkivsidor innehåller interna länkar som crawlers följer för att nå dina äldre inlägg, så att blockera dem tar bort en upptäcktsväg för innehållet du vill indexera.
3. Vad är skillnaden mellan robots.txt och noindex-taggen?
De kontrollerar olika saker. Robots.txt kontrollerar om en crawler kan besöka en URL överhuvudtaget. Noindex-taggen kontrollerar om sökmotorer listar en sida i sökresultaten, även om de redan har besökt den.
Använd robots.txt för att blockera robotar från områden som ditt adminpanel, staging-miljö eller plugin-kataloger. Använd noindex för sidor som du är okej med att Google genomsöker, som filtrerade arkivsidor eller tack-sidor, som du bara inte vill ska visas i sökresultaten.
Vi hoppas att den här artikeln hjälpte dig att lära dig hur du optimerar din WordPress robots.txt-fil för SEO. Du kanske också vill se vår ultimata WordPress SEO-guide och våra experttips för de bästa WordPress SEO-verktygen för att växa din webbplats.
Om du gillade den här artikeln, prenumerera gärna på vår YouTube-kanal för WordPress-videoguider. Du kan också hitta oss på Twitter och Facebook.
Steve
Tack för detta – hur fungerar det på en WP Multisite dock?
WPBeginner Support
För en multisite skulle du behöva ha en robots.txt-fil i rotmappen för varje webbplats.
Admin
Pacifique Ndanyuzwe
Min wordpress-sida är ny och min robot.txt som standard är
user-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Jag vill att Google ska genomsöka och indexera mitt innehåll. Är den robots.txt okej?
WPBeginner Support
Du kan absolut använda det om du vill
Admin
Ritesh Seth
Bra artikel...
Jag var förvirrad i så många dagar om Robots.txt-filen och Disallow-länkar. Har kopierat taggarna för robots-filen. Hoppas detta löser problemet med min webbplats
WPBeginner Support
Vi hoppas att vår artikel också hjälper
Admin
Kurt
Filerna i skärmdumparna av din hemmapp finns faktiskt under mappen public_html i min hemmapp.
Jag hade ingen /refer-mapp under min public_html-mapp.
Jag hade inga XML-filer för inlägg eller sidor någonstans på mitt WP-konto.
Jag inkluderade en post i robots.txt-filen jag skapade för att förbjuda genomsökning av min sandbox-webbplats. Jag är inte säker på att det är nödvändigt eftersom jag redan har valt alternativet i WP som säger åt sökmotorer att inte genomsöka min sandbox-webbplats, men jag tror inte att det skadar att ha posten.
WPBeginner Support
Vissa värdar byter namn på public_html till home, vilket är anledningen till att du ser det där. Du vill se till att Yoast är aktivt för att XML-filerna ska vara tillgängliga. Metoden i den här artikeln är en ytterligare försiktighetsåtgärd för att hjälpa till att förhindra att din webbplats genomsöks
Admin
Ahmed
Bra artikel
WPBeginner Support
Tack
Admin
ASHOK KUMAR JADON
Hej, en så fin artikel du löste mitt problem. Så tack så mycket
WPBeginner Support
Glad att vår artikel kunde hjälpa
Admin
Elyn Ashton
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php <– Detta är min robot.txt-kod men jag är förvirrad över varför min /wp-admin indexeras? Hur kan jag undvika indexering av den?
WPBeginner Support
Om det indexerades tidigare kan du behöva ge tid för sökmotorns cache att rensas
Admin
Ashish Kumar
Den här webbplatsen inspirerar mig verkligen att starta en blogg. Tack för allt team. Den här webbplatsens varje artikel är rik på information och förklaringar. När jag har något problem besöker jag först den här bloggen. Tack
WPBeginner Support
Glad att våra artiklar kan vara till hjälp
Admin
Anna
Jag försöker optimera robotar för min webbplats med Yoast. Men verktygen i Yoast har inte alternativet för 'Filredigerare'.
Det finns bara två alternativ
(i) Importera och exportera
(ii) Massredigerare
Kan du snälla ge råd om hur detta kan åtgärdas. Kan det vara så att jag använder en gratisversion av Yoast?
WPBeginner Support
Den kostnadsfria versionen av Yoast har fortfarande alternativet, din installation kan förhindra filredigering, i vilket fall du troligen skulle behöva använda FTP-metoden.
Admin
Emmanuel Husseni
Jag tycker verkligen att den här artikeln är hjälpsam eftersom jag verkligen inte vet mycket om hur robot.txt fungerar, men nu gör jag det.
Snälla, vad jag inte förstår är hur jag hittar det bästa formatet av robot.txt att använda på min webbplats (jag menar ett som fungerar generellt)?
Jag märkte att många stora bloggar jag följer rankar högt på sökmotorer och använder olika robot.txt-format.
Jag skulle vara glad att se ett svar från dig eller bara någon som kan hjälpa till
Redaktionell personal
Att ha en webbplatskarta och tillåta de områden som behöver tillåtas är den viktigaste delen. Avviseringsdelen varierar beroende på varje webbplats. Vi delade ett exempel i vårt blogginlägg, och det bör fungera för de flesta WordPress-webbplatser.
Admin
WPBeginner Support
Hej Emmanuel,
Se avsnittet om den ideala robots.txt-filen. Det beror på dina egna krav. De flesta bloggare exkluderar WordPress admin- och plugin-mappar från genomsökningen.
Admin
Emmanuel Husseni
Tack så mycket.
nu förstår jag. Jag antar att jag börjar med det allmänna formatet för nu.
jack
Välskriven artikel, jag rekommenderar användarna att göra en sitemap innan de skapar och aktiverar sin ROBOTS-text, det kommer att hjälpa din webbplats att genomsökas snabbare och indexeras enkelt.
Jack
Connie S Owens
Jag vill hindra sökmotorer från att indexera mina arkiv under deras genomsökning.
Emmanuel Nonye
Tack så mycket, den här artikeln var verkligen hjälpsam
Cherisa
Jag får hela tiden felmeddelandet nedan på Googles webbansvariga. Jag sitter i princip fast. Några saker som inte var tydliga för mig i den här handledningen är var hittar jag min webbplats rotfiler, hur avgör man om man redan har en "robots.txt" och hur redigerar man den?
WPBeginner Support
Hej Cherisa,
Din webbplats rotmapp är den som innehåller mappar som wp-admin, wp-includes, wp-content, etc. Den innehåller också filer som wp-config.php, wp-cron.php, wp-blogheader.php, etc.
Om du inte ser en robots.txt-fil i den här mappen, då har du ingen. Du kan fortsätta och skapa en ny.
Admin
Cherisa
Tack för ditt svar. Jag har letat överallt och kan inte hitta dessa rotfiler som du beskriver. Finns det en sökvägsmapp jag kan följa som leder till den här mappen. Som att den ligger under Inställningar, etc?
Devender
Jag hade en anständig webbtrafik till min webbplats. Plötsligt sjönk den till noll i maj månad. Ännu nu har jag haft problemet. Vänligen hjälp mig att återställa min webbplats.
Haris Aslam
Hej där Tack för denna information, men jag har en fråga
Jag skapar bara Sitemap.xml och Robots.txt-filen, och den indexeras bra. Men hur skapar jag "Product-Sitemap.xml"
Det finns en lista över produkter i sitemap.xml-filen. Måste jag skapa Product-sitemap.xml separat?
och skicka till Google eller Bing igen?
Kan du hjälpa mig?
Tack
Mahadi Hassan
Jag har ett problem med inställningen av robots.txt-filen. Endast en robots.txt visas för alla webbplatser. Vänligen hjälp mig att visa separata robots.txt-filer för alla webbplatser. Jag har alla separata robots.txt-filer för alla enskilda webbplatser. Men endast en robots.txt-fil visas i webbläsaren för alla webbplatser.
Debu Majumdar
Kan du förklara varför du inkluderade
Disallow: /refer/
i exemplet för nybörjare i Robots.txt? Jag förstår inte innebörden av den här raden. Är den viktig för nybörjare? Du har förklarat de andra två förbjudna raderna.
Tack.
WPBeginner Support
Hej Debu,
Detta exempel kommer från WPBeginners robots.txt-fil. På WPBeginner använder vi ThirstyAffiliates för att hantera affiliatelänkar och maskera URL:er. Dessa URL:er har /refer/ i sig, det är därför vi blockerar dem i vår robots.txt-fil.
Admin
Evaristo
Hur kan jag sätta alla taggar/mydomain.Com till nofollow? I robots.txt för att koncentrera länkkraften? Tack.
harsh kumar
hej,,jag får ett fel i yoast seo angående sitemap..när jag klickar på fixa det,,,kommer det igen..min webbplats html laddas inte ordentligt
Tom
Jag har precis granskat mitt Google Webmaster Tools-konto och med hjälp av Search Console har jag hittat följande:
Sidan laddades delvis
Alla sidresurser kunde inte laddas. Detta kan påverka hur Google ser och förstår din sida. Åtgärda tillgänglighetsproblem för alla resurser som kan påverka hur Google förstår din sida.
Detta beror på att alla CSS-stilmallar som är associerade med plugins är förbjudna av standard robots.txt.
Jag förstår goda skäl till varför jag inte bara borde tillåta detta, men vad skulle vara ett alternativ eftersom jag skulle misstänka att Googles algoritmer nedgraderar webbplatsen för att inte se dessa.
Suren
Hej,
När jag söker på min webbplats på Google visas den här texten under länken: "En beskrivning för detta resultat är inte tillgänglig på grund av webbplatsens robots.txt"
Hur kan jag lösa detta problem?
Med vänliga hälsningar
WPBeginner Support
Hej Suren,
Det verkar som att någon av misstag ändrade din webbplats sekretessinställningar. Gå till Inställningar » Läsa-sidan och scrolla ner till avsnittet 'Sökmotorers synlighet'. Se till att rutan bredvid är avmarkerad.
Admin
Divyesh
Hej
Som jag sett i webmasterverktyget fick jag en robot.txt-fil som nedan:
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Låt mig veta om det är okej? Eller ska jag använda något annat?
John Cester
Jag vill veta, är det en bra idé att blockera (förbjuda) “/wp-content/plugins/” i robots.tx? Varje gång jag tar bort ett plugin får jag 404-fel på vissa sidor av det pluginet.
Himanshu singh
Jag älskade den här förklaringen. Som nybörjare var jag väldigt förvirrad över robot.txt-filen och dess användningsområden. Men nu vet jag vad dess syfte är.
rahul
i vissa robot.txt-filer har index.php förbjudits. Kan du förklara varför? Är det god praxis.
Waleed Barakat
Tack för att du tittade förbi denna värdefulla information.
Awais Ahmed
Kan du snälla berätta varför detta händer i webmasterverktyget:
Nätverket går inte att nå: robots.txt går inte att nåVi kunde inte krypa din webbplatskarta eftersom vi hittade en robots.txt-fil i roten av din webbplats men inte kunde ladda ner den. Se till att den är tillgänglig eller ta bort den helt.
robots.txt-fil finns men ändå
Dozza
Intressant uppdatering från Yoast-teamet om detta på
Citat: ”De gamla bästa metoderna att ha en robots.txt som blockerar åtkomst till din wp-includes-katalog och din plugins-katalog är inte längre giltiga.”
natveimaging
Tillåt: /wp-content/uploads/
Borde inte detta vara?
Disallow: /wp-content/uploads/
För du är medveten om att Google kommer att indexera alla dina uppladdningssidor som offentliga URL:er, eller hur? Och då kommer du att få felmeddelanden för själva sidan. Är det något jag missar här?
nativeimaging
Sammantaget är det de faktiska sidorna som Google kryper för att generera bildkartor, INTE uppladdningsmapparna. Då skulle du ha problem med att alla mindre bildstorlekar och andra bilder som är för UI också kommer att indexeras.
Detta verkar vara det bästa alternativet:
Disallow: /wp-content/uploads/
Om jag har fel, förklara detta för mig så att jag kan förstå din vinkel här.
Jason
Min bloggs URL indexeras inte, behöver jag ändra min robots.txt?
Jag använder denna robots.txt
iyan
hur man skapar robot txt som ENDAST tillåter indexering för sida och inlägg.. tack
Simaran Singh
Jag är inte säker på vad problemet är men min robots.txt har två versioner.
En på http://www.example.com/robots.txt och en andra på example.com/robots.txt
Någon, snälla hjälp! Låt mig veta vad som kan vara den möjliga orsaken och hur jag kan korrigera det?
WPBeginner Support
Troligtvis tillåter din webbhotell att din webbplats kan nås med både www och icke-www-adresser. Försök att ändra robots.txt med en FTP-klient. Granska den sedan från båda URL:erna om du kan se dina ändringar på båda URL:erna, då betyder det att det är samma fil.
Admin
Simaran Singh
Tack för det snabba svaret. Jag har redan gjort det, men jag kan inte se någon förändring. Finns det något annat sätt att lösa det?
Martin conde
Yoasts blogginlägg om detta ämne låg precis ovanför ditt i min sökning, så jag kollade naturligtvis båda. De motsäger varandra lite grann.. Till exempel sa Yoast att det att neka plugin-kataloger och andra kan hindra Google-robotarna när de hämtar din webbplats eftersom plugins kan mata ut CSS eller JS. Nämns också (och från min egen erfarenhet) att Yoast inte lägger till något som rör sitemap i robots.txt, utan genererar det så att du kan lägga till det i din sökordsanalys. Här är länken till hans inlägg, kanske du kan dubbelkolla eftersom det är mycket svårt att välja vems ord man ska lita på
MM Nauman
Eftersom jag inte är bra på att skapa den här Robotstxt-filen, kan jag använda din Robots.txt-fil genom att ändra parametrarna som URL och sitemap för min webbplats, är det bra? eller ska jag skapa en annan?
Mohit Chauhan
Hej,
Idag fick jag detta mejl från Google “Googlebot kan inte komma åt CSS- och JS-filer”…vad kan vara lösningen?
Tack
Parmod
Låt mig gissa… Du använder CDN-tjänster för att importera CSS- och JS-filer.
eller
Det kan vara så att du har skrivit fel syntax i dessa filer.
Rahul
Jag har en fråga om att lägga till Sitemaps. Hur kan jag lägga till Yahoo och Bing Sitemap till Robots-filen och WordPress-katalogen?
Gerbrand Petersen
Tack för den utförliga översikten över hur man använder robots-filen. Vet någon om Yahoo också använder denna robots.txt, och följer den reglerna som nämns i filen? Jag frågar detta eftersom jag har en "Disallow" för en viss sida i min fil, men jag får trafik från Yahoo till den sidan. Inget från Google, som det ska vara. Tack på förhand.
Erwin
korrigering...
"Om du använder Yoasts WordPress SEO-plugin eller något annat plugin för att generera din XML-sitemap, kommer ditt plugin att försöka lägga till dina sitemap-relaterade rader automatiskt i robots.txt-filen."
Inte sant. WordPress SEO lägger inte till sitemappen i robots.txt
"Jag har alltid ansett att det är lite nonsens att länka till din XML-sitemap från din robots.txt. Du bör lägga till dem manuellt i dina Google och Bing Webmaster Tools och se till att du tittar på deras feedback om din XML-sitemap. Det är anledningen till att vårt WordPress SEO-plugin inte lägger till det i din robots.txt."
https://yoast.com/wordpress-robots-txt-example/
Det rekommenderas också mer att inte blockera katalogen wp-plugins (skäl se Yoasts inlägg)
Och personligen gillar jag att bara ta bort readme.txt-filen...
hyma
Jag förstod det med robots.txt-filen och användningen av robots-filen. Vad är webbplatskartan, hur skapar jag en webbplatskarta för min webbplats.
Rick R. Duncan
Efter att ha läst Googles dokumentation är jag av den uppfattningen att direktivet att använda i robots.txt-filen är disallow, vilket bara talar om för robotarna vad de kan och inte kan krypa. Det talar inte om för dem vad som kan och inte kan indexeras. Du måste använda noindex robots meta-taggen för att en sida inte ska indexeras.
Nitin
riktigt bra artikel för SEO-optimerade robots.txt-filer. Men jag behöver att du ger en handledning om hur man laddar upp robots.txt-filen till servern. Eftersom det verkar vara ett stort problem för en nybörjare att ladda upp den filen.
Förresten, tack för att du delade sådan gynnsam information.
-Nitin
Parmod
Ladda upp den till din server/public_hmtl/(Ditt-webbplatsnamn) ... i den här mappen
Jenny
Vad är det bästa sättet att lägga till kod i HTTacess för att blockera flera spamrobotreferenser för deras URL och IP-adress om ingen URL anges
Jag vet att om du får fel syntax när du gör httacess kan det ta din webbplats offline. Jag är nybörjare och behöver blockera dessa irriterande flera URL:er från Ryssland, Kina, Ukraina etc.
Många tack
Hazel Andrews
Tack för de tipsen....robot txt-filerna är nu ändrade! jippi!
Rahat
varför måste man lägga till Allow: !!!
om jag bara nämner vad som ska Disallow räcker det. Behöver inte skriva kod för Allow eftersom Googlebot eller Bingbot kommer att genomsöka allt annat automatiskt.
Så varför ska jag använda Allow igen?
Connor Rickett
Eftersom avsaknaden av Robots.txt-filen inte hindrar webbplatsen från att krypas, är jag nyfiken: Finns det några hårda data om exakt hur mycket filen kommer att förbättra SEO-prestandan?
Jag gjorde en snabb Google-sökning och såg ingen kvantitativ data om det. Det finns ungefär en halv miljon artiklar som säger: ”Hej, det här förbättrar SEO!” men jag skulle verkligen vilja veta vad vi pratar om här, även generellt.
Är det en ökning med 5 %? 50? 500?
WPBeginner Support
Sökmotorer delar inte sådan data. Även om det inte finns någon robots.txt-fil hindrar det inte sökmotorer från att krypa eller indexera en webbplats. Det är dock en rekommenderad bästa praxis.
Admin
Connor Rickett
Tack för att du tog dig tid att svara, jag uppskattar det!
JD Myers
Bra tajming för detta. Jag försökte hitta den här informationen igår.
Anledningen till att jag sökte efter det är att Google Webmaster Tools sa till mig att de inte kunde krypa min webbplats ordentligt eftersom jag blockerade olika resurser som behövdes för korrekt rendering av sidan.
Dessa resurser inkluderade de som finns i /wp-content/plugins/
Efter att jag tillät den här mappen försvann varningen.
Några tankar om detta?
WPBeginner Support
Du kan tryggt ignorera dessa varningar. Det är bara en varning om du faktiskt hade innehåll där som du skulle vilja indexera. Ibland har användare begränsat sökmotorer och har glömt bort det. Dessa varningar är användbara i de situationerna.
Admin
Chetan jadhav
Jag har en fråga, många där ute använder statiska sitemap, och du vet att de har en WordPress-sida. Ska vi använda statisk eller sitemap genererad av WordPress.
Wilton Calderon
Trevligt, jag gillar hur Wpbeginner har det, och med den rankingen i Alexa, ser det ut för mig som ett av de bästa sätten att använda robots.txt..
Brigitte Burke
vad betyder min robots.txt-fil om den ser ut så här?
User-agent: *
Tillåt ej: /wp-admin/
Tillåt ej: /wp-includes/
Tillåt ej: /xmlrpc.php
Redaktionell personal
Det säger bara att sökmotorer inte ska indexera din wp-admin-mapp, wp-includes-mapp och xml-rpc-filen. Ibland kan blockering av /wp-includes/ blockera vissa skript för sökmotorer, särskilt om din webbplats använder dessa skript. Detta kan skada din SEO.
Det bästa är att gå till Google Webmaster Tools och hämta din webbplats som en bot där. Om allt laddas bra, då har du inget att oroa dig för. Om det står att skript blockeras, då kanske du vill ta bort wp-includes-raden.
Admin
hercules
Jag ser ingen logik i din idé om att ha ett skript inom inkluderingskatalogen som kan användas av en crawler / robot .. och en annan, om det finns ett isolerat fall, är det bättre efter att ha specificerat standard WordPress tillåt denna fil du föreställer dig att sökmotorer använder sina skript! trots allt har WordPress säkert inte som standard en robots.txt mot sökmotorer!!!!