Site-ul tău WordPress are deja un fișier robots.txt și acesta ia decizii cu privire la ce pot accesa roboții motoarelor de căutare, indiferent dacă l-ai modificat vreodată sau nu.
Majoritatea acestor decizii sunt inofensive. Dar o singură regulă aleasă greșit poate, de asemenea, să țină roboții departe de URL-urile pe care dorești de fapt ca ei să le descopere.
În acest ghid, vă vom arăta ce face fișierul dvs. robots.txt în prezent și cum să îl editați fără a atinge codul.
Iată tot ce vom acoperi în acest ghid:
Ce este un fișier Robots.txt?
Robots.txt este un fișier text simplu care spune roboților motoarelor de căutare ce părți ale site-ului dvs. pot accesa.
Fișierul se află în directorul rădăcină (folderul principal) al site-ului dvs. web. Formatul de bază arată astfel:
User-agent: [user-agent name]
Disallow: [URL string not to be crawled]
User-agent: [user-agent name]
Allow: [URL string to be crawled]
Sitemap: [URL of your XML Sitemap]
Puteți adăuga oricâte reguli și hărți de site aveți nevoie. Dacă nu interziceți o adresă URL, roboții presupun că o pot accesa.
Site-ul dvs. funcționează bine fără un fișier robots.txt atunci când începeți un blog. Cu toate acestea, pe măsură ce conținutul dvs. crește, acest fișier devine mai util.
Motoarele de căutare acordă fiecărui site web un buget de accesare, care este numărul de pagini pe care le vor accesa într-un anumit interval de timp. Blocând paginile neimportante, îi ajutați pe roboți să cheltuiască acel buget pe conținutul pe care doriți să îl vedeți în rezultatele căutării.
Acest lucru este cel mai important pentru site-urile mari cu mii de pagini.
Rețineți că robots.txt vă ajută să controlați accesarea, nu indexarea.
- Accesarea este atunci când roboții motoarelor de căutare (cum ar fi Googlebot) vă vizitează site-ul web pentru a-i descoperi conținutul.
- Indexarea este atunci când adaugă acel conținut la baza lor masivă de date de căutare, astfel încât să poată apărea în rezultatele căutării.
Gândiți-vă la asta ca la un bibliotecar care citește o carte nouă (accesare) și apoi o adaugă în catalogul bibliotecii (indexare).
Cu alte cuvinte, robots.txt nu este o modalitate bună de a ascunde conținutul, deoarece o pagină interzisă poate apărea în continuare în rezultatele căutării dacă alte site-uri web se leagă de ea. Pentru a elimina în mod fiabil o pagină din Google, utilizați în schimb o etichetă meta „noindex”. Aceasta spune motoarelor de căutare să nu listeze deloc pagina.
Exemple și cele mai bune practici pentru Robots.txt
Pentru majoritatea site-urilor WordPress, puteți păstra fișierul robots.txt destul de simplu. Iată configurația de bază pe care o recomandăm:
User-Agent: *
Allow: /wp-content/uploads/
Allow: /wp-admin/admin-ajax.php
Disallow: /wp-admin/
Disallow: /readme.html
Disallow: /refer/
Disallow: /?s=
Sitemap: https://www.example.com/post-sitemap.xml
Sitemap: https://www.example.com/page-sitemap.xml
Iată ce face fiecare regulă:
Allow: /wp-content/uploads/permite motoarelor de căutare să acceseze imaginile și alte fișiere încărcate în biblioteca media WordPress.Allow: /wp-admin/admin-ajax.phpmenține accesibil handler-ul AJAX al WordPress. Teme și plugin-uri pot folosi acest fișier pentru a încărca sau actualiza conținutul fără a reîmprospăta pagina.Disallow: /wp-admin/împiedică roboții să acceseze zona de administrare WordPress, care nu conține conținut pe care doriți să îl afișați în rezultatele căutării.Disallow: /readme.htmlîmpiedică roboții să acceseze fișierul implicitreadme.htmlal WordPress. Acest fișier nu este util motoarelor de căutare, deci există puține motive pentru ca acestea să îl acceseze.Disallow: /refer/împiedică roboții să urmărească URL-uri de afiliere sau alte URL-uri de redirecționare care folosesc prefixul/refer/. Dacă site-ul dvs. folosește un prefix diferit pentru aceste link-uri, înlocuiți/refer/cu propriul dvs.Disallow: /?s=împiedică roboții să solicite URL-urile interne de căutare ale WordPress. Aceste pagini, în general, nu sunt pagini de destinație utile pentru motoarele de căutare și pot crea multe URL-uri inutile de accesat.Sitemaple spune motoarelor de căutare unde să găsească hărțile site-ului dvs. XML. Acest lucru le facilitează descoperirea URL-urilor pe care doriți să le acceseze.
Acestea sunt aceleași tipuri de reguli de bază pe care le folosim pe WPBeginner. Puteți vedea fișierul nostru live la wpbeginner.com/robots.txt. Fișierul nostru de producție conține reguli suplimentare pentru un site mult mai mare, dar principiile de bază sunt aceleași.
Rețineți că utilizarea wildcard-ului* se aplică tuturor roboților de accesare.
De exemplu, această regulă îl blochează pe Googlebot de la accesarea folderului /private/:
User-agent: Googlebot
Disallow: /private/
Numele comune ale agenților de utilizator includ Googlebot (Google), Bingbot (Bing) și Baiduspider (Baidu).
Cum să creezi un fișier Robots.txt în WordPress
Există două moduri de a crea un fișier robots.txt în WordPress. Poți alege metoda care funcționează cel mai bine pentru tine.
Metoda 1: Editarea fișierului Robots.txt folosind All in One SEO
Majoritatea pluginurilor gratuite WordPress SEO, cum ar fi All in One SEO (AIOSEO), Yoast sau Rank Math, vă permit să personalizați fișierul robots.txt direct din tabloul de bord WordPress.
Folosim AIOSEO pe WPBeginner. Versiunea gratuită a AIOSEO vă ajută să validați regula robots.txt pe măsură ce tastați, ceea ce vă permite să detectați erorile de sintaxă înainte ca aceasta să fie publicată.
Odată ce pluginul este activ, pur și simplu accesați All in One SEO » Tools din tabloul de bord WordPress. Veți ajunge la Editorul Robots.txt. Activați comutatorul „Enable Custom Robots.txt” pentru a începe editarea.
Editorul afișează regulile implicite pe care WordPress le generează singur.
Acum puteți adăuga propriile reguli. Introduceți un agent de utilizator în câmpul „User Agent” sau utilizați * pentru a aplica regula tuturor roboților.
Apoi alegeți „Allow” sau „Disallow” în coloana Directive și introduceți calea fișierului sau a folderului în câmpul „Value”. Pentru a adăuga o altă regulă, faceți clic pe butonul „Add Rule”.
Puteți verifica fișierul finalizat în „Custom Robots.txt Preview” din partea de jos a ecranului. Acesta arată fișierul complet exact așa cum îl vor vedea roboții.
Când ați terminat, faceți clic pe butonul „Save Changes” pentru a salva regulile.
Metoda 2: Editarea manuală a fișierului Robots.txt folosind FTP
Dacă preferați să editați direct fișierul robots.txt, urmați această metodă. Pentru a edita fișierul, va trebui să utilizați un client FTP sau managerul de fișiere din panoul de găzduire WordPress.
Înainte de a edita ceva, descărcați o copie de rezervă a fișierului robots.txt curent pe computer. Astfel, îl puteți restaura dacă ceva nu merge bine.
Mai întâi, conectați clientul FTP la site-ul dvs. WordPress și găsiți fișierul robots.txt în folderul rădăcină al site-ului dvs.
Dacă nu vedeți unul, site-ul dvs. nu are încă un fișier robots.txt. Puteți crea unul chiar acolo.
Robots.txt este un fișier text simplu. Îl puteți descărca, edita în orice editor de text simplu, cum ar fi Notepad sau TextEdit, și îl puteți încărca înapoi în folderul rădăcină.
Cum să-ți testezi fișierul Robots.txt
După crearea sau editarea fișierului robots.txt, verificați-l întotdeauna pentru erori. O mică greșeală de scriere poate bloca pagini importante de la motoarele de căutare și este posibil să nu o observați timp de săptămâni.
Cel mai ușor mod de a testa fișierul robots.txt pentru erori este cu Google Search Console.
Mai întâi, asigurați-vă că site-ul dvs. este conectat la Google Search Console. Dacă nu este, urmați ghidul nostru despre cum să adăugați site-ul dvs. WordPress la Google Search Console.
Apoi accesați tabloul de bord Search Console și deschideți Setări din meniul din stânga jos. Găsiți secțiunea „Crawling” și faceți clic pe „Deschide raport” lângă „robots.txt”.
Faceți clic pe versiunea curentă a fișierului din listă. Raportul arată cel mai recent fișier robots.txt pe care Google l-a găsit și evidențiază orice erori de sintaxă sau probleme logice pe care le-a detectat.
Dacă tocmai ați actualizat fișierul și modificările nu apar, acordați-i o zi și apoi verificați-l din nou.
Întrebări frecvente despre Robots.txt WordPress
Iată cele mai frecvente întrebări pe care ni le adresează cititorii despre optimizarea fișierului robots.txt în WordPress.
1. Poate utilizarea robots.txt să îmbunătățească securitatea site-ului meu?
Nu, robots.txt nu este o măsură de securitate. Fișierul este vizibil public, deci nu împiedică pe nimeni să acceseze URL-urile pe care le listați. Acesta oferă pur și simplu directive pentru roboții motoarelor de căutare bine intenționați.
2. Ar trebui să blochez paginile de categorii și etichete WordPress în robots.txt?
Nu, nu ar trebui să blocați paginile de categorii și etichete. Aceste pagini de arhivă conțin linkuri interne pe care crawlerii le urmăresc pentru a ajunge la postările dvs. mai vechi, așa că blocarea lor elimină o cale de descoperire pentru conținutul pe care doriți să îl indexați.
3. Care este diferența dintre robots.txt și tag-ul noindex?
Ele controlează lucruri diferite. Robots.txt controlează dacă un crawler poate vizita o adresă URL. Tag-ul noindex controlează dacă motoarele de căutare listază o pagină în rezultatele căutării, chiar dacă au vizitat-o deja.
Utilizați robots.txt pentru a bloca roboții din zone precum panoul de administrare, mediul de staging sau directoarele de pluginuri. Utilizați noindex pentru paginile pe care sunteți de acord ca Google să le acceseze, cum ar fi paginile de arhivă filtrate sau paginile de mulțumire, pe care pur și simplu nu doriți să apară în rezultatele căutării.
Sperăm că acest articol te-a ajutat să înveți cum să optimizezi fișierul robots.txt WordPress pentru SEO. De asemenea, s-ar putea să vrei să vezi ghidul nostru complet de SEO pentru WordPress și selecțiile noastre de experți pentru cele mai bune instrumente SEO pentru WordPress pentru a-ți dezvolta site-ul web.
Dacă v-a plăcut acest articol, atunci vă rugăm să vă abonați la Canalul nostru de YouTube pentru tutoriale video despre WordPress. Ne puteți găsi, de asemenea, pe Twitter și Facebook.
Steve
Mulțumesc pentru asta – cum funcționează pe un WP Multisite totuși?
Suport WPBeginner
Pentru o rețea multisite, ar trebui să aveți un fișier robots.txt în folderul rădăcină al fiecărui site.
Admin
Pacifique Ndanyuzwe
Site-ul meu wordpress este nou și fișierul meu robot.txt implicit este
user-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Vreau ca Google să acceseze și să indexeze conținutul meu. Este acel robot.txt în regulă?
Suport WPBeginner
Sigur puteți folosi asta dacă ați dori
Admin
Ritesh Seth
Articol grozav…
Am fost confuz zile întregi în legătură cu fișierul Robots.txt și legăturile Disallow. Am copiat etichetele pentru fișierul robots. Sper că acest lucru va rezolva problema site-ului meu
Suport WPBeginner
Sperăm că și articolul nostru va ajuta
Admin
Kurt
Fișierele din capturile de ecran ale folderului dvs. de acasă sunt de fapt localizate sub folderul public_html din folderul meu de acasă.
Nu am avut un folder /refer sub folderul meu public_html.
Nu am avut fișiere xml pentru postări sau pagini nicăieri în contul meu WP.
Am inclus o intrare în fișierul robots.txt pe care l-am creat pentru a interzice indexarea site-ului meu sandbox. Nu sunt sigur dacă este necesar, deoarece am selectat deja opțiunea în WP care spune motoarelor de căutare să nu-mi indexeze site-ul sandbox, dar nu cred că va dăuna să am intrarea.
Suport WPBeginner
Unii furnizori redenumesc public_html în home, de aceea îl vezi acolo. Ar trebui să te asiguri că Yoast este activ pentru ca fișierele XML să fie disponibile. Metoda din acest articol este o precauție suplimentară pentru a ajuta la prevenirea indexării site-ului tău
Admin
Ahmed
Articol grozav
Suport WPBeginner
Mulțumim
Admin
ASHOK KUMAR JADON
Salut, un articol atât de frumos, mi-ați rezolvat problema. Deci, vă mulțumesc foarte mult
Suport WPBeginner
Mă bucur că articolul nostru a putut ajuta
Admin
Elyn Ashton
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php <– Acesta este codul meu robot.txt, dar sunt confuz de ce /wp-admin este indexat? Cum să-l fac no-index?
Suport WPBeginner
Dacă a fost indexat anterior, este posibil să fie nevoie să acordați timp pentru ca memoria cache a motorului de căutare să se golească
Admin
Ashish kumar
Acest site web mă inspiră cu adevărat să încep un blog. Mulțumesc pentru multe teme. Acest site, fiecare articol are informații și explicații bogate. Când am o problemă, vizitez mai întâi acest blog. Mulțumesc
Suport WPBeginner
Mă bucur că articolele noastre pot fi de ajutor
Admin
Anna
Încerc să optimizez roboții pentru site-ul meu folosind Yoast. Cu toate acestea, instrumentele din Yoast nu au opțiunea pentru „Editor fișiere”.
Există doar două opțiuni
(i) Import și Export
(ii) Editor în masă
Mă puteți sfătui cum poate fi rezolvată această problemă. Ar putea fi faptul că folosesc o ediție gratuită a Yoast?
Suport WPBeginner
Versiunea gratuită a Yoast are încă opțiunea, instalarea dvs. ar putea interzice editarea fișierelor, caz în care probabil va trebui să utilizați metoda FTP.
Admin
Emmanuel Husseni
Găsesc acest articol cu adevărat util, deoarece nu știu prea multe despre cum funcționează robot.txt, dar acum știu.
Vă rog, ce nu înțeleg este cum găsesc formatul cel mai bun de robot.txt pe care să îl folosesc pe site-ul meu (mă refer la unul care funcționează în general)?
Am observat că multe bloguri mari pe care le verific se clasează sus în motoarele de căutare folosind un format diferit de robot.txt.
Aș fi bucuros să văd un răspuns de la dumneavoastră sau de la oricine mă poate ajuta.
Personal editorial
Având o hartă a site-ului și permițând zonele care trebuie permise este cea mai importantă parte. Partea de interzicere va varia în funcție de fiecare site. Am partajat un exemplu în postarea noastră de pe blog și ar trebui să fie bun pentru majoritatea site-urilor WordPress.
Admin
Suport WPBeginner
Salut Emmanuel,
Vă rugăm să consultați secțiunea referitoare la fișierul robots.txt ideal. Depinde de cerințele dumneavoastră. Majoritatea bloggerilor exclud folderele de administrare WordPress și de pluginuri din indexare.
Admin
Emmanuel Husseni
Mulțumesc mult.
acum înțeleg. Cred că voi începe cu formatul general deocamdată.
jack
Articol bine scris, recomand utilizatorilor să facă un sitemap înainte de a crea și activa textul ROBOTS, acest lucru va ajuta site-ul dvs. să fie parcurs mai rapid și indexat mai ușor.
Jack
Connie S Owens
Aș dori să împiedic motoarele de căutare să-mi indexeze arhivele în timpul scanării lor.
Emmanuel Nonye
Mulțumesc mult, acest articol a fost foarte util.
Cherisa
Continui să primesc mesajul de eroare de mai jos pe Google Webmaster. Practic sunt blocat. Câteva lucruri care nu mi-au fost clare în acest tutorial sunt unde găsesc fișierele rădăcină ale site-ului meu, cum determini dacă ai deja un „robots.txt” și cum îl editezi?
Suport WPBeginner
Salut Cherisa,
Folderul rădăcină al site-ului dvs. este cel care conține foldere precum wp-admin, wp-includes, wp-content etc. Conține, de asemenea, fișiere precum wp-config.php, wp-cron.php, wp-blogheader.php etc.
Dacă nu vedeți un fișier robots.txt în acest folder, atunci nu aveți unul. Puteți merge mai departe și crea unul nou.
Admin
Cherisa
Vă mulțumesc pentru răspuns. Am căutat peste tot și nu reușesc să localizez aceste fișiere rădăcină așa cum le descrieți. Există un director de cale pe care îl pot urma care duce la acest folder. De exemplu, este sub Setări, etc.?
Devender
Am avut un trafic web decent pe site-ul meu. Brusc a scăzut la zero în luna mai. Până acum mă confrunt cu problema. Vă rog să mă ajutați să-mi recuperez site-ul.
Haris Aslam
Salutare Vă mulțumesc pentru această informație, dar am o întrebare
Am creat deja fișierul Sitemap.xml și Robots.txt, & se indexează bine. Dar cum pot crea „Product-Sitemap.xml”
Există o listă completă de produse în fișierul sitemap.xml. Trebuie să creez Product-sitemap.xml separat?
și să trimit din nou la Google sau Bing?
Mă puteți ajuta, vă rog...
Vă mulțumesc
Mahadi Hassan
Am o problemă cu setarea fișierului robots.txt. Se afișează doar un singur robots.txt pentru toate site-urile web. Vă rog să mă ajutați să afișez fișierul robots.txt separat pentru toate site-urile web. Am toate fișierele robots.txt separate pentru fiecare site web individual. Dar se afișează doar un singur fișier robots.txt în browser pentru toate site-urile web.
Debu Majumdar
Vă rugăm să explicați de ce ați inclus
Disallow: /refer/
în exemplul Robots.txt pentru începători? Nu înțeleg implicațiile acestei linii. Este importantă pentru începători? Ați explicat celelalte două interzise.
Mulțumesc.
Suport WPBeginner
Salut Debu,
Acest exemplu a fost din fișierul robots.txt al WPBeginner. La WPBeginner folosim ThirstyAffiliates pentru a gestiona linkurile afiliate și a masca URL-urile. Aceste URL-uri au /refer/ în ele, de aceea le blocăm în fișierul nostru robots.txt.
Admin
Evaristo
Cum pot pune toate tag-urile/mydomain.Com în nofollow? În robots.txt pentru a concentra sucul de linkuri? Mulțumesc.
harsh kumar
salut,,am o eroare în yoast seo referitoare la harta site-ului..odată ce dau clic pe corectare, aceasta reapare..codul html al site-ului meu nu se încarcă corect
Tom
Tocmai mi-am revizuit contul Google Webmaster Tools și, folosind Search Console, am descoperit următoarele:
Pagina s-a încărcat parțial
Nu toate resursele paginii au putut fi încărcate. Acest lucru poate afecta modul în care Google vede și înțelege pagina dvs. Remediați problemele de disponibilitate pentru orice resurse care pot afecta modul în care Google înțelege pagina dvs.
Acest lucru se datorează faptului că toate foile de stil CSS asociate cu pluginurile sunt interzise de robots.txt-ul implicit.
Înțeleg motive întemeiate pentru care nu ar trebui să permit acest lucru, dar care ar fi o alternativă, având în vedere că bănuiesc că algoritmii Google penalizează site-ul pentru că nu le vede.
Suren
Salut,
Ori de câte ori îmi caut site-ul pe Google, acest text apare sub link: „Nu este disponibilă o descriere pentru acest rezultat din cauza fișierului robots.txt al site-ului”
Cum pot rezolva această problemă?
Cu stimă
Suport WPBeginner
Salut Suren,
Se pare că cineva a modificat din greșeală setările de confidențialitate ale site-ului dvs. Accesați Setări » Pagina Citire și derulați în jos la secțiunea „Vizibilitate pentru motoarele de căutare”. Asigurați-vă că nu este bifată căsuța de lângă.
Admin
Divyesh
Salut
Așa cum am văzut în instrumentul pentru webmasteri, am fișierul robot.txt ca mai jos:
User-agent: *
Disallow: /wp-admin/
Allow: /wp-admin/admin-ajax.php
Spuneți-mi dacă este în regulă? Sau ar trebui să folosesc altceva?
John Cester
Vreau să știu, este o idee bună să blochez (disallow) „/wp-content/plugins/” în robots.tx? De fiecare dată când elimin un plugin, acesta afișează eroarea 404 pe unele pagini ale acelui plugin.
Himanshu Singh
Mi-a plăcut această explicație. Ca începător, eram foarte confuz în legătură cu fișierul robot.txt și utilizările sale. Dar acum știu care este scopul său.
rahul
în unele fișiere robot.txt index.php a fost dezactivat. Poți explica de ce? Este o practică bună.
Waleed Barakat
Mulțumesc că ai trecut pe aici cu aceste informații prețioase.
Awais Ahmed
Poți să-mi spui, te rog, de ce se întâmplă asta în instrumentul webmaster:
Rețea inaccesibilă: robots.txt inaccesibil Nu am putut accesa Harta site-ului dvs. deoarece am găsit un fișier robots.txt la rădăcina site-ului dvs., dar nu am putut să-l descărcăm. Vă rugăm să vă asigurați că este accesibil sau să-l eliminați complet.
fișierul robots.txt există, dar totuși
Dozza
Actualizare interesantă de la echipa Yoast la
Citat: „Vechiile bune practici de a avea un robots.txt care blochează accesul la directorul tău wp-includes și la directorul plugin-urilor nu mai sunt valabile.”
natveimaging
Permite: /wp-content/uploads/
Nu ar trebui să fie așa?
Disallow: /wp-content/uploads/
Pentru că știi că Google va indexa toate paginile pe care le încarci ca URL-uri publice, corect? Și apoi vei fi lovit cu erori pentru pagina în sine. Există ceva ce îmi scapă aici?
nativeimaging
În general, sunt paginile reale pe care Google le accesează pentru a genera hărți de imagini, NU folderele de încărcări. Atunci ai avea o problemă cu toate dimensiunile mai mici ale imaginilor și alte imagini care sunt pentru interfață vor fi, de asemenea, indexate.
Aceasta pare a fi cea mai bună opțiune:
Disallow: /wp-content/uploads/
Dacă greșesc, te rog explică-mi acest lucru ca să pot înțelege unghiul tău aici.
Jason
URL-ul blogului meu nu este indexat, trebuie să-mi schimb robots.txt?
Folosesc acest robots.txt
iyan
cum să creezi robot txt care permite INDEXAREA DOAR pentru pagină și Post.. mulțumesc
Simaran Singh
Nu sunt sigur care este problema, dar robots.txt meu are două versiuni.
Una la http://www.example.com/robots.txt și a doua la example.com/robots.txt
Cineva, vă rog, ajutați-mă! Spuneți-mi care ar putea fi cauza posibilă și cum să o corectez?
Suport WPBeginner
Cel mai probabil, gazda dvs. web permite accesarea site-ului dvs. atât cu adresele URL www, cât și fără www. www și non-www urls. Încercați să modificați robots.txt folosind un client FTP. Apoi examinați-l din ambele URL-uri dacă puteți vedea modificările pe ambele URL-uri, atunci înseamnă că este același fișier.
Admin
Simaran Singh
Mulțumesc pentru răspunsul rapid. Am făcut deja asta, dar nu reușesc să văd nicio schimbare. Există vreo altă modalitate de a rezolva asta?
Martin Conde
Postarea de pe blog a lui Yoast despre acest subiect a fost chiar deasupra celei pe care ai scris-o tu în căutarea mea, așa că, desigur, le-am verificat pe amândouă. Se contrazic puțin... De exemplu, Yoast a spus că interzicerea directoarelor de pluginuri și a altora ar putea împiedica roboții Google atunci când accesează site-ul tău, deoarece pluginurile pot genera CSS sau JS. De asemenea, a menționat (și din experiența mea), Yoast nu adaugă nimic legat de sitemap în fișierul robots.txt, ci îl generează astfel încât să îl poți adăuga în consola ta de căutare. Iată linkul către postarea lui, poate poți verifica din nou, deoarece este foarte greu să alegi pe cine să crezi
MM Nauman
Deoarece nu mă pricep la crearea acestui fișier Robotstxt, pot să folosesc fișierul tău Robots.txt schimbând parametrii precum URL-ul și sitemap-ul site-ului meu, este bine? sau ar trebui să creez unul diferit
Mohit Chauhan
Salut,
Astăzi am primit acest email de la Google „Googlebot nu poate accesa fișierele CSS și JS”…care poate fi soluția?
Mulțumesc
Parmod
Lasă-mă să ghicesc… Folosești servicii CDN pentru a importa fișiere CSS și JS.
sau
Este posibil să fi scris sintaxă greșită în aceste fișiere.
Rahul
Am o întrebare despre adăugarea de Sitemaps. Cum pot adăuga Sitemap-ul Yahoo și Bing în fișierul Robots și Directorul Wordpress?
Gerbrand Petersen
Mulțumesc pentru prezentarea detaliată a utilizării fișierului robots. Știe cineva dacă Yahoo folosește și acest robots.txt și dacă respectă regulile menționate în fișier? Întreb asta deoarece am un „Disallow” pentru o anumită pagină în fișierul meu, dar primesc trafic din partea Yahoo pe acea pagină. Nimic de la Google, așa cum ar trebui să fie. Mulțumesc anticipat.
Erwin
corecție…
„Dacă folosești pluginul Yoast’s WordPress SEO sau un alt plugin pentru a genera harta ta XML, atunci pluginul tău va încerca să adauge automat liniile legate de harta site-ului în fișierul robots.txt.”
Nu este adevărat. WordPress SEO nu adaugă harta site-ului în robots.txt
„Am simțit mereu că legarea de sitemap-ul XML din robots.txt este un pic fără sens. Ar trebui să le adăugați manual în instrumentele Google și Bing Webmaster și să vă uitați la feedback-ul lor despre sitemap-ul XML. Acesta este motivul pentru care pluginul nostru WordPress SEO nu îl adaugă în robots.txt.”
https://yoast.com/wordpress-robots-txt-example/
De asemenea, este mai recomandat să nu interzici directorul wp-plugins (motive vezi postarea lui Yoast)
Și personal, îmi place să elimin pur și simplu fișierul readme.txt…
hyma
Am înțeles fișierul robots.txt și utilizarea fișierului robots. Ce este harta site-ului, cum creez o hartă a site-ului pentru site-ul meu.
Rick R. Duncan
După ce am citit documentația Google, am impresia că directiva de utilizat în fișierul robots.txt este disallow, care doar spune roboților ce pot și ce nu pot accesa. Nu le spune ce poate și ce nu poate fi indexat. Trebuie să folosiți meta tag-ul robots noindex pentru a avea o pagină neindexată.
Nitin
articol foarte bun pentru fișierul robots.txt optimizat pentru SEO. Dar am nevoie să oferiți un tutorial despre cum să încărcați fișierul robots.txt pe server. Deoarece, fiind un începător, pare a fi o problemă drastică să încărcați acel fișier.
Oricum, mulțumesc pentru împărtășirea unor informații atât de benefice.
-Nitin
Parmod
Încarcă-l pe serverul tău/public_hmtl/(Numele-site-ului tău)… în acest folder
Jenny
Care este cea mai bună modalitate de a adăuga cod la HTTacess pentru a bloca mai mulți referenți spam bot pentru URL-ul și adresa IP a acestora, dacă nu este furnizat niciun URL
Știu că dacă obții o sintaxă greșită când faci httacess, îți poate scoate site-ul offline. Sunt un începător și trebuie să blochez aceste URL-uri multiple enervante din Rusia, China, Ucraina etc.
Mulțumiri multe
Hazel Andrews
Mulțumesc pentru aceste sfaturi... fișierele robot txt au fost modificate! yay!
Rahat
de ce trebuie să adăugați Permite: !!!
dacă menționez doar ce trebuie să interziceți, este suficient. Nu trebuie să scrieți cod pentru Permite, deoarece Googlebot sau Bingbot vor accesa automat tot restul.
Deci, de ce ar trebui să folosesc din nou Permite?
Connor Rickett
Deoarece lipsa fișierului Robots.txt nu împiedică scanarea site-ului, sunt curios: Există vreun fel de date concrete despre cât de mult va îmbunătăți fișierul performanța SEO?
Am făcut o căutare rapidă pe Google și nu am văzut niciun fel de date cantitative despre asta. Sunt aproximativ jumătate de milion de articole care spun: „Hei, asta îmbunătățește SEO!”, dar aș vrea cu adevărat să știu despre ce vorbim aici, chiar și în general.
Este un impuls de 5%? 50? 500?
Suport WPBeginner
Motoarele de căutare nu partajează astfel de date. Deși lipsa unui fișier robots.txt nu împiedică motoarele de căutare să scaneze sau să indexeze un site web. Cu toate acestea, este o practică recomandată.
Admin
Connor Rickett
Mulțumesc că ți-ai făcut timp să-mi răspunzi, apreciez!
JD Myers
Moment potrivit pentru asta. Tocmai încercam să găsesc aceste informații ieri.
Motivul pentru care căutam asta era că instrumentele Google Webmaster îmi spuneau că nu pot să-mi acceseze corect site-ul, deoarece blocam diverse resurse necesare pentru redarea corectă a paginii.
Aceste resurse au inclus cele găsite în /wp-content/plugins/
După ce am permis acest folder, avertismentul a dispărut.
Aveți vreo idee despre asta?
Suport WPBeginner
Puteți ignora în siguranță acele avertismente. Este doar un avertisment dacă ați fi avut conținut acolo pe care ați fi dorit să-l indexați. Uneori, utilizatorii au restricționat roboții de căutare și au uitat de asta. Aceste avertismente sunt utile în acele situații.
Admin
Chetan Jadhav
Am o întrebare că mulți oameni folosesc harta site-ului statică și știi că au un site WordPress. Ar trebui să folosim harta site-ului statică sau generată de WordPress.
Wilton Calderon
Frumos, îmi place cum are Wpbeginner, și cu acel rang în Alexa, pare a fi una dintre cele mai bune modalități de a folosi robots.txt..
Brigitte Burke
ce înseamnă fișierul meu robots.txt dacă arată așa?
User-agent: * Disallow: /wp-admin/ Disallow: /wp-includes/ Disallow: /xmlrpc.php
Personal editorial
Acesta spune doar că motoarele de căutare nu ar trebui să indexeze folderul dvs. wp-admin, folderul wp-includes și fișierul xml-rpc. Uneori, interzicerea /wp-includes/ poate bloca anumite scripturi pentru motoarele de căutare, mai ales dacă site-ul dvs. folosește acele scripturi. Acest lucru vă poate afecta SEO-ul.
Cel mai bun lucru de făcut este să accesați Google Webmaster Tools și să solicitați site-ul dvs. ca un bot acolo. Dacă totul se încarcă corect, atunci nu aveți de ce să vă faceți griji. Dacă spune că scripturile sunt blocate, atunci ați putea dori să eliminați linia wp-includes.
Admin
hercules
Nu văd nicio logică în ideea ta despre a avea un script în directorul includes care poate fi folosit de un crawn / robot .. și altul, dacă există un caz izolat, este mai bine după ce specifici implicit WordPress permite acest fișier pe care îl imaginezi că motoarele de căutare folosesc scripturile sale! până la urmă, WordPress cu siguranță nu are implicit un robots.txt anti motoare de căutare!!!!