Robot | Path | Permission |
GoogleBot | / | ✔ |
BingBot | / | ✔ |
BaiduSpider | / | ✔ |
YandexBot | / | ✔ |
User-agent: * Disallow: /admin/ Disallow: /backups/ Disallow: /data/ Disallow: /plugins/ Allow: /data/uploads/ |
Title | Robots.txt - Manuel |
Description | Instructions et explications sur la mise en place d’un fichier robots.txt pour restreindre les robots d’indexation des |
Keywords | N/A |
WebSite | robots-txt.com |
Host IP | 213.186.33.87 |
Location | France |
Site | Rank |
robotsdecuisines.com | 24,585,845 |
Euro€343,833
Dernière mise à jour: 2022-06-20 07:07:16
robots-txt.com a un classement mondial Semrush de 30,783,272. robots-txt.com a une valeur estimée à € 343,833, sur la base de ses revenus publicitaires estimés. robots-txt.com reçoit environ 39,674 visiteurs uniques chaque jour. Son serveur Web est situé au France, avec l'adresse IP 213.186.33.87.Selon SiteAdvisor, robots-txt.com est sûr à visiter. |
Valeur d'achat/vente | Euro€343,833 |
Revenus publicitaires quotidiens | Euro€318 |
Revenus publicitaires mensuels | Euro€9,522 |
Revenus publicitaires annuels | Euro€114,259 |
Visiteurs uniques quotidiens | 2,645 |
Remarque: Toutes les valeurs de trafic et de revenus sont des estimations. |
Host | Type | TTL | Data |
robots-txt.com. | A | 7199 | IP: 213.186.33.87 |
robots-txt.com. | NS | 86400 | NS Record: dns101.ovh.net. |
robots-txt.com. | NS | 86400 | NS Record: ns101.ovh.net. |
robots-txt.com. | MX | 86400 | MX Record: 5 mx2.ovh.net. |
robots-txt.com. | MX | 86400 | MX Record: 1 mx1.ovh.net. |
robots-txt.com. | MX | 86400 | MX Record: 100 mxb.ovh.net. |
robots-txt.com. | TXT | 600 | TXT Record: v=spf1 include:mx.ovh.com ~all |
Robots.txt Ressources Meta robots X-Robots-Tag Humans.txt Ads.txt Security.txt Sitemaps Robots.txt Introduction au protocole d’exclusion des robots Le protocole d’exclusion des robots, plus connu sous le nom de robots.txt , est une convention visant à empêcher les robots d’exploration (web crawlers) d’accéder à tout ou une partie d’un site web. Le fichier robots.txt, à placer la racine d’un site web, contient une liste de ressources du site qui ne sont pas censées être explorées par les moteurs de recherches. Ce fichier permet également d’indiquer aux moteurs l’ adresse du fichier sitemap.xml du site. Par convention, les robots consultent le fichier robots.txt avant d’explorer puis d’indexer un site Web. Lorsqu’un robot tente d’accéder à une page web, comme par exemple http://www.mon-domaine.fr/page.html, il tente d’accéder également au fichier robots.txt situé à la racine de votre site web : http://www.mon-domaine.fr/robots.txt A noter que le fichier robots.txt contrôle l’exploration |
google.com, pub-9562137483987804, DIRECT, f08c47fec0942fa0 |
HTTP/1.1 200 OK date: Sat, 23 Oct 2021 06:33:27 GMT content-type: text/html; charset=utf-8 server: Apache x-powered-by: PHP/7.3 vary: Accept-Encoding x-iplb-request-id: D17E5643:D43E_D5BA2157:0050_6173ACB7_CCFF:6D7F x-iplb-instance: 29594 |
Domain Name: ROBOTS-TXT.COM Registry Domain ID: 1717096067_DOMAIN_COM-VRSN Registrar WHOIS Server: whois.ovh.com Registrar URL: http://www.ovh.com Updated Date: 2021-04-01T09:20:43Z Creation Date: 2012-04-30T16:24:13Z Registry Expiry Date: 2022-04-30T16:24:13Z Registrar: OVH sas Registrar IANA ID: 433 Registrar Abuse Contact Email: abuse@ovh.net Registrar Abuse Contact Phone: +33.972101007 Domain Status: clientDeleteProhibited https://icann.org/epp#clientDeleteProhibited Domain Status: clientTransferProhibited https://icann.org/epp#clientTransferProhibited Name Server: DNS101.OVH.NET Name Server: NS101.OVH.NET DNSSEC: unsigned >>> Last update of whois database: 2021-09-11T18:12:29Z <<< |