NeuralCrawl

Petrobras / robots.txt snapshot

← back to petrobras.com.br · fetched 2026-08-26T14:01:29Z (2mo ago) · HTTP 200 · 995 bytes · sha256 89d09f5430d7eabd · raw

final URL: https://petrobras.com.br/robots.txt

1User-Agent: *
2Crawl-delay: 5
3
4# Diretórios e rotas técnicas do Liferay que podem ser excluídos do rastreamento
5Disallow: /*/c/portal/
6Disallow: /*/group/
7Disallow: /o/
8Disallow: /web/
9Disallow: /image/journal/
10Disallow: /html/
11Disallow: /combo
12Disallow: /delegate/
13Disallow: /layout_configuration/
14Disallow: /widget/
15Disallow: /api/
16Disallow: /control_panel/
17Disallow: /user/
18Disallow: /guest/
19
20# Busca interna e páginas com parâmetros que geram conteúdo duplicado
21Disallow: /resultado-da-busca
22Disallow: /*?q=*
23Disallow: /*?delta=*
24Disallow: /*?p_l_back_url*
25Disallow: /*?category=*
26Disallow: /*?tag=*
27Disallow: /*?sort=*
28Disallow: /*?page=*
29Disallow: /*?p_p_*
30
31# Web Stories (se não forem conteúdo principal e indexável)
32Disallow: /web-stories?*
33
34# Exceções: documentos institucionais (PDFs) e imagens de conteúdo devem permanecer indexáveis
35Allow: /documents/d/
36Allow: /o/adaptive-media/image/
37Allow: /o/tema-site-externo-petrobras/images/
38
39
40Sitemap: https://petrobras.com.br/sitemap.xml