NeuralCrawl

Petrobras / robots.txt snapshot

← back to petrobras.com.br · fetched 2026-08-24T19:21:08Z (2mo ago) · HTTP 200 · 986 bytes · sha256 fe222f71d68419b9 · raw

final URL: https://petrobras.com.br/robots.txt

1User-Agent: *
2Crawl-delay: 5
3
4# Diretórios e rotas técnicas do Liferay que podem ser excluídos do rastreamento
5Disallow: /c/portal/
6Disallow: /*/c/portal/
7Disallow: /group/
8Disallow: /o/
9Disallow: /web/
10Disallow: /documents/d/*
11Disallow: /image/journal/
12Disallow: /html/
13Disallow: /combo
14Disallow: /delegate/
15Disallow: /layout_configuration/
16Disallow: /widget/
17Disallow: /api/
18Disallow: /control_panel/
19Disallow: /user/
20Disallow: /guest/
21
22# Busca interna e páginas com parâmetros que geram conteúdo duplicado
23Disallow: /resultado-da-busca
24Disallow: /*?q=*
25Disallow: /*?delta=*
26Disallow: /*?p_l_back_url*
27Disallow: /*?category=*
28Disallow: /*?tag=*
29Disallow: /*?sort=*
30Disallow: /*?page=*
31Disallow: /*?p_p_*
32
33# Web Stories (se não forem conteúdo principal e indexável)
34Disallow: /web-stories?*
35
36# Exceções: conteúdo de imagem e documentos que devem permanecer indexáveis
37Allow: /o/adaptive-media/image/
38Allow: /documents/d/nossa-energia/
39
40Sitemap: https://petrobras.com.br/sitemap.xml