_Base técnica

Seu site pode estar bloqueando ChatGPT, Gemini, Claude e Perplexity sem você saber

O que conferir no robots.txt, na CDN e no firewall antes de investir em visibilidade em IA.

Por Dante Tonelotto · Publicado em

Resposta curta

ChatGPT, Gemini, Claude e Perplexity usam robôs para ler sites quando montam uma resposta. Se o seu site barra esses robôs, sua empresa não pode ser citada como fonte, por melhor que seja o conteúdo. O bloqueio costuma estar em dois lugares: no arquivo robots.txt e, cada vez mais, na CDN ou no firewall do site, configurados por quem cuida da infraestrutura e não do marketing. Dá para fazer a primeira conferência em dois minutos, e ela vem antes de qualquer outra estratégia.

_01

Como a IA lê o seu site

Quando alguém pergunta ao ChatGPT “qual empresa faz isso na minha cidade?”, a resposta pode sair de dois lugares. O primeiro é o que o modelo aprendeu no treinamento: um retrato da internet tirado meses antes, que não muda até a próxima versão. O segundo é uma busca feita na hora: o assistente consulta um índice de páginas, lê algumas delas e monta a resposta citando as fontes.

Para quem quer ser recomendado hoje, o que importa é o segundo caminho. É ele que traz o link clicável, é ele que reflete o que mudou no seu site na semana passada, e é ele que depende de um robô conseguir entrar nas suas páginas. Se o robô não entra, sua empresa fica fora da lista de fontes possíveis antes de qualquer critério de qualidade ser aplicado.

_02

Robô de busca não é robô de treino

Cada empresa de IA usa mais de um robô, e eles fazem coisas diferentes. Essa separação é a informação mais útil deste artigo, porque permite uma decisão que muita empresa toma sem saber que está tomando.

AssistenteBusca: lê o site para citar vocêA pedido: abre um link que o usuário mandouTreino: coleta texto para treinar o modelo
ChatGPT (OpenAI)OAI-SearchBotChatGPT-UserGPTBot
Claude (Anthropic)Claude-SearchBotClaude-UserClaudeBot
PerplexityPerplexityBotPerplexity-User—
Gemini e busca com IA do GoogleGooglebot—Google-Extended*
Copilot (Microsoft)Bingbot——

* O Google-Extended controla o treino e também o uso do conteúdo nas respostas do app Gemini. O nome de cada assistente leva à documentação oficial.

A consequência prática: na maioria dos casos, dá para liberar a busca e bloquear o treino. Uma empresa que não quer ver seu conteúdo usado para treinar modelos pode barrar o GPTBot e continuar aparecendo nas respostas do ChatGPT, desde que deixe o OAI-SearchBot entrar. O contrário também acontece, e é o erro mais caro: bloquear “tudo que é robô de IA” por precaução e sumir das respostas junto.

As empresas dizem isso com todas as letras. A OpenAI: sites que bloqueiam o OAI-SearchBot não aparecem nas respostas de busca do ChatGPT, embora ainda possam aparecer como link de navegação. A Anthropic: bloquear o Claude-SearchBot “pode reduzir a visibilidade e a precisão do seu site” nos resultados de busca dos usuários.

O Google é o caso que pede atenção. A busca com IA do Google (AI Overviews e Modo IA) usa o mesmo Googlebot da busca tradicional, e o Google diz que não há requisito adicional para aparecer nela. Já o Google-Extended controla duas coisas: o treino de futuros modelos Gemini e o uso do seu conteúdo nas respostas do app Gemini. Bloqueá-lo não tira você da Busca do Google, mas pode tirar você das respostas do Gemini. Aqui, “bloquear só o treino” tem um custo.

Liberar ou não o treino é uma decisão de negócio, não de TI. Não existe resposta certa universal; existe a decisão que alguém da empresa tomou conscientemente.

_03

O que é o robots.txt (e o que ele não é)

O robots.txt é um arquivo de texto na raiz do site, sempre no mesmo endereço: seusite.com.br/robots.txt. Nele, o site diz a cada robô o que pode e o que não pode ler. É um padrão público (RFC 9309) respeitado pelos robôs das grandes empresas, mas é um aviso, não uma tranca: tecnicamente, nada impede um robô de ignorá-lo.

Três coisas que pouca gente sabe:

  • Não ter o arquivo não bloqueia ninguém. Pelo próprio padrão, se o arquivo não existe, o robô pode ler tudo. Ter o arquivo é boa prática, porque deixa a decisão escrita, mas a ausência dele não tira você das respostas.
  • Uma linha basta para sumir. Disallow: / abaixo de User-agent: * fecha o site inteiro para todos os robôs. É comum essa regra ficar esquecida de quando o site estava em construção.
  • Nem todo acesso passa pelo robots.txt. Quando um usuário cola um link no chat e pede para o assistente ler, o acesso conta como ação da pessoa. A Perplexity diz que o Perplexity-User “geralmente ignora” o robots.txt; a OpenAI diz que, para o ChatGPT-User, as regras “podem não se aplicar”.

_04

O bloqueio que o robots.txt não mostra: CDN e firewall

Aqui está o problema mais comum, e o mais difícil de ver. Muitos sites passam por uma CDN (como a Cloudflare) ou por um firewall da hospedagem. Esses serviços têm opções de “proteção contra bots” ou “bloquear robôs de IA” que barram os robôs antes mesmo de eles lerem o robots.txt. O arquivo pode dizer “pode entrar” e a porta continuar fechada.

A Cloudflare, uma das maiores CDNs do mundo, é um bom exemplo de como isso pode acontecer sem ninguém perceber:

  • Desde 15 de setembro de 2026, domínios novos já entram com bloqueio ligado. Robôs classificados como de treino ou de agente são barrados por padrão nas páginas que exibem anúncios; os de busca continuam liberados (Cloudflare).
  • Bloquear “treino” pode levar o Google e o Bing junto. A própria Cloudflare avisa que robôs com mais de uma função, como Googlebot, Applebot e Bingbot, são bloqueados por quem escolhe bloquear o treino (Cloudflare).

Quem mexe nessas opções normalmente é a equipe de infraestrutura, com uma boa intenção: reduzir tráfego de robôs, proteger o conteúdo. O marketing nem fica sabendo. Por isso, conferir o robots.txt é só metade do trabalho. A outra metade é uma pergunta ao seu TI.

_05

Como conferir em dois minutos

  1. Abra o arquivo. Digite seusite.com.br/robots.txt no navegador. Se aparecer “página não encontrada”, tudo bem: lembre que a ausência não bloqueia.
  2. Procure a linha perigosa. Se houver Disallow: / logo abaixo de User-agent: *, o site está fechado para todos. Se ela estiver abaixo do nome de um robô específico, só ele está barrado.
  3. Procure os nomes da tabela. Veja se algum robô de busca (OAI-SearchBot, Claude-SearchBot, PerplexityBot, Googlebot, Bingbot) aparece com Disallow. Bloquear robô de treino é escolha sua; bloquear robô de busca é sair das respostas.
  4. Pergunte ao TI sobre a CDN e o firewall. A pergunta exata está logo abaixo.
  5. Se tiver acesso aos registros do servidor, veja se esses nomes aparecem nas visitas. Robô que nunca aparece pode estar sendo barrado antes de chegar.

_06

O que pedir ao seu TI

Texto pronto para encaminhar:

Oi, [nome]. Preciso confirmar três coisas sobre o nosso site:

1. O robots.txt bloqueia algum destes robôs de busca: OAI-SearchBot,
   Claude-SearchBot, PerplexityBot, Googlebot ou Bingbot?
2. Temos alguma proteção contra bots ligada na CDN, no firewall ou na
   hospedagem (ex.: "bloquear robôs de IA", "bloquear treino")? Ela barra
   esses robôs? Na Cloudflare, bloquear "treino" barra também o Googlebot
   e o Bingbot.
3. Conseguimos ver nos registros do servidor se esses robôs visitaram o
   site nos últimos 30 dias?

A ideia é deixar os robôs de busca entrarem. Os de treino (GPTBot,
ClaudeBot, Google-Extended) eu decido à parte.

E um modelo de robots.txt que libera tudo e deixa a decisão escrita. Para bloquear o treino, mova o robô para um grupo com Disallow: /. Vários User-agent seguidos dividindo as mesmas regras é válido pelo padrão.

User-agent: *
Allow: /

# Busca: leem o site para citar nas respostas
User-agent: OAI-SearchBot
User-agent: Claude-SearchBot
User-agent: PerplexityBot
User-agent: Googlebot
User-agent: Bingbot
Allow: /

# Treino: decisão da empresa. Atenção: o Google-Extended também
# controla o uso do conteúdo nas respostas do app Gemini
User-agent: GPTBot
User-agent: ClaudeBot
User-agent: Google-Extended
Allow: /

Sitemap: https://seusite.com.br/sitemap.xml

Quer ver um arquivo real? Este é o da Delta Bras, no ar: deltabrascomunicacao.com.br/robots.txt. Ele libera os robôs de busca, de leitura a pedido e de treino, cada um pelo nome.

_07

Liberar não basta

Vale ser honesto: deixar os robôs entrarem não faz sua empresa aparecer. Só tira um impedimento do caminho. A maior parte das citações das IAs aponta para fontes que a empresa não controla. O estudo “What Is AI Reading?”, da Muck Rack (maio de 2026), analisou mais de 25 milhões de links citados por ChatGPT, Claude e Gemini e encontrou 84% vindos de mídia espontânea: imprensa, pesquisa acadêmica, governo, enciclopédias e sites de outras empresas. Conteúdo pago ou publieditorial ficou em 0,3%. O estudo é de uma empresa que vende ferramentas de relações públicas, o que vale ter em mente.

Por isso, a conferência deste artigo é o primeiro passo, barato e rápido, de um trabalho maior: entender quais fontes as IAs usam no seu setor, o que elas dizem hoje sobre a sua empresa e onde você precisa estar presente. É isso que fazemos na Auditoria de Visibilidade em IA.

_08

Perguntas frequentes

Se eu bloquear o GPTBot, saio do ChatGPT?

Não das respostas com busca. O GPTBot coleta texto para treinar modelos; quem lê o site para citar nas respostas é o OAI-SearchBot (OpenAI). Bloquear o primeiro e liberar o segundo é uma combinação válida.

E se eu bloquear o Google-Extended?

Você continua na Busca do Google, inclusive nos AI Overviews e no Modo IA, que dependem do Googlebot. Mas o Google-Extended também controla o uso do conteúdo nas respostas do app Gemini, então bloqueá-lo pode tirar você de lá (Google).

Preciso criar um llms.txt?

Para o Google, não: a documentação diz que não é preciso criar arquivos novos, arquivos de texto “para IA” nem marcação especial para aparecer nas respostas com IA. Nenhuma das outras empresas citadas aqui pede esse arquivo na documentação dos seus robôs. Prefira gastar o tempo na conferência deste artigo.

Depois de liberar, quanto tempo leva?

A OpenAI fala em cerca de 24 horas para os sistemas dela reconhecerem uma mudança no robots.txt. Isso é o tempo para a porta abrir, não para você aparecer: ser citado depende do que vem depois.

_Delta Bras

A IA já é a nova porta de entrada da internet. Prepare a sua empresa com a Delta Bras.

Liberar os robôs é o primeiro passo. A Auditoria de Visibilidade em IA mostra os próximos.

Agende um diagnóstico