Uma investigação conduzida pelo especialista em SEO James Brockbank revelou que o ChatGPT pode estar recomendando negócios com base em conteúdos de sites hackeados e domínios expirados. Essa descoberta, fruto de testes pessoais e observações, aponta para uma vulnerabilidade na maneira como a inteligência artificial seleciona suas fontes.
Brockbank, diretor da Digitaloft, iniciou sua análise buscando entender como marcas alcançam visibilidade nas respostas do ChatGPT. Ele percebeu que atacantes conseguem manipular o sistema publicando conteúdos em domínios comprometidos ou reaproveitados, que ainda possuem alta autoridade para os algoritmos.
Esse conteúdo, muitas vezes descontextualizado ou enganoso, acaba sendo citado nas recomendações do ChatGPT, o que compromete a confiabilidade da ferramenta. Segundo Brockbank, compreender os motivos pelos quais tais fontes aparecem, mesmo quando são manipulativas, ajuda a desvendar o funcionamento desses novos mecanismos.
Como o Conteúdo Manipulado Surge nas Respostas do ChatGPT
James Brockbank identificou duas estratégias principais responsáveis pela aparição desses conteúdos manipulados nas sugestões do ChatGPT:
1. Sites Hackeados
Em diversas ocasiões, o ChatGPT apresentou recomendações relacionadas a jogos de azar que estavam associadas a sites legítimos, porém invadidos. Um caso revelador envolveu um advogado especializado em violência doméstica na Califórnia, cuja página hospedava discretamente uma lista de jogos de slots online.
Outros exemplos incluíram o site de uma coalizão juvenil da ONU e um acampamento de verão dos Estados Unidos, ambos aparentemente usurpados para veicular material relacionado a apostas. Essas páginas utilizavam táticas como texto branco em fundo branco para passar despercebidas, dificultando sua detecção.
2. Domínios Expirados
A segunda tática envolve a aquisição de domínios expirados que possuem um perfil robusto de backlinks, frequentemente vindos de grandes fontes de renome, e a reconstrução desses sites para promover conteúdo desconexo, especialmente relacionado a jogos de cassino.
Em um exemplo, Brockbank descobriu um domínio com mais de 9 mil domínios referenciadores, incluindo manchetes e citações de grandes veículos como BBC, CNN e Bloomberg. Anteriormente pertencente a uma instituição cultural britânica, o domínio foi reaproveitado para impulsionar sites de apostas.
Conforme explicações do especialista, “a autoridade do site é o que o faz ser fonte considerada, porém, ao mudar de mãos, ele passa a promover conteúdos completamente diferentes”. Além disso, domínios antes de instituições beneficentes e varejistas também foram identificados promovendo recomendações de cassinos.
Por Que Esse Conteúdo Está Surgindo nas Recomendações
Brockbank sugere que o ChatGPT tende a priorizar domínios com alta autoridade percebida e conteúdos recentes. Entretanto, o algoritmo parece não realizar uma análise detalhada da coerência entre o tema da página e o conteúdo apresentado.
Ele observa que “o ChatGPT valoriza fontes atualizadas, e a falta de relevância temática desses conteúdos em relação ao domínio original não afeta sua seleção”. Isso implica que o sistema pode inadvertidamente citar materiais irrelevantes, baseando-se apenas em métricas superficiais.
O especialista reconhece que estar presente em listas legítimas ou em mídias confiáveis pode beneficiar a visibilidade de empresas nas respostas geradas por IA. Contudo, a prática de injetar conteúdo em sites invadidos ou reaproveitar domínios para manipular a credibilidade da fonte ultrapassa limites éticos.
Ele destaca: “introduzir sua marca em um site hackeado ou reconstruir um domínio expirado apenas para enganar o modelo de linguagem é uma forma de manipulação que compromete a credibilidade da plataforma”.
Implicações e Reflexões Sobre o Caso
Embora os achados de Brockbank sejam baseados em testes individuais e não em pesquisas formais, eles revelam um alerta importante: o ChatGPT pode estar referenciando fontes manipuladas sem reconhecer sua origem ou finalidade original. Isso traz riscos tanto para usuários quanto para negócios que buscam presença autêntica no ambiente digital.
O cenário coloca em evidência a responsabilidade dos desenvolvedores e empresas em fortalecer os mecanismos de detecção e filtragem de conteúdos enganosos. Até que essas melhorias sejam implementadas, é fundamental que tanto consumidores quanto marcas mantenham a cautela diante de recomendações automáticas.
Brockbank reforça essa ideia ao afirmar que “ainda não estamos no ponto em que podemos confiar plenamente nas recomendações do ChatGPT sem avaliar de onde elas realmente vieram”.