Detectores de IA estão criando uma nova era de desconfiança

Muito antes do ChatGPT virar febre, educadores e editores já usavam ferramentas antiplágio para verificar se escritores estavam sendo honestos. Esses programas funcionam comparando um texto com um banco de dados cheio de conteúdo da web, artigos acadêmicos e outras fontes, à procura de frases e expressões coincidentes. Alguns, como o Turnitin, devolvem uma porcentagem que supostamente mostra quanto do trabalho do aluno se sobrepõe a outras obras. Entre falsos positivos e a dúvida sobre se a cópia foi intencional, alguns educadores já deixaram de usar essa ferramenta específica.

Mas a caça ao conteúdo copiado está evoluindo para uma guerra contra o trabalho gerado por IA. Na mesma velocidade em que os alunos adotaram ChatGPT, Google Gemini e Microsoft Copilot, os professores também passaram a usar os chamados detectores de IA. Uma pesquisa do Center for Democracy and Technology descobriu que 43% dos professores do 6º ao 12º ano nos EUA usavam detectores de IA regularmente entre 2024 e 2025. Algumas universidades que já usavam o Turnitin em seus sistemas de aprendizagem viram o serviço ativar automaticamente a detecção de IA quando a ferramenta foi lançada em 2023.

Como funcionam os detectores de IA

Em vez de comparar pedaços de texto, detectores de IA como GPTZero, Pangram e o do Turnitin usam seus próprios modelos de inteligência artificial para adivinhar se algo pode não ter sido escrito por um humano. É um processo ainda mais nebuloso do que simplesmente casar textos na web. Como explica o GPTZero, esses detectores usam um algoritmo para analisar o vocabulário, o ritmo e a estrutura de um texto, além de captar padrões de tamanho e tom que são mais comuns em textos de IA. Essa avaliação subjetiva não é tão sólida quanto uma comparação direta de texto online, e pode se confundir com escritores que têm o inglês como segunda língua. Apesar disso, o Turnitin afirma que seu detector aponta incorretamente menos de 1% do conteúdo humano como IA, enquanto o Pangram alega que sua taxa de falso positivo é de apenas 1 em 10 mil. O GPTZero também afirma ter uma taxa igualmente baixa de confundir conteúdo humano com IA.

Acusações que custam caro

As pessoas já estão acusando umas às outras de “soar como IA”, e a disponibilidade de ferramentas de detecção só está alimentando essa caça às bruxas. Em alguns casos de alto perfil, acusações de uso de IA impactaram diretamente a vida e a reputação das pessoas. No mês passado, a editora Minotaur desistiu de um contrato de US$ 2 milhões por suspeitar que o autor, Jerry Falade, usou IA. Ele nega veementemente a acusação.

Tem também o caso de Thierry Rignol, um cidadão francês que processou Yale no ano passado, depois que um professor o acusou de escrever partes de sua prova final com IA, resultando em nota zero e suspensão por um ano. O professor usou o GPTZero para escanear o texto de Rignol, mas o processo argumenta que “as ferramentas de vigilância e detecção de IA são conhecidas por atingir injustamente falantes não nativos de inglês”, como Rignol. Em fevereiro, um estudante da Universidade Adelphi ganhou um processo contra a escola depois que seu professor também o acusou de usar IA para escrever uma redação. A universidade tem um acordo de licenciamento com o Turnitin.

O viés dos algoritmos

Um estudo de Stanford de 2023 descobriu que detectores de IA sinalizavam erroneamente textos escritos por falantes não nativos de inglês como sendo de IA com mais frequência do que os de falantes nativos. (Muitos serviços ainda argumentam que suas ferramentas são precisas ao lidar com textos de não nativos.) Essas ferramentas também podem ser tendenciosas contra escritores neurodivergentes.

Como aponta a Universidade da Califórnia, Los Angeles, as ferramentas de detecção de IA são treinadas para captar padrões que podem indicar o uso de IA, como termos e frases repetitivos, texto que soa muito formal ou informal e frases sem sentido. Alguns, como o QuillBot, também medem a “imprevisibilidade” do texto. Mas essas medições não são indicativas de IA por si só, já que algumas pessoas podem ter um estilo de escrita com essas qualidades.

Até as próprias empresas duvidam

Mesmo com o Turnitin ostentando baixas taxas de falso positivo, a própria empresa mantém que sua ferramenta “pode nem sempre ser precisa” e não deve ser usada para tomar ações contra um aluno. O Grammarly avisa que os usuários “nunca devem confiar apenas nos resultados de um detector de IA”, enquanto o GPTZero diz que “nenhum detector de IA pode ser 100% perfeito”. A OpenAI até desativou seu próprio detector em 2023 por causa da baixa precisão. Desde então, a empresa tem focado em novos padrões, como o lançamento do padrão Agent Plugins, que celebra um ano do GPT-5 e sinaliza o futuro da IA.

Mesmo assim, as acusações de uso de IA continuam sendo lançadas pela web. Na semana passada, Jack Osbourne, filho de Ozzy Osbourne, acusou a jornalista Kat Tenbarge de usar IA para escrever um artigo para a Rolling Stone, exibindo os resultados de um detector de IA como “prova”. Tenbarge refutou a alegação, mas Osbourne não retirou a acusação, deixando a jornalista para lidar com os haters.

Universidades desistem dos detectores

A incerteza em torno dos detectores de IA é suficiente para que algumas instituições de ensino parem de usá-los. Yale, Johns Hopkins, Vanderbilt, Georgetown e outras desativaram ou restringiram o uso dessas ferramentas. O MIT também avisa que “detectores de IA não funcionam”.

Em vez de depender de ferramentas para eliminar a IA, muitas escolas estão incentivando os educadores a repensar suas aulas. A Universidade de Chicago, por exemplo, sugere dizer aos alunos para desacelerar a leitura, dividir trabalhos de escrita longos e exigir que os alunos reflitam sobre seu trabalho. Stanford diz que os professores podem considerar realizar avaliações em sala de aula, enquanto o MIT aconselha os professores a deixar espaço para que os alunos digam se usaram IA em um trabalho, sem punição.

A Universidade de São Paulo (USP), construiu um guia para uso de IA no ensino superior. A página titulada “Guidelines para uso de IA no Ensino Superior” concentra orientações formuladas por diversas universidade do mundo sobre como usar a Inteligência Artificial de maneira ética e responsável por parte de alunos e professores.

Uma nova era de desconfiança

Com a IA se tornando mais prevalente dentro e fora da sala de aula, os esforços para descobrir o que é escrito por um humano ou por uma máquina também estão aumentando. Algumas plataformas online estão alimentando ainda mais as suspeitas. O Substack incorporou o Pangram ao seu aplicativo, permitindo que os usuários escaneiem blogs em busca de conteúdo gerado por IA, enquanto o LinkedIn adicionou um botão “parece lixo de IA” nas postagens. O resultado é uma nova era de desconfiança, onde os leitores questionam constantemente se o que estão lendo é IA e os escritores humanos tentam ao máximo não soar como ela.

📲 Essa guerra contra a IA está só começando e promete novos capítulos. Para não perder nenhum desdobramento dessa história, entra no Canal do TS no WhatsApp.

A Wikipedia criou um guia para ajudar editores a identificar textos de IA e proibiu artigos gerados por IA. O New York Times tem um quiz divertido que desafia você a distinguir entre textos humanos e de IA (conteúdo em inglês).

Fonte: The Verge