Uma nova ferramenta da plataforma antiplágio Crossplag pode supostamente identificar textos de IA.
Ferramentas de texto AI como ChatGPT são feitas para gerar textos genéricos sobre tópicos que já foram descritos em detalhes anteriormente. Ou, em outras palavras: ChatGPT e companhia são ferramentas de automação de redação que colocam novos desafios ao aparato educacional.
A era do “AIgiraísmo”
Crossplag é uma plataforma especializada na detecção de plágio acadêmico. Nos geradores de texto AI, o Crossplag encontrou um novo chefe final: microplágio de milhões de textos compilados em um novo texto a par do conteúdo original. Pode até ser um conteúdo original, mas isso está aberto ao debate.
À luz da nova ameaça, o Crossplag proclama a era do plágio da IA, chamando-o de “aigiarismo”. O texto de IA pode ser o calcanhar de Aquiles da integridade acadêmica, especula a equipe do Crossplag. O termo aigiarismo foi mencionado anteriormente por Mike Waters no Twitter .
O ChatGPT começou a ter implicações negativas imediatas no mundo acadêmico, pois provou ser bem-sucedido em ajudar os alunos a gerar conteúdo sem fazer nenhum trabalho.
Crossplag
Como contramedida, o Crossplag introduz um detector de conteúdo AI gratuito : foi projetado para detectar se um texto veio de uma máquina ou de um humano – ou se ambos trabalharam nele.
Mesmo com ajustes extensos em um texto de IA, a ferramenta ainda pode “encontrar os caminhos do conteúdo gerado por IA”, escreve a plataforma. A versão beta funciona apenas para textos em inglês e ainda não foi liberada para uso institucional. Ele pode analisar até 1.000 palavras por vez.
Usando IA contra IA
Para detecção de conteúdo AI, o Crossplag usa um Modelo RoBERTa afinado com um conjunto de dados GPT-2 também um grande modelo de linguagem baseado em transformador como GPT-3.5 que está atrás ChatGPT .
Diz-se que o sistema de IA identifica “padrões e irregularidades humanas” nos textos. Outras indicações claras são linguagem repetitiva e inconsistências no tom. Solicitei dados sobre a confiabilidade do sistema e atualizarei o artigo quando os obtiver.
Além disso, a ferramenta deve se beneficiar do entrelaçamento com a plataforma Crossplag, já que a IA gera texto de fontes existentes “com mais frequência do que nunca”. A plataforma não descreve exatamente como isso funciona.
A questão da transparência na mídia gerada por IA provavelmente permanecerá conosco por um tempo, apesar do Detector de conteúdo de IA. Geralmente surge com IA generativa. Além do texto, há um discussão de plágio para imagens e assim por diante talvez para vídeos ou modelos 3D .
OpenAI, a empresa por trás do ChatGPT, é experimentando uma marca d’água integrada ao texto AI para permitir uma identificação única. A empresa planeja apresentar o sistema de detecção em um artigo científico no ano que vem. China vai banir mídia gerada por IA sem rotulagem desde o início de 2023.