Há quase um ano, uma das principais vertentes para os que compartilham e geram conteúdo, em especial para a área jornalística, cresceu exponencialmente: a checagem de conteúdo online.
A maior preocupação e crescimento da checagem de conteúdo se deu especialmente pelo aprimoramento e popularização da Inteligência Artificial generativa, a qual inicialmente ficou conhecida por gerar imagens, e mais recentemente pela criação de textos, como é feito pelo ChatGPT.
Reconhecimento de textos feitos por IA
A identificação de textos produzidos por Inteligência Artificial já era almejado por muitos, contudo, era um problema não solucionado. Agora, o Google solucionou parcialmente o problema, após gerar um algoritmo que acrescenta algo como uma marca d’água no conteúdo produzido por Inteligência Artificial generativa.
Essa solução já havia sido pensado durante certo tempo, mas não souberam como acrescentá-la sem afetar o conteúdo gerado. A criação dos pesquisadores do Google DeepMind apareceu pela primeira vez ontem (23/10), em um artigo da “Nature”.
Os pesquisadores colocaram um sistema chamado “SynthID-Text” no Gemini, IA da Mountain View, o qual realiza modificações leves no texto wur foi criado a partir de modelos de linguagem, fazendo com que seja possível verificar se o texto foi gerado por uma epssoa que não é humana.
O foco não é diminuir a qualidade para o leitor, mas os algoritmos identificam a marca d’água, a fim de identificar os textos não redigidos por seres humanos. Esse mesmo sistema já havia sido implementado para imagens, e é a primeira vez que é utilizado também para textos.
Textos gerados por Inteligência Artificial
Os modelos de linguagem são treinados para imitar a fala humana, trabalhando com a chance de uma determinada sequência de palavras ser mais adequada para atender ao pedido do usuário. O SynthID-Text trabalha modificando pequenas partes dessa sequência, sendo basicamente imperceptível para o usuário.
Esta ferramenta não é infalível, e nem funciona para respostas factuais, como para responder a capital de um país. Ademais, não é possível informar se um texto foi gerado por IA caso tenha sido parafraseado.
Após os testes no Gemini, o Google DeepMind disponibilizou o algoritmo publicamente, a fim de que possa ser testado e adaptado em demais modelos de linguagem.
