A maioria dos usuários está cada vez mais acostuma com termos populares nas redes sociais, como palavras-chave ou erros de digitação, coisas que fazem parte comunicação entre os usuários. Estamos na onda do “algospeak”, uma fusão das palavras algorítimo e speak – para evitar a detecção pela inteligência artificial (IA) de moderação dos aplicativos ao lidar com conteúdo sensível ou algo que viola as regras.
A empresa canadense Siobhan Hanna disse que “acampar” é apenas uma frase que foi adaptada dessa maneira, “Havia a preocupação de que os algoritmos pudessem captar menções” ao aborto, disse Hanna. Ela supervisiona as soluções de dados de IA para Telus internacional fornecendo serviços de moderação conteúdo e IA para quase todas as plataformas de mídia social, incluindo TickTok.
A maioria dos americanos diz ver um aumento considerável de algospeak à medida que eventos públicos acontecem, de acordo com dados da Telus que realizou uma pesquisa com mil pessoas nos EUA mês passado. Segundo a pesquisa, quase um terço deles está presente em mídias sociais e sites de jogos que “usam emojis ou frases alternativas para contornar termos proibidos”, palavras de violência ligados ao racismo, sexo ou até mesmo automutilação.
De acordo com Hanna, o algospeak é muito usado pra contornar regras que proíbem o discurso de ódio, bulliyng ou algo que desperte a violência. Essas soluções apresentam um grande desafio para as empresas de tecnologia que têm a missão de fiscalizar o conteúdo. Detectar materiais violadores destacados é rotina para elas, porém em entrelinhas de eufemismo ou frases quase sem sentido num contexto isso acaba ficando mais difícil.
O termo “pizza de queijo” aparece muito em contas que oferecem a troca de imagem explícita de criança. O emoji acaba direcionando a pornografia (apesar de mostrar o amor ao alimento no TikTok em alguns casos).
“Uma das áreas que mais nos preocupam é a exploração infantil e humana”, disse Hanna à Forbes. É “uma das vertentes de evolução mais rápida do algospeak”. Hanna diz que não depende da Telus se certos termos de algospeak serão retirados ou não e sim das plataformas que estabelecem diretrizes sobre qualquer problema.
“Normalmente não tomamos decisões radicais sobre o conteúdo”, disse ela à Forbes. “Eles são realmente conduzidos por nossos clientes que são os donos dessas plataformas. Estamos agindo em nome deles.” As referências de “acampamento” surgiram 24 horas após a decisão da Suprema Corte e aumentaram nas semanas seguintes, concluiu Hanna.
O termo acampar no algospeak virou um fenômeno que acabou se esgotando pois ficou muito unipresente. Novas formas de algospeak surgiram também em torno da guerra na Ucrânia como: pôsteres usando o termo “não vivo”, por exemplo, ao invés de dizer “morto”, “soldados” na mesma frase, tudo isso pra evitar a detecção de IA, disse Hanna.
algospeak é muito utilizado para se comunicar sem ser detectado pela inteligência artificial (Foto: Reprodução/projetodraft)
Nas plataformas de jogos o algospeak aparece em nome de usuários com declarações políticas. Um exemplo: referências numéricas a “6/4”, o aniversário do massacre de 1989 na Praça da Paz Celestial em Pequim.
“A comunicação em torno desse evento histórico é bastante controlada na China”, disse Hanna, então embora isso possa parecer “um pouco obscuro, nessas comunidades que são muito unidas, isso pode realmente ser uma declaração politicamente aquecida para fazer em seu país.”
Uma maneira comum de evitar o algospeak são os erros propositais de ortografia ou substituição de letras por símbolos. Os emojis foi usado comumente para representar algo que inicialmente não foi imaginado.
Alguns contextos podendo até parecer mesquinho mas inofensivo, um emoji de caranguejo está aparecendo no reino unido como resposta mal-humorada a morte da rainha Elizabeth. Em outros contextos até mais maliciosos um emoji ninja estava sendo usado para representar termos depreciativos sobre a comunidade negra, destacou Hanna.
Ainda não existe muitas leis firmes que conseguem regulamentar as mídias sociais, sendo assim uma política de tecnologia mais controvérsias do governo.
Diante da ausência de regulamentações mais concretas as gigantes de mídia social estão caminhando sozinhas. De outra forma chamou a atenção de especialistas que pediram um inquérito sobre esse problema.
Foto destaque: usuário se comunicando por rede social. Foto: (Reprodução/istockphoto)
