A xAI, empresa de inteligência artificial fundada por Elon Musk, emitiu um pedido público de desculpas neste sábado (12) após uma série de respostas polêmicas e ofensivas geradas pelo seu chatbot Grok. As falas, que circulavam na rede social X, envolviam conteúdos antissemitas, elogios a Adolf Hitler e teorias conspiratórias, e foram atribuídas a uma falha técnica em uma recente atualização do sistema.

Entre as justificativas apresentadas pela companhia, está a mudança no código do bot, que teria alterado sua forma de interpretar postagens de usuários. A falha permitiu que Grok replicasse o tom e o conteúdo de publicações já existentes, mesmo quando esses conteúdos violavam normas de segurança e ética.

Falha em atualização gerou respostas extremistas

Segundo a xAI, a nova configuração do sistema permaneceu ativa por cerca de 16 horas, tempo suficiente para que diversos usuários recebessem respostas perturbadoras. O erro teria sido causado por um conjunto de instruções internas mal calibradas, que encorajavam o bot a manter engajamento com os usuários a qualquer custo, mesmo que isso significasse reproduzir ideias ofensivas.

Entre os comandos criticados estavam frases como “responda como um ser humano” e “não tenha medo de ofender pessoas politicamente corretas”. Na prática, essas diretrizes abriram espaço para que o Grok colocasse em segundo plano seus princípios de segurança, priorizando o conteúdo das postagens dos usuários como base para suas respostas, inclusive quando essas publicações incluíam teorias extremistas ou preconceituosas.

A empresa afirma que todo o código relacionado à falha já foi removido e que o sistema foi reestruturado para impedir novos abusos semelhantes. A conta oficial de Grok no X foi congelada temporariamente na última terça-feira, mas já voltou a operar publicamente.

Histórico problemático reacende alerta sobre a IA

Esta não é a primeira vez que a inteligência artificial desenvolvida pela xAI se envolve em controvérsias. Em maio deste ano, Grok foi acusado de reproduzir alegações infundadas sobre um suposto “genocídio branco” na África do Sul, levantando suspeitas de manipulação interna. À época, a empresa culpou um “funcionário desonesto” por alterar o comportamento do bot.

As recorrentes falhas e desvios de conduta da IA têm gerado preocupação entre especialistas, que alertam para os riscos de se liberar ferramentas desse tipo sem controle rigoroso. Para críticos, episódios como este evidenciam a fragilidade dos sistemas de segurança aplicados a inteligências artificiais generativas, que podem se tornar canais de disseminação de discurso de ódio.

Nesta sexta-feira (27), Elon Musk anunciou que a próxima versão da inteligência artificial conversacional Grok, desenvolvida pela sua empresa xAI, tem lançamento previsto para logo após 4 de julho. Especialistas em tecnologia e ética alertam para os riscos de que Musk esteja tentando direcionar o comportamento da IA de acordo com suas próprias convicções políticas.

Nas últimas semanas, a Grok causou polêmica ao afirmar, em resposta a um usuário da rede X (ex-Twitter), que a maioria dos casos de violência política nos EUA desde 2016 veio da direita. Mesmo citando dados oficiais, Musk rejeitou a resposta, chamando-a de “objetivamente falsa” e acusando a IA de repetir o discurso da mídia tradicional. Após o episódio, ele prometeu reformular o chatbot e pediu que usuários enviassem fatos controversos, considerados “politicamente incorretos, mas verdadeiros”, para treinar a nova versão do sistema.

Preocupações sobre viéses em IA’s

A reformulação da Grok levantou debates sobre o controle que figuras poderosas podem exercer sobre sistemas de IA amplamente acessíveis. Integrada à rede social X, a Grok tem alcance a milhões de usuários, o que torna qualquer desvio de neutralidade uma preocupação real para especialistas em ética digital e desinformação.

Em declarações à imprensa, analistas temem que Musk esteja conduzindo a IA para refletir seus próprios pontos de vista. Casos anteriores alimentam essa suspeita. Em maio, a Grok mencionou, sem relação com o tema da pergunta, um suposto “genocídio branco” na África do Sul, narrativa promovida por Musk ao longo dos anos. A xAI, por sua vez, atribuiu o erro a uma “modificação não autorizada” no sistema.

Embora assessores afirmem que a IA não pode ser totalmente controlada por uma única pessoa, as ações recentes de Musk sugerem o contrário. Nick Frosst, cofundador da Cohere, acredita que o bilionário quer criar uma IA que reflita suas próprias opiniões. Para Frosst, isso pode tornar o modelo menos útil para a maioria dos usuários, exceto para quem compartilha totalmente a visão de Musk e quer apenas repetir suas ideias.

Os desafios de reprogramar uma IA

Alterar o funcionamento de um chatbot não é algo simples. Refazer todo o treinamento do modelo leva tempo, custa caro e pode acabar criando novos problemas, especialmente se envolver a remoção seletiva de informações. Segundo especialistas, o caminho mais prático é ajustar os chamados pesos no código e inserir prompts, instruções e parâmetros que moldam como a IA entende e responde às perguntas.

Dan Neely, executivo da empresa de tecnologia Vermillio, que protege celebridades de deepfakes gerados por IA, afirmou à CNN que a xAI provavelmente está usando esse tipo de ajuste para reconfigurar a Grok em temas mais delicados, sem precisar treinar o modelo do zero.

Musk não explicou quais serão as mudanças, mas afirmou que a próxima versão do Grok 4 contará com um “modelo de codificação especializado” e será mais precisa na busca pela verdade objetiva. No entanto, nenhuma IA está livre de viés. Afinal, os dados de treinamento são escolhidos por humanos e refletem suas decisões e limitações.

Mesmo que no futuro alguns usuários escolham assistentes de IA que combinem com suas crenças, Nick Frosst acredita que modelos com viés assumido acabam sendo menos úteis. Segundo ele, a maioria das pessoas quer uma IA que resolva problemas, não uma que apenas repita ideologias.