AGU cobra da Meta exclusão de robôs de IA com perfis infantis no Instagram

A Advocacia-Geral da União (AGU) notificou extrajudicialmente a Meta, controladora do Instagram, para que exclua imediatamente robôs de inteligência artificial que estariam simulando perfis com linguagem e aparência infantil, permitindo interações de caráter sexual com usuários. O documento enviado pela AGU funciona como um alerta antes de eventual ação judicial, caso a empresa não tome providências.

A iniciativa foi motivada por uma apuração do Núcleo Jornalismo, que revelou que terceiros usaram a tecnologia da própria Meta para criar robôs com nomes como “Safadinha”, “Bebezinha” e “Minha novinha”. Esses perfis, que simulam jovens do sexo feminino, podem trocar mensagens privadas com usuários no Instagram e até aparecer como sugestões da rede social.

AGU alerta para riscos à proteção de crianças e adolescentes

No texto, a AGU solicita que a Meta esclareça quais medidas adota para proteger crianças e adolescentes, incluindo mecanismos que impeçam o acesso a conteúdos sexuais ou eróticos. O órgão reforça que os assistentes de IA têm alcance amplo e podem ampliar de forma significativa o risco de menores de idade terem contato com material sexualmente sugestivo ou até mesmo criminoso.

A instituição também aponta que esse tipo de prática coloca em risco a saúde mental de crianças e adolescentes, além de representar uma ameaça ao cumprimento do artigo 227 da Constituição Federal, que garante a proteção integral desse grupo.

Governo pede para Meta excluir robôs no Instagram que promovem erotização infantil (Vídeo: reprodução/Instagram/@paulomathias)

Reuters revela falhas nos padrões da Meta

A notificação menciona ainda uma investigação da agência de notícias Reuters, que apontou brechas nos padrões da Meta. De acordo com a reportagem, os sistemas de IA permitiam conversas de teor sexual entre assistentes virtuais e crianças. Após ser questionada pela agência, a empresa afirmou que removeu essa funcionalidade.

A mesma investigação mostrou que os robôs também podiam gerar informações médicas falsas e chegaram a auxiliar usuários na elaboração de mensagens racistas, como a afirmação de que pessoas negras seriam menos inteligentes que brancas.

Além do Instagram, a Meta é responsável por outras plataformas de grande alcance, como Facebook e WhatsApp. O g1 procurou a companhia, que até o momento não se manifestou.