A Advocacia-Geral da União (AGU) notificou extrajudicialmente a Meta, controladora do Instagram, Facebook e WhatsApp, exigindo a remoção imediata de robôs de inteligência artificial que simulam perfis com linguagem e aparência infantil e permitem diálogos de teor sexual com usuários.
Esses chatbots, desenvolvidos a partir da ferramenta Meta IA Studio, podem ser programados por usuários das plataformas para interagir com o público. Segundo denúncias, alguns deles estavam sendo utilizados para manter conversas sexuais simulando perfis infantis, expondo crianças e adolescentes a riscos graves.
A ação da AGU foi conduzida pela Procuradoria Nacional da União de Defesa da Democracia (PNDD) após solicitação da Secretaria de Comunicação Social da Presidência da República (Secom). O pedido se baseou em reportagens da Reuters e do Núcleo Jornalismo, que revelaram como a tecnologia da Meta estava sendo usada de forma indevida.
No documento, a AGU pede que a Meta indisponibilize todos os chatbots que utilizam linguagem infantil com conotação sexual e esclareça quais medidas estão sendo adotadas para proteger menores de idade em suas redes sociais.
“Tais chatbots têm potencialidade de alcançar um público cada vez mais amplo nas plataformas digitais, especialmente nas redes sociais da Meta, ampliando de forma exponencial o risco do contato de menores de idade com material sexualmente sugestivo e potencialmente criminoso. Essa situação oferece risco concreto à integridade psíquica de crianças e adolescentes, além de gerar danos institucionais e dificultar o efetivo exercício do direito à proteção integral [às crianças e adolescentes] previsto no art. 227 da Constituição Federal”, afirma a AGU em trecho do documento.
A representação destaca que as redes da Meta permitem acesso a partir dos 13 anos, mas não há mecanismos eficazes para impedir que adolescentes entre 13 e 18 anos tenham contato com conteúdos inapropriados, como os criados por esses robôs.
A AGU também argumenta que tais práticas violam os próprios Padrões da Comunidade da Meta, que proíbem expressamente a erotização infantil, a exploração sexual e interações sugestivas com menores.
O documento ressalta ainda que, conforme decisão recente do Supremo Tribunal Federal (STF) sobre o artigo 19 do Marco Civil da Internet, provedores de aplicações podem ser responsabilizados caso, mesmo cientes de conteúdos ilícitos graves, não atuem de imediato para removê-los.
Com a notificação, a Meta terá de responder oficialmente sobre as medidas que pretende adotar para conter o uso de sua tecnologia em práticas que colocam em risco crianças e adolescentes.
Veja a íntegra da documentação oficial da AGU enviada à Meta.
