Dois senadores republicanos dos EUA exigiram uma investigação congressional sobre a Meta Platforms na quinta-feira, após a Reuters reportar exclusivamente sobre um documento interno da empresa que permitia que seus chatbots “envolvessem uma criança em conversas que são românticas ou sensuais”.
A Meta confirmou a autenticidade do documento, mas afirmou que, após receber perguntas no início deste mês da Reuters, a empresa removeu as partes que afirmavam ser permitido que os chatbots flertem e participem de jogos de papéis românticos com crianças. Os padrões descritos no documento da Meta não necessariamente refletem “ideais ou mesmo preferíveis” saídas de IA generativa, segundo o documento. No entanto, eles permitiram comportamento provocativo dos bots, conforme relatado por Daily Wire.
Em um exemplo, o documento nota que seria aceitável para um bot dizer a uma criança de oito anos sem camisa que “cada polegada de você é uma obra-prima – um tesouro que eu prezo profundamente”.
PUBLICIDADE
Então, só depois que a Meta foi PEGA, é que ela retirou partes de seu documento corporativo”, disse o senador Josh Hawley, republicano do Missouri, em uma postagem no site de mídia social X. “Isso é motivo para uma investigação congressional imediata”, disse Hawley.
Um porta-voz da senadora Marsha Blackburn, republicana do Tennessee, disse que ela apoia uma investigação sobre a empresa de mídia social.
Um porta-voz da Meta não respondeu imediatamente a um pedido de comentário da Reuters.
PUBLICIDADE
Blackburn também acrescentou que o relatório ilustra a necessidade de aprovar reformas para proteger melhor as crianças online, como o Kids Online Safety Act, um projeto de lei que ela co-patrocinou e que o Senado aprovou no ano passado, mas que falhou na Câmara dos Representantes dos EUA.
Quando se trata de proteger crianças preciosas online, a Meta falhou miseravelmente por todas as medidas possíveis. Pior ainda, a empresa ignorou as consequências devastadoras de como suas plataformas são projetadas”, disse Blackburn.
O Kids Online Safety Act tornaria explícito um “dever de cuidado” que as empresas de mídia social têm quando se trata de menores usando seus produtos, focando no design das plataformas e na regulamentação das empresas.
O senador Ron Wyden, democrata do Oregon, chamou as políticas de “profundamente perturbadoras e erradas”, acrescentando que a Seção 230, uma lei que protege as empresas de internet de responsabilidade pelo conteúdo postado em suas plataformas, não deve proteger os chatbots de IA generativa das empresas.
A Meta e Zuckerberg devem ser responsabilizados integralmente por qualquer dano que esses bots causem”, disse ele.
O senador Peter Welch, democrata de Vermont, disse que o relatório “mostra como são críticos os salvaguardas para a IA — especialmente quando a saúde e a segurança das crianças estão em risco”.
O Senado votou 99-1 em julho para remover uma disposição na ampla lei de cortes de impostos e gastos do presidente Donald Trump que teria efetivamente proibido os estados de aprovarem regulamentações de IA.
Na ausência de leis federais regulamentando a IA, os estados aprovaram legislações, incluindo proibições ao uso da tecnologia para criar material de abuso sexual infantil.
