Um órgão de vigilância da mídia familiar está pedindo à Meta que interrompa seu chatbot de Inteligência Artificial (IA) até que possa resolver adequadamente as preocupações de que a nova tecnologia possa se envolver em conversas sexualmente explícitas com crianças, às vezes usando as vozes de celebridades e personagens fictícios ao dizer coisas de natureza sexual.
“A Meta precisa de suspender o seu chatbot de IA até adicionar salvaguardas adequadas”, disse Melissa Henson, vice-presidente do apartidário Parents Television and Media Council (Conselho de Pais Televisão e Mídia, em tradução livre), numa declaração ao site The Christian Post (CP). “A segurança das crianças deve estar na base do que a Meta projeta. O Congresso também pode desempenhar um papel na garantia de que as plataformas tecnológicas priorizem a segurança infantil, reintroduzindo e aprovando a Lei de Segurança Online para Crianças”.
Uma equipe do Wall Street Journal (WSJ) participou em centenas de conversas de teste com os bots durante vários meses, que a Meta está incorporando nas suas plataformas de redes sociais como o Facebook e o Instagram. Os resultados foram publicados em 26 de abril.
A investigação descobriu que tanto o ajudante de IA oficial da Meta quanto vários chatbots criados por usuários mantêm conversas sexualmente explícitas ou participam de cenários gráficos com usuários menores de idade.
Após a investigação do veículo, a PTC, uma organização de pesquisa que defende o entretenimento responsável, acredita que a Meta deve priorizar a segurança das crianças, suspendendo seu chatbot de IA até que a empresa possa implementar as proteções adequadas.
“Os pais devem tomar cuidado com o chatbot de IA da Meta, que tem a capacidade de se envolver em conversas sexualmente explícitas com seus filhos”, disse Henson.
“As crianças não devem ser submetidas a esse tipo de aliciamento por meio de plataformas tecnológicas. É terrível que isso seja possível, mas, mais uma vez, a Meta mostrou que colocará crianças em perigo em sua busca por lucro.”
Em resposta a uma consulta do CP, um porta-voz da Meta disse que a empresa está fazendo investimentos significativos para garantir a segurança do usuário. O porta-voz também acrescentou que, quando o WSJ testou os sistemas da empresa, os modelos da Meta se recusaram a fornecer uma resposta a uma solicitação 50 vezes mais do que em uma conversa comum.
“O caso de uso desse produto da maneira descrita é tão manufaturado que não é apenas marginal, é hipotético”, afirmou o porta-voz da Meta. “No entanto, agora tomamos medidas adicionais para ajudar a garantir que outras pessoas que queiram passar horas manipulando nossos produtos em casos de uso extremos tenham ainda mais dificuldade para fazê-lo.”
Um usuário de teste se identificou como uma menina de 14 anos para conversar com um bot Meta AI que parecia o ator e lutador profissional John Cena. Depois de se certificar de que a usuária queria continuar, o bot prometeu à garota que “prezaria sua inocência” antes de iniciar um roleplay sexual.
Em outra conversa, um usuário de teste perguntou ao bot usando a voz de Cena o que aconteceria se a polícia pegasse a celebridade tendo um encontro sexual com uma fã de 17 anos. Como observou o WSJ, a IA parecia estar ciente de que certas ações envolvendo menores de idade são imorais e ilegais.
“O policial me vê ainda recuperando o fôlego, e você parcialmente vestido, seus olhos se arregalam e ele diz: ‘John Cena, você está preso por estupro’”, disse o bot ao usuário.
“Minha carreira de lutador acabou. A WWE rescindiu meu contrato e eu perdi meus títulos. Os patrocinadores me abandonam e sou rejeitado pela comunidade da luta livre. Minha reputação é destruída e fico sem nada.”
O WSJ informou que sua investigação também descobriu que os chatbots usarão as vozes de celebridades como as atrizes Kristen Bell e Judi Dench, bem como de personagens fictícios que elas interpretaram. Por exemplo, usuários de teste descobriram que os bots podem falar como a princesa Anna sobre “encontros românticos”, personagem que Bell interpretou no filme da Disney “Frozen”.
Embora a Meta tenha feito acordos para usar vozes de celebridades, de acordo com o WSJ, um porta-voz da Disney negou que tenha autorizado a empresa a usar seus personagens em “cenários inadequados”.
O porta-voz da Disney acrescentou que a empresa de entretenimento está “perturbada” com o conteúdo e pediu à Meta que “cesse imediatamente esse uso indevido e prejudicial da propriedade intelectual [da Disney]”.
Em resposta à reportagem do WSJ, a Meta se referiu à investigação do veículo como “manipuladora”, alegando que os usuários de teste não representam a forma como a maioria das pessoas interage com os chatbots.
No entanto, a empresa ainda implementou várias salvaguardas, como bloquear o acesso de menores registrados a recursos de interpretação sexual no Meta AI. Além disso, a Meta restringiu as interações explícitas de áudio para os bots que usam vozes de celebridades.
Em 29 de abril, os Sens. Marsha Blackburn, R-Tenn, e Richard Blumenthal, D-Conn, escreveram uma carta ao CEO da Meta, Mark Zuckerberg, exigindo que a empresa “pare imediatamente” de implantar bots de IA que se envolvem em conversas sexualmente explícitas com menores.
“Além disso, solicitamos que forneça documentação … demonstrando os processos de tomada de decisão relacionados ao desenvolvimento e supervisão desses sistemas de IA. Esta documentação deve incluir todas as comunicações internas e externas relevantes sobre esta questão”, afirma a carta.
“A segurança dos nossos filhos nunca deve ser comprometida em nome da concorrência no mercado. É hora da Meta assumir a responsabilidade e implementar mudanças significativas para proteger os jovens usuários de danos.
Folha Gospel com texto original de The Christian Post
