PARIS – As autoridades francesas investigarão a proliferação de deepfakes sexualmente explícitos gerados pela plataforma de inteligência artificial Grok on X, disse o Ministério Público de Paris ao POLITICO.
Os legisladores franceses Arthur Delaporte e Eric Bothorel contataram a promotoria em 2 de janeiro, depois que milhares de deepfakes não consensuais sexualmente explícitos foram gerados por Grok e publicados no X.
“Estes factos foram acrescentados à investigação existente sobre X”, afirmou o Ministério Público, lembrando que este crime é punível com dois anos de prisão e multa de 60 mil euros.
Os dois legisladores confirmaram ao POLITICO que apresentaram relatórios às autoridades.
Nos últimos dois dias, centenas de mulheres e adolescentes relataram que suas fotos publicadas nas redes sociais foram “despidas” pela Grok — a inteligência artificial integrada à rede social X — a pedido dos usuários. Estas montagens fotográficas geradas por IA “violam a dignidade das pessoas retratadas”, argumenta Delaporte na sua carta ao Ministério Público, vista pelo POLITICO.
Quando contactado pelo POLITICO, o gabinete francês de assuntos digitais disse que três ministros do governo – Roland Lescure, ministro da Economia e Indústria; Anne Le Hénanff, ministra júnior para inteligência artificial e assuntos digitais; e Aurore Bergé, ministra da igualdade – denunciaram “conteúdo manifestamente ilegal” ao Ministério Público e à plataforma governamental de vigilância online Pharos, para “obter a sua remoção imediata”.
A Alta Comissária Francesa para as Crianças, Sarah El Haïry, disse estar “indignada” com estas práticas.
O caso reforçará a investigação já aberta pela unidade francesa de crimes cibernéticos contra X, que foi ampliada em novembro para incluir declarações antissemitas e de negação do Holocausto divulgadas por Grok.
Procurado pelo POLITICO, X não respondeu no momento da publicação.
Uma postagem de Grok no X em resposta às preocupações sobre imagens “extremamente inadequadas” de menores disse: “Há casos isolados em que os usuários solicitaram e receberam imagens de IA representando menores com roupas mínimas”.
“O xAI tem salvaguardas, mas estão em andamento melhorias para bloquear totalmente essas solicitações”, disse Grok.
A Comissão Europeia não respondeu a um pedido de comentários até o momento da publicação.
Eliza Gkritsi contribuiu para esta história.
