O chatbot lançado em 2023, gera imagens a partir de fotos ou vídeos, e seu uso indevido permite a criação de conteúdos sexualizados.
Por: Redação, com RFI – de Londres
O órgão regulador britânico de segurança na internet (Ofcom) anunciou na segunda-feira a abertura de uma “investigação formal” contra a rede social X “sobre imagens de caráter sexual divulgadas” por seu assistente de inteligência artificial, o Grok, concebido para gerar imagens e textos.
“Relatos muito preocupantes indicam o uso” do Grok AI no X “para criar e compartilhar imagens de pessoas despidas, que podem constituir atentado ao pudor ou pornografia, além de imagens de caráter sexual envolvendo crianças, que podem constituir material ilegal”, afirma o Ofcom em seu comunicado.
O chatbot lançado em 2023, gera imagens a partir de fotos ou vídeos, e seu uso indevido permite a criação de conteúdos sexualizados. Após as críticas, o Grok desativou na última sexta-feira sua ferramenta de criação de imagens para usuários que não assinam a plataforma.
A decisão provocou indignação no Reino Unido. A medida “simplesmente transforma uma ferramenta que permite criar imagens ilegais em um serviço ‘premium'” e constitui “um insulto às vítimas de misoginia e violência sexual”, denunciou um porta-voz do primeiro-ministro britânico, Keir Starmer.
O órgão regulador britânico já havia solicitado explicações ao X na semana passada e afirma que “a empresa respondeu dentro do prazo”. A investigação deverá “determinar se o X descumpriu suas obrigações legais”, que incluem “avaliar o risco de pessoas no Reino Unido acessarem conteúdo ilegal”, “remover rapidamente conteúdo ilegal” e “avaliar os riscos que o serviço apresenta para crianças britânicas”.
O Ofcom pode impor multas de até 10% do faturamento mundial da empresa e recorrer à Justiça para pedir o bloqueio do site no Reino Unido. “Algumas das coisas que vi e ouvi” sobre as imagens geradas pelo Grok “são repugnantes e manifestamente ilegais, e espero que medidas sejam tomadas”, afirmou mais cedo à imprensa britânica o secretário digital britânico Peter Kyle.
A ministra da Tecnologia do Reino Unido, Liz Kendall, declarou na segunda‑feira que o tipo de conteúdo criado e divulgado recentemente com o uso do Grok é “profundamente preocupante”. Ela deverá se pronunciar ainda no Parlamento, após o anúncio da abertura da investigação.
O dono do X, Elon Musk, tem atacado o governo trabalhista do primeiro‑ministro Keir Starmer há várias semanas. No sábado, ele voltou a criticar o Executivo britânico, acusando‑o de tentar restringir a liberdade de expressão.
Os deepfakes do Grok também são alvo de investigação na UE, que aponta falhas na moderação de conteúdo e no sistema de recomendações. Na última quinta-feira, a Comissão Europeia informou que impôs uma medida preventiva à plataforma X depois do escândalo envolvendo conteúdo ilegal gerado pela ferramenta de inteligência artificial Grok, desenvolvida pela empresa de Elon Musk.
A medida jurídica obriga a plataforma X a manter arquivados todos os seus documentos internos relacionados ao Grok até o fim de 2026, explicou um porta‑voz da Comissão à imprensa. O objetivo é garantir que os serviços da Comissão Europeia, que continuam investigando a plataforma de Elon Musk, possam ter acesso a esses documentos caso seja necessário.
Inquérito na França
Na França, o Ministério Público de Paris ampliou em 2 de janeiro uma investigação iniciada em julho sobre a rede social X para examinar as novas acusações contra o Grok por geração e disseminação de conteúdo ilegal envolvendo menores.
O inquérito foi aberto após denúncias contra a rede social e seus dirigentes, acusados de ter manipulado o algoritmo da plataforma. “O crime de montagem de caráter sexual envolvendo uma pessoa sem seu consentimento é punido com dois anos de prisão e multa de 60 mil euros”, lembrou o Ministério Público de Paris.
Os depoimentos de mulheres vítimas dessas manipulações, inclusive na França, se multiplicaram desde o Ano‑Novo. “Uma dezena de ‘caras’ pediu ao Grok para me ‘despir’ como se eu fosse uma boneca, e eles me fizeram chorar. Obrigada, homens, por este começo de 2026”, escreveu uma internauta que havia apenas publicado uma foto de sua roupa para a noite de Réveillon.
As vítimas acabam de biquíni ou até mesmo nuas, segundo reportagem publicada pela revista francesa Nouvel Obs. Os ministros da Economia, das Finanças e da Soberania Industrial, Energética e Digital da França, Roland Lescure; Anne Le Hénanff, ministra delegada encarregada da Inteligência Artificial e do Digital; e Aurore Bergé, encarregada da Igualdade entre mulheres e homens e da luta contra discriminações, também anunciaram no início de janeiro ter comunicado ao procurador a existência de “conteúdos ilícitos”, pedindo “sua retirada imediata”.
Países suspendem ferramenta
A Malásia suspendeu no domingo — após a Indonésia, no sábado — o acesso chatbot. A Índia afirmou neste domingo que a plataforma X retirou milhares de conteúdos e apagou centenas de contas acessíveis no país. Cerca de 3.500 conteúdos foram bloqueados e mais de 600 contas apagadas. Segundo uma fonte governamental indiana, “no futuro, o X não permitirá mais imagens obscenas”, ressaltando que “o X admitiu seu erro”, prometendo “atuar daqui em diante dentro da lei indiana”.
Procurada pela agência francesa de notícias Agence France-Presse (AFP), a plataforma respondeu nesta segunda remetendo a uma declaração publicada no início de janeiro. No comunicado, afirma que toma medidas contra conteúdos ilegais, incluindo os de natureza extremamente grave envolvendo menores, removendo esse material, suspendendo permanentemente contas e colaborando com as autoridades locais.
