As violações no Grok, ferramenta de inteligência artificial da plataforma X, continuam acontecendo. Foi o que o Ministério Público, a Agência Nacional de Proteção de Dados e a Secretaria Nacional do Consumidor constataram, após testes realizados pelas equipes técnicas dessas instituições.
Essas violações são de mulheres que têm fotos adulteradas, sem consentimento, pelo Grok, a inteligência artificial da rede social X, para aparecerem sexualizadas, de biquíni ou mesmo nuas. Há casos em que essas adulterações envolvem inclusive crianças e adolescentes.
Para o governo e o Ministério Público Federal, as respostas apresentadas pelo X aos questionamentos feitos em janeiro foram insuficientes. O X informou que removeu milhares de publicações, suspendeu centenas de contas e adotou medidas de segurança.
No entanto, segundo o governo e o MPF, a rede social não apresentou evidências técnicas de que as violações cessaram. Além disso, testes feitos pelas equipes do governo também indicam que as falhas no Grok persistem.
Nesta quinta-feira (12), a reportagem da TV Brasil usou o próprio Grok e perguntou se ele continuava sendo usado para sexualizar imagens de mulheres sem consentimento. Na resposta, a IA admitiu que sim e explicou o seguinte: comandos mais simples, chamados de prompts, como "remova as roupas" e "coloque um biquíni", estão sendo barrados. No entanto, comandos mais complexos acabam passando pelo filtro de segurança. A inteligência artificial disse, no entanto, que os casos estão diminuindo.
De qualquer modo, o governo e o Ministério Público determinaram que o X implemente novas medidas para corrigir essas falhas. O MPF quer relatórios mensais dessas ações. Em caso de descumprimento, a empresa pode ser multada e ser alvo de investigações.
A TV Brasil procurou a assessoria da rede social X, mas não obteve resposta.
Clique aqui para saber como sintonizar a programação da TV Brasil.
