A entidade internacional Human Rights Watch revelou que fotos pessoais de crianças e adolescentes brasileiros estão sendo usadas para alimentar ferramentas de inteligência artificial. As imagens foram retiradas sem consentimento de sites e mídias sociais.
A chamada IA é treinada para criar situações novas e irreais com base em imagens reais. Muitas são inofensivas, mas outras podem usar o rosto de uma criança em conteúdos nocivos. Esse é o alerta feito pela Human Rights Watch.
A entidade identificou 170 imagens de crianças brasileiras em um dos bancos de dados mais usado pelas inteligências artificiais. É um percentual pequeno, diante de um acervo de bilhões de imagens, mas que acende um alerta. A pesquisadora de direitos da criança e tecnologia da organização, Hye Jung Han, explica que essas que fotos roubadas estão alimentando modelos de ia para criar deepfakes sexualmente explícitos.
Segundo a Human Rights Watch, muitas das fotos não se encontram por meio de pesquisa online, e foram postadas até mesmo uma década antes da criação do banco de imagens. O acesso a elas pelas ferramentas de inteligência artificial revela não só o perigo que a nova tecnologia representa, mas que as grandes empresas de mídias sociais falharam em proteger a privacidade dos usuários.
Para Maria Mello, pesquisadora do Instituto Alana, dedicado aos direitos das crianças e adolescentes, as leis brasileiras que já existem precisam ser aplicadas ao mundo online.
Clique aqui para saber como sintonizar a programação da TV Brasil.