Entenda como os algoritmos estão ajudando a desmascarar pedófilos nos EUA

Anúncios de lojas de roupas e joias infantis nas redes sociais são distribuídos preferencialmente para homens adultos e polícia do Novo México usa entrega para encontrar criminosos

TECNOLOGIA E CIÊNCIA|Do R7

Algoritmos fazem anúncios com crianças serem distribuídos para pedófilos(AMIR HAMJA/AMIR HAMJA/THE NEW YORK TIMES)

Quando uma fabricante de joias para crianças começou a anunciar no Instagram, promoveu fotos de uma menina de cinco anos usando um berloque brilhante para usuários interessados em criação de filhos, crianças, balé e outros temas identificados pela Meta como interessantes, sobretudo para as mulheres.

Mas, quando recebeu os resultados automatizados de sua campanha de anúncios do Instagram, o comerciante percebeu que tinha ocorrido o contrário: os anúncios tinham sido direcionados quase exclusivamente para homens adultos.

Perplexo e preocupado, o comerciante entrou em contato com o “The New York Times”, que nos últimos anos publicou vários artigos sobre o abuso de crianças em plataformas de redes sociais. Em fevereiro, o “Times” investigou contas de meninas pequenas administradas pelos pais no Instagram, e o submundo sombrio dos homens que interagem sexualmente com essas contas.

Com as fotos dos anúncios de joias em mãos, o “Times” começou a entender por que eles atraíam um público indesejado. Os anúncios de teste veiculados pelo jornal usando as mesmas fotos, sem texto, não só reproduziram a experiência do comerciante, como também chamaram a atenção de criminosos sexuais condenados e outros homens cuja conta indicava interesse sexual em crianças ou que escreviam mensagens de cunho sexual.

O “Times” abriu duas contas no Instagram e promoveu publicações que mostravam a menina de cinco anos, com o rosto virado para longe da câmera, usando uma camiseta regata e o amuleto. Publicações separadas mostravam as roupas e as joias sem a modelo infantil ou com uma caixa preta escondendo-a. Todos os anúncios pagos foram promovidos para pessoas interessadas em tópicos como infância, dança e líderes de torcida, que as ferramentas de público da Meta estimaram ser predominantemente mulheres.

Além de atingir uma proporção surpreendentemente grande de homens, os anúncios receberam respostas diretas de dezenas de usuários do Instagram, incluindo telefonemas de dois acusados de crimes sexuais, ofertas de pagamento à criança por atos sexuais e declarações de amor.

Esses resultados sugerem que os algoritmos da plataforma desempenham um papel importante no direcionamento de homens para fotos de crianças. E refletem as preocupações com a prevalência de homens que usam o Instagram para seguir menores e estabelecer contato com eles, incluindo aqueles que foram presos por usar a rede social para aliciar crianças para o sexo.

Na quarta-feira, o procurador-geral do Novo México, Raúl Torrez, anunciou a prisão de três homens que foram pegos em uma operação secreta, tentando conseguir sexo com meninas menores de idade pelo Facebook.

Com o nome de “Operação MetaPhile” (em alusão à empresa Meta e a pedófilos), Torrez afirmou que os algoritmos da Meta desempenharam um papel fundamental no direcionamento desses homens para os perfis “iscas” criados pela polícia.

“Poderíamos criar uma nova conta falsa, nos apresentado como uma criança menor de idade nessa plataforma, e provavelmente, em questão de minutos, se não dias, essa criança seria inundada com material sexualmente explícito”, afirmou ele, enfatizando os danos reais que podem ser causados pelas plataformas on-line.

A investigação do “Times” em fevereiro descobriu que milhares de contas do Instagram administradas por pais atraíam comentários e mensagens sexualizadas de homens adultos.

Enquanto alguns pais descreveram a atenção como uma forma de aumentar os seguidores de suas filhas, outros reclamaram de passar horas bloqueando usuários, e disseram não entender como os homens haviam encontrado as contas.

Uma análise dos usuários que interagiram com os anúncios publicados pelo “Times” encontrou uma sobreposição entre esses dois mundos. Cerca de três dúzias de homens seguiam contas de influenciadoras infantis administradas por pais e previamente estudadas pelo “Times”; um deles seguia 140 delas.

Além disso, quase cem dos homens seguiam contas que apresentavam ou anunciavam pornografia adulta, o que é proibido pelas regras do Instagram.

Dani Lever, porta-voz da Meta, considerou os testes de anúncios do “Times” como uma “experiência fabricada”, que não levou em conta “os muitos fatores que contribuem para quem vê um anúncio”, e sugeriu que é “falho e insensato” tirar conclusões a partir de dados limitados.

Quando questionada sobre as prisões no Novo México, a Meta declarou em comunicado que “a exploração infantil é um crime horrível e passamos anos desenvolvendo tecnologia para combatê-lo”. A empresa descreveu seus esforços como “uma luta contínua” contra “criminosos determinados”.

‘Os homens geram engajamento’

Segundo pesquisadores e ex-funcionários que trabalharam com algoritmos na Meta, proprietária do Instagram e do Facebook, as ferramentas de classificação de imagens são parcialmente culpadas.

Estas comparam novas imagens com as existentes na plataforma e identificam os usuários que demonstraram interesse nelas anteriormente, como explicou Dean Eckles, ex-cientista de dados do Facebook que estudou seus algoritmos e agora é professor do Instituto de Tecnologia de Massachusetts, o MIT.

Contas de teste criadas no ano passado pelo “The Wall Street Journal” descobriram que o algoritmo de recomendação do Instagram fornecia fotos sexualizadas de crianças e adultos para contas que seguiam apenas jovens ginastas, líderes de torcida e outras crianças.

Embora o sistema de anúncios da Meta não seja exatamente igual a esse sistema de recomendação, há “grandes semelhanças entre os modelos”, disse Eckles.

Ex-funcionários da Meta familiarizados com seus sistemas de recomendação e entrega de anúncios relataram que as equipes de segurança tentavam identificar anúncios prejudiciais, como os que promoviam fraudes ou drogas ilegais, mas era mais difícil identificar anúncios benignos entregues a públicos inadequados e potencialmente prejudiciais.

A Meta permite que os anunciantes segmentem determinados públicos por tópico e, embora o “Times” tenha escolhido tópicos que, segundo a empresa, eram dominados por mulheres, os anúncios foram exibidos para homens, em média cerca de 80 por cento das vezes, de acordo com uma análise dos dados do público do Instagram feita por este jornal.

Em um grupo de testes, as fotos que mostravam a criança foram exibidas para os homens 95 por cento das vezes, em média, enquanto as fotos dos itens sozinhos foram exibidas para os homens apenas 64 por cento das vezes.

De acordo com Piotr Sapiezynski, cientista pesquisador da Universidade do Nordeste, em Boston, especializado em testar algoritmos on-line, os anunciantes competem entre si para atingir as mulheres porque elas dominam os gastos dos consumidores nos EUA.

Como resultado, acrescentou ele, o algoritmo provavelmente se concentrou em homens altamente interessados e mais fáceis de alcançar que haviam interagido com conteúdo semelhante. “Os homens geram engajamento. A ferramenta está fazendo exatamente o que lhe pedimos.”

Em nota, a Meta reconheceu o ambiente competitivo de anúncios para espectadores do sexo feminino, e disse que a “baixa qualidade” dos anúncios do “Times” – de novas contas, com imagens, mas sem texto ou explicação – contribuiu para que fossem entregues a mais homens. Além disso, segundo a empresa, seus dados relativos à análise do público-alvo “mostram apenas uma estimativa de quem está potencialmente qualificado para ver um anúncio”, e não um público garantido.

Sapiezynski afirmou que, mesmo que o sistema tenha classificado os anúncios de teste como de “baixa qualidade”, isso não explica o fato de os anúncios com crianças terem sido dirigidos a mais homens do que os anúncios sem elas.

‘E aí, gatinha?’

Algumas horas depois da publicação do primeiro anúncio, uma das contas de teste do “Times” recebeu uma mensagem e uma ligação telefônica de um homem preso em 2015 em Oklahoma, depois de supostamente usar o Facebook para tentar organizar sexo em grupo com meninas de 12 e 14 anos.

“E aí, gatinha?”, escreveu outro homem. Ele havia sido preso em 2020 depois de usar o Snapchat para entrar em contato com uma garota de 14 anos, no norte do estado de Nova York, e se oferecer para pegá-la para fazer sexo. As acusações contra ele foram retiradas depois que um tribunal o considerou mentalmente incompetente.

Um terceiro homem, no Tennessee, que “curtiu” uma das fotos tinha quatro condenações por crimes sexuais contra crianças. Um quarto homem, que o “Times” não conseguiu identificar, ofereceu-se para pagar por atos sexuais com a garota da foto.

O “Times” entrou em contato por meio do bate-papo do Instagram com todas as pessoas que interagiram com os anúncios, e explicou que se tratava de testes do algoritmo da plataforma que estavam sendo feitos por jornalistas.

O homem em Nova York continuou a enviar mensagens perguntando sobre a garota, se ela estava em seu quarto e se queria fazer sexo. Também tentou ligar para ela várias vezes pelo aplicativo.

No total, este jornal identificou quatro criminosos sexuais condenados que enviaram mensagens para as contas, curtiram as fotos ou deixaram comentários nelas. A conta de cada um deles no Instagram usava nome e fotos reais, ou estava vinculada a uma conta do Facebook que usava nome e fotos reais.

As condenações foram encontradas combinando essas informações com bancos de dados de criminosos sexuais e outros registros públicos.

Cinco outros homens, incluindo um que publicou um vídeo no Instagram de uma menina que foi vítima de abuso sexual infantil, de acordo com o Centro Canadense de Proteção à Criança, têm registro de prisão por algum crime contra crianças.

Os homens cujos registros judiciais foram analisados pelo “Times” se declararam culpados de uma acusação menos grave, ou foram considerados mentalmente incapazes de ser julgados.

As regras do Instagram proíbem que criminosos sexuais condenados tenham uma conta, e o “Times” usou a ferramenta da Meta para denunciá-los. As contas permaneceram on-line por cerca de uma semana até que o jornal informou o fato a um porta-voz da empresa.

Questionado sobre as contas, Lever declarou: “Proibimos a presença de criminosos sexuais condenados em nossas plataformas e removemos as contas que nos foram reportadas.”

Um dos homens, que foi condenado em Nova York por agredir sexualmente uma menina de quatro anos, se enquadra em uma lei estadual conhecida como E-Stop, que exige que criminosos sexuais cadastrem seu endereço de e-mail, que é compartilhado toda semana com empresas de tecnologia, incluindo a Meta.

Lever não mencionou como a empresa usa essas informações, ou como o homem conseguiu criar uma conta no Instagram.

Alguns dos homens alegaram ter respondido ao anúncio por estarem preocupados. Um deles, que está em liberdade condicional depois de ter passado 46 anos na prisão na Califórnia pelo assassinato da esposa, disse que ficou surpreso ao se deparar com uma menina de cinco anos em seu feed, que mostra predominantemente fotos de adultos com pouca roupa ou nus. “Não tenho nenhum problema em olhar para mulheres nuas, especialmente depois de 46 anos na prisão. Mas minha atitude em relação às pessoas que se envolvem em pornografia infantil ou tocam em uma criança é bem simples: sou contra”, escreveu ele.

O engajamento de homens com os anúncios não surpreendeu alguns pequenos empresários entrevistados pelo “Times”. Morgan Koontz, fundadora da Bella & Omi, empresa de roupas infantis da Virgínia Ocidental que se promove nas redes sociais, revelou que a empresa recebeu “comentários inapropriados, quase pedófilos e pervertidos” de homens quando começou a anunciar no Facebook em 2021. “Aquilo deixou nossas modelos desconfortáveis, e nós também.”

Quando a empresa se expandiu para o Instagram, ela e a outra proprietária, Erica Barrios, decidiram evitar o problema direcionando a publicidade apenas para as mulheres, embora pais e avós façam parte de sua clientela.

Lindsey Rowse, proprietária da Tightspot Dancewear Center, na Pensilvânia, também restringe seus anúncios às mulheres. Ela contou que, quando não excluía os homens, eles representavam até 75 por cento de seu público, e poucos compravam seus produtos. Além disso, limita a frequência com que compartilha fotos de modelos infantis em suas postagens não publicitárias porque, segundo ela, costumam atrair homens. “Não sei como eles conseguem encontrar as fotos. Eu adoraria bloquear todos os caras.”

Outros empresários expressaram confusão semelhante com a distribuição de seus anúncios. Desde janeiro, a empresa de roupas infantis Young Days, sediada em Utah, viu mais do que dobrar a parcela de homens que seus anúncios atingem, sem grandes mudanças em seus critérios de segmentação, de acordo com Brian Bergman, que supervisiona o comércio eletrônico da marca. A mudança para o público masculino prejudicou as vendas, segundo ele, e desde então a empresa tem se concentrado em atingir as mulheres. “Não é lucrativo para nós, mas o algoritmo continua nos empurrando para os homens.”