O governo espanhol anunciou esta semana uma grande revisão de um programa no qual a polícia depende de um algoritmo para identificar potenciais vítimas repetidas de violência doméstica, depois de as autoridades terem enfrentado dúvidas sobre a eficácia do sistema.
O programa, VioGén, exige que os policiais façam uma série de perguntas à vítima. As respostas são inseridas em um programa de software que produz uma pontuação – de nenhum risco a risco extremo – destinada a sinalizar as mulheres que são mais vulneráveis a abusos repetidos. A pontuação ajuda a determinar que proteção policial e outros serviços uma mulher pode receber.
Uma investigação do New York Times no ano passado descobriu que a polícia dependia muito da tecnologia, quase sempre aceitando as decisões tomadas pelo software VioGén. Algumas mulheres que o algoritmo classificou como sem risco ou com baixo risco de sofrer mais danos sofreram posteriormente mais abusos, incluindo dezenas que foram assassinadas, descobriu o Times.
Autoridades espanholas disseram que as mudanças anunciadas esta semana faziam parte de uma atualização planejada há muito tempo para o sistema, que foi introduzida em 2007. Eles disseram que o software ajudou os departamentos de polícia com recursos limitados a proteger mulheres vulneráveis e a reduzir o número de ataques repetidos.
No sistema atualizado, VioGén 2, o software não poderá mais rotular as mulheres como sem risco. A polícia também deve inserir mais informações sobre a vítima, o que as autoridades disseram que levaria a previsões mais precisas.
Outras alterações destinam-se a melhorar a colaboração entre as agências governamentais envolvidas em casos de violência contra as mulheres, incluindo a facilitação da partilha de informações. Em alguns casos, as vítimas receberão planos de proteção personalizados.
“O machismo está batendo às nossas portas e com uma violência diferente de tudo que vimos há muito tempo”, disse Ana Redondo, ministra da igualdade, em entrevista coletiva na quarta-feira. “Não é hora de dar um passo atrás. É hora de dar um salto em frente.”
A utilização em Espanha de um algoritmo para orientar o tratamento da violência de género é um exemplo abrangente de como os governos estão a recorrer a algoritmos para tomar decisões sociais importantes, uma tendência que deverá crescer com a utilização da inteligência artificial. O sistema tem sido estudado como um modelo potencial para governos de outros países que tentam combater a violência contra as mulheres.
A VioGén foi criada com a crença de que um algoritmo baseado num modelo matemático pode servir como uma ferramenta imparcial para ajudar a polícia a encontrar e proteger mulheres que, de outra forma, poderiam passar despercebidas. As perguntas de sim ou não incluem: Foi usada uma arma? Houve problemas económicos? O agressor demonstrou comportamentos controladores?
As vítimas classificadas como de maior risco receberam mais protecção, incluindo patrulhas regulares nas suas casas, acesso a um abrigo e monitorização policial dos movimentos do seu agressor. Aqueles com pontuações mais baixas receberam menos ajuda.
Em Novembro, Espanha tinha mais de 100.000 casos activos de mulheres que tinham sido avaliadas pela VioGén, com cerca de 85 por cento das vítimas classificadas como enfrentando pouco risco de serem novamente feridas pelo seu agressor. Os agentes da polícia em Espanha são treinados para ignorar as recomendações da VioGén se as provas o justificarem, mas o The Times descobriu que as pontuações de risco foram aceites cerca de 95 por cento das vezes.
Victoria Rosell, juíza em Espanha e antiga delegada do governo focada em questões de violência de género, disse que era necessário um período de “autocrítica” para que o governo melhorasse o VioGén. Ela disse que o sistema poderia ser mais preciso se extraísse informações de bancos de dados governamentais adicionais, incluindo sistemas de saúde e educação.
Natalia Morlas, presidente do Somos Más, um grupo de direitos das vítimas, disse que acolheu favoravelmente as mudanças, que espera que conduzam a melhores avaliações de risco por parte da polícia.
“Calibrar bem o risco da vítima é tão importante que pode salvar vidas”, disse Morlas. Ela acrescentou que era fundamental manter uma estreita supervisão humana do sistema porque uma vítima “tem de ser tratada por pessoas, não por máquinas”.
