Reino Unido investe em sistema para prever crimes, mas desiste antes de usar

O Ministério do Interior do Reino Unido, departamento do governo responsável pela imigração, segurança, lei e ordem, investiu cerca de £ 10 milhões no desenvolvimento de um sistema para prever crimes na Inglaterra e no País de Gales. A iniciativa, contudo, foi abandonada pelo governo britânico antes de mesmo ser lançada.

A iniciativa do governo do Reino Unido

Most Serious Violence (MSV) foi projetado para prever se determinadas pessoas cometeriam crimes violentos nos próximos dois anos. Para treinar os algoritmos, os programadores utilizaram o banco de dados dos departamentos policiais de West Midlands e West Yorkshire, dois condados metropolitanos, abrangendo 3,5 milhões de resultados.

Os algoritmos foram abastados com registros de crimes, prisões e relatórios de inteligência, todos extraídos do banco de dados dos referidos departamentos policiais. A partir dos dados disponíveis, o sistema preditivo atribuiu notas e pontuações de risco para todas as pessoas que tiveram passagens na polícia (presas ou fichadas) nos últimos anos.

Resultados preliminares demonstraram que o sistema era capaz de prever, com até 75% de acurácia, o cometimento de crimes violentos. Os algoritmos podiam prognosticar, portanto, se as pessoas cadastradas no banco de dados das polícias de West Midlands e West Yorkshire praticariam delitos com armas de fogo ou facas nos próximos anos.

Sistema financiado pelo Reino Unido é encerrado

Tudo parecia estar perfeito, ao menos na ótica do governo britânico. Contudo, às vésperas do lançamento oficial do sistema, um relatório do Comitê de Ética Policial de West Midlands revelou que a ferramenta continha uma “falha” na codificação. Em síntese, não era possível prever, com tamanha precisão, se o futuro crime praticado seria, de fato, violento.

Após a publicação do relatório, o sistema preditivo foi reformulado para atender as orientações do comitê, e novos resultados revelaram uma queda significativa na acurácia. Se, inicialmente, a ferramenta era capaz de prever com ate 75% de precisão, a precisão havia agora caído para 19%. A margem “gritante” de diferença resultou no encerramento do projeto.

Reino Unido 01
A iniciativa foi abandonada pelo governo britânico

É provável que você goste:

Inteligência artificial poderá reduzir índices de reincidência nos EUA

Ao analisar novamente o caso, o Comitê de Ética Policial de West Midlands entendeu que a promessa original do sistema foi exagerada. No melhor dos casos, a ferramenta seria capaz de prever crimes violentos com até 51% de acurácia. Ainda assim, o patamar seria insuficiente para que os departamentos policiais adotassem o MSV massivamente:

Não há informações suficientes sobre como esse modelo melhora a situação atual em torno da tomada de decisões na prevenção da violência. – Comitê de Ética Policial de West Midlands

Discriminação algorítmica

Além da questões relacionadas à precisão, o comitê, formado por especialistas de diferentes áreas, também expôs preocupação em relação à discriminação algorítmica. Conforme os pareceristas, a forma como os dados foram “entregues” aos algoritmos acabaria resultando em previsões tendenciosas e, consequentemente, na prisão de pessoas inocentes:

Mesmo se o algoritmo fosse definido para ser 100% preciso, ainda haveria viés neste sistema. O comitê expressou essas preocupações anteriormente em mais de uma ocasião, sem que fosse fornecida clareza suficiente. Portanto, na forma como está o projeto, deve ser encerrado. – Comitê de Ética Policial de West Midlands

Apesar do encerramento do projeto, softwares de policiamento preditivo vêm sendo utilizados ao redor do mundo, sobretudo nos Estados Unidos. Tais ferramentas buscam desde recomendar áreas de policiamento onde delitos já foram denunciados ou praticados, até prever crimes que ainda não ocorreram, no melhor estilo Minority Report.


Quer estar por dentro de tudo que envolve Direito, inovação e novas tecnologias?

Então, siga-me no Facebook, Instagram e LinkedIn e acompanhe conteúdos diários para se manter atualizado.

Bernardo de Azevedo

Advogado, empreendedor, professor e pesquisador de novas tecnologias. Acredita no poder da informação como forma de incentivar as pessoas a promover mudanças.

Anterior

Inteligência artificial poderá reduzir índices de reincidência nos EUA

Próximo

Escritório de advocacia é condenado por simular problema técnico durante audiência virtual