O perigo da vigilância algorítmica: quando a tecnologia ante
A segurança preditiva promete eficiência, mas levanta debates sobre direitos fundamentais e o risco de o Estado criar suspeitos baseando-se apenas em estatísticas do passado.
Imagine a situação: você é abordado por agentes de segurança pública não por ter cometido um delito ou ser alvo de uma investigação concreta, mas porque um sistema computacional indicou que você deveria ser monitorado. Sem que haja qualquer fato real ou inquérito instaurado, sua rotina, o bairro onde reside ou seu círculo social foram suficientes para colocá-lo sob o radar do Estado. Embora pareça um cenário de ficção científica, essa é a realidade da chamada segurança preditiva, uma tecnologia que utiliza grandes volumes de dados para mapear onde crimes podem ocorrer ou quem merece maior vigilância.
A promessa por trás dessas ferramentas é atraente. Em um contexto de recursos limitados e necessidade de respostas ágeis, a capacidade de antecipar riscos permite que o poder público otimize o patrulhamento e previna infrações antes que elas se concretizem. Ignorar o potencial desses recursos seria, em tese, um erro de gestão. A tecnologia possui, de fato, a habilidade de identificar padrões que passariam despercebidos pelo olhar humano, auxiliando no planejamento estratégico das forças de segurança.
Contudo, o problema surge quando tratamos os dados como uma representação neutra e absoluta da realidade. Registros policiais não são espelhos perfeitos de tudo o que ocorre em uma cidade; eles refletem apenas o que foi denunciado, identificado e formalizado. Regiões historicamente mais policiadas tendem a gerar mais registros, o que alimenta o algoritmo com informações que reforçam a necessidade de mais policiamento naquela mesma área. Cria-se, assim, um ciclo onde a máquina parece validar sua própria eficiência, quando, na verdade, pode estar apenas reproduzindo preconceitos e escolhas institucionais do passado.
É fundamental distinguir entre estimar o risco de um crime ocorrer em um local específico e calcular a probabilidade de um indivíduo cometer um delito. No primeiro caso, a tecnologia pode sugerir melhorias na iluminação ou reforço no patrulhamento. No segundo, o risco estatístico passa a perseguir a pessoa, interferindo em sua liberdade e na forma como ela é tratada pelo Estado. É exatamente nesse ponto que a busca pela eficiência pode colidir com os princípios do Estado de Direito.
A Constituição brasileira assegura direitos como a presunção de inocência, a intimidade e a proteção de dados pessoais. Essas garantias não perdem a validade apenas porque uma decisão foi sugerida por um software. Pelo contrário, quanto mais opaco for o funcionamento de um sistema, maior deve ser o rigor institucional na sua aplicação. A tecnologia altera os meios de atuação do Estado, mas não diminui suas obrigações constitucionais.
Exemplos internacionais, como o Regulamento Europeu de Inteligência Artificial, já impõem limites claros, proibindo o uso de sistemas que prevejam riscos criminais baseados exclusivamente em perfis pessoais. A distinção é crucial: a ferramenta deve servir para analisar evidências, e não para fabricar a suspeita que justificará a própria intervenção. Além disso, a supervisão humana não pode ser apenas formal; se o agente público não compreende os critérios do sistema, ele não consegue exercer um controle real sobre a decisão.
O uso responsável da segurança preditiva exige transparência, auditorias independentes, dados de qualidade e a possibilidade de contestação por parte dos cidadãos afetados. Sem essas salvaguardas, a inovação pode ampliar o poder de vigilância estatal sem aumentar, na mesma medida, a responsabilidade sobre seus erros. Antecipar riscos pode salvar vidas, mas não se pode aceitar que uma probabilidade estatística substitua a investigação de fatos concretos.
Em última análise, o algoritmo não possui uma bola de cristal; ele apenas reorganiza o passado para projetar possibilidades. A decisão final sobre o que fazer com essas informações permanece sendo um ato humano, jurídico e político. O maior risco da segurança preditiva não é a falha em identificar um criminoso, mas sim a possibilidade de o Estado criar um suspeito antes mesmo que qualquer crime tenha sido cometido.
Fonte: midianews.com.br