Em um desenvolvimento significativo para a aplicação da lei, a inteligência artificial (IA) está sendo cada vez mais adotada pelos departamentos de polícia nos Estados Unidos para otimizar o processo de redação de relatórios policiais. O oficial Scott Brittingham, do Fort Collins, Colorado, departamento de polícia, inicialmente cético em relação às novas tecnologias, encontrou seu relatório que escreveu o tempo reduzido drasticamente de 45 minutos para apenas 10 minutos, utilizando um software movido a IA chamado Draft One. Essa eficiência permite que os policiais dediquem mais tempo a responder a pedidos de serviço e impedir proativamente o crime.
O rascunho de um, desenvolvido pela empresa de tecnologia da aplicação da lei Axon, que também produz tasers e câmeras corporais, foi projetado para criar rascunhos iniciais de relatórios policiais. A Axon relata que o rascunho de um se tornou seu produto que mais cresce desde o seu lançamento em 2024. O conceito de rascunho emergiu diretamente da escassez de pessoal enfrentada pelos departamentos de polícia em todo o país. Uma pesquisa de 2024 da Associação Internacional de Chefes de Polícia revelou que as agências estavam operando, em média, pelo menos 10% abaixo dos níveis de pessoal autorizados. Josh Isner, presidente da Axon, afirmou: “O maior problema na segurança pública agora é contratar. Você não pode contratar policiais suficientes. Qualquer coisa que um departamento de polícia possa adotar para torná -los mais eficientes é o nome do jogo agora”.
A ascensão da IA na geração de relatórios policiais não deixa de ter seus críticos. Especialistas jurídicos e defensores dos direitos civis expressaram preocupações significativas sobre possíveis vieses, imprecisões e questões de transparência inerentes aos relatórios elaborados pela IA. Essas preocupações são particularmente salientes, dado o papel crucial que os relatórios policiais desempenham no processo de justiça criminal, influenciando as decisões tomadas por promotores, advogados de defesa e juízes. Andrew Guthrie Ferguson, professor de direito universitário americano especializado em tecnologia e policiamento, enfatizou que “os relatórios policiais são realmente um mecanismo de prestação de contas. É uma justificativa para o poder do Estado, para o poder policial”.
O rascunho um opera alavancando as transcrições das filmagens da câmera do corpo para gerar rascunhos de relatórios em segundos após a solicitação de um oficial. O software solicita ao oficial a revisar e editar o rascunho, preenchendo espaços em branco entre parênteses, projetados para garantir uma revisão e correção completas de possíveis erros ou a adição de informações ausentes. O presidente da Axon, Josh Isner, afirmou: “Realmente precisa ser o próprio relatório do oficial no final do dia, e eles precisam assinar o que aconteceu”. O modelo de IA utilizado pelo rascunho One é uma versão modificada do ChatGPT da OpenAI, que a Axon treinou ainda mais para mitigar “alucinações” – erros factuais que os sistemas de IA podem gerar aleatoriamente. A Axon também colabora com um grupo de acadêmicos de terceiros, defensores da justiça restaurativa e líderes comunitários para obter feedback para o desenvolvimento de tecnologia responsável e a mitigação de viés.
Além de Fort Collins, departamentos de polícia em Lafayette, Indiana; Tampa, Flórida; e Campbell, Califórnia, também adotaram o rascunho de um. Em Fort Collins, o sargento de tecnologia Bob Younger iniciou um programa piloto com aproximadamente 70 policiais após uma demonstração convincente da ferramenta. Ele observou: “Fiquei impressionado com a qualidade do relatório, a precisão do relatório e a rapidez com que isso aconteceu. Pensei comigo mesmo: ‘Esta é uma oportunidade que não podemos deixar ir’.” O Departamento de Polícia de Fort Collins, desde então, expandiu o acesso a todos os policiais e estima que o rascunho reduzisse um tempo de redação por quase 70%, devolvendo efetivamente a valiosa tempo aos cidadãos.
Apesar do feedback positivo de alguns promotores, o uso da IA nos relatórios policiais encontrou resistência. Em setembro de 2024, o Ministério Público no Condado de King, Washington, decidiu não aceitar relatórios policiais com eliminação de IA. Em um email para os chefes de polícia, eles expressaram preocupação de que o uso da ferramenta “provavelmente resultaria em muitos de seus policiais que aprovavam narrativas redigidas a Axon com erros não intencionais”. A Axon respondeu afirmando seu compromisso com a colaboração contínua com várias partes interessadas para orientar a evolução responsável de um rascunho e afirmou que seu modelo de IA está “calibrado … para minimizar especulações ou enfeites”.
A União Americana das Liberdades Civis (ACLU) também recomendou publicamente contra o uso do Draft One. Jay Stanley, analista de políticas do Projeto de Privacidade e Tecnologia da Fala da ACLU, afirmou: “Quando você vê essa nova tecnologia sendo inserida de alguma maneira no coração do sistema de justiça criminal, que já está repleto de injustiça e preconceito e assim por diante, é definitivamente algo que nos sentamos em pé e olhamos de perto.” As preocupações incluem o potencial de erros nas transcrições das filmagens da câmera corporal devido a sotaques ou a ausência de pistas não verbais que afetam a precisão dos relatórios gerados pela IA. Embora o rascunho um inclua campos em branco automáticos para solicitar a revisão de oficiais, é possível enviar um relatório sem fazer alterações no rascunho gerado pela IA. Além disso, uma vez que um relatório é enviado, o rascunho original gerado pela IA não é salvo, impedindo a capacidade de revisar o que um oficial fez ou não mudou, uma prática estados do axônio imita processos de relatório tradicionais e escritos à mão.
Uma questão de transparência significativa gira em torno de os réus são informados de que o relatório da polícia em seu caso foi redigido pela IA. O rascunho dos relatórios finais inclui um aviso de isenção de responsabilidade personalizável por padrão, indicando assistência de IA, mas os departamentos têm a opção de desativar esse recurso. O Departamento de Polícia de Fort Collins, por exemplo, não inclui isenções de responsabilidade em seus relatórios gerados pela IA. No entanto, Ferguson defende a “transparência radical” como a melhor prática, um sentimento ecoou em Utah, onde os legisladores aprovaram uma lei no início deste ano, exigindo que os departamentos policiais incluíssem tais isenções de responsabilidade nos relatórios finais da IA.
Por fim, ferramentas de IA como o rascunho são vistas como AIDS, em vez de substituições para oficiais humanos. O oficial Brittingham concluiu: “Minha impressão geral é que é uma ferramenta como qualquer outra coisa. Não é a correção. Não está nos substituindo relatórios de escrever. É apenas uma ferramenta para nos ajudar a escrever relatórios”. À medida que a IA continua se integrando a várias facetas da sociedade, sua aplicação em áreas sensíveis, como a aplicação da lei, requer uma consideração cuidadosa de seus benefícios, limitações e implicações éticas para garantir a responsabilidade e manter a confiança do público.
