Painel avança projeto de lei para restringir o uso de tecnologia de reconhecimento facial no Colorado

 Painel avança projeto de lei para restringir o uso de tecnologia de reconhecimento facial no Colorado

Um painel do Senado aprovou por unanimidade um projeto de lei na quarta-feira que busca restringir o uso da tecnologia de reconhecimento facial no governo, nas autoridades e nas escolas do Colorado.

Se promulgado, o Projeto de Lei 113 do Senado estabeleceria várias limitações e regulamentações para o uso de serviços de reconhecimento facial de inteligência artificial por agências governamentais e agências de aplicação da lei no estado. O projeto de lei também proibiria completamente o uso de tecnologia de reconhecimento facial em escolas públicas e charter até 2025.

O patrocinador do projeto, o senador Chris Hansen, D-Denver, disse que a legislação visa desacelerar e reavaliar o uso da tecnologia de reconhecimento facial pelo estado devido a problemas de identificação desproporcionais para pessoas de cor.

Vários estudos encontraram um viés racial na tecnologia de reconhecimento facial. Para mulheres de pele escura, a tecnologia teve uma taxa de erro de 34,7%, em comparação com 0,8% para homens de pele clara, de acordo com um estudo de 2018 do Massachusetts Institute of Technology. Da mesma forma, um estudo federal em 2019 descobriu que pessoas asiáticas e afro-americanas eram até 100 vezes mais propensas do que homens brancos a serem identificadas erroneamente pela tecnologia de reconhecimento facial.

Enquanto os membros do painel apoiaram por unanimidade o projeto de lei na quarta-feira, algumas pessoas falaram em oposição durante o depoimento público da reunião. A maior parte da oposição veio de membros da aplicação da lei.

“Essas tecnologias comprovadas e cada vez melhores permitem que os oficiais de paz que investigam incidentes criminais reduzam o crime e protejam as liberdades civis, concentrando seus esforços apenas em pessoas com probabilidade muito maior de envolvimento”, disse David Shipley, diretor executivo do Colorado Information Sharing Consortium, que é composta por 86 agências policiais do Colorado.

De acordo com o projeto, as agências de aplicação da lei seriam proibidas de usar a tecnologia de reconhecimento facial para estabelecer a causa provável, identificar um indivíduo a partir de um esboço policial ou criar um registro que descreva as ações de um indivíduo protegidas pela Primeira Emenda. As agências de aplicação da lei também precisariam de permissão especial para usar o reconhecimento facial para realizar vigilância, rastreamento ou identificação em tempo real.

As agências governamentais que usam a tecnologia de reconhecimento facial teriam que notificar uma autoridade de relatório, especificar por que a tecnologia está sendo usada, produzir um relatório de responsabilidade, testar o equipamento e submeter quaisquer decisões resultantes da tecnologia à revisão humana.

Os xerifes do condado do Colorado e a Associação da Indústria de Segurança também se manifestaram contra o projeto, criticando a proibição temporária da tecnologia de reconhecimento facial nas escolas.

“Não há justificativa para a proibição do uso nas escolas. Isso pode proibir alguns aplicativos de segurança que podem salvar vidas”, disse Jake Parker, diretor de relações governamentais da associação. Parker disse que a tecnologia de reconhecimento facial é usada pelas escolas para rastrear visitantes contra uma lista de pessoas proibidas de entrar nas dependências da escola e pode ajudar a evitar tiroteios.

O projeto também criaria uma força-tarefa, que funcionará até setembro de 2032 e será responsável por estudar questões relacionadas ao uso de inteligência artificial. As descobertas da força-tarefa seriam usadas para ajudar a informar o uso da tecnologia de reconhecimento facial nas escolas após a proibição do projeto de lei terminar em 2025, disse Hansen.

Embora não esteja claro se alguma escola do Colorado usa atualmente a tecnologia de reconhecimento facial, nacionalmente, as escolas públicas usaram a tecnologia para disciplina, como identificar alunos vistos matando aula ou quebrando regras em imagens de segurança.

Vários especialistas da indústria de tecnologia testemunharam em apoio ao projeto de lei na quarta-feira, incluindo várias pessoas do programa de inteligência artificial da Universidade do Colorado.

“O reconhecimento facial está sendo usado em nossas escolas e em nossas comunidades, quase sempre com boas intenções, mas certamente nem sempre com bons resultados e às vezes até prejudiciais”, disse Christine Chang, estudante de doutorado em ciência da computação da universidade. “Gostaria de lembrá-lo de Robert Williams, Michael Oliver e Nijeer Parks, todos presos injustamente com base em conclusões extraídas de pistas investigativas fornecidas por software de reconhecimento facial.”

Por causa desses problemas, cidades como São Francisco, Boston e Portland proibiram o uso de tecnologia de reconhecimento facial pela polícia e agências locais. O projeto de lei do Colorado proposto não baniria a tecnologia, mas estabeleceria limitações estritas.

A professora de direito da Universidade do Colorado, Margot Kaminski, que tem experiência em direito comparado de inteligência artificial, disse que o projeto de lei seria um “padrão ouro” para lidar com a tecnologia de reconhecimento facial.

“O uso de (inteligência artificial), especialmente pelo governo, produz riscos bem conhecidos”, disse Kaminski. “Riscos de erro, riscos de preconceito e discriminação, e também danos consideráveis ​​à liberdade pessoal, incluindo coisas como monitoramento de manifestantes, incentivos para a construção de infraestrutura de vigilância ou para cooptar sistemas privados de vigilância para uso policial.”

O conteúdo Painel avança projeto de lei para restringir o uso de tecnologia de reconhecimento facial no Colorado aparece primeiro em MegaTecnoBR – Tecnologia da atualidade.

helena

Post relacionados

Deixe uma Resposta

O seu endereço de e-mail não será publicado.