RECONHECIMENTO FACIAL E PRECONCEITO

Na última semana a IBM, por meio de uma carta aos membros do Congresso dos Estados Unidos, comunicou que estava abandonando o desenvolvimento de tecnologias de reconhecimento facial de uso geral, em razão do seu elevado potencial de vigilância em massa, violações dos direitos humanos e discriminação racial. Por certo os protestos nas semanas anteriores elevaram a preocupação pelo uso político desses sistemas.

Segundo Arvind Krishna, CEO da IBM, as empresas devem reconsiderar a venda de tais tecnologias para a aplicação da lei, pelos perigos que em mãos e intenções erradas podem gerar. A comercialização dessa tecnologia quase nada representa dentro do balanço da IBM, mas para empresas como Microsoft e Amazon já é bastante significativo.

No dia seguinte, Timnit Gebru um dos líderes da equipe de ética em IA do Google, afirmou em uma entrevista ao New York Times que o uso de tecnologias de reconhecimento facial pela aplicação da lei ou segurança deve ser banido hoje, e que ele não estava ciente de como o problema iria evoluir no futuro. A Amazon anunciou também uma moratória de um ano sobre o uso pela polícia de sua tecnologia de reconhecimento facial, a polêmica e controvertida Rekognition, com o propósito de aperfeiçoá-la, e mais do que isso possibilitar que os governos possam avançar na regulamentação e na proteção das pessoas dentro de padrões éticos.

O uso do reconhecimento facial da tecnologia para outras finalidades, como evitar o tráfico de pessoas ou reunir crianças desaparecidas com suas famílias, e ou identificação para operações bancárias, assinaturas digitais é interessante, porém a Amazon deixará de oferecê-la temporariamente à polícia. Essa sequência de gestos de grandes players do mercado levou a Microsoft de Bill Gates a mesma decisão.

Em que pese a maturidade já apresentada dessa tecnologia, o reconhecimento facial enfrenta um dilema fundamental, pois por mais aperfeiçoada que esteja, não é suficiente para um uso discriminatório dela ou a perseguição de pessoas por atos e gestos políticos em governos pouco democráticos.

Suas inúmeras formas de uso na esfera privada, podem e devem proporcionar conforto e facilidades aos seus usuários, tais como desbloquear dispositivos ou acesso a determinados espaços. Mas na esfera pública, pode ser, e de fato está sendo utilizado em muitos casos para o monitoramento e controle da população, de forma ultrajante para alguns usos, tudo feito sem quase nenhuma participação dos legisladores que pouco entendem ou acompanham o uso indiscriminado dessas novas tecnologias.

A regulação se torna requisito mínimo para o emprego dela, pois a tecnologia só deve avançar, inclusive com o registro das pessoas aliado ao banco de dados que os entes públicos já possuem, e com os padrões e estado de espírito identificado pelos traços faciais na medida que esse banco de imagens e a inteligência dele evoluem. Como vamos parar de usá-la para desbloquear nossos dispositivos, ou imaginar que a China vai pensar em abandonar seu uso quase onipresente dele é simplesmente absurdo. Os Estados sempre terão justificativas para ampliar seu uso, e em um futuro de políticas sensíveis a proteção das pessoas é fundamental regrar a captura e a guarda dessas imagens.

Cidades como São Francisco, e Somerville nos Estados Unidos, já produziram leis vetando o uso do reconhecimento facial para os departamentos de polícia e outras agências, uma corrente cada vez mais forte até antes da pandemia.

Logo, a pandemia, por razões de Direito de Saúde e como controle e monitoramento serviu de pano de fundo para volta de programas de reconhecimento facial, notadamente na China, onde nunca se precisa de muitas justificativas para invadir a privacidade dos seus indivíduos, as seja por motivos de saúde ou de divergências políticas nos movimentos pró – Hong Kong.

É óbvio que esses programas são importantes para a segurança de todos, mas é fundamental regrar e acompanhar seu uso para se evitar exageros, ou figuras que no Direito penal chamávamos de tipo Lambrosiano, e assim os algoritmos constroem perfis criminosos com base no histórico, o que representa exclusivamente preconceito. Nessas horas é sempre bom lembrar da frase de Benjamin Franklin, que “aqueles que desistiram da liberdade essencial para comprar alguma segurança temporária não merecem liberdade ou segurança”.

Não resta dúvida de que a China encontrou no reconhecimento facial uma tecnologia que se amolda muito bem aos seus interesses, e continuará a desenvolvê-la, não importa o que a IBM ou o Ocidente digam. Se o Ocidente se recusar a desenvolvê-lo, ele simplesmente vai acabar tendo que adquiri-lo da China, e aí estaremos de mais um ingrediente dessa guerra comercial.

A morte de George Floyd, asfixiado por um policial branco, causou preocupações de que a tecnologia possa ser utilizada injustamente contra manifestantes, e logo a decisão dessas grandes empresas é o desfecho de uma batalha de dois anos entre a Amazon e defensores de liberdades civis, que justificadamente teme por prisões injustas.

É bom lembrar que algumas pesquisas já mostraram falhas no Rekognition, serviço de reconhecimento facial da empresa da Amazon. Para mostrar as falhas em 2018, um estudo da União Americana de Liberdades Civis (ACLU) identificou 28 congressistas americanos como procurados pela polícia do país, o que nos leva a imaginar quantos seriam os congressistas brasileiros identificados se o mesmo estudo fosse feito aqui no Brasil.

Por hora os softwares de reconhecimento fácil pouco representam dentro da receita dessas plataformas digitais, mas logo com a ampliação do seu uso, esses valores vão aumentar e logo com o aumento da receita deve vir a pressão para o seu uso por governos, suas polícias e agências de segurança. Esperamos que o regramento evolua na proporcionalidade dessas ferramentas, pois a cidadania digital se constrói com avanços que servem ao bem comum e não aos interesses do governante de plantão.

Deixe um comentário

O seu endereço de e-mail não será publicado.