INTELIGÊNCIA ARTIFICIAL E DESAFIO REGULATÓRIO

Nesse momento vivemos um divisor de águas na regulação brasileira da inteligência artificial, e já ultrapassamos os limites divisionais entre os românticos que acreditam que não precisa de regulação e os que tudo entendem que precisa ser regulado, o que já antecipamos que ao nosso ver é possível buscar um meio termo para o primeiro momento, e que só essa primeira experiência de regulação é que pode servir de ponto de partida para o que está por vir, seja nos elementos hipotéticos que são novos de serem ainda pensados, ou na total ausência de experiência na regulação dessa matéria.

Vejamos alguns exemplos bem práticos, considerando o que já se pratica no mundo: Tente imaginar se as escolas começarem a utilizar a inteligência artificial para registro das emoções dos nossos filhos em sala de aula?

Já pensou o registro de rostos na multidão que indicam um quadro depressivo? Já pensou uma pesquisa de opinião pública realizadas através do reconhecimento facial da felicidade?

Em 2020, estudantes da True Light College, uma escola secundária de garotas de Hong Kong, assistiram às aulas de casa. No entanto, ao contrário da maioria das crianças do mundo forçadas pela pandemia a assistir às aulas online, os alunos da True Light estavam sendo observados, nesse grande laboratório que se transformou a pandemia.

Um olhar constante analisou a expressão facial das meninas através das câmeras de seus computadores. O visual pertence a um software chamado 4 Little Trees, um programa de inteligência artificial (IA) que afirma ser capaz de ler as emoções dos alunos enquanto aprendem. O objetivo é ajudar os professores a personalizar e tornar o ensino a distância mais interativo, para que eles possam responder às reações dos alunos em tempo real. O algoritmo 4 Little Trees mede os micromovimentos dos músculos faciais e tenta identificar emoções como alegria, tristeza, raiva, surpresa ou medo. A empresa garante que os algoritmos geram relatórios sobre o estado emocional de cada aluno, podendo também avaliar sua motivação e atenção. Eles também alertam os alunos para prestarem atenção novamente quando estiverem distraídos.

Imagine que o mesmo poderia ser utilizado para identificar interesse dos alunos e ou desaprovação dos mesmos as questões e formas como elas são colocadas pelos professores? Imagina a escola remunerando esses professores (apenas como variável) pelo grau de empatia desenvolvido com os alunos?

No caso do programa utilizado na experiência relatada, ele lê corretamente os sentimentos das crianças em aproximadamente 85% dos casos.

Só em Hong Kong, 83 escolas já usam o software, chamado de Pequena árvores, utiliza um dos novos algoritmos que, segundo seus criadores, podem reconhecer emoções humanas e estados mentais, como cansaço, estresse e ansiedade através de uma análise de expressão facial, microgestos, movimento ocular e tom de voz. Imagina os intervalos de aula e ou mudança de atividade sendo registradas e cronometradas de acordo com o aumento de cansaço dos alunos que indica um menor aproveitamento da aula?

A tecnologia utilizada nada mais é do que uma evolução dos sistemas de reconhecimento facial, mas muito mais invasiva, já que, supostamente, não só entende como a pessoa se sente em um dado momento, mas pode decodificar suas intenções e prever sua personalidade, com base em expressões fugazes.

Agora imagina a extensão desse programa para os demais ambientes, como trabalho e ou espaços públicos?

Evidente que considerando a importância capital da Inteligência Artificial estamos engatinhando no que pode ser feito e nos desafios regulatórios propostos por esses avanços tecnológicos.

Para se ter uma ideia da importância dessa discussão aprofundada, e dos passos firmes na política de Estado para incorporação, regramento e absorção escalonada das mudanças provocadas pelas novas tecnologias (5G, Aprendizado de Máquina, Internet da Coisas e Inteligência Artificial), em setembro de 2018, o McKinsey Global Institute publicou um estudo abrangente sobre o impacto da inteligência artificial na economia e nas organizações.

Entre as principais conclusões, apontou que a inteligência artificial agregará cerca de US$ 13 trilhões (ou cerca de 15%) ao PIB mundial até 2030, trazendo parte do tão aguardado aumento de produtividade mundial, estagnada há anos.

Ao mesmo tempo, o estudo mostrou que essa agregação de valor será bastante desigual entre países, entre setores e até entre empresas de um mesmo setor, uma resultante do impacto que a velocidade de adoção da inteligência artificial tem em sua geração de valor. Lembro que a adoção de tecnologia de forma transversal significa aplicar a inteligência artificial em efetivamente todas as unidades de negócios, áreas, departamentos e setores para de fato conseguir extrair os benefícios de sua incrível capacidade de automação e otimização de pequenas tarefas, que, quando concatenadas, fazem a diferença e efetivamente criam vantagem competitiva. Logo nesse caso o desafio regulatório nasce na necessidade da construção de incentivos e de políticas concorrenciais entre esses atores.

Lembro que o mesmo estudo que citamos, indicou que, os followers, as empresas que mergulharem tardiamente na adoção da tecnologia, experimentarão um período de desencaixe levemente mais longo do que os front-runners (primeiros da fila na adoção da I.A.), terão benefícios drasticamente menores, logo tempo e força(direção) são os principais fatores nessa transformação que vivenciamos em nossa história.  E logo o que acontece se pela ingenuidade de muitos deixarmos o mercado ditar a regulamentação?

Neste momento, mais de 85% das empresas chinesas são atores ativos no campo das aplicações de inteligência artificial em seu campo de atuação, em comparação com 51% das empresas norte-americanas, que é justamente o segundo país no ranking mundial, e logo qual o papel do Direito na elaboração de políticas que nos permitam competir?

De fato a regulação é necessária para minimizar riscos associados à tecnologia e permitir que a sociedade possa usufruir de seus benefícios com total segurança e privacidade.

Um recente artigo, na revista Exame, Sylvio Sobreira Vieira, destacou a importância de que tenhamos um marco regulatório eficiente e moderno, como os principais países do mundo.

Os 21/2020, 5051/2019 e 872/2021 estão hoje em harmonia na interpretação de direito, deveres e fundamentos: todos mesmo que com emenda, bem alinhados com a Lei 13.709/2018, que garante a proteção de dados pessoais.

Porém, como destaca Sylvio, cinco acréscimos sobre ética e segurança são de total relevância: diversidade para todos os usuários; responsabilidade sobre as ações executadas; modelo de recompensa para que a IA possa aprender com seus erros e não assumir total independência; igualdade respeitando todos os usuários, independentemente da diversidade socioeconômica; e existência de um ecossistema de liberdade para a IA criar modelos e não somente substituir atividades contínuas.

Para o autor citado devem ser definidos de forma clara, as etapas de segurança e privacidade da IA (Security and Privacy by Design) contra ataques cibernéticos.  Devido à capacidade da IA sobre o machine learning é necessário criar fases de verificação e validação para que os agentes de desenvolvimento não coloquem o ego sobre a IA, pois o ideal é que ela aprenda e se desenvolva, sem nenhuma linha de ego humano envolvida.

Os desafios para definir o marco regulatório são grandes, principalmente pela complexidade de fatores e alcance de aplicação, que tornam a questão ainda mais impactante. Contudo, é fundamental que os agentes de desenvolvimento demonstrem práticas de governança sobre seus ambientes, tecnologias e pessoas envolvidas no ciclo de vida de uma IA estabeleçam um canal obrigatório de dúvidas e respostas aos usuários, além de definir a utilização de serviços críticos e incluir a revisão humana para prevenção de erros fatais ou que coloquem em risco os direitos fundamentais dos usuários.

Também observo ser muito importante a determinação de periodicidade obrigatória (seis ou doze meses) para treinamento, desenvolvimento e conscientização a todos os agentes e usuários envolvidos nos ciclos de vida da IA.

As audiências públicas promovidas pela Comissão presidida pelo ministro do STJ aconteceram no final de abril, e o prazo para o envio das contribuições externas ao Senado foi até 10 de junho. O colegiado tem até o início de agosto para elaborar um anteprojeto de marco regulatório, sendo que o documento será apresentado ao senador responsável pela relatoria de propostas sobre o tema para o devido andamento.

Estamos caminhando bem, considerando a magnitude do desafio.

(Artigo publicado no site www.jus.com.br, em 06 de Julho de 2022).

Deixe um comentário

O seu endereço de e-mail não será publicado.