INTELIGÊNCIA ARTIFICIAL E DESIGUALDADE SOCIAL

Ninguém duvida dos benefícios do emprego da Inteligência Artificial em diversos campos como a medicina e a engenharia, mas seu uso pleno sem o mínimo de regramento pode e vem causando muitas polêmicas, para dizer o mínimo.

Em decisão recente, um tribunal nos Países Baixos ordenou que o governo pare de usar algoritmos de inteligência artificial para tentar detectar fraudes em subsídios condicionais que o governo dá a certos cidadãos.

Conhecido como SYRI (Sistema de Indicação de Risco) o sistema do governo holandês é um modelo de aprendizagem de máquina desenvolvido na última década pelo Ministério dos Assuntos Sociais e Emprego, que procura prever a probabilidade de um indivíduo cometer evasão fiscal, como receber subsídios que não correspondem a eles, ou que viola as leis trabalhistas, por exemplo, pela realização de empregos de vários tipos no contexto da economia submersa ao cobrar o benefício de desemprego, pense em seu uso no Brasil, na recente distribuição de auxílio durante o período de nossa pandemia.

Esse tipo de sistema tem se popularizado pelo mundo em nações que procuram aplicar o chamado modelo de estado de bem-estar social.

Recentemente uma investigação do Guardian em outubro passado identificou, uma despesa de mais de dez milhões de dólares por ano no Reino Unido no desenvolvimento de algoritmos para este tipo de controle de fraude. Tais algoritmos partem da consolidação de dados de diferentes fontes, como emprego, nível de endividamento, pagamento de impostos, nível de escolaridade, habitação, entre ouros dados que são analisados para tentar identificar quais indivíduos podem estar em maior risco de incorrer em fraudes estatais, e tendem a aplicar principalmente em áreas de baixa renda, que recebem a maioria desses tipos de subsídios.

Inúmeras associações de defesa da privacidade, juntamente com o maior sindicato dos Países Baixos, denunciou o governo, argumentando que os habitantes de certos bairros estavam sendo submetidos a espionagem digital sistemática sem qualquer suspeita concreta de irregularidades individuais, algo que, ao abordar os cidadãos mais pobres desproporcionalmente especificamente, poderia constituir uma violação dos direitos humanos.

Ou seja até que ponto o monitoramento representa invasão de privacidade? Logo nos termos da decisão do tribunal, que tem sido tido como “uma vitória  para os direitos dos pobres” por associações como a Human Rights Watch, essa legislação não tem características mais do que suficientes para ser considerada como invasão de privacidade, e seu uso (do algoritmo) não oferta a transparência suficiente para se identificar se estamos ou não diante de características do algoritmo que leve a discriminação, ao se basear na condição socioeconômica e na referência migratória.

A decisão do tribunal segue adiante identificando que oOs subsídios condicionais são um dos argumentos mais utilizados para a defesa de sistemas básicos de renda.

Para entender como funciona, o benefício se encerra se o beneficiário encontrar outro emprego que lhe pague um valor semelhante a esse subsídio, ele terá um desincentivo ao aceitá-lo, ou se o fizer, ele será submetido, quando contabilizado a perda desse subsídio, à pressão fiscal que pode ser, em alguns casos, maior que 50%, e que não faz sentido aplicar a uma pessoa em estado de necessidade. A aplicação desses regimes incentiva comportamentos como a recusa em aceitar o emprego durante a duração do subsídio correspondente ou uma tentativa de trabalhar na economia submersa, além de qualquer contabilidade, dessa maneira poucos são os empregos que são interessante, visto que a carga fiscal fora do benefício torna o salário desinteressante, uma situação bastante similar aos trabalhadores brasileiros que ficam na informalidade devido aos elevados encargos sociais.

Mas é evidente que as fraudes devem ser combatidas, porém para muitas nações esses comportamentos decorrentes implicam na necessidade de estabelecer sistemas de vigilância para que seus cidadãos tentem evitar fraudes, algo que, com a disponibilidade de tecnologias analíticas cada vez mais poderosas, pode facilmente nos levar do estado de bem-estar social ao estado de vigilância, logo é preciso estabelecer um limite, racional e não discriminatório.

Aparentemente o que se propões como solução implica em dar a cada cidadão o montante necessário para que ele não esteja abaixo do nível de pobreza, mas na forma de um pagamento incondicional, que eles não devem desistir se encontrarem um emprego ou outra fonte de renda. Esse pagamento incondicional seria reembolsado na forma de impostos por aqueles cidadãos que não precisam porque excedem um certo nível de renda, mas poderiam, em muitos casos, evitar o incentivo para recorrer à economia submersa ou fraude, e assim aliviar o estado dessa necessidade de vigilância permanente.

O que se percebe porém é que o custo de se controlar e combater fraudes em sistemas baseados em subsídios sociais é por demais elevado, pois entram ainda nessa conta investigadores, promotores, defensores públicos, juízes sujeitos ou oficiais de condicional, até custos administrativos para programas de vigilância de desvio de assistência social, custos de prisão e custos de localização de crianças sob custódia se o único pai tiver que cumprir pena por tal fraude, segundo a reportagem citada.

Para se ter uma ideia, calcula-se que, em 2008, a Califórnia gastou três vezes mais em sistemas de vigilância de fraudes previdenciárias do que a quantidade de pagamento que foi fraudada, o que da a medida de que o negócio de vigilância do uso do benefício parece estar sendo interessante para muitos grupos e empresas.

Um artigo interessante publicado no Fórum Econômico Mundial, aponta que a Inteligência Artificial estaria pronta para interferir na ordem mundial estabelecida perpetuando distorções. Um relatório da Tortoise Intelligence no qual, entre muitas outras conclusões, a abordagem centralizada da China para a pesquisa de inteligência artificial parece estar gerando, em termos de produtividade, uma eficiência muito maior do que seu concorrente tradicional, os Estados Unidos, que opta por iniciativas de pesquisa espalhadas entre muitos concorrentes privados ligados a algumas iniciativas públicas ou públicas impulsionadas pelo dinheiro.

Ainda que até 2020 os Estados Unidos superem qualquer outro país do mundo em volume total de investimentos sobre o tema, mas uma parte muito importante desse investimento faz parte de múltiplas iniciativas privadas e independentes que não fazem parte de qualquer tipo de estratégia consolidada ou expressa como tal, ou seja é investimento sem controle, disperso e sem política centralizada como na China.

Nesse momento a China é a segunda, porém as políticas industriais que seu governo está conduzindo de forma coordenada e centralizada comprometem um nível de gastos com inteligência artificial na década de hoje que aparentemente eclipsará o dos Estados Unidos. De acordo com Tortoise, o valor dos planos de gastos com inteligência artificial da China é uma vez e meio maior do que todos os outros países do mundo juntos, e já gasta mais do que os Estados Unidos em pesquisas básicas e aplicadas em áreas relacionadas à inteligência artificial, e seu emprego na educação como salientei em recente artigo sobre “Inteligência Artificial na Educação”.

Para o Ceo do Google, a inteligência artificial, exercerá um impacto potencial sobre a humanidade que compara esse impacto ao da energia elétrica ou do fogo. Um  do fogo”, e ao qual um recente relatório da Brookings atribuiu um papel fundamental na definição da liderança do mundo entre os próximos anos 2030 e 2100, é, sem dúvida, um dos objetos de desejo dos governos ao redor do mundo, ou pelo menos aqueles que têm a visibilidade necessária e a perspectiva de entender essas questões.

Logo, construir ecossistemas que possibilitem e promover a pesquisa em inteligência artificial e suas aplicações é, em um ambiente que condicionará a competitividade de muitos ou todos os setores da economia, fundamental para a redefinição do papel de diferentes países e seu peso na geopolítica global.

Os recentes investimentos de alguns países, como os Emirados Árabes Unidos, que formulam estratégias nacionais de inteligência artificial ou até mesmo nomeiam ministros especificamente dedicados ao tema, para iniciativas mais ou menos coordenadas que incluem ações sobre educação, auxílio à pesquisa ou sobre a disseminação e popularização dessa tecnologia, em alguns casos alcançando até mesmo cursos gratuitos de alfabetização disponíveis para toda a população, estão estabelecendo novas diferenças e apontam na consolidação de novos agentes dessa mudança.

Porém a possibilidade de máquinas elaborando as regras de automação ou ação a partir dos dados previamente rotulados, em vez de proceder como tradicionalmente temos feito na programação clássica, tentando prever todos os casos possíveis com condicionantes e loops, dá origem a uma revolução muito importante na forma como abordamos o uso da tecnologia, o que permite uma versatilidade e flexibilidade muito maiores nas abordagens, um conjunto probalístico ainda maior.

A disseminação do uso da inteligência artificial estará sujeita à aceleração progressiva que caracterizou os ciclos de adoção nos últimos anos, e resultará em uma série de líderes e inúmeros retardatários, que levarão mais tempo para aproveitar essas vantagens em seus sistemas de produção e cujas economias permanecerão sujeitas mais tempo às regras da velha economia, com uma crescente lacuna de produtividade. Métricas antigas, como a criação de empregos, não terão mais uma aplicação relevante à medida que as máquinas se tornam capazes de substituir cada vez mais vantajosamente o trabalho humano por maior produtividade e menos erros, e isso proporcionará aos países que fazem mais progressos nesta linha a oportunidade de testar melhor novos esquemas sociais decorrentes dessa evidência. Estamos falando de uma tecnologia cujas aplicações praticamente redefinirão as sociedades humanas e, acima de tudo, sua relação com o trabalho como a entendemos.

O relatório que inclui um Índice Global de IA que classifica diferentes países com base em critérios aplicados à inteligência artificial, como talento, infraestrutura, ambientes operacionais, pesquisa, desenvolvimento e estratégias governamentais e comerciais. Papéis para os vários atores no cenário geopolítico global das próximas décadas estão agora sendo entregues, e como alguns tentam implementar suas estratégias tradicionais, muitos outros permanecem quase inteiramente fora do assunto, sem entender o que estão interpretando. Qualquer um que não vê ou fica pensando que o impacto da inteligência artificial é algum tipo de hipérbole, que está sendo preparado.

Em um momento em que o aumento da produtividade das máquinas injeta níveis cada vez mais altos de riqueza na economia como um todo, tentar evoluir para sociedades que impedem seus cidadãos de cair abaixo do nível de pobreza pode parecer um objetivo justo e razoável. Pensar que a alternativa é tão simples quanto tributar máquinas é profundamente simplista, porque é óbvio que uma máquina não é simplesmente “um robô que substitui uma pessoa”, mas em muitos casos é, por exemplo, um programa de software, e que quando essa máquina ou programa melhora através de uma atualização e se torna mais poderoso, o cálculo de quantos supostos trabalhos humanos ele corresponde seria um verdadeiro desafio, ou diretamente seria absurdo.

Críticos de sistemas básicos de renda incondicional, no entanto, argumentam que eles poderiam fornecer um incentivo para não trabalhar, uma “fábrica vaga”, ou mesmo um ímã para a imigração irregular, que poderia buscar acesso maciço a países onde eles poderiam aspirar a esses benefícios, e que poderiam levar a esquemas de subemprego para tais imigrantes irregulares sem acesso à renda básica, como bem destaca Enrique Dans em recente artigo.

A discussão, que também tende a ser contaminada por argumentos políticos geralmente simplistas, é, naturalmente, complexa. Mas sua aparente complexidade não deve significar que tais esquemas não foram submetidos a um estudo detalhado, especialmente se a alternativa é prolongar o funcionamento de sistemas de subsídios condicionais que, além de não funcionarem particularmente bem, acabam forçando os Estados a aplicar tecnologias analíticas cada vez mais poderosas para monitorar e monitorar seus cidadãos, a fim de impedi-los de cometer fraudes.

O uso da Inteligência Artificial é definitivamente complexo e pode sim perpetuar e ampliar diferenças sociais.

Querer simplificar seu uso, e ou controle é comum aos ignorantes que não tem a dimensão do que estamos diante, onde a lógica da competição e do domínio de mercado tendem a acelerar essas distorções. Um mundo com maquinas cada vez mais inteligentes em sociedades cada dia mais desiguais.

Deixe um comentário

O seu endereço de e-mail não será publicado.