MENTIRAS, VERDADES E A INTELIGÊNCIA ARTIFICIAL

Verdades e mentiras, ou para alguns a visão distorcida da vida e dos fatos nunca esteve tão em voga quanto nos tempos atuais em que as redes sociais alimentam e dão espaço a toda loucura possível de ser criada pela mente humana e reproduzida pelos bots.

Mas a mentira essa criação do homem pode ser também construída pela máquina?

Dostoiévski escreveu: “A mentira é o único privilégio do homem sobre todos os outros animais”. Isso quer dizer que nós humanos, mesmo que não façamos isso, temos capacidade de fazer e atuar assim na vida, mas uma máquina só fala a verdade, e se a mentira sair como resultado do processamento de um sistema, há um problema com seu código de programação que precisa ser revisto, mas se uma máquina mente por objeto, então na verdade ela foi programada para isso. Inclusive as condições que elegem fatores para elaborar a resposta de uma máquina também são de responsabilidade de seus desenvolvedores.”

Outro dia falando sobre a evolução da inteligência artificial, um aluno me perguntou: Se a inteligência artificial evolui com a captura dos nossos dados, em breve ela vai poder até identificar os nossos desejos?

A resposta a essa pergunta, precisa ser contextualizada, e é claro que se eu já responder agora nessas primeiras linhas o leitor pode desistir de ler o artigo por inteiro, então vejamos.

Lembro que no seu trabalho a “seleção natural” que Charles Darwin explicou a origem das espécies vivas que existem na natureza por meio da seguinte lógica: “Se existem variações nas características dos indivíduos de uma espécie; e se, ao longo do tempo, apenas indivíduos com certas características geram crias capazes de gerar novas crias; então, o mundo se encherá de cópias desses indivíduos, e os demais desaparecerão”. Ou, dito de forma genérica: se existem cópias imperfeitas de alguma coisa, e se apenas algumas dessas cópias são selecionadas (de acordo com algum critério, que no caso é a capacidade de gerar crias) apenas as cópias selecionadas deixarão crias. De outra maneira o que permanece é o que é competente em permanecer, e esse “permanecer” não é nada trivial, para que alguma coisa permaneça é preciso que haja uma “inteligência” capaz de separar continuamente sinal de ruído, sobrepujando a entropia, evitando assim que a coisa deteriore. Darwin identificou um processo que, uma vez instanciado, fica irresistível pois dadas certas condições, ele leva automaticamente ao aparecimento de um “algo” que fica estável no ambiente, ou seja, formará um padrão que não se dilui.

Ou seja, as espécies evoluem e isso é um requisito, pois é antes de mais nada uma mudança ao longo do tempo. Apesar de não sabermos de antemão o que será produzido, podemos garantir que alguma coisa será, porque seu padrão ficará estável. O que garante isso é o algoritmo em ação. Darwin estava interessado em espécies vivas, mas o “algo” que ganha estabilidade pode ser o que for: espécies de organismos, tecnologias, ideias, um “meme” qualquer, se o algoritmo estiver em ação, a evolução terá de ocorrer, como conclui Clemente da Nóbrega em sua obra sobre a transformação digital.

Logo podemos construir o pensamento de que a inteligência artificial ao conhecer nossos hábitos, ou de qualquer pessoa pode edificar um perfil probalístico e assim saber as vontades, desejos, saudades e até mesmo permitir que possamos conversar com entes queridos que já partiram, mas que por fragmentos dos seus registros digitais durante a vida permitiria reconstruir em 3D uma conversa com que já partiu.

Tente imaginar o que poderíamos falar com os entes queridos que já partira se tivéssemos essa chance?

Se esse fosse o nosso desejo, ter uma última conversa com o amor da nossa vida que já partiu, ou com o pai na busca de conselhos nos momentos mais difíceis?

Esse conjunto de dados que podem ser registrados por diversos meios e instrumentos permitiria essa conversa sim. Mas essa conversa seria uma verdade ou uma mentira? E se fosse uma mentira estaríamos diante de uma máquina programada para mentir?

Bom lembro que já em 2016 Eugenia Kuyda, uma especialista em tecnologia russa, que é uma das fundadoras da startup de inteligência artificial Replika, especializada no desenvolvimento de chatbots, tentou “reconstruir” seu amigo, o empresário Roman Mazurenko, que morreu em um atropelamento e fuga, da enorme história de conversas de mensagens instantâneas que teve com ele.

Anteriormente, um conhecido episódio de Black Mirror, “Beright back”,especulou sobre a possibilidade de criar um robô completo ao qual todos os dados que a pessoa que ele pretendia substituir haviam gerado e armazenado ao longo de sua vida foram incorporados.

Como bem destaca Enrique Dans, em recente artigo a ideia de um “fantasma digital”, de um avatar, de um ente querido nos coloca diante da possibilidade de sermos capazes de evocar algo que não podemos mais acessar naturalmente, e confronta, por um lado, nossa consciência da perda, com o interesse óbvio que temos em sua negação. Tal chatbot, capaz de recriar expressões, estilos de escrita, termos específicos ou mesmo gestos, pode, como no experimento de Kuyda, ter interesse na aceitação progressiva de uma perda que, em muitas ocasiões, não nos deu aviso, e pode ser levantada como um auxílio ao processo de luto, à necessidade de um encerramento gradual do vazio criado, graças a um avatar digital. A ideia é poder aproveitar as evidências que temos de uma existência digital que corre paralelamente à biológica e que, em muitos casos, captura uma parte da nossa relação com essa pessoa, e tenta usá-la para manter uma ilusão de continuidade. Mas em sendo ilusão seria sim uma relação baseada na mentira?

Logo tente imaginar os traços maternais gravados em uma baba robô digital?

O projeto patenteado pela Microsoft, busca sim, conceituar o que nos torna reconhecíveis, os traços que podem ser capturados por algoritmo e que, juntos, nos tornam característicos, para aplicá-los a qualquer tipo de chatbot que possa ser treinado, até mesmo pela pessoa que deveria representar. Definitivamente é algo com o qual vamos interagir: os avatares digitais de uma pessoa, estejam elas viva ou mortas.

Agora imagine isso, na afetividade dos lares, de pessoas solitárias, produzindo parceiros perfeitos, de acordo com seus sonhos, aspirações e desejos. Lembre a fonte de nossas redes sociais, com aplicativos de “namoros, como o Friendster. Nisso a engenharia do Facebook foi bem mais inteligente do que a do MySpace, que encorajava as pessoas a fazer contato mesmo que não se conhecessem, o Facebook aproveitava as relações sociais existentes na vida real. Comparado a seus predecessores, o Facebook era mais minimalista: a ênfase estava na informação, e não em gráficos extravagantes ou numa atmosfera cultural. “Somos um serviço público”, diria Zuckerberg mais tarde. O Facebook era mais parecido com uma companhia telefônica do que com uma discoteca; era uma plataforma neutra para a comunicação e a colaboração.

Para ampliar a compreensão dos nossos desejos, e conhecer os hábitos, lembrando a máxima da economia de atenção onde tempo gera interação, interação gera dados, que gera mais afinidade, que gera mais tempo, que gera mais dados e que permite maior monetização.

Por isso que foi a criação do Feed de Notícias, que levou o Facebook a um novo patamar. No Friendster e no MySpace, para descobrir o que nossos amigos estavam fazendo, tínhamos que visitar suas páginas. O algoritmo do Feed de Notícias recolheu todas essas atualizações contidas na gigantesca base de dados do Facebook e as colocou num só lugar, bem na nossa cara, no momento em que nos conectamos. De um dia para o outro, o Facebook deixou de ser uma rede de páginas conectadas e se tornou um jornal personalizado com notícias sobre (e criado por) nossos amigos, e foi esse “filtro invisível” nas palavras de Eli Parisier que fez dele um sucesso e que pode tornar em breve as redes sociais somadas (Facebook, Instagran e WhatsApp) a soma dos nossos desejos.

Imagine toda essa informação captada por assistentes pessoas em nossas casas?

O que está em jogo na série é o embate entre o livre arbítrio versus o determinismo. Um determinismo que pode estar construindo enormes mentiras.

De que maneira as máquinas podem ser dissimuladas?

Afinal se máquinas podem aprender com nossos desejos, certamente poderão apenas falar o que nos agrada.

E assim, continua: “E elas estão se tornando cada vez melhores na simulação do que nós somos ou no espelhamento do que nós somos em relação ao que somos capazes de aprender sobre o que somos”,

De um lado, a experiência da namorada/avatar(o) é de intimidade emocional e física. De outro, a neurociência pelo ângulo da inteligência artificial é algo um tanto distanciado, porque são máquinas e dados, que entregam o que queremos consumir, por terem aprendido os nossos desejos.

Caminhamos assim para relações assépticas de aceitação plena, onde as curtidas constroem nossa aceitação plena.

Bolhas de iguais que fazem do nosso mundo digital, um mundo perfeito onde a ausência de embate transforma pessoas e avatares dos seus desejos, como se a felicidade fosse apenas feita de aceitação e concordância.

Regrar a Inteligência Artificial é ofertar uma solução ética jurídica para esse universo entre o desejo e a contrariedade, entre o querer e o poder.

Não se trata apenas de do Direito aplicar suas regras entre humanos e máquinas, mas entre as fragilidades e as contradições de que se olha no espelho pensando muitas vezes ser a perfeição. Por isso viva a imperfeição humana que ultraja e enfrenta, onde não existe espaço para perfeição, mas sim para eterno aprendizado por sermos humanos.

Logo máquinas podem mentir?

Lembro que no filme Ex-Machina (2015), um jovem programador chamado Caleb Smith é selecionado para participar de um experimento de IA em que é confrontado com um androide chamado “Ava”, o filme é dirigido e escrito pelo cineasta Alex Garland. E ela (Ava) é um exímio sistema de inteligência artificial, mas não exatamente um androide confiável. A capacidade que mais chama atenção em Ava é a sua habilidade em mentir. Tanto é que a grande trama do filme é como ela engana o jovem Caleb com o propósito de fugir do laboratório onde estava presa.

Logo à medida que a inteligência artificial avança, cresce também a capacidade desses sistemas em reproduzir tendenciosamente vídeos, áudios, imagens e outras formas de mídia comumente usadas como evidências da verdade. Ou seja, a inteligência artificial também sabe mentir, e muito bem. Novos softwares que usam conceitos de IA tem gerado debates sobre como o discernimento da verdade será diferente nos próximos anos, afina arranjos probalísticos representam a maioria mas podem construir gigantescas mentiras para um aparcela da população.

O Teste de Turing, que diz que “um sistema que consiga estabelecer um diálogo com um ser humano de forma indistinguível (como se fosse outro ser humano), é um sistema que exibe comportamento verdadeiramente inteligente”, nos leva a conclusão que diálogos podem ser revestidos de mentiras, seja entre homens ou entre homens e máquinas, pois o teste não é isento de fraquezas e hoje já se conhecem vários pontos fracos em sua abordagem.

Sendo um bom exemplo de como sistemas inteligentes podem ser usados também de forma negativa. Isso obrigaria Dostoiévski: “Na realidade, as pessoas agem de tal modo que todas as mentiras que a razão humana diz e rediz a si própria são mais compreensíveis do que a verdade, e isso acontece no mundo inteiro. A verdade foi posta na mesa diante dos homens há centenas de anos, mas eles não se servem dela, e perseguem o inventado, porque o que eles consideram fantástico e utópico é justamente a verdade. (DOSTOIÉVSKI, 2016, p. 220).”

Segundo uma lenda do século XIX, a Verdade e a Mentira se encontram um dia.

A Mentira diz à Verdade: “Hoje é um dia maravilhoso!”

A Verdade olha para os céus e suspira, pois o dia era realmente lindo. Elas Passaram muito tempo juntas, chegando finalmente ao lado de um poço.

A mentira diz à verdade: “A água está muito boa, vamos tomar um banho juntas!”

A verdade, mais uma vez desconfiada, testa a água e descobre que realmente está muito gostosa. Elas se despiram e começaram a tomar banho.

De repente, a Mentira sai da água, veste as roupas da Verdade e foge.

A Verdade, furiosa, sai do poço e corre para encontrar a Mentira e pegar suas roupas de volta.

O mundo, vendo a verdade nua, desvia o olhar, com desprezo e raiva.

A pobre Verdade volta ao poço e desaparece para sempre, escondendo-se nela, sua vergonha.

Desde então, a Mentira viaja ao redor do mundo, vestida como a Verdade, satisfazendo as necessidades da sociedade, porque, em todo caso, o Mundo não nutre nenhum desejo de encontrar a Verdade nua.

Boa semana.

Deixe um comentário

O seu endereço de e-mail não será publicado.