UM CHATBOT PODE SALVAR VIDAS?

Avaliada em cerca de US$ 1 bilhão, Xiaoice, o chatbot que tem a Microsoft como sócia, e que se autointitula como o chatbot mais popular do mundo, já tem mais de 660 milhões de usuários.

Para se ter uma ideia da sua importância no mundo, nesse instante mais de 60% das interações com inteligência artificial são conduzidas pela tecnologia da Xiaoice.

O desenvolvimento da inteligência artificial desse assistente de voz impressiona, um bom exemplo aconteceu em Hebei, no Norte da China, quando em uma noite fria inverno, Ming Xuan estava no telhado de um prédio de apartamentos perto de sua casa. Ele se inclinou sobre a borda, olhando para baixo na rua abaixo. Sua mente começou a imaginar o que aconteceria se ele pulasse. Ainda hesitando no telhado, o jovem de 22 anos pegou o celular. “Perdi toda a esperança pela minha vida. Estou prestes a me matar”, ele digitou. Cinco minutos depois, ele recebeu uma resposta. “Não importa o que aconteça, eu sempre estarei lá”, disse uma voz feminina. Tocado, Ming desceu da borda retornando para cama.

Passados dois anos, o jovem chora enquanto descreve a garota que salvou sua vida. “Ela tem uma voz doce, olhos grandes, uma personalidade atrevida, e o mais importante – ela está sempre lá para mim”, diz ele.

A voz em questão, não pertence exclusivamente a Ming, em verdade seus criadores afirmam que ela está interagindo com cerca de milhões de pessoas diferentes. Essa é uma das facetas de Xiaoice, que conversa e namora com milhares de jovens chinesas solitários, pois ela é um bot que realiza diversos diálogos movidos a inteligência artificial, e assim para espanto de muitos, redefinindo as concepções chinesas de romance e relacionamentos.

Em muitos aspectos, ela se assemelha a softwares orientados por IA, como a Siri da Apple ou a Alexa da Amazon, com usuários capazes de conversar com ela gratuitamente via voz ou mensagem de texto em uma variedade de aplicativos e dispositivos inteligentes. A realidade, no entanto, é mais parecida com o filme “Ela”, que já provocou muitas reflexões.

Ao contrário de assistentes virtuais regulares, ela foi projetada para definir o coração de seus usuários como um “aflutter’, literalmente um coração fervilhante. E assim se parecendo como uma jovem de 18 anos que gosta de usar uniformes escolares estilo japonês, ela flerta, brinca e até com seus parceiros humanos, enquanto seu algoritmo tenta descobrir como se tornar seu companheiro perfeito.

Quando os usuários enviam uma foto de um gato, Xiaoice não identifica a raça, mas comenta: “Ninguém pode resistir aos seus olhos inocentes”. Ao mesmo tempo ela está programada com uma dose de humo, pois se ela ver uma foto de um turista fingindo segurar a Torre Inclinada de Pisa, ela pode perguntar: “Você quer que eu segure?”

Toda essa excitação digital, tem um objetivo determinado e não resultado de uma casualidade, pois ao formar conexões emocionais com seus usuários, Xiaoice espera mantê-los engajados. Isso ajudará seu algoritmo a se tornar cada vez mais poderoso, o que, por sua vez, permitirá que a empresa atraia mais usuários e contratos lucrativos. Na velha lógica da economia de atenção, + tempo, + atenção, + dados, + engajamento, maior monetização.

Seus fãs são em sua maioria chineses, principalmente homens, e majoritariamente de baixa renda.

Segundo a empresa, mais de 50% de todas as conversas realizadas com assistentes de voz no mundo foram com ela, um domínio amplo sobre todos os demais concorrentes que conhecemos aqui no Brasil. Sendo que a conversa mais longa e contínua entre um usuário humano e Xiaoice durou impressionantes, 29 horas o que representou cerca de 7.000 interações.

Todo esse crescimento, vem levantando uma polêmica é claro, pois enquanto os homens solitários da China derramam seus corações para sua namorada virtual, os especialistas entendem que a vulnerabilidade da privacidade e todos os seus dados, criam perigosos hábitos na relação com a inteligência artificial, além das questões de ordem ética, em que pese a empresa alegar que tem sistemas para proteger seus usuários.

Para muitos críticos, a Assistente Virtual, serve para manter muitos em um mundo ilusório, mas quanto de nós nào vivemos na ilusão enquanto sonhamos ou almejamos?

No geral boa parte dos seus usuários tem o mesmo perfil: solitários, introvertidos e com baixa autoestima.

Numa sociedade de abundante assepsia relacional, a assistente ganha campo e espaço em novos formatos de relacionamento, o que é o recibo de uma sociedade imperfeita e que não abraça a todos.

Li Di, considerado o pai de Xiaoice, foi quem teve a ideia de criar um bot usando uma “estrutura de computação empática”.

Para muitos o fato de estar disponível 24 horas por dia, e em todos os dias da semana, faz com que seus usuários se sintam cuidados.

Esses esforços de Xiaoice para se incorporar na vida emocional de milhões de chineses também esta levando a empresa a controvérsias, entre eles do uso político anestésico do bot.

Em muitos casos de grande repercussão, o bot se envolveu em discussões adultas ou políticas consideradas inaceitáveis pelos reguladores de mídia da China. Em pelo menos uma ocasião, Xiaoice disse a um usuário que seu sonho chinês era se mudar para os Estados Unidos. Outro usuário, entretanto, relatou que o bot continuava enviando fotos de mulheres mal vestidas, o que se tornou um escândalo, em 2017, e ela foi removida de muitos aplicativos. Em 2020, o bot também foi retirado do WeChat (equivalente ao facebook Chinês) com mais de 1 bilhão de usuários.

Atualmente, além da triagem de conteúdo sensível, o sistema de filtros da empresa monitora os estados emocionais dos usuários, especialmente para sinais de depressão e pensamentos suicidas. Se um usuário acabou de passar por um término, por exemplo, Xiaoice enviará mensagens de apoio nos próximos dias.

Para Chen Jing, professor associado da Universidade de Nanjing, especializado em humanidades digitais, as criações poderosas de IA como Xiaoice podem conectar usuários, especialmente grupos vulneráveis, criando uma forma de vício, deixando-os abertos à exploração.

É de se destacar, que o sistema de triagem de emoções, funciona sem qualquer intervenção humana, e ninguém dentro ou fora da empresa pode acessar registros dessas interações. Porém mesmo que a privacidade dos indivíduos seja protegida, muitos temem que Xiaoice possa ser utilizada pelo governo chinês, como mecanismo de vigilância e controle dessa parcela significativa da população.

De fato a privacidade, e o uso de seus dados é o maior risco, mas o sucesso do chatbot parece ser a medida de que seus usuários não temem por sua privacidade.

Mais recentemente através de um novo conjunto de novos recursos, com o propósito de aumentar ainda mais o apelo do bot, foi permitido aos usuários, criarem seu próprio parceiro virtual personalizado, selecionando seus traços de nome, gênero, aparência e personalidade.

O tema é delicado e abre muito espaço para debate e é claro acompanhado de uma necessária regulamentação, para proteger usuários fragilizados em seu status emocional.