Big Data + A.I. por um mundo mais injusto e desigual

A revolução das máquinas já começou. A Inteligência artificial já está presente em praticamente todas as indústrias, seja para melhorar o relacionamento com os clientes, para otimizar um processo de fabricação de peças, para selecionar candidatos, para analisar o crédito, para definir que notícias você está vendo, entre muitas outras coisas.

O avanço nas pesquisas tem possibilitado um crescimento exponencial no uso da análise de dados. Com processadores cada vez mais potentes e com uma quantidade de dados cada vez maior, as possibilidades de aplicações são infinitas.

Com certeza, o Big Data facilitou e continuará facilitando a nossa vida, mas toda vez que uma ferramenta poderosa como essa sai dos laboratórios para o mundo real precisamos, no mínimo, ficar atentos aos seus impactos.

No recém-traduzido livro “Algoritmos de Destruição em Massa” de Cathy O´Neil, podemos ver o poder oculto e nefasto do Big Data.

Como praticamente toda invenção, o uso de algoritmos para melhorar a vida das pessoas tem uma boa intenção. Mas o seu uso, em alguns casos, acaba sendo distorcido quando os objetivos passam a ser aumentar o lucro das empresas.

Um exemplo clássico é a análise de crédito. Para criar uma “inteligência” para conceder crédito, você analisa todo o histórico de bons e maus pagadores. Então busca não apenar pelos dados de pagamento, mas nos dados pessoais, seja de cadastros ou de redes sociais, do círculo de amizades, dos likes que as pessoas dão.

Analisa qualquer dado sobre os pagadores para chegar então em uma nota de crédito para cada pessoa que pede um empréstimo. Parece justo e inteligente. Até o ponto que não é.

Se você for analisar friamente os dados, como as máquinas fazem, você vai perceber que quanto menor a renda da pessoa, mais dificuldades ela terá para pagar a dívida, visto que a margem que sobra da renda é pequena. O que não significa que ela não irá pagar.

Além disso, o círculo de amizades tende a ter pessoas com dificuldades financeiras também. Tudo isso leva a uma nota de crédito ruim e, consequentemente, um maior preço para a pessoa pegar um empréstimo.

Resumindo, o pobre paga mais pelo crédito e o rico pago menos. O que só tende a aumentar o gap entre as faixas.

Outro exemplo crítico é no consumo de notícias, principalmente via redes sociais. Já é de conhecimento que as últimas eleições dos presidentes americanos, assim como a votação do Brexit foram decididas pelo Big Data.

O uso de algoritmos para direcionar notícias diferentes para determinados públicos diferentes foi uma das maiores armas políticas já inventadas. Talvez por isso temos um mundo cada vez mais polarizado.

A pessoa da esquerda só vê notícias que reforçam o lado bom da esquerda e o lado negativo da direita. A pessoa da direita só vê notícias que reforçam o lado bom da direita e o lado negativo da esquerda. E os indecisos olham apenas o que as pessoas de poderes querem que elas vejam para decidirem para um lado ou para o outro, dependendo do interesse.

Além desses casos, o livro cita vários outros que impactam diretamente a nossa vida. A grande lição não é que o Big Data é um vilão. A máquina é um conjunto de códigos feitos por uma lógica humana (ainda). As máquinas estão apenas reproduzindo premissas preconceituosas e viciadas que precisam ser pensadas e discutidas antes de serem "automatizadas".

Por isso, é importante um cérebro humano que seja responsável por refletir e tomar a decisão final sobre o resultado da máquina e não apenas aceitar o que a máquina diz (o que é muito comum hoje em dia).

Essa dificuldade só tende a aumentar porque os programas são cada vez mais uma caixa preta que ninguém consegue explicar e com a inteligência artificial começarão a se alterar com o tempo.

Um grande risco que estamos correndo a partir do momento que acreditamos que a decisão da máquina é mais inteligente do que a decisão humana.

Questione-se! Reflita! Um mundo mais justo agradece!

---

Post Relacionados

A tecnologia está destruindo a sua memória

Incentivos: Não crie cobras e pais atrasados

---

Livros para os questionadores

Ler mais livros é compartilhar conhecimento. Se você curtiu, compartilhe a página com os seus amigos e siga-nos nas redes sociais (Instagram e YouTube)