Por trás dos feeds: como a IA molda nossas percepções

A Inteligência Artificial pode ter benefícios em diversas áreas humanas como sociedade, saúde, segurança, educação e mercado de trabalho. Entretanto, a IA também pode apresentar rastros de preconceito com base nos dados usados para seu treinamento, podendo tomar decisões baseadas em preconceitos antigos como racismo e machismo. Por exemplo, se um sistema de recrutamento de uma empresa for treinado com dados enviesados, pode privilegiar a contratação de homens brancos em detrimento de mulheres e pessoas negras.

A preocupação com o uso da inteligência artificial está se tornando parte do nosso cotidiano, tanto pelo uso para falsificar documentos e aplicar golpes, quanto pelo uso antiético em trabalhos acadêmicos, onde o usuário pode deixar de aprender o conteúdo pelo uso inadequado da ferramenta.

Muitos sistemas de IA são treinados com dados históricos, o que pode incorporar preconceitos sociais históricos, levando a decisões discriminatórias contra raça, gênero, classe social e outros fatores.

A IA também pode ser usada para violação de privacidade, através de sites suspeitos com vírus que acessam dados pessoais, colocando usuários em situação de risco. Além disso, pode ser instrumentalizada para desinformação através de bots que espalham fake news e difamam pessoas, inclusive através de deepfakes.

Nas redes sociais, a IA determina o conteúdo exibido no feed de cada usuário. Embora devesse melhorar a experiência personalizada, o uso frequentemente antiético desses algoritmos preocupa estudiosos e o público em geral, especialmente sobre como podem influenciar comportamentos, processos democráticos e votações em épocas eleitorais.

Estes sistemas analisam dados como curtidas, tempo de visualização, canais seguidos e conteúdo assistido para mostrar material que mantenha o usuário engajado. O problema ético reside no aumento excessivo do tempo de tela e na exibição de conteúdo sensacionalista ou polarizador, que prioriza o lucro da plataforma ou do influenciador em detrimento do bem-estar do usuário.

Os algoritmos de IA tendem a criar bolhas de conteúdo, mostrando apenas informações com as quais o usuário já concorda, aumentando ainda mais o tempo de uso e podendo levar a consequências como vício em validação social e dependência das redes sociais.