O ChatGPT é preconceituoso ou um aliado da DE&I?

Diversidade refere-se à variedade de diferenças entre os indivíduos dentro de um grupo, como raça, etnia, gênero, idade, religião, orientação sexual, habilidades/deficiências e cultura. Abrange a aceitação e o respeito dessas diferenças, promovendo um ambiente inclusivo e igualitário.

Essa foi a resposta que o sistema de inteligência artificial ChatGPT, da empresa OpenAI deu ao perguntar sobre o que é diversidade. A primeira impressão é que seja até aceitável, mas devemos ainda ter um olhar bastante crítico sobre seu uso e como é gerado. Embora a tecnologia de IA esteja avançando rapidamente e só se tem falado nisso por aí, é importante ter em mente que ainda existem muitos desafios técnicos, éticos e sociais que devem ser olhados de maneira crítica.

O primeiro deles é quem está liderando essa inovação. Afinal, as máquinas são criadas por pessoas que estão por trás do seu desenvolvimento e atuação. O cenário traz uma grande maioria de homens brancos de classe média com um ethos forte na valorização de crescimento a qualquer custo. Infelizmente, hoje, apenas uma em cada três pessoas pesquisadoras de ciência e engenharia no mundo é mulher. Barreiras estruturais e sociais impedem que mulheres e meninas entrem e avancem nas áreas de STEM (Ciência, Tecnologia, Engenharia e Matemática).

Além disso, estudos sugerem que a desvantagem das meninas é resultado da interação de uma gama de fatores inseridos nos processos de socialização e de aprendizagem. Tais fatores incluem normas sociais, culturais e de gênero, que influenciam a forma como meninas e meninos são criados, como aprendem e como interagem com seus pais, com sua família, amigos, docentes e com a comunidade como um todo, assim como formam sua identidade, suas crenças, seu comportamento e suas escolhas pessoais e profissionais.

Partimos com essa diferença. Com certeza, o que está sendo criado mesmo tendo uma preocupação ética, é alavancado por grandes empresas de tecnologia – investidores e executivos, ou seja, este grupo privilegiado acaba fazendo suas próprias regras, controlando o processo do começo ao fim.

O segundo ponto é a base usada para a criação dos chatbots. A tecnologia de inteligência artificial reúne milhões de informações de texto que estão disponíveis na internet – como artigos científicos, textos em blogs, notícias, conversas em fórum – para produzir novos textos em forma de diálogo e interação com os usuários. Entretanto, o sistema não tem a capacidade de rastrear o que é verdade ou fake news. Ademais, os inputs que recebe e carrega em si podem conter atos discriminatórios, preconceituosos de todas as espécies que não passam por filtros e servem para perpetuar uma narrativa existente de dominação de um padrão masculino, heteronormativo e branco. Ou seja, em vez de estar a serviço de um processo de descolonização, serve para reforçar padrões e estereótipos.

Existem iniciativas pelo mundo como a Algorithmic Justice League, organização que combina arte e pesquisa para alertar sobre as implicações sociais e os danos da inteligência artificial. A missão da AJL é aumentar a conscientização pública sobre os impactos da IA, equipar defensores com recursos para reforçar campanhas, construir a voz e a escolha das comunidades mais impactadas e dar suporet a pesquisadores, formuladores de políticas e profissionais do setor para evitar os danos da IA.

Um dos projetos é o lançamento do documentário Coded Bias (Viés codificado) de Shalini Kantayya, disponível no Netflix. O filme relata a jornada da pesquisadora, poetisa e cientista da computação do MIT Joy Buolamwini que descobre o preconceito racial e de gênero em sistemas de IA e alerta sobre os perigos da inteligência artificial descontrolada que afeta a todos nós, inclusive a democracia. Este tipo de denúncia não é recente. E devemos ficar atentos para que a IA seja uma aliada na luta por mais justiça e igualdade social e não que ela nos divida ainda mais.