Preconceito contra o Nordeste e racismo: ChatGPT reproduz estereótipos sobre o Brasil
Testes com ferramentas de inteligência artificial levantam debate sobre racismo, preconceito regional e os estereótipos presentes nos dados usados para treinar sistemas de IA
A inteligência artificial chegou ao cotidiano de milhões de pessoas como uma ferramenta capaz de responder perguntas, produzir textos, criar imagens e auxiliar em diferentes tarefas. Mas, por trás dessa tecnologia, existe uma questão que vem ganhando cada vez mais atenção: o que acontece quando uma inteligência artificial reproduz preconceitos que já existem na sociedade?
Um episódio envolvendo ferramentas de IA reacendeu o debate sobre a forma como o Nordeste e os nordestinos são representados por sistemas generativos. Testes publicados recentemente mostraram que, diante de determinados comandos, modelos de inteligência artificial podem reproduzir estereótipos negativos historicamente associados à população nordestina.
Entre as características atribuídas de maneira preconceituosa aparecem ideias relacionadas à ignorância, pobreza, falta de desenvolvimento e outros estereótipos regionais.
O problema não está necessariamente em uma máquina "ter preconceito" da mesma forma que uma pessoa. Sistemas como os modelos de linguagem aprendem padrões a partir de enormes volumes de informações produzidas por seres humanos. Se determinados preconceitos aparecem repetidamente nesses dados, existe o risco de que sejam reproduzidos nas respostas geradas.
Um reflexo da própria sociedade
A discussão sobre preconceito contra nordestinos não começou com a inteligência artificial.
O Nordeste historicamente é alvo de representações estereotipadas em diferentes espaços da sociedade, incluindo redes sociais, discursos políticos, produções culturais e conteúdos publicados na internet.
Uma pesquisa desenvolvida pelo grupo Interfaces, da Universidade Federal de São Carlos (UFSCar), analisou 282 milhões de publicações no antigo Twitter durante o período eleitoral de 2022 e identificou um forte crescimento do discurso de ódio direcionado aos nordestinos. Segundo o estudo, esse tipo de discurso aumentou 821% durante aquela eleição.
Isso ajuda a compreender um dos desafios enfrentados pela inteligência artificial: os modelos aprendem com aquilo que a sociedade produz.
Se a internet está repleta de conteúdos preconceituosos, um sistema treinado com grandes quantidades de informação online pode acabar identificando essas associações e reproduzindo parte delas.
IA não é necessariamente neutra
Existe uma percepção comum de que uma resposta produzida por computador seria automaticamente imparcial. Na prática, isso não é garantido.
Pesquisadores que estudam inteligência artificial há anos alertam para a existência de vieses em grandes modelos de linguagem. Esses vieses podem surgir dos dados utilizados no treinamento, das escolhas feitas no desenvolvimento do sistema e da própria forma como os modelos aprendem padrões de linguagem.
Por isso, uma resposta gerada por IA não deve ser automaticamente interpretada como um fato ou como uma representação neutra da realidade.
O mesmo problema pode aparecer quando a tecnologia é questionada sobre raça, gênero, região, classe social, religião, política ou diferentes grupos da sociedade.
O Nordeste muito além dos estereótipos
Reduzir mais de 50 milhões de brasileiros a imagens de pobreza, ignorância ou atraso significa ignorar a diversidade econômica, cultural e social existente na região.
O Nordeste reúne grandes centros urbanos, universidades, polos tecnológicos, indústrias, empresas, profissionais especializados e uma produção cultural que possui influência nacional e internacional.
Bahia, Pernambuco, Ceará, Maranhão, Paraíba, Rio Grande do Norte, Alagoas, Sergipe e Piauí, além do Maranhão e dos demais estados nordestinos, possuem realidades distintas e extremamente complexas.
Quando uma inteligência artificial associa automaticamente a identidade nordestina a características negativas, ela pode acabar reforçando uma visão simplificada de uma região que está longe de ser homogênea.
O desafio para as empresas de tecnologia
O episódio também coloca uma questão importante para as empresas responsáveis pelo desenvolvimento dessas ferramentas.
Como impedir que sistemas de inteligência artificial reproduzam preconceitos existentes na sociedade?
A resposta passa por diferentes etapas: qualidade dos dados utilizados no treinamento, avaliação constante dos modelos, testes com diferentes grupos sociais, mecanismos de segurança e participação de pesquisadores especializados em ética, sociologia, direitos humanos e diversidade.
Também é necessário permitir que usuários denunciem respostas consideradas discriminatórias e que esses casos sejam utilizados para aprimorar os sistemas.
O problema pode ser maior do que uma resposta errada
Uma resposta preconceituosa produzida por uma IA pode parecer apenas um erro tecnológico. Entretanto, quando sistemas desse tipo passam a ser utilizados em processos de seleção profissional, educação, atendimento ao público, produção jornalística ou tomada de decisões, o impacto pode ser muito maior.
Por isso, o debate sobre inteligência artificial não deve se limitar à capacidade da tecnologia de produzir respostas rápidas.
É necessário discutir como essas respostas são construídas, quais informações influenciam o modelo e quais grupos podem ser prejudicados quando determinados padrões são reproduzidos automaticamente.
Tecnologia também precisa aprender a reconhecer a diversidade
A inteligência artificial pode representar um enorme avanço tecnológico, mas seu desenvolvimento não acontece separado da sociedade.
Ela aprende com dados produzidos por pessoas e, consequentemente, pode carregar parte das contradições existentes nesses dados.
O caso envolvendo estereótipos sobre nordestinos serve como alerta: uma tecnologia extremamente avançada também pode reproduzir ideias antigas.
O desafio, portanto, não é apenas criar sistemas cada vez mais inteligentes, mas desenvolver ferramentas capazes de lidar melhor com a diversidade humana e evitar que preconceitos históricos sejam transformados em respostas aparentemente "objetivas".
No fim das contas, a inteligência artificial pode até não ter preconceitos próprios. Mas, se não houver cuidado, ela pode se tornar um poderoso espelho dos preconceitos que a sociedade ainda não conseguiu superar.
