Como os algoritmos de IA repetem a lógica taxonômica colonial. Verlak analisa a obra de Giselle Beiguelman e o colonialismo digital nos sistemas tecnológicos.

A inteligência artificial, do ponto de vista cultural, é de grande interesse para a antropologia, pois nos permite visualizar os sistemas tecnológicos como produções culturalmente estruturadas e situadas. Distanciando-se da posição de objeto neutro, aproxima-se de um artefato socialmente produzido e moldado por um conjunto de valores e crenças. O desenvolvimento de uma IA é atravessado por uma cultura de tecnomeritocracia que capitaliza o conhecimento; a maioria dessas ferramentas é propriedade de grandes empresas e, portanto, o problema ético reside na aplicação social da tecnologia e em sua potencialidade de concentrar poder e intensificar desigualdades. Se a tecnologia é um artefato cultural que carrega os vieses da instituição que a criou, a ética deve focar não na máquina em si, mas em quem a controla e em como sua aplicação pode aumentar a distância entre ricos e pobres, tornando-se, assim, um problema de justiça social e poder.

Sobre a artista:

A pesquisadora e artista Giselle Beiguelman nos lembra que as interferências da tecnologia sobre os nossos corpos e subjetividades começaram muito antes das máquinas. Em suas instalações, ela investiga como a botânica clássica e a ciência hegemônica operaram como tecnologias de informação voltadas para a dominação da natureza e de corpos dissidentes — um sistema de processamento de dados e nomes que molda nossa percepção da realidade e serve como instrumento de controle geopolítico e social.

Giselle Beiguelman é uma das figuras mais fundamentais para compreendermos as tensões entre arte, tecnologia e memória no Brasil contemporâneo. Professora da Faculdade de Arquitetura e Urbanismo da Universidade de São Paulo (FAUUSP) e artista visual, sua trajetória é marcada por uma investigação contínua sobre como os meios digitais, das redes às interfaces algorítmicas, reconfiguram nossa percepção de cidade, espaço e a estrutura de nossa história. Para entender a relevância de seu trabalho, é preciso notar que Beiguelman questiona o que o digital esconde, o que ele apaga e como ele perpetua, sob novas roupagens, velhas hierarquias coloniais.

Os trabalhos de Giselle Beiguelman

Na obra Botannica Tirannica, a artista reúne vegetações reais e inventadas, criando um jardim pós-natural que subverte as lógicas taxonômicas e expõe a genealogia científica do preconceito, cujas raízes remontam ao século XIX. Como a própria Giselle destaca em entrevista ao Nexo Jornal, o uso crítico da tecnologia e da arte pode funcionar como um “cheque-mate” nesse imaginário colonial, permitindo-nos repensar os binarismos ocidentais e a suposta supremacia da razão humana. A Inteligência Artificial, assim como as plantas, coloca-nos diante de inteligências não humanas. A máquina, ao sintetizar padrões e gerar hibridismos, força-nos a repensar a centralidade do sujeito humano ocidental.

Vivemos em uma sociedade pautada por estruturas de violência que subjugam grupos perante outro que detém poder e capital. O extrativismo predatório e a destruição da natureza são reflexos da dominação do ser humano sobre o que não é humano.

Para Beiguelman, a taxonomia, longe de ser um ato técnico neutro, seria uma ferramenta da ciência hegemônica vinculada ao imaginário colonialista. A taxonomia é o estudo da classificação de formas de vida que divide as espécies em grupos; esse agrupamento representa uma forma particular de dividir a natureza. Ela funciona como uma tecnologia de informação que organiza o mundo natural para validar formas de dominação sobre a natureza (bem como sobre povos e culturas subalternizados). Como mencionado, a artista utiliza recursos de inteligência artificial para estabelecer uma genealogia científica do preconceito, cruzando e combinando espécies com nomes pejorativos, racistas e misóginos, criando um jardim pós-natural repleto de vegetação híbrida, plantas inventadas e reais que confrontam as forças taxonômicas, os binarismos impostos e as identidades fixas. Isso nos leva a elaborar reflexões críticas sobre as formas pelas quais o preconceito racial, cultural e de gênero se fundamentou cientificamente desde o século XIX, contaminando o imaginário coletivo com ramificações na linguagem, no vocabulário e na estética.

Essa imersão investigativa revela uma maneira de ver e expressar o mundo ainda presente em ciências de ponta, como o melhoramento genético de espécies vegetais e a Inteligência Artificial. Será que aquela eugenia racial e científica consolidou uma possível eugenia mecânica assimilada aos sistemas de padronização de nossos softwares? Os sistemas usam a organização da informação para instituir padrões e decidir quem (ou o que) merece ser visível ou invisibilizado.

Francis Galton, conhecido como o “pai da eugenia”, buscava criar faces genéricas a fim de eliminar a diferença individual. Esses retratos, assim como as IAs, são treinados em bancos de dados condicionados por valores hegemônicos (homem branco, jovem, anglófono). Não é à toa que observamos taxas altas de erros ou invisibilização na geração de imagens de pessoas negras, transgênero ou idosas; essas plataformas travam diante de rugas e marcas de expressão, tendendo a converter qualquer retrato feminino em imagens de mulheres brancas jovens.

A sua extensa pesquisa historiográfica em registros de processos da Inquisição e ilustrações botânicas de época resultou no projeto Venenosas, Nocivas e Suspeitas, em que ela cruza a história de mulheres apagadas da ciência com a de plantas demonizadas no processo civilizador colonial. Mesmo com todos os vieses dos algoritmos e os valores hegemônicos da máquina, Beiguelman utiliza a IA para criar retratos fictícios e biografias especulativas dessas mulheres junto às suas plantas estigmatizadas. As plantas em questão foram proibidas pelo processo devido ao uso em rituais sagrados, poderes alucinógenos e afrodisíacos e práticas de cura ancestrais que, muitas vezes, confundem-se com práticas religiosas.

Alimentando a plataforma com instruções textuais que restituam a dignidade dessas personagens históricas, a artista negocia de forma exaustiva com a máquina para que ela não gere imagens padronizadas. Assim, a classificação traz consigo um dispositivo de normatização de corpos; como tecnologia de informação, a taxonomia foi utilizada para transformar o que não é da medicina ocidental em algo “suspeito”, “diabólico” e “venenoso”.

Um caso emblemático é o de Luzia Pinta, uma mulher negra nascida em Angola, escravizada quando criança e alforriada em Minas Gerais. Curandeira, foi perseguida por utilizar raízes para diagnóstico e cura. A produção de seu retrato é atravessada por inúmeros obstáculos da IA: racismo, etarismo, preconceito de gênero e censura algorítmica. Inicialmente, as imagens geradas de Luzia eram de “mulheres brancas de cartões-postais do século XVIII no estilo mais fantasioso imaginado pelas IAs”, em seguida, “moças tristes e curvadas” e, por fim, uma sequência de modelos negras que pareciam “felizes com sua condição de escravizadas em poses de influencers do Instagram”.

Colonialismo ontem e hoje

O colonialismo é um sistema que opera de forma dialética, reorientando a forma pela qual legitima sua dominação; não é um tema ultrapassado, limitado à origem do capitalismo. Se as tecnologias carregam os vieses da instituição que as criou, não são agentes autônomos, mas mecanismos políticos que direcionam os sujeitos a condutas específicas dentro da sociedade. Não por acaso encontraremos sua nova roupagem no espaço virtual, aplicando as mesmas matrizes racializadas de acumulação capitalista. A esse novo arranjo chamaremos de colonialismo digital.

O algoritmo é o mediador dessa nova estrutura, ativando um mecanismo oculto da modernidade que agora administra o desejo dos sujeitos em relação às restrições do sistema, impondo lógicas, funções e designs de tecnologias que mantêm hierarquias globais. O processamento de dados realizado por esses sistemas é transformado em códigos estatísticos que podem prever, induzir e manipular o comportamento das pessoas.

O professor Tarcízio Silva evidencia que o algoritmo não é neutro, pois codifica e automatiza processos de violência nos espaços virtuais através de vieses algorítmicos. O racismo algorítmico é um produto da colonialidade que opera dentro dessa lógica de classificação dos usuários, distribuindo de forma desigual recursos de informação, tecnologias, visibilidade, status e voz.

Se os dados não incluem adequadamente rostos não brancos ou não masculinos, o sistema não aprende a reconhecê-los. A falta de diversidade nas bases de treinamento da máquina só reforça a ideia de que o extrativismo de dados, majoritariamente concentrado no Norte Global, desprivilegia a representação do Sul Global. Isso demonstra que a tecnologia codifica e automatiza as hierarquias já existentes na sociedade, tornando certos grupos invisíveis ou ilegíveis. Se o problema persiste, a falha não é aleatória; não estamos lidando com um erro técnico, mas com uma escolha de design, consequência da negligência estrutural inerente aos processos de desenvolvimento tecnológico.

Do humanismo ao pós-humano

Desde o Renascimento, o homem colocou-se no centro do universo e, na constituição de sua existência, buscou o reconhecimento pelo Outro através da dominação e da classificação, negando a individualidade de agentes mais que humanos a fim de afirmar a sua própria. Sendo narrador de sua própria história, o homem não depende mais dos deuses e reis.

Se olhamos lá fora, percebemos que superamos o humanismo: não narramos mais o mundo sozinhos, rompemos com a necessidade do humano como uma continuidade. Como diz Ailton Krenak, “se o homem acabar, o mundo continua”. Quem pode narrar o mundo hoje? Pode ser o algoritmo, a biotecnologia ou o ciborgue. Se observamos um ciborgue, veremos alguém que não está aprisionado às amarras biológicas; temos a possibilidade de um humano sem a necessidade de um corpo.

Sem o corpo, como lidamos com a sexualidade e a moral? Sem o corpo, toda a tradição religiosa judaico-cristã, pautada no controle e na disciplinação, cai por terra. Pessoas trans, no momento de sua transição, ressignificam o corpo material e simbólico, orientando-nos para uma nova humanidade. Sempre fomos seres tecnológicos; desde a descoberta do fogo ou da roda, modelamos o corpo e o mundo segundo nossa vontade e razão.

Estamos agora no estágio em que a tecnologia já tem muita autonomia, trazendo o humano para o centro da reflexão tecnológica, e não o contrário. É o humano que passa a ser o objeto. Não invertemos a lógica, apenas demos autonomia para a nossa lógica. Machine learning, algoritmos e biotecnologia colocam o humano no centro do desenvolvimento tecnológico. Tanto é que, ao entrar em qualquer empresa hoje, é comum perguntarem se você sabe usar bem o ChatGPT.

Considerações Finais

De forma interessante, Giselle Beiguelman usa sua arte como meio de denúncia. Por dedicar sua atenção a plantas “suspeitas” e “nocivas”, e mesmo com seus contextos históricos, a paixão daquelas mulheres pela botânica as fez perigosas, rebeldes, teimosas e desviantes como ervas daninhas. A tecnologia pode ser reapropriada para desmantelar lógicas coloniais através de palavras e imagens.

Se o aprendizado de máquina tem algo a nos ensinar, é a possibilidade de transcender a dicotomia homem/máquina, mirando uma subversão completa de nossos ingênuos parâmetros, que supõem a superioridade da razão do texto sobre a imagem. A inteligência artificial tem a capacidade de nos colocar diante da possibilidade de lidar com inteligências não humanas e, a partir da mobilização de inteligência(s) pós-humanas, transcendemos esse binarismo entre natureza e cultura que persiste em nossa sociedade.

Discutir a tecnologia como um fenômeno social nos força a debater as consequências éticas acerca desses dispositivos que nunca foram “objetos neutros”. Lidar com a questão de poder, justiça social e desigualdade como meros problemas técnicos pode ser a grande armadilha de nosso tempo. Se acreditarmos que os vieses, a discriminação, a perda de empregos e o policiamento preditivo — que usa dados para prever onde e quando os crimes podem acontecer — podem ser solucionados com uma simples proibição de ferramentas midiáticas, estaremos desviando o problema para a inteligência artificial, em vez de direcioná-lo aos seres humanos. As mídias servem como textos, sejam escritos ou visualizados; somente com o letramento digital podemos aprender a ler essa linguagem com um olhar reflexivo e crítico.