Manifesto

Manifesto da IA Decolonial

Sem interrupções, mais transparência e infraestruturas compartilhadas

Nas últimas semanas estamos sendo surpreendidos com os rápidos avanços da inteligência artificial baseada em processamento de linguagem natural. Rumo à concretização da AGI (Artificial General Intelligence), nos causa estranhamento que pesquisadores e empresários que sempre se colocam como entusiastas dos desenvolvimentos mais ousados relacionados a tais tecnologias, assinem uma carta que solicita uma pausa de seis meses nos grandes experimentos sobre a inteligência artificial.

A carta aponta para a necessidade de novos ajustes e dos perigos de ter decisões importantes fora do controle. Decisões fora do controle não apenas de governos e instituições educacionais e democráticas, mas mesmo fora do controle de uma elite tecnológica que investe em tais desenvolvimentos.

É redundante observar que tal elite tecnológica é massivamente representada por homens brancos do norte global.

Para além de uma equação de inclusão, as super-representatividades e sub-representatividades resultam de uma ausência de atenção e cuidados com as questões de justiça, transparência e acessibilidade de recursos de infraestrutura para os mais variados locais do globo.

Estamos no olho do furacão e uma outra petição clama para a manutenção das pesquisas, assegurando a transparência e os aspectos necessários de segurança que podem impactar os maus usos da IA.

O grupo de desenvolvedores e colaboradores situadas na Europa sugere que o CERN (Organização Européia para Pesquisa Nuclear) ou outra organização similar deve se ocupar de coordenar o desenvolvimento em larga escala da IA garantindo sua transparência e segurança.

Eles apontam para as disparidades em ter poucas grandes corporações com capacidade de infraestrutura e financiamentos à frente dos desenvolvimentos da inteligência artificial.

Nós, no sul global, que não dispomos de tais infraestruturas, além de sermos sub-representados em diversos aspectos, vemos como platéia tais desenvolvimentos ocorrerem em velocidade exponencial sem conseguir formar um pensamento crítico, colocar nossas demandas para desenvolvimentos mais inclusivos, e mesmo criar estruturas alternativas de coleta, tratamento e armazenamento de dados capazes de ‘dar o tom’ das nossas especificidades, em cultura e necessidades relacionadas aos territórios que fazemos parte. A petição citada acima clama para os países ricos se unirem de maneira organizada para que os avanços da tecnologia com foco no desenvolvimento humano, em tese para bem estar geral, sejam garantidos.

Na perspectiva decolonial o humano não está no centro pois, em primeiro lugar não existe um único tipo de humano capaz de representar a todos, em segundo lugar, o bem estar social e ambiental depende de entender o humano como parte de um todo onde a ética do cuidado é o cuidado com si mesmo em consonância com o cuidado com outres e tudo ao nosso redor.

A forte antropomorfização da IA não está apenas no conceito de inteligência, ou a cópia do mesmo, mas na própria linguagem que remete a memórias, vivências e sentimentos dos mais variados. Assim, a colonização através da IA se dá também pela linguagem, seus sistemas de classificação e representação inclusos no modo de fazer científico, incluindo as imagens em bancos de dados que influenciam as identidades, sentimentos de pertencimento ou exclusão no imaginário do cotidiano.

Necessitamos portanto, com urgência, conclamar representantes do sul global que sejam capazes de estabelecer um acompanhamento dos desenvolvimentos da IA que impactam nossos territórios. Que tal acompanhamento seja feito com transparência e que se formem grupos de trabalho com chamadas abertas para reuniões incluindo pesquisadores e estudiosos do tema, assim como especialistas em áreas-chave para tais desenvolvimentos.

Entendemos que, com a globalização e muitos setores de poder e decisão transferidos paulatinamente para a ‘nuvem’ desde os anos noventa, todas as aplicações de IA feitas e controladas além-mares potencialmente nos impactam. Deste modo, devemos também demandar que todos os comitês de acompanhamento dos desenvolvimentos da IA tenham representantes do sul global, respeitando suas diferentes linguagens e culturas.

É igualmente importante que, como pesquisadores ligados a diversas áreas e universidades no Brasil, demandemos a completa independência da pesquisa científica dos interesses imediatos de grandes empresas. Todas as empresas que desejam cumprir com seu compromisso social estão livres para apresentar doações para a pesquisa acadêmica, sendo porém necessário que tais fundos não estejam condicionados por entregas e soluções que sejam interesse de tais empresas.

Como toda a população pode ser afetada pelos descaminhos do desenvolvimento tecnológicos da IA, toda ela tem o direito de se beneficiar dos seus acertos. Desse modo, a pesquisa na esfera acadêmica e científica deve ser sempre direcionada para garantir o desenvolvimento humano e bem estar geral, incluindo a atenção ao meio ambiente e todos os seres que nele habitam. Uma maneira de garantir a inclusão é a atenção aos tópicos trazidos pela comunidade e os pesquisadores dela pronevientes que ora se integram na comunidade acadêmica-científica. Esta dinâmica difere daquela em que a pesquisa é direcionada a atender agendas específicas.

Ainda que eventualmente os interesses do mercado e da ciência possam convergir, é fundamental que a universidade estabeleça sua agenda de acordo com o interesse público, sendo os indivíduos informados e qualificados que compõem a comunidade acadêmica atores centrais deste processo, lembrando que tais indivíduos devem representar todas as parcelas da sociedade, assim como estabelecer seu interesse de pesquisa com atenção à inclusão, equidade e justiça social.

Tais valores levam a demanda da descolonização para um outro patamar, este sim, visando o bem estar geral.

Em 2020 um grupo de pesquisadores se reuniu virtualmente para começar a pensar sobre o que seria um manifesto para uma inteligência artificial decolonial.

Tal manifesto aponta para os vieses culturais e seus impactos quando o mundo inteiro se molda por padrões determinados a partir da tecnologia e saberes que estão sob domínio do norte global, onde os ‘atores’ de maior privilégio são representados por pessoas brancas de lingua nativa inglesa, na maioria das vezes homens.

Não por mera coincidência, tais fatores também indicam maior acesso aos recursos e infraestruturas tecnológicas, melhor qualidade de vida, assim como são a representação da concentração de riqueza e poder econômico.

O manifesto propõe observar que conceitos como “ética” e “inclusão” dentro de estruturas formais que permanecem fechadas à diversidade cultural e pluralidade de visões não representam o que se propõem representar.

Fundamentalmente, o desafio da decolonialidade para as tecnologias emergentes hoje é entender que o material e o imaterial são inseparáveis; que a colonização não foi superada, do contrário, permanece viva em práticas industriais, politicas e institucionais, e que o debate está e permanece em aberto.

O presente manifesto, portanto, é mais um passo na discussão, que propõe agregar novas reflexões, em atenção à polêmica atual envolvendo o desenvolvimento do Open AI/Chat GPT e as perspectivas de regulamentação.

São Paulo, 31 de Março de 2023.