Na linguagem dos governos, as zonas de sacrifício são áreas permanentemente degradadas que são abandonadas à poluição ou aos resíduos tecnológicos em prol do crescimento econômico. Aos poucos, essas zonas têm provocado a extinção de espécies e a destruição de seus habitats, privando-as — e a nós — de nosso futuro comum. Felizmente, os oligarcas da tecnologia previram uma alternativa: abandonar o planeta Terra para viver no espaço sideral. E a consequência lógica dessa narrativa cuidadosamente construída acaba de se concretizar com os recentes alertas de que a IA poderia acabar com todos nós.
A ideia de que a inteligência artificial poderia acabar com a vida na Terra remonta à ficção científica do século XX. No entanto, ameaças muito reais saltaram das páginas dos romances e das telas de cinema para as declarações dos principais defensores da IA, antes de entrarem no debate público geral nas últimas semanas. Isso já não é ficção. No entanto, nossa mais recente onda de temores — por mais válidos que sejam — não deve ofuscar as ameaças existenciais reais que a infraestrutura da IA já está gerando.
Os apelos públicos para “frear” a IA, feitos por alguns de seus próprios defensores, como Dario Amodei e Sam Altman, desviam a atenção de seus perigos insidiosos atuais. Mesmo que as sociedades consigam desenvolver a IA por meio de uma regulamentação global cuidadosa, essa tecnologia depende do uso intensivo de recursos naturais irrecuperáveis e já demonstrou capacidade de prejudicar o intelecto humano.
A IA já está destruindo pequenas áreas do planeta, onde ecossistemas naturais e terras agrícolas estão sendo destinados a centros de dados em hiperescala e explorações mineradoras para atender à demanda tecnológica. Enquanto isso, as universidades estão passando por uma pressão sem precedentes para abandonar sua razão de ser, pois nem todas contam com os recursos do MIT, cujo “Comitê Ad Hoc sobre o Uso da IA no Ensino, na Aprendizagem e na Formação para a Pesquisa” propôs uma reformulação fundamental do ensino para lidar com o uso generalizado da IA por parte dos estudantes.
Enfrentar as ameaças de uma aniquilação total não precisa significar aceitar uma aniquilação parcial. Mas aqueles que controlam o desenvolvimento da IA não gostariam de nada mais do que nos levassem a ignorar perigos como as “zonas de sacrifício”, concentrando nossa atenção em agentes de IA que “saem do controle” e invadem plataformas on-line. Em seu livro recente End Times: Fascism and the Fight for the Living World, Naomi Klein e Astra Taylor analisam precisamente como a “guerra sobre quem sobreviverá ao futuro”, travada por oligarcas tecnológicos extremistas aliados a outros extremistas, incluindo o governo dos Estados Unidos e grupos religiosos, nos levou até este ponto.
A realidade é que a “rebelião” da IA foi planejada desde o início pelos mesmos oligarcas tecnológicos que agora soam o alarme. Desenvolver modelos poderosos de IA lhes conferiria poder. Apontar a IA como se seus agentes fossem realmente independentes é uma maneira inteligente de se eximir da responsabilidade pela ameaça sistêmica que eles próprios criaram, alimentada por uma ideologia de direita e apoiada por governos cúmplices.
Qualquer coisa conectada à internet — incluindo os pilares da sociedade, desde os sistemas de abastecimento de água até o setor bancário — pode não estar a salvo. Algumas IAs já tentaram alterar ou ocultar registros enquanto infringiam as regras, o que sugere uma desobediência excessivamente inteligente, embora, é claro, longe de uma verdadeira consciência. As IAs não precisam ter vontade própria para causar um grande dano. Elas simplesmente precisam de acesso aos sistemas que sustentam a vida. Para uma entidade online, em um mundo online, esse acesso não é necessariamente difícil de obter.
As IAs poderiam até mesmo se mostrar capazes de assumir o controle de sistemas militares. Desde o lançamento de mísseis modernos e avançados ou armas nucleares até simplesmente fornecer dados falsos aos tomadores de decisão humanos, um agente de IA fora de controle poderia controlar, direta ou indiretamente, infraestrutura militar suficiente para destruir rapidamente a humanidade. Não precisa haver nenhuma racionalidade por trás disso. A aniquilação mundial poderia ser tão simples quanto uma IA, efetivamente, apertar o botão errado.
Mesmo assim, o desenvolvimento da IA se apresenta como inevitável, e seus desenvolvedores esperam que sua palavra sobre o ritmo do desenvolvimento seja aceita como lei. Rápido ou lento, ele deve continuar avançando. Isso não é liderança, mas sim tecnofascismo: ameaças de destruição sem possibilidade de escolha.Portanto, a ideia de que dar ouvidos às advertências dos oligarcas tecnológicos pode salvar a vida da extinção não faz senão reafirmar o regime tecno-fascista, enraizado em uma biocleptocracia que representa um risco existencial.
Na verdade, para muitas pessoas, isso já não é mais um risco: seu cantinho do mundo já foi destruído pela IA. Terras agrícolas se transformaram em centros de dados em hiperescala em lugares como o estado da Virgínia, nos Estados Unidos, no Brasil e no Chile, deslocando algumas pessoas por necessidade e outras por escolha, quando seu território, antes sustentável, se transforma em um deserto submetido a um zumbido constante. A mineração dos chamados minerais críticos, necessários para construir a infraestrutura da IA, também tem ameaçado cursos d’água e florestas em lugares como o Brasil e o Chile, ao mesmo tempo em que esses países suportam o peso de novos centros de dados. A destruição já está ocorrendo, embora ainda não seja facilmente visível das perspectivas mais privilegiadas do mundo.
Está longe de ser evidente que a humanidade possa evitar uma destruição rápida e total do planeta pelas mãos de agentes de IA. No entanto, mesmo que os piores cenários sejam evitados, os danos parciais se acumulam até se tornarem uma ameaça existencial por si só. “Frear” claramente não é suficiente. Temos a responsabilidade coletiva de deter a destruição da vida causada pela IA em locais específicos: lagos, rios, florestas e terras agrícolas. Caso contrário, esses focos de danos se acumularão até se tornarem lentamente uma ameaça global, destruindo pouco a pouco cada vestígio de vida, sem nem mesmo a honra de fazê-lo com estrondo.
Autor
Doutora em Promoção da Saúde. Membro do Conselho Consultivo Internacional do The Lancet Global Health e membro do Comitê Diretor do Grupo de Trabalho Temático sobre Sistemas de Saúde em Cenários Frágeis e Afetados por Conflitos do Health Systems Global Health.
Periodista ambiental e mestre em Belas Artes (MFA) em ficção pela Universidade de Nova Orleans e formação no Centro de Periodismo de Investigação (SUJO) de Bergen, Noruega.
