O racismo algorítmico contra os refugiados

Atualmente, a dinâmica migratória mundial é perpassada pelo desenvolvimento e aplicação de dispositivos tecnológicos digitais cada vez mais sofisticados e invasivos, condicionando em muito os destinos das pessoas e influenciando estratégias de poder. Funcionando como parte de uma engenharia social, as tecnologias digitais potencializam a discriminação por meio de recursos de mensuração das dimensões biológicas e do comportamento humano. Possibilita, também amarrar estratégias políticas que vão desde a micro-realidade do indivíduo até a macro-realidade das relações transnacionais de poder. O conflito da Rússia com a Ucrânia já dura 9 meses, causando o deslocamento forçado de 8.1 milhões de pessoas em direção à União Europeia (UE) até o presente.

Com isso, a Comissão Europeia propôs ativar, em fevereiro de 2022, a Diretiva de Proteção Temporária por causa da situação dos refugiados ucranianos com a justificativa correta, diga-se de passagem, de que há a tendência de grande influxo de refugiados em direção aos países-membros da UE. Entretanto, essa Diretiva nunca havia sido aplicada até então, mesmo tendo sido criada em 2001, e mesmo que massas de refugiados já tivessem batido às portas do Bloco, sendo impedidos de cruzar as fronteiras, o que causou milhares de vítimas. Para alguns analistas, existe resistência política em aplicar certo mecanismo jurídico baseada no preconceito contra pessoas oriundas de países não-europeus, como atesta o Prof. Dr. Meltem İneli Ciğer, da Faculdade de Direito da Suleyman Demirel University. A decisão em aplicar a Diretiva converge com a própria política de informação da UE referente ao gerenciamento das fronteiras, da mobilidade humana e do asilo, que se baseia na vigilância permanente de grupos considerados indesejáveis. Esse arcabouço político-jurídico se expressa nos próprios dispositivos tecnológicos utilizados para o fim de criar barreiras, mais do que facilitar, o acesso de pessoas aos direitos humanos garantidos pelos tratados internacionais que normatizam o asilo e o refúgio.

Tendo em vista essa diferença de tratamento em relação aos refugiados, a depender de sua raça, etnia, cultura e nacionalidade, a discussão sobre o papel dos sistemas de vigilância no cenário do conflito entre Rússia e Ucrânia parece pouco explorada no momento, passando a impressão de que existe uma certa suspensão dos procedimentos de identificação dos refugiados ucranianos, por causa da rápida mobilização dos membros da UE em recepcioná-los. Outro exemplo vem do continente americano, onde enormes vagas humanas rumam dos países da América Central em direção aos Estados Unidos (EUA), fugindo da violência, da fome e das mudanças climáticas. O tratamento concedido aos migrantes latino-americanos que buscam refúgio depende do governo de plantão nos EUA, mas, invariavelmente, são alvos de políticas de contenção por meio de dispositivos de vigilância securitária que operam em silêncio e expressam o desprezo, o preconceito social e o racismo. Em 2019, o ex-presidente Donald Trump reforçou a ideia de construção do muro entre EUA e México, mas apresentando uma solução diferente, referindo-se a um smart-wall: “Os muros que estamos construindo não são muros medievais. São muros inteligentes projetados para atender às necessidades dos agentes de fronteira da linha de frente” (tradução nossa).

Na verdade, as normas e procedimentos de vigilância continuam a vigir e desnuda desigualdade de tratamento entre os refugiados ucranianos e aqueles provenientes de países não-europeus, e o mesmo se dá quando se trata de apontar os migrantes latino-americanos, em deslocamento forçado, como irregulares e, por isso, devem ser contidos de maneira preventiva. Tendência que converge para os impactos dos algoritmos na dinâmica das migrações, naquilo que se apresenta como um aspecto essencial em qualquer processo de identificação, que é classificar, segregar, privilegiar ou punir determinados grupos sociais. Entretanto, destaca-se aqui a tendenciosidade dos códigos programados para a identificação de perfis pessoais, caracterizados por condições raciais, características comportamentais e a sua relação com a governança das migrações como um todo. Essa tendência abrange um largo espectro de ações e instituições que tratam da vigilância para o monitoramento e o controle. Trata-se de uma situação identificada por especialistas e movimentos ativistas na rede, como a pesquisa acadêmica de Joy Buolamwini do Massachussets Institute of Technology (MIT), e que foi apresentada no filme documentário Coded Bias.

Em pesquisa realizada no laboratório MIT Media Lab, Buolamwini, que é negra, posicionou seu rosto em frente a dispositivos de reconhecimento facial, porém o mesmo não foi identificado. Entretanto, quando a pesquisadora colocou uma máscara branca sobre seu rosto, este foi imediatamente reconhecido. A conclusão é a de que existe um viés na programação algorítmica nos sistemas de reconhecimento facial, baseados em Inteligência Artificial. Ou seja, os algoritmos são direcionados por processos de classificação, divisando grupos de pessoas que merecem ser reconhecidos, daqueles que estão excluídos, literalmente, do sistema. Com isso, emerge a luta em defesa de códigos mais inclusivos, ou mesmo a eliminação do dispositivo de reconhecimento facial.

Essa preocupação foi exposta no relatório da Casa Branca, publicado no ano de 2014, durante o período Obama, intitulado Big Data: Aproveitando Oportunidades, Preservando Valores, referente aos usos de dados pessoais com objetivo de privilegiar ou excluir grupos de pessoas por sua condição racial e de classe, principalmente em relação à “habitação, crédito, emprego, saúde, educação e mercado”. Mas que, segundo o Centre for International Governance Innovation, do Canadá, pode se estender às áreas de imigração, segurança pública, policiamento e sistema de justiça, “como contextos adicionais onde o processamento algorítmico de big data impacta os direitos e liberdades civis”.

A cor e outros elementos fenotípicos antecipa, ou exerce, uma pré-classificação daqueles refugiados que merecem privilégios, diferenciando-os daqueles que sequer têm a chance de serem avaliados e cuidados. Isso, antes mesmo dos imigrantes cruzarem as fronteiras. A nitidez da cor, assim como a origem nacional dos migrantes, antecipa a triagem das pessoas, antes mesmo de seus dados figurarem nas bases de dados. Outros dados pessoais mais sensíveis, como opiniões políticas e crenças religiosas são identificados posteriormente quando se faz o cruzamento de informações em outras bases de dados. Essas bases de dados se estruturam de maneira enviesada, legitimando as diferenças entre seres-humanos e reproduzindo as desigualdades entre os indivíduos.Os procedimentos hoje não caracterizam-se como ações de exceção, mas promovem, permanentemente, a divisão entre grupos privilegiados, por um lado; e, por outro lado, a classificação, segregação, coação, apartamento, isolamento, punição e banimento dos indesejáveis, sob a justificativa do risco que possam levar ao Estado e à sociedade, pois não fazem parte do “clube” social branco e cristão dos países ricos. Dessa forma, torna-se fundamental compreender e repensar o papel das políticas de informação voltadas aos sistemas de vigilância para o controle da mobilidade humana. Pois, ao contrário do que possa parecer, mesmo imigrantes de pele branca, olhos azuis e cristãos também podem sofrer, de uma forma ou de outra, em algum momento, a discriminação de sistemas que apostam, acima de tudo, no medo em relação ao estrangeiro.