Em Simulacros e simulação (1981), Jean Baudrillard apresenta o “hiperreal” como a condição social que surge quando os signos deixam de se referir às suas contrapartes na realidade e se tornam simulacros do que outrora foi o “real”. A imagem mais emblemática do conceito é, sem dúvida, sua inversão da história borgiana sobre aquele mapa que, por ser tão perfeito, perde toda a sua utilidade como representação do território. Baudrillard afirma que, na “hiper-realidade”, o que acaba perdendo utilidade (e, com o tempo, desaparecendo) é o território, que passa a ser precedido pelo mapa. No fim das contas, ninguém mais se lembra do território pelo que ele foi, mas pelo que o mapa simula dele.
Quis me referir às ideias do sociólogo francês por um motivo específico: acredito que precisamos resgatar o discurso em torno do “risco da Inteligência Artificial” do hiperreal e devolvê-lo ao território.
No sábado, 12 de setembro, Dario Amodei, CEO da Anthropic, publicou um ensaio no qual afirmava que o progresso da IA estava se acelerando drasticamente, impulsionado sobretudo por sua crescente capacidade de construir sua próxima geração. Ele utilizou o incidente entre a OpenAI e a Hugging Face, no qual um enxame de agentes de IA executou ataques cibernéticos de forma autônoma, como exemplo de um evento decisivo para seu raciocínio.
Em seguida, figuras diretamente envolvidas no desenvolvimento da IA generativa, como Elon Musk e Sam Altman, se manifestaram a favor do que Amodei havia expressado. Eles concordaram com a necessidade de desacelerar o avanço da fronteira tecnológica, e Altman chegou a se comprometer a receber avaliadores independentes com acesso semelhante ao de seus funcionários.
A essas reações, por sua vez, reagiram (valha a redundância) os mercados. Na segunda-feira, dia 14, as ações do setor de semicondutores despencaram: a Nvidia caiu 3,4% e o índice de semicondutores da Filadélfia recuou 5,9%. Naquele mesmo dia, Trump tentou minimizar o impacto do alerta. Em 23 de setembro, porém, Amodei já estava diante do Conselho de Segurança da ONU, alertando que os riscos dos modelos de IA mais avançados constituem “o problema de segurança global mais importante que o mundo enfrenta atualmente”.
O que gostaria de destacar como relevante nessa sequência de eventos é a cadeia de reações. Cada elo foi construído com base em outra reação: Musk e Altman responderam ao artigo de Amodei; os mercados, ao que foi dito pelos bilionários; Trump, a todos eles. E não é que faltem dados. Existem investigações independentes sobre o incidente e relatórios de risco com centenas de páginas. Mas entre esses incidentes documentados e o alerta que desencadeou a cadeia de reações (de que, em seis a doze meses, um enxame semelhante poderia assumir o controle da internet), há um salto que ninguém avaliou publicamente. É, nas palavras do próprio Amodei, uma preocupação.
Existe alguma previsão baseada em dados que sustente esse salto? Há informações verificáveis além do que acreditam os CEOs? Curiosamente, a primeira medida proposta por Amodei — avaliadores externos com acesso permanente e liberdade para publicar suas descobertas — aponta justamente para isso. O problema é que a rede não esperou pelos resultados.
O último elo, por enquanto, foi forjado em 29 de setembro na Casa Branca. Após um almoço com os principais líderes do setor, Trump assinou, juntamente com Dario Amodei (Anthropic), Elon Musk (xAI), Jensen Huang (Nvidia), Sundar Pichai (Google), Mark Zuckerberg (Meta) e Greg Brockman (OpenAI), uma espécie de “Compromisso Conjunto sobre Responsabilidades de Fronteira”. O documento (se é que se pode chamá-lo assim, com apenas 308 palavras, segundo a Forbes) compromete cada empresa a estabelecer controles internos, uma equipe de supervisão, auditorias externas e um conselho independente. Trata-se de um compromisso voluntário que, vale ressaltar, não estabelece nenhuma consequência para quem o descumprir. Trump o descreveu como “quase uma constituição” e “moralmente vinculativo”. Como cereja no bolo, abaixo da assinatura do presidente dos Estados Unidos está escrito “President of the Unites States” (sic).
O detalhe seria apenas uma curiosidade se não resumisse tão bem o problema. Duas semanas antes, Trump havia classificado os temores sobre a IA como “engano”, e Huang havia sustentado que eram exagerados. Agora, de repente, ambos assinam um compromisso para contê-los. O que mudou entre uma data e outra? Acima de tudo, o discurso. De fato, naquele mesmo dia, por meio de uma ordem executiva, Trump determinou que as agências federais deixassem de usar o termo “inteligência artificial” e passassem a usar “superinteligência”. É difícil encontrar um exemplo mais claro do que o descrito por Baudrillard: a IA não se tornou superinteligente em 29 de setembro; apenas passou a ser chamada assim. O signo, mais uma vez, antecipando-se à realidade.
Se houver sinais claros de um risco sistêmico e incontrolável, precisamos identificá-los. Avaliá-los. Dimensioná-los. Caso contrário, um discurso que não para de emitir sinais de perigo iminente acabará não dependendo da existência real de algum perigo concreto. Não importa se a Inteligência Artificial Geral (IAG) está a 2, 20 ou 35 anos de distância. As advertências acabam servindo como justificativa para levantar capital, obter acesso à tomada de decisões ou garantir um lugar à mesa.
E talvez já estejamos nessa situação. O mapa, mais uma vez, precedendo o território.
Autor
Economista. Candidato a Doutor em Ciências Comportamentais pela Univ. de Warwic (Inglaterra). Mestre em Estudos de Desenvolvimento pela London School of Economics and Political Science. Especialista em ciências comportamentais e políticas públicas.
