En Simulacros y simulación (1981), Jean Baudrillard plantea lo ‘hiperreal’ como la condición social que emerge cuando los signos dejan de referirse a sus contrapartes en la realidad y se vuelven simulacros de lo que alguna vez fue lo ‘real’. La imagen más emblemática del concepto es, sin duda, su inversión de la historia borgiana sobre aquel mapa que, al ser tan perfecto, pierde toda su utilidad como representación del territorio. Baudrillard plantea que, en la ‘hiperrealidad’, lo que termina perdiendo utilidad (y, con el tiempo, desapareciendo) es el territorio, que pasa a ser precedido por el mapa. Al final, ya nadie recuerda el territorio por lo que fue, sino por lo que el mapa simula de este.
He querido referirme a las ideas del sociólogo francés por una razón en particular: creo que tenemos que rescatar el discurso en torno al ‘riesgo de la Inteligencia Artificial’ de lo hiperreal y devolverlo al territorio.
El sábado 12 de setiembre, Dario Amodei, CEO de Anthropic, publicó un ensayo en el que sostenía que el progreso de la IA se estaba acelerando drásticamente, impulsado sobre todo por su creciente capacidad para construir su siguiente generación. Utilizó el incidente entre OpenAI y Hugging Face, en el que un enjambre de agentes de IA ejecutó ciberataques de manera autónoma, como ejemplo de un evento decisivo para su razonamiento.
Luego de ello, personajes involucrados directamente en el desarrollo de la IA generativa, como Elon Musk y Sam Altman, se manifestaron a favor de lo expresado por Amodei. Coincidían en la necesidad de ralentizar el avance de la frontera tecnológica, y Altman incluso se comprometió a recibir evaluadores independientes con accesos similares a los de sus empleados.
A estas reacciones, a su vez, reaccionaron (valga la redundancia) los mercados. El lunes 14, las acciones de semiconductores se desplomaron: Nvidia bajó 3,4% y el índice de semiconductores de Filadelfia cayó 5,9%. Ese mismo día, Trump trató de restarle fuerza a la advertencia. Para el 23 de setiembre, sin embargo, Amodei ya estaba frente al Consejo de Seguridad de la ONU, advirtiendo que los riesgos de los modelos de IA más avanzados constituyen “el problema de seguridad global más importante al que se enfrenta el mundo hoy”.
Lo que quisiera subrayar como relevante de esta serie de hechos es la cadena de reacciones. Cada eslabón fue construido sobre la base de otra reacción: Musk y Altman respondieron al ensayo de Amodei; los mercados, a lo dicho por los multimillonarios; Trump, a todos ellos. Y no es que falten datos. Existen investigaciones independientes sobre el incidente e informes de riesgo de cientos de páginas. Pero entre esos incidentes documentados y la advertencia que puso en marcha la cadena (que en seis a doce meses un enjambre similar podría tomar el control de internet) hay un salto que nadie ha medido públicamente. Es, en palabras del propio Amodei, una preocupación.
¿Existe algún pronóstico basado en datos que respalde ese salto? ¿Hay información verificable más allá de lo que creen los CEOs? Curiosamente, la primera medida que propone Amodei, evaluadores externos con acceso permanente y libertad para publicar sus hallazgos, apunta justamente a eso. El problema es que la cadena no esperó sus resultados.
El último eslabón, por el momento, fue forjado el 29 de setiembre en la Casa Blanca. Luego de departir en un almuerzo con los principales líderes del sector, Trump firmó junto con Dario Amodei (Anthropic), Elon Musk (xAI), Jensen Huang (Nvidia), Sundar Pichai (Google), Mark Zuckerberg (Meta) y Greg Brockman (OpenAI) una suerte de ‘Compromiso Conjunto sobre Responsabilidades de Frontera’. El documento (si es que se le puede llamar así, con apenas 308 palabras, según Forbes) compromete a cada empresa a establecer controles internos, un equipo de supervisión, auditorías externas y una junta independiente. Se trata de un compromiso voluntario que, vale decir, no establece ninguna consecuencia para quien lo incumpla. Trump lo describió como “casi una constitución” y “moralmente vinculante”. Como cereza sobre el pastel, debajo de la firma del presidente estadounidense se lee “President of the Unites States” (sic).
El detalle sería anecdótico si no resumiera tan bien el problema. Dos semanas antes, Trump había calificado de ‘engaño’ los temores sobre la IA, y Huang había sostenido que eran exagerados. Ahora, de pronto, ambos firman un compromiso para contenerlos. ¿Qué cambió entre una fecha y otra? Sobre todo, el discurso. De hecho, ese mismo día, mediante una orden ejecutiva, Trump dispuso que las agencias federales dejen de decir ‘inteligencia artificial’ y pasen a decir ‘superinteligencia’. Difícil encontrar un ejemplo más claro de lo descrito por Baudrillard: la IA no se volvió superinteligente el 29 de setiembre; solo empezó a llamarse así. El signo, otra vez, adelantándose a la realidad.
Si hay señales claras de un riesgo sistémico e incontrolable, tenemos que verlas. Medirlas. Dimensionarlas. De lo contrario, un discurso que no deja de producir señales de peligro inminente terminará por no depender de si algún peligro concreto está realmente presente. No importa si la Inteligencia Artificial General (IAG) está a 2, 20 o 35 años. Las advertencias terminan funcionando como una justificación para levantar capital, ganar acceso a la toma de decisiones o asegurarse un asiento en la mesa.
Y quizás ya estemos ahí. El mapa, otra vez, precediendo al territorio.
Autor
Economista. Candidato a Doctor en Ciencias Conductuales por la Univ. de Warwick (Inglaterra). Máster en Estudios de Desarrollo por la London School of Economics and Political Science (LSE). Especialista en ciencias conductuales y en análisis y ejecución de políticas públicas.
