{"id":59699,"date":"2026-10-11T06:00:00","date_gmt":"2026-10-11T09:00:00","guid":{"rendered":"https:\/\/latinoamerica21.com\/?p=59699"},"modified":"2026-10-11T06:13:03","modified_gmt":"2026-10-11T09:13:03","slug":"del-rigor-en-la-alarma","status":"publish","type":"post","link":"https:\/\/latinoamerica21.com\/es\/del-rigor-en-la-alarma\/","title":{"rendered":"Del rigor en la alarma"},"content":{"rendered":"\n

En Simulacros y simulaci\u00f3n<\/em> (1981), Jean Baudrillard plantea lo \u2018hiperreal\u2019 como la condici\u00f3n social que emerge cuando los signos dejan de referirse a sus contrapartes en la realidad y se vuelven simulacros de lo que alguna vez fue lo \u2018real\u2019. La imagen m\u00e1s emblem\u00e1tica del concepto es, sin duda, su inversi\u00f3n de la historia borgiana sobre aquel mapa que, al ser tan perfecto, pierde toda su utilidad como representaci\u00f3n del territorio. Baudrillard plantea que, en la \u2018hiperrealidad\u2019, lo que termina perdiendo utilidad (y, con el tiempo, desapareciendo) es el territorio, que pasa a ser precedido por el mapa. Al final, ya nadie recuerda el territorio por lo que fue, sino por lo que el mapa simula de este.<\/p>\n\n\n\n

He querido referirme a las ideas del soci\u00f3logo franc\u00e9s por una raz\u00f3n en particular: creo que tenemos que rescatar el discurso en torno al \u2018riesgo de la Inteligencia Artificial\u2019 de lo hiperreal y devolverlo al territorio.<\/p>\n\n\n\n

\"\"<\/a><\/figure>\n\n\n\n

El s\u00e1bado 12 de setiembre, Dario Amodei, CEO de Anthropic, public\u00f3 un ensayo en el que sosten\u00eda que el progreso de la IA se estaba acelerando dr\u00e1sticamente, impulsado sobre todo por su creciente capacidad para construir su siguiente generaci\u00f3n. Utiliz\u00f3 el incidente entre OpenAI y Hugging Face, en el que un enjambre de agentes de IA ejecut\u00f3 ciberataques de manera aut\u00f3noma, como ejemplo de un evento decisivo para su razonamiento.<\/p>\n\n\n\n

Luego de ello, personajes involucrados directamente en el desarrollo de la IA generativa, como Elon Musk y Sam Altman, se manifestaron a favor de lo expresado por Amodei. Coincid\u00edan en la necesidad de ralentizar el avance de la frontera tecnol\u00f3gica, y Altman incluso se comprometi\u00f3 a recibir evaluadores independientes con accesos similares a los de sus empleados.<\/p>\n\n\n\n

A estas reacciones, a su vez, reaccionaron (valga la redundancia) los mercados. El lunes 14, las acciones de semiconductores se desplomaron: Nvidia baj\u00f3 3,4% y el \u00edndice de semiconductores de Filadelfia cay\u00f3 5,9%. Ese mismo d\u00eda, Trump trat\u00f3 de restarle fuerza a la advertencia. Para el 23 de setiembre, sin embargo, Amodei ya estaba frente al Consejo de Seguridad de la ONU, advirtiendo que los riesgos de los modelos de IA m\u00e1s avanzados constituyen \u201cel problema de seguridad global m\u00e1s importante al que se enfrenta el mundo hoy\u201d.<\/p>\n\n\n\n

Lo que quisiera subrayar como relevante de esta serie de hechos es la cadena de reacciones. Cada eslab\u00f3n fue construido sobre la base de otra reacci\u00f3n: Musk y Altman respondieron al ensayo de Amodei; los mercados, a lo dicho por los multimillonarios; Trump, a todos ellos. Y no es que falten datos. Existen investigaciones independientes sobre el incidente e informes de riesgo de cientos de p\u00e1ginas. Pero entre esos incidentes documentados y la advertencia que puso en marcha la cadena (que en seis a doce meses un enjambre similar podr\u00eda tomar el control de internet) hay un salto que nadie ha medido p\u00fablicamente. Es, en palabras del propio Amodei, una preocupaci\u00f3n.<\/p>\n\n\n\n

\u00bfExiste alg\u00fan pron\u00f3stico basado en datos que respalde ese salto? \u00bfHay informaci\u00f3n verificable m\u00e1s all\u00e1 de lo que creen los CEOs? Curiosamente, la primera medida que propone Amodei, evaluadores externos con acceso permanente y libertad para publicar sus hallazgos, apunta justamente a eso. El problema es que la cadena no esper\u00f3 sus resultados.<\/p>\n\n\n\n

El \u00faltimo eslab\u00f3n, por el momento, fue forjado el 29 de setiembre en la Casa Blanca. Luego de departir en un almuerzo con los principales l\u00edderes del sector, Trump firm\u00f3 junto con Dario Amodei (Anthropic), Elon Musk (xAI), Jensen Huang (Nvidia), Sundar Pichai (Google), Mark Zuckerberg (Meta) y Greg Brockman (OpenAI) una suerte de \u2018Compromiso Conjunto sobre Responsabilidades de Frontera\u2019. El documento (si es que se le puede llamar as\u00ed, con apenas 308 palabras, seg\u00fan Forbes) compromete a cada empresa a establecer controles internos, un equipo de supervisi\u00f3n, auditor\u00edas externas y una junta independiente. Se trata de un compromiso voluntario que, vale decir, no establece ninguna consecuencia para quien lo incumpla. Trump lo describi\u00f3 como \u201ccasi una constituci\u00f3n\u201d y \u201cmoralmente vinculante\u201d. Como cereza sobre el pastel, debajo de la firma del presidente estadounidense se lee \u201cPresident of the Unites States\u201d (sic).<\/p>\n\n\n\n

El detalle ser\u00eda anecd\u00f3tico si no resumiera tan bien el problema. Dos semanas antes, Trump hab\u00eda calificado de \u2018enga\u00f1o\u2019 los temores sobre la IA, y Huang hab\u00eda sostenido que eran exagerados. Ahora, de pronto, ambos firman un compromiso para contenerlos. \u00bfQu\u00e9 cambi\u00f3 entre una fecha y otra? Sobre todo, el discurso. De hecho, ese mismo d\u00eda, mediante una orden ejecutiva, Trump dispuso que las agencias federales dejen de decir \u2018inteligencia artificial\u2019 y pasen a decir \u2018superinteligencia\u2019. Dif\u00edcil encontrar un ejemplo m\u00e1s claro de lo descrito por Baudrillard: la IA no se volvi\u00f3 superinteligente el 29 de setiembre; solo empez\u00f3 a llamarse as\u00ed. El signo, otra vez, adelant\u00e1ndose a la realidad.<\/p>\n\n\n\n

Si hay se\u00f1ales claras de un riesgo sist\u00e9mico e incontrolable, tenemos que verlas. Medirlas. Dimensionarlas. De lo contrario, un discurso que no deja de producir se\u00f1ales de peligro inminente terminar\u00e1 por no depender de si alg\u00fan peligro concreto est\u00e1 realmente presente. No importa si la Inteligencia Artificial General (IAG) est\u00e1 a 2, 20 o 35 a\u00f1os. Las advertencias terminan funcionando como una justificaci\u00f3n para levantar capital, ganar acceso a la toma de decisiones o asegurarse un asiento en la mesa.<\/p>\n\n\n\n

Y quiz\u00e1s ya estemos ah\u00ed. El mapa, otra vez, precediendo al territorio.<\/p>\n","protected":false},"excerpt":{"rendered":"

Las alarmas sobre los riesgos de la inteligencia artificial ganan fuerza, pero sin evidencia verificable que las respalde, el temor puede terminar imponi\u00e9ndose sobre la realidad.<\/p>\n","protected":false},"author":61,"featured_media":59750,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"episode_type":"","audio_file":"","podmotor_file_id":"","podmotor_episode_id":"","cover_image":"","cover_image_id":"","duration":"","filesize":"","filesize_raw":"","date_recorded":"","explicit":"","block":"","itunes_episode_number":"","itunes_title":"","itunes_season_number":"","itunes_episode_type":"","footnotes":""},"categories":[16577,16659],"tags":[14128],"gps":[],"class_list":["post-59699","post","type-post","status-publish","format-standard","has-post-thumbnail","category-tecnologia-es","category-inteligencia-artificial","tag-ideas-en-es"],"acf":[],"_links":{"self":[{"href":"https:\/\/latinoamerica21.com\/es\/wp-json\/wp\/v2\/posts\/59699","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/latinoamerica21.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/latinoamerica21.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/latinoamerica21.com\/es\/wp-json\/wp\/v2\/users\/61"}],"replies":[{"embeddable":true,"href":"https:\/\/latinoamerica21.com\/es\/wp-json\/wp\/v2\/comments?post=59699"}],"version-history":[{"count":1,"href":"https:\/\/latinoamerica21.com\/es\/wp-json\/wp\/v2\/posts\/59699\/revisions"}],"predecessor-version":[{"id":59700,"href":"https:\/\/latinoamerica21.com\/es\/wp-json\/wp\/v2\/posts\/59699\/revisions\/59700"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/latinoamerica21.com\/es\/wp-json\/wp\/v2\/media\/59750"}],"wp:attachment":[{"href":"https:\/\/latinoamerica21.com\/es\/wp-json\/wp\/v2\/media?parent=59699"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/latinoamerica21.com\/es\/wp-json\/wp\/v2\/categories?post=59699"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/latinoamerica21.com\/es\/wp-json\/wp\/v2\/tags?post=59699"},{"taxonomy":"gps","embeddable":true,"href":"https:\/\/latinoamerica21.com\/es\/wp-json\/wp\/v2\/gps?post=59699"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}