{"id":17872,"date":"2023-06-22T08:00:00","date_gmt":"2023-06-22T11:00:00","guid":{"rendered":"https:\/\/latinoamerica21.com\/?p=17872"},"modified":"2023-12-20T05:34:43","modified_gmt":"2023-12-20T08:34:43","slug":"inteligencia-artificial-deberiamos-arriesgarnos-a-perder-el-control-de-nuestra-civilizacion","status":"publish","type":"post","link":"https:\/\/latinoamerica21.com\/es\/inteligencia-artificial-deberiamos-arriesgarnos-a-perder-el-control-de-nuestra-civilizacion\/","title":{"rendered":"Inteligencia artificial: \u00bfdeber\u00edamos arriesgarnos a perder el control de nuestra civilizaci\u00f3n?"},"content":{"rendered":"\n

El \u00faltimo salto de la inteligencia artificial (IA) suele ilustrarse adjetiv\u00e1ndola como IA \u201cgenerativa\u201d. Ya no se limita a un tipo de software<\/em> o programaci\u00f3n disponible mediante algoritmos, esto es, procedimientos l\u00f3gicos que est\u00e1n orientados hacia la obtenci\u00f3n de resultados a los que se llega recurriendo a estructuras secuenciales, selectivas, y que prev\u00e9n ciclos de repetici\u00f3n. Ahora el software<\/em> incorpora un salto \u201cgenerativo\u201d, es decir, una capacidad de aprendizaje que lo habilita para producir respuestas o instrucciones novedosas, m\u00e1s all\u00e1 de las previstas.<\/p>\n\n\n\n

\u00bfHasta d\u00f3nde puede llegar semejante desacoplamiento? Abundan las conjeturas futuristas. Pero lo cierto es que, debido a la mencionada innovaci\u00f3n, los dispositivos dotados de IA (potenciada por los ingentes avances en el desarrollo de la memoria y en la velocidad para el procesamiento de datos) pueden hacer contribuciones notables en innumerables \u00e1reas.<\/p>\n\n\n\n

Simult\u00e1neamente, la IA generativa trae consigo serias amenazas en distintos \u00f3rdenes<\/a>. Hay numerosas investigaciones que argumentan la sustituci\u00f3n progresiva de actividades laborales en los m\u00e1s diversos sectores a manos de dispositivos automatizados.<\/p>\n\n\n\n

Sin embargo, deben advertirse otros da\u00f1os que afectar\u00edan a la poblaci\u00f3n en general, aunque de manera m\u00e1s difusa e imperceptible. La IA, y m\u00e1s a\u00fan con su modalidad generativa, interviene sin necesidad de recurrir voluntariamente a ella, de modo que las personas pueden ser manipuladas por motivos tanto comerciales como de control social.<\/p>\n\n\n\n

En una reciente carta abierta titulada \u201cPause Giant AI Experiments: An Open Letter\u201d, reconocidos investigadores fueron lapidarios. \u201cLa IA avanzada podr\u00e1 representar un cambio profundo en la historia de la vida en la Tierra y debe planificarse y administrarse con el cuidado y los recursos correspondientes. Desafortunadamente, este nivel de planificaci\u00f3n y gesti\u00f3n no est\u00e1 ocurriendo\u201d (\u2026) \u201cEn los \u00faltimos meses los laboratorios de IA han entrado en una carrera fuera de control para desarrollar y aplicar mentes digitales cada vez m\u00e1s poderosas, sin que sus creadores las puedan entender, predecir o controlar de manera fiable\u2026\u201d. De ah\u00ed que los firmantes lleguen a formularse preguntas tan acuciantes como: \u201c\u00bfDeber\u00edamos arriesgarnos a perder el control de nuestra civilizaci\u00f3n?\u201d.<\/p>\n\n\n\n

Ante tal nivel de incertidumbre, la carta reclama la adopci\u00f3n de medidas destinadas a garantizar la seguridad, transparencia, robustez y confiabilidad de los sistemas de IA. Adem\u00e1s, se propone a todos los laboratorios de IA que suspendan durante al menos seis meses el entrenamiento de sistemas m\u00e1s potentes que el GPT-4.<\/p>\n\n\n\n

En este contexto, cabe preguntarse: \u00bfalcanzar\u00edan los seis meses de suspensi\u00f3n para frenar la feroz carrera que vienen librando las corporaciones? \u00bfY qu\u00e9 valores o finalidades altruistas se impondr\u00edan finalmente?<\/p>\n\n\n\n

Dif\u00edcilmente, prevalecer\u00edan tales valores o finalidades cuando en su propio quehacer muchos investigadores dan muestras de mesianismo tecnocr\u00e1tico. En el libro Infocracia<\/em>, su autor, Byung-Chul Han, recuerda que Alex Pentland, exdirector del Human Dynamics Lab, del Instituto Tecnol\u00f3gico de Massachusetts (MIT, por sus siglas en ingl\u00e9s), escribi\u00f3: \u201cSi tuvi\u00e9ramos un \u2018ojo divino\u2019, una visi\u00f3n global, podr\u00edamos lograr una verdadera comprensi\u00f3n del funcionamiento de la sociedad y tomar medidas para resolver nuestros problemas\u201d.<\/p>\n\n\n\n

La UE se\u00f1ala el camino para una normativa multilateral<\/strong><\/p>\n\n\n\n

Debido a los riesgos que conlleva la IA, pareciera que se impondr\u00e1 un orden disciplinario internacional, algo dif\u00edcil teniendo en cuenta el car\u00e1cter vertiginoso de las transformaciones tecnol\u00f3gicas. De ah\u00ed las alertas, pero tambi\u00e9n el enfoque prudente de la propuesta de reglamento del Parlamento Europeo y del Consejo<\/a> por el que se \u201cestablecen normas armonizadas en materia de inteligencia artificial (ley de inteligencia artificial) y se modifican determinados actos legislativos de la Uni\u00f3n\u201d. El reglamento fue aprobado por el Parlamento el 14 de junio de 2023 y ahora se ha abierto la instancia de negociaci\u00f3n con  los Estados miembros.<\/p>\n\n\n\n

Al calificar a la IA seg\u00fan distintos niveles de riesgo y contemplando varias hip\u00f3tesis de excepci\u00f3n y de transitoriedad, la iniciativa de la UE se plantea como ensayo germinal de una futura normativa multilateral o plurilateral en la materia.<\/p>\n\n\n\n

Uno de los principales aspectos considerados por la UE y que merecer\u00eda especial atenci\u00f3n de los Gobiernos latinoamericanos es el funcionamiento global de la econom\u00eda digital y que ahora cabalga sobre la IA generativa. Como es sabido, a partir de la producci\u00f3n y suministro de contenidos, los programas operan en red al funcionar y actualizarse, remitiendo a bases de datos a trav\u00e9s de flujos transfronterizos que suelen ser administrados en la nube. Un reducido n\u00famero de corporaciones transnacionales (big tech<\/em>) tiende a concentrar el capital generado por estos negocios.<\/p>\n\n\n\n

En consecuencia, la incipiente regulaci\u00f3n de la UE toma debida nota sobre la posible localizaci\u00f3n extraterritorial de los proveedores. As\u00ed, el reglamento tambi\u00e9n se aplicar\u00e1 a proveedores y usuarios de sistemas de IA establecidos en un tercer pa\u00eds, cuando la informaci\u00f3n de salida sea usada en la UE.<\/p>\n\n\n\n

Del mismo modo, los pa\u00edses en v\u00edas de desarrollo deber\u00edan proteger a los usuarios localizados en sus territorios frente a operaciones que hubieran sido prohibidas o restringidas a los proveedores de dichas ofertas tecnol\u00f3gicas en los pa\u00edses industrializados. Ahora bien, \u00bfc\u00f3mo hacerlo?<\/p>\n\n\n\n

Hasta tanto alg\u00fan ordenamiento multilateral o plurilateral quede formalizado, parece abrirse una etapa de transici\u00f3n. En este tiempo las regulaciones nacionales o subregionales adoptadas por los pa\u00edses latinoamericanos tendr\u00edan que apuntar a concertaciones con Gobiernos de pa\u00edses industrializados. Esto se har\u00eda mediante acuerdos de reconocimiento mutuo sobre procedimientos de evaluaci\u00f3n de conformidad a los reglamentos establecidos para operaciones de IA consideradas de alto riesgo.<\/p>\n\n\n\n

De tal modo, se inhibir\u00edan las operaciones transfronterizas que pretendieran introducir en los mercados latinoamericanos proveedores de software <\/em>de IA generativa cuando el nivel de riesgo fuese inadmisible en los pa\u00edses de origen.<\/p>\n\n\n\n

No es suficiente con regular<\/strong><\/p>\n\n\n\n

Ya es posible imaginar c\u00f3mo se traspasar\u00eda el umbral de los mecanismos de defensa ps\u00edquica frente a la digitalizaci\u00f3n de la mente humana (mind uploading<\/em>) al articularse los contenidos mentales y los dispositivos digitales. En el mismo sentido, la nueva generaci\u00f3n de la rob\u00f3tica procura integrar el comportamiento de las personas con las que interact\u00faan los dispositivos mediante sensores, seg\u00fan experimentos de empresas como Embodied y Alphabet (matriz de Google).<\/p>\n\n\n\n

Pero sin la pretensi\u00f3n de hurgar en el futuro pr\u00f3ximo, habr\u00eda que repasar lo que viene ocurriendo desde hace algunos a\u00f1os. La l\u00f3gica digital tiene por objeto alinear las funciones cognoscitivas con el funcionamiento de los dispositivos digitales. Es decir, la mente de miles de millones de personas ya ha sido \u201cdigitalizada\u201d, cercenando, con ello, el pensamiento l\u00f3gico socr\u00e1tico y dial\u00e9ctico y, por extensi\u00f3n, el pensamiento cr\u00edtico.<\/p>\n\n\n\n

No es novedad que el entrenamiento destinado a instalar la l\u00f3gica digital est\u00e1 auspiciado por las mismas big tech<\/em> en su car\u00e1cter de proveedoras de contenidos. Su objetivo consiste en promover consumos masivos ejecutando programas concebidos desde plataformas virtuales que fijan opciones dicot\u00f3micas: aceptaci\u00f3n o rechazo.<\/p>\n\n\n\n

Las comunicaciones electr\u00f3nicas forman parte del habla y, en tal sentido, cobra particular relevancia la relaci\u00f3n asim\u00e9trica entre el usuario apremiado para definirse y cada opci\u00f3n que se le presenta frente al dispositivo. El experto en seguridad inform\u00e1tica, Patrick Wardle, afirma en este sentido: \u201cSiempre pienso en los tel\u00e9fonos como nuestra alma digital\u201d.<\/p>\n\n\n\n

Cuando se aconseja poner mayor \u00e9nfasis en las iniciativas educativas habr\u00eda que advertir que ya no es cuesti\u00f3n de promover una mayor alfabetizaci\u00f3n digital, porque de eso se ocupan con eficiencia los proveedores de dispositivos y de contenidos. Se trata de concebir pol\u00edticas educativas que promuevan el desarrollo del pensamiento l\u00f3gico socr\u00e1tico y dial\u00e9ctico y, por extensi\u00f3n, del pensamiento cr\u00edtico.<\/p>\n\n\n\n

En este punto, los Gobiernos latinoamericanos tienen por delante un desaf\u00edo que no deber\u00edan soslayar.<\/p>\n\n\n\n

\n