{"id":17884,"date":"2023-06-22T08:00:00","date_gmt":"2023-06-22T11:00:00","guid":{"rendered":"https:\/\/latinoamerica21.com\/?p=17884"},"modified":"2023-06-20T05:20:03","modified_gmt":"2023-06-20T08:20:03","slug":"inteligencia-artificial-deveriamos-correr-o-risco-de-perder-o-controle-de-nossa-civilizacao","status":"publish","type":"post","link":"https:\/\/latinoamerica21.com\/pt-br\/inteligencia-artificial-deveriamos-correr-o-risco-de-perder-o-controle-de-nossa-civilizacao\/","title":{"rendered":"Intelig\u00eancia artificial: dever\u00edamos correr o risco de perder o controle de nossa civiliza\u00e7\u00e3o?"},"content":{"rendered":"\n

O \u00faltimo salto da intelig\u00eancia artificial<\/a> (IA) \u00e9 frequentemente ilustrado ao ser descrito como IA “generativa”. J\u00e1 n\u00e3o se limita mais a um tipo de software <\/em>ou programa\u00e7\u00e3o dispon\u00edvel por meio de algoritmos, ou seja, procedimentos l\u00f3gicos voltados para a obten\u00e7\u00e3o de resultados alcan\u00e7ados por meio de estruturas sequenciais, seletivas, e que permitem ciclos de repeti\u00e7\u00e3o. O software<\/em> agora incorpora um salto “generativo”, ou seja, uma capacidade de aprendizado que lhe permite produzir novas respostas ou instru\u00e7\u00f5es, para al\u00e9m daquelas previstas.<\/p>\n\n\n\n

At\u00e9 que ponto essa dissocia\u00e7\u00e3o pode ir? As conjecturas futuristas s\u00e3o abundantes. Mas o que \u00e9 certo \u00e9 que, devido \u00e0 mencionada inova\u00e7\u00e3o, os dispositivos dotados de IA (potenciada pelos avan\u00e7os maci\u00e7os no desenvolvimento da mem\u00f3ria e na velocidade de processamento de dados) podem fazer contribui\u00e7\u00f5es not\u00e1veis em in\u00fameras \u00e1reas.<\/p>\n\n\n\n

Ao mesmo tempo, a IA generativa traz consigo s\u00e9rias amea\u00e7as em v\u00e1rias frentes<\/a>. H\u00e1 numerosas pesquisas que argumentam sobre a substitui\u00e7\u00e3o progressiva de atividades laborais por dispositivos automatizados nos mais diversos setores. <\/p>\n\n\n\n

No entanto, \u00e9 preciso observar outros danos que afetariam a popula\u00e7\u00e3o em geral, embora de forma mais difusa e impercept\u00edvel. A IA, ainda mais em sua modalidade generativa, interv\u00e9m sem a necessidade de ser usada voluntariamente, de modo que as pessoas podem ser manipuladas tanto por motivos comerciais como de controle social.<\/p>\n\n\n\n

Em uma carta aberta recente intitulada “Pause Giant AI Experiments: An Open Letter”, renomados pesquisadores foram lapidares. “A IA avan\u00e7ada pode representar uma mudan\u00e7a profunda na hist\u00f3ria da vida na Terra e deve ser planejada e gerenciada com o cuidado e os recursos correspondentes. Infelizmente, esse n\u00edvel de planejamento e gerenciamento n\u00e3o est\u00e1 acontecendo” (…) “Nos \u00faltimos meses, os laborat\u00f3rios de IA entraram em uma corrida fora de controle para desenvolver e aplicar mentes digitais cada vez mais poderosas, sem que seus criadores consigam entend\u00ea-las, prev\u00ea-las ou control\u00e1-las de forma confi\u00e1vel….”. Por isso, os signat\u00e1rios chegam a se fazer perguntas t\u00e3o pertinentes como: “Devemos correr o risco de perder o controle da nossa civiliza\u00e7\u00e3o?<\/p>\n\n\n\n

Diante de tal n\u00edvel de incerteza, a carta requer a ado\u00e7\u00e3o de medidas destinadas \u00e0 garantia da seguran\u00e7a, da transpar\u00eancia, da robustez e da confiabilidade dos sistemas de IA. Al\u00e9m disso, prop\u00f5e a todos os laborat\u00f3rios de IA que suspendam o treinamento de sistemas mais potentes que o GPT-4 por pelo menos seis meses.<\/p>\n\n\n\n

Nesse contexto, vale a pena perguntar: a suspens\u00e3o de seis meses seria suficiente para deter a corrida feroz que as corpora\u00e7\u00f5es v\u00eam implementando? E que valores ou finalidades altru\u00edstas finalmente prevaleceriam?<\/p>\n\n\n\n

Esses valores ou metas dificilmente prevaleceriam quando, em seu pr\u00f3prio trabalho, muitos pesquisadores mostram sinais de messianismo tecnocr\u00e1tico. No livro Infocracia<\/em>, o autor Byung-Chul Han lembra que Alex Pentland, ex-diretor do Human Dynamics Lab, do Instituto Tecnol\u00f3gico de Massachusetts (MIT, por suas siglas em ingl\u00eas), escreveu: “Se tiv\u00e9ssemos um ‘olho divino’, uma vis\u00e3o global, poder\u00edamos obter uma verdadeira compreens\u00e3o de como a sociedade funciona e tomar medidas para resolver nossos problemas”.<\/p>\n\n\n\n

A UE indica o caminho para uma normativa multilateral<\/strong><\/p>\n\n\n\n

Considerando os riscos associados \u00e0 IA, parece que uma ordem disciplinar internacional ser\u00e1 imposta, algo dif\u00edcil, tendo em conta o car\u00e1ter vertiginoso das transforma\u00e7\u00f5es tecnol\u00f3gicas. Da\u00ed os alertas, mas tamb\u00e9m o enfoque prudente da proposta de regulamento do Parlamento Europeu<\/a> e do Conselho “que estabelece normas harmonizadas no campo da intelig\u00eancia artificial (lei de intelig\u00eancia artificial) e alteram determinados atos legislativos da Uni\u00e3o”. O regulamento foi adotado pelo Parlamento em 14 de junho de 2023 e agora est\u00e1 aberto a inst\u00e2ncia de negocia\u00e7\u00e3o com os Estados-Membros.<\/p>\n\n\n\n

Ao classificar a IA de acordo com diferentes n\u00edveis de risco e contemplando v\u00e1rias hip\u00f3teses de exce\u00e7\u00e3o e de transitoriedade, a iniciativa da UE \u00e9 vista como um teste inicial de uma futura normativa multilateral ou plurilateral na mat\u00e9ria.<\/p>\n\n\n\n

Um dos principais aspectos considerados pela UE e que mereceria aten\u00e7\u00e3o especial dos governos latino-americanos \u00e9 o funcionamento global da economia digital, que agora se apoia na IA generativa. Como \u00e9 sabido, a partir da produ\u00e7\u00e3o e do fornecimento de conte\u00fado, os programas operam em redes \u00e0 medida que funcionam e se atualizam, remetendo a bancos de dados por meio de fluxos transfronteiri\u00e7os que muitas vezes s\u00e3o gerenciados na nuvem. Um pequeno n\u00famero de corpora\u00e7\u00f5es transnacionais (big tech<\/em>) tende a concentrar o capital gerado por esses neg\u00f3cios.<\/p>\n\n\n\n

Consequentemente, a regulamenta\u00e7\u00e3o incipiente da UE leva em considera\u00e7\u00e3o a poss\u00edvel localiza\u00e7\u00e3o extraterritorial dos provedores. Assim, a regulamenta\u00e7\u00e3o tamb\u00e9m se aplicar\u00e1 a provedores e usu\u00e1rios de sistemas de IA estabelecidos em um terceiro pa\u00eds, quando a informa\u00e7\u00e3o de sa\u00edda for usada na UE. <\/p>\n\n\n\n

Da mesma forma, os pa\u00edses em desenvolvimento devem proteger os usu\u00e1rios localizados em seus territ\u00f3rios de opera\u00e7\u00f5es que seriam proibidas ou restritas a provedores de tais ofertas tecnol\u00f3gicas nos pa\u00edses industrializados. Mas como fazer isso?<\/p>\n\n\n\n

At\u00e9 que alguma ordem multilateral ou plurilateral seja formalizada, parece estar se abrindo uma fase de transi\u00e7\u00e3o. Durante esse per\u00edodo, as regulamenta\u00e7\u00f5es nacionais ou sub-regionais adotadas pelos pa\u00edses latino-americanos teriam que buscar acordos com os governos dos pa\u00edses industrializados. Isso assumiria a forma de acordos de reconhecimento m\u00fatuo sobre procedimentos para avaliar a conformidade com as regulamenta\u00e7\u00f5es estabelecidas para opera\u00e7\u00f5es de IA consideradas de alto risco.<\/p>\n\n\n\n

De tal modo, isso inibiria as opera\u00e7\u00f5es transfronteiri\u00e7as que buscam introduzir nos mercados latino-americanos provedores de software<\/em> de IA generativa quando o n\u00edvel de risco \u00e9 inaceit\u00e1vel nos pa\u00edses de origem.<\/p>\n\n\n\n

N\u00e3o \u00e9 suficiente regular<\/strong><\/p>\n\n\n\n

J\u00e1 \u00e9 poss\u00edvel imaginar como o limiar dos mecanismos de defesa ps\u00edquica contra a digitaliza\u00e7\u00e3o da mente humana (mind uploading<\/em>) poderia ser ultrapassado quando o conte\u00fado mental e os dispositivos digitais estiverem articulados. Na mesma linha, a nova gera\u00e7\u00e3o de rob\u00f3tica busca integrar o comportamento das pessoas com as quais os dispositivos interagem por meio de sensores, de acordo com experimentos de empresas como a Embodied e a Alphabet (matriz do Google).<\/p>\n\n\n\n

Mas, sem querer nos aprofundar no futuro pr\u00f3ximo, devemos rever o que est\u00e1 acontecendo h\u00e1 alguns anos. A l\u00f3gica digital tem como objetivo alinhar as fun\u00e7\u00f5es cognitivas com o funcionamento dos dispositivos digitais. Em outras palavras, as mentes de bilh\u00f5es de pessoas j\u00e1 foram “digitalizadas”, reduzindo assim o pensamento l\u00f3gico socr\u00e1tico e dial\u00e9tico e, por extens\u00e3o, o pensamento cr\u00edtico.<\/p>\n\n\n\n

N\u00e3o \u00e9 novidade que o treinamento destinado a instalar a l\u00f3gica digital \u00e9 patrocinado pelas mesmas big tech<\/em> em seu car\u00e1ter de provedoras de conte\u00fado. Seu objetivo consiste em promover o consumo em massa por meio da execu\u00e7\u00e3o de programas concebidos a partir de plataformas virtuais que estabelecem op\u00e7\u00f5es dicot\u00f4micas: aceita\u00e7\u00e3o ou rejei\u00e7\u00e3o.<\/p>\n\n\n\n

As comunica\u00e7\u00f5es eletr\u00f4nicas fazem parte da fala e, nesse sentido, a rela\u00e7\u00e3o assim\u00e9trica entre o usu\u00e1rio pressionado a se definir e cada op\u00e7\u00e3o apresentada a ele na frente do dispositivo \u00e9 particularmente relevante. O especialista em seguran\u00e7a de inform\u00e1tica, Patrick Wardle, afirma nesse sentido: “Sempre penso nos telefones como nossa alma digital”.<\/p>\n\n\n\n

Ao aconselhar uma maior \u00eanfase nas iniciativas educacionais, deve-se observar que n\u00e3o se trata mais de promover uma maior alfabetiza\u00e7\u00e3o digital, pois isso est\u00e1 sendo feito com efici\u00eancia pelos provedores de dispositivos e conte\u00fado. \u00c9 uma quest\u00e3o de elaborar pol\u00edticas educacionais que promovam o desenvolvimento do pensamento l\u00f3gico socr\u00e1tico e dial\u00e9tico e, por extens\u00e3o, do pensamento cr\u00edtico.<\/p>\n\n\n\n

Nesse ponto, os governos latino-americanos enfrentam um desafio do qual n\u00e3o deveriam se esquivar.<\/p>\n","protected":false},"excerpt":{"rendered":"

A IA, ainda mais em sua modalidade generativa, interv\u00e9m sem a necessidade de ser usada voluntariamente, de modo que as pessoas podem ser manipuladas tanto por motivos comerciais como de controle social.<\/p>\n","protected":false},"author":454,"featured_media":17873,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"episode_type":"","audio_file":"","cover_image":"","cover_image_id":"","duration":"","filesize":"","filesize_raw":"","date_recorded":"","explicit":"","block":"","itunes_episode_number":"","itunes_title":"","itunes_season_number":"","itunes_episode_type":"","footnotes":""},"categories":[16674,16659,16947,17109,17078,16599,546],"tags":[],"gps":[],"class_list":{"0":"post-17884","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-civilizacion","8":"category-inteligencia-artificial","9":"category-internet-es-pt-br","10":"category-civilizacion-pt-br","11":"category-inteligencia-artificial-pt-br","12":"category-internet-es","13":"category-sociedad-br"},"acf":[],"_links":{"self":[{"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/posts\/17884","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/users\/454"}],"replies":[{"embeddable":true,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/comments?post=17884"}],"version-history":[{"count":0,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/posts\/17884\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/media\/17873"}],"wp:attachment":[{"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/media?parent=17884"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/categories?post=17884"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/tags?post=17884"},{"taxonomy":"gps","embeddable":true,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/gps?post=17884"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}