\u201cO pesadelo da esquizofrenia \u00e9 n\u00e3o saber o que \u00e9 verdade\u201d, diz o Dr. Rosen \u00e0 esposa de John Nash no filme Uma Mente Brilhante, dirigido por Ron Howard. A frase descreve um dos sintomas mais angustiantes dessa doen\u00e7a e, usada aqui em sentido metaf\u00f3rico e n\u00e3o cl\u00ednico, nos oferece um ponto de partida para refletir sobre uma complexidade muito real da sociedade do s\u00e9culo XXI. Uma cultura visual de circula\u00e7\u00e3o vertiginosa nas redes sociais, onde abundam imagens e v\u00eddeos que parecem verdadeiros, mas s\u00e3o completamente falsos e alimentam din\u00e2micas poderosas de desinforma\u00e7\u00e3o.<\/p>\n\n\n\n
Se fal\u00e1ssemos apenas de dados imprecisos, o problema seria manej\u00e1vel. Mas quando essas pe\u00e7as falsas s\u00e3o inseridas em conflitos entre pa\u00edses \u2014 como Israel-Palestina ou R\u00fassia-Ucr\u00e2nia \u2014 e s\u00e3o projetadas para suscitar temor, rep\u00fadio, estigmatiza\u00e7\u00e3o ou divis\u00e3o, a situa\u00e7\u00e3o muda de escala. N\u00e3o se trata s\u00f3 de erros informativos, mas de dispositivos que modelam emo\u00e7\u00f5es, identidades e posi\u00e7\u00f5es pol\u00edticas. Aqui vale a pena parar e nos perguntar at\u00e9 que ponto a intelig\u00eancia artificial (IA) generativa est\u00e1 reconfigurando a cultura, a vida cotidiana e a pr\u00f3pria ideia de verdade compartilhada.<\/p>\n\n\n\n
Na Am\u00e9rica Latina, a fronteira entre o verdadeiro e o falso deixou de ser um dilema futurista. O Brasil estreou regras contra os deepfakes<\/em> em suas elei\u00e7\u00f5es locais de 2024, enquanto circulavam montagens; no M\u00e9xico, o ciclo eleitoral daquele mesmo ano foi marcado por debates sobre \u00e1udios e v\u00eddeos sint\u00e9ticos; e o mundo corporativo j\u00e1 enfrentou tentativas de fraude com vozes e rostos clonados. O resultado \u00e9 uma vida cotidiana mais incerta, em que a verifica\u00e7\u00e3o geralmente chega tarde e o dano se espalha rapidamente: primeiro circulam as emo\u00e7\u00f5es, depois \u2014 com sorte \u2014 aparecem as evid\u00eancias.<\/p>\n\n\n\n Nesse contexto, propomos interpretar o fen\u00f4meno como uma esp\u00e9cie de \u201cesquizofrenia social\u201d induzida pela IA generativa: um desalinhamento entre o que vemos e ouvimos e o que podemos acreditar, com efeitos pol\u00edticos, econ\u00f4micos e culturais em grande escala.<\/p>\n\n\n\n Chamamos de \u201cesquizofrenia social\u201d \u2014 insistimos, em um sentido metaf\u00f3rico e n\u00e3o cl\u00ednico \u2014 a dessincroniza\u00e7\u00e3o coletiva entre percep\u00e7\u00e3o e confian\u00e7a que ocorre quando sistemas t\u00e9cnicos geram, a baixo custo e em grande escala, representa\u00e7\u00f5es plaus\u00edveis de algo que nunca aconteceu. Pelo menos tr\u00eas mecanismos contribuem para isso.<\/p>\n\n\n\n Primeiro, o mimetismo sensoria<\/em>l: as IAs conseguem vozes, rostos e cenas que \u201cpassam\u201d por reais e s\u00e3o consumidas na velocidade do feed<\/em>, reduzindo drasticamente a janela para d\u00favidas. Segundo, a economia da aten\u00e7\u00e3o<\/em>: as plataformas otimizam a exposi\u00e7\u00e3o e o engajamento<\/em>; as pe\u00e7as sint\u00e9ticas, por seu dramatismo e novidade, competem vantajosamente por cliques, rea\u00e7\u00f5es e padr\u00f5es. Terceiro, as assimetrias institucionais<\/em>: a capacidade de verificar, regular e sancionar sempre fica atr\u00e1s da capacidade de gerar e distribuir conte\u00fado.<\/p>\n\n\n\n Na regi\u00e3o, \u00f3rg\u00e3os e tribunais eleitorais come\u00e7aram a responder, mas os incentivos do ecossistema informacional \u2014 pol\u00edtico, comercial e midi\u00e1tico \u2014 continuam premiando a viralidade acima do cuidado democr\u00e1tico. A consequ\u00eancia \u00e9 uma eros\u00e3o da confian\u00e7a interpessoal e institucional, com impactos desiguais: alguns grupos populacionais espec\u00edficos costumam ser alvos preferenciais de montagens e campanhas de \u00f3dio, enquanto a m\u00eddia enfrenta um duplo desafio de sustentabilidade e verifica\u00e7\u00e3o. Reverter esse desalinhamento exige pol\u00edticas p\u00fablicas, tecnologias respons\u00e1veis e alfabetiza\u00e7\u00e3o midi\u00e1tica e visual que reequilibrem a rela\u00e7\u00e3o entre ver, acreditar e agir.<\/p>\n\n\n\n Para entender como chegamos a confiar tanto nas imagens \u2014 a ponto de a IA poder deslocar nossa percep\u00e7\u00e3o \u2014, \u00e9 \u00fatil recuperar algumas ideias dos Estudos Visuais. A partir da\u00ed, podemos questionar a rela\u00e7\u00e3o entre imagem, olhar e realidade, e entender o terreno em que hoje circulam imagens criadas ou manipuladas pela IA.<\/p>\n\n\n\n G\u00e9rard Wajcman, em O olho absoluto<\/em> (2010), afirma que vivemos em uma sociedade que idolatra a imagem. Esperamos que a realidade se entregue completamente ao nosso olhar, que nada permane\u00e7a oculto. Da\u00ed a onipresen\u00e7a de c\u00e2meras em telefones, computadores e dispositivos de vigil\u00e2ncia. Sob a premissa de que aquilo que n\u00e3o tem imagem facilmente se torna boato, acabamos confiando nas imagens como se elas garantissem, por si mesmas, a verdade do que mostram, mesmo sabendo que podem ser manipuladas. Primeiro foi a fotografia, depois os programas de edi\u00e7\u00e3o digital; agora, as imagens produzidas ou transformadas com IA. Em todos esses casos, mant\u00e9m-se uma confian\u00e7a quase autom\u00e1tica no vis\u00edvel.<\/p>\n\n\n\n Wajcman ilustra essa pulsa\u00e7\u00e3o de ver tudo com o exemplo de um grupo de cientistas da Universidade de Hiroshima que tornou transparentes alguns sapos para observar seus \u00f3rg\u00e3os sem abrir seus corpos. Al\u00e9m do que poderia parecer um avan\u00e7o cient\u00edfico, o gesto revela um desejo de antecipar qualquer amea\u00e7a \u2014 como o crescimento de c\u00e9lulas malignas \u2014 por meio de um olho externo que produz informa\u00e7\u00f5es constantes. Essa l\u00f3gica ajuda a compreender por que hoje normalizamos tecnologias que prometem vigiar, prever e controlar o futuro a partir de imagens e dados visuais.<\/p>\n\n\n\n Por sua vez, Guy Debord, em A sociedade do espet\u00e1culo<\/em> (1967), argumenta que, nas sociedades modernas, a vida social se organiza como uma enorme acumula\u00e7\u00e3o de espet\u00e1culos. O que antes era vivido de forma direta \u00e9 deslocado para sua representa\u00e7\u00e3o, para sua encena\u00e7\u00e3o. O espet\u00e1culo n\u00e3o \u00e9 simplesmente um conjunto de imagens, mas uma forma de rela\u00e7\u00e3o social mediada por essas imagens e pelos dispositivos que as difundem. A economia e o poder, aponta Debord, se legitimam por meio desse regime visual que molda a maneira como percebemos o mundo e a n\u00f3s mesmos.<\/p>\n\n\n\n Nesse contexto, a visualidade est\u00e1 cada vez mais associada \u00e0 vigil\u00e2ncia, ao voyeurismo e ao espet\u00e1culo, e cada vez menos \u00e0 reflex\u00e3o cr\u00edtica. Se antes se falava de um \u201colho inquisidor\u201d, agora nos deparamos com um olho cheio de d\u00favidas: um olho saturado pela prolifera\u00e7\u00e3o de imagens manipuladas ou geradas por IA, que torna extremamente dif\u00edcil distinguir entre o verdadeiro e o falso, entre a realidade e a fic\u00e7\u00e3o.<\/p>\n\n\n\n A \u201cesquizofrenia social\u201d de nosso tempo n\u00e3o consiste apenas em duvidar do que vemos, mas em que essa d\u00favida corr\u00f3i la\u00e7os j\u00e1 fr\u00e1geis em sociedades atravessadas por desigualdade, viol\u00eancia e institui\u00e7\u00f5es fracas, como tantas na Am\u00e9rica Latina. Permitir que a IA generativa opere sem contrapesos neste contexto significa agravar a confus\u00e3o e a polariza\u00e7\u00e3o; coloc\u00e1-la a servi\u00e7o da democracia, por outro lado, implica fortalecer os sistemas de verifica\u00e7\u00e3o, promover a alfabetiza\u00e7\u00e3o visual e midi\u00e1tica desde a escola e abrir a discuss\u00e3o p\u00fablica sobre os usos leg\u00edtimos das imagens sint\u00e9ticas. Em \u00faltima an\u00e1lise, o que est\u00e1 em jogo n\u00e3o \u00e9 apenas o estatuto da verdade visual, mas a possibilidade de manter um m\u00ednimo de confian\u00e7a compartilhada que torne a vida em comum habit\u00e1vel.<\/p>\n\n\n\n Tradu\u00e7\u00e3o autom\u00e1tica revisada por Isabel Lima<\/sub><\/em><\/p>\n","protected":false},"excerpt":{"rendered":" Na era das imagens sint\u00e9ticas, a intelig\u00eancia artificial dilui a fronteira entre ver e acreditar, corroendo a verdade compartilhada e a confian\u00e7a democr\u00e1tica.<\/p>\n","protected":false},"author":835,"featured_media":55035,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"episode_type":"","audio_file":"","cover_image":"","cover_image_id":"","duration":"","filesize":"","filesize_raw":"","date_recorded":"","explicit":"","block":"","itunes_episode_number":"","itunes_title":"","itunes_season_number":"","itunes_episode_type":"","footnotes":""},"categories":[17078,16794],"tags":[17187],"gps":[],"class_list":{"0":"post-55058","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-inteligencia-artificial-pt-br","8":"category-desinformacion-pt-br","9":"tag-debates-2"},"acf":[],"_links":{"self":[{"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/posts\/55058","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/users\/835"}],"replies":[{"embeddable":true,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/comments?post=55058"}],"version-history":[{"count":0,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/posts\/55058\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/media\/55035"}],"wp:attachment":[{"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/media?parent=55058"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/categories?post=55058"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/tags?post=55058"},{"taxonomy":"gps","embeddable":true,"href":"https:\/\/latinoamerica21.com\/pt-br\/wp-json\/wp\/v2\/gps?post=55058"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}