Em “The Entire History of You”, último episódio da primeira temporada de Black Mirror, a tecnologia distópica da vez é um “grão” implantado na cabeça das pessoas que permite a elas reassistirem às suas memórias desde o início de suas vidas.

Ao que parece, o dispositivo é onipresente naquela sociedade, assim como a internet e os celulares nos dias de hoje.

Uma das personagens, a coadjuvante Hallam, relata durante a cena do jantar que não possui o grão instalado em seu corpo. Roubaram a sua “máquina de recuperação de memórias” e, desde então, ela preferiu viver sem aquilo.

Atriz Phoebe Fox como Hallam, em “The Entire History of You”, terceiro e último episódio da primeira temporada de Black Mirror.

As pessoas ficam chocadas ao escutá-la. Não conseguem conceber uma vida sem a possibilidade de rever a vida. Alguém comenta: “hoje em dia existe até um ativismo em se tirar o grão, né?”

O diálogo não dura nem um minuto e está longe de ser central no roteiro – mas algo ali é crucial para entender o momento que estamos vivendo.

Me refiro aos avanços mais recentes de inteligência artificial generativa (ChatGPT e afins) e, de maneira mais ampla, às grandes transformações tecnológicas que estamos experimentando em um ritmo cada vez mais acelerado – por exemplo: na semana em que começo a escrever este texto, o Vision Pro, novo óculos de realidade mista da Apple, acaba de ser anunciado.

(Segundo a empresa, apenas o desenvolvimento desse produto resultou no registro de mais de 5.000 patentes – e, não, eu não estou exaltando a Apple por isso)

Universalização camuflada de escolha

Há algo de curioso na realidade “tecnofeudal” que experienciamos hoje. Por um lado, nosso sistema econômico está melhor do que nunca em produzir uma infinidade de escolhas individuais, de modo que, com frequência, vivenciamos estados de sobrecarga cognitiva e paralisia decisória.

O psicólogo americano Barry Schwartz, em sua fala no TED de 2005 – que só se tornou mais atual com o passar do tempo –, provoca dizendo que, em um supermercado perto de sua casa, ele encontrou 285 variações de biscoito, 230 tipos de sopa e 40 pastas de dente diferentes. Num cenário como esse – que se tornou global –, as tomadas de decisão se tornam cada vez mais extenuantes e geradoras de ansiedade.

Por outro lado, o modo de vida ocidental se tornou paradoxalmente padronizado e massificado. Podemos ter centenas de opções no supermercado, mas a maioria de nós vai ao supermercado (ou, mais recentemente, faz compras através de aplicativos de entrega que precarizam as pessoas trabalhadoras convertendo-as em “empreendedoras de si mesmas”). Ao mesmo tempo em que há uma enorme variedade de marcas e modelos de smartphones, quase 7 bilhões de humanos carregam um desses aparelhos no bolso o tempo todo para, dentre outras coisas, fazer suas compras. Até mesmo o uso do anglicismo smartphone é normalizado.

Mais exemplos: o Youtube, embora conte com mais de 100 milhões de canais ativos, recebe por volta de 90% de suas visualizações nos vídeos dos 3% maiores canais. Em 2006, nos primórdios da plataforma, essa concentração era de “apenas” 64%. Ou seja: a pasteurização de conteúdos aumentou. Atualmente, 4,4 bilhões de pessoas (56% da população mundial) mora em cidades, e a vida urbana tende a predominar ainda mais nas próximas décadas, com 7 em cada 10 de nós vivendo dessa forma até 2050, de acordo com uma projeção do Banco Mundial.

Analisar esses fenômenos apenas pela lente das escolhas individuais não dá conta da complexidade do que estamos vivenciando. Até que ponto você realmente escolheu ter um smartphone e até que ponto você foi sistematicamente impelido (não só por meio de publicidade, mas sobretudo pela prova social) a fazê-lo?

Hallam, a personagem de Black Mirror, provavelmente não teria retirado o grão recuperador de memórias se não tivesse sido forçada por causa do roubo. Subitamente, sua decisão se tornou “opt-in” em vez de “opt-out”, e isso a manteve sem o dispositivo ultratecnológico que todes naquela realidade não tão ficcional assim usam.

O que estou querendo dizer é que, seja no seriado distópico ou no nosso 2023, o sistema econômico-cultural do Ocidente universaliza comportamentos sob a ilusão da escolha individual, e isso não acontece “de graça”. Pagamos um preço alto, quer estejamos conscientes ou não, com desdobramentos na devastação climática e ambiental, na minimização e extinção de modos de vida alternativos (o simples fato de adjetivá-los como “alternativos” já sinaliza a existência de um modo de vida hegemônico), no açoite psicológico que trazem consigo as narrativas neoliberais e, nas profundezas disso tudo, o fato de ser quase impossível fugir da ubiquidade desse modelo.

Lembremos: a inovação nem sempre é positiva. 5.000 novas patentes não significam que um produto bom para as pessoas e para o planeta foi desenvolvido – especialmente se a principal característica desse produto for cravejar mais uma tela (mais uma!) bem na frente dos nossos olhos.

A economia ocidental globalizada se especializou em universalizar. Desde as monoculturas agropecuárias até a indústria do plástico, passando pela onipresença das plataformas digitais, tudo é feito de uma forma que impõe muros a quem deseja inaugurar lógicas desviantes. A comodidade, seja material ou cognitiva, costuma vir com um custo social – e sociológico. Necessidades artificiais criadas e recriadas a todo instante lançam um tsunami em nossas tentativas de ativismo – as quais, numa disputa tão desigual, são fadadas ao sarcasmo dos amigues de Hallam no jantar.

Reinvenções (im)possíveis

Essa tendência universalizante contrasta com uma outra visão de mundo: o pensamento pluriversal. Sua origem, segundo a pesquisadora Aza Njeri, se dá com as proposições do filósofo sul-africano Mogobe Ramose, que questiona o caráter universal da filosofia greco-romana e aponta para a coexistência de múltiplas perspectivas de mundo: chinesas, japonesas, africanas, aborígenes, indígenas etc.

A pluriversalidade de visões e saberes não é um atributo óbvio justamente por precisar ser uma luta, um enfrentamento em relação à visão dominante branca, eurocêntrica, patriarcal e capitalista. Tal dominância se expressa não apenas na exclusão de outros saberes, como também na sua apropriação e inferiorização. E, se outras visões e saberes não podem prosperar, também não é possível a consolidação de outros modos de viver, produzir, se relacionar e organizar que escapem à monocultura do Ocidente.

Nesse sentido, o “epistemicídio” – o assassinato em massa de formas de conhecer o mundo – gera também “tecnocídios” e outras tragédias que abrem caminho para que o modo de vida ocidental reine soberano. Da mesma forma que o nosso sistema de produção extingue espécies do mundo natural, nosso sistema de aculturação extingue “espécies” do universo dos saberes.

O Ocidente, ao concentrar poder não apenas econômico, como também bélico, industrial, cultural e político, dita o que é digno de ser celebrado e o que deve ser lamentado, expandindo sua esfera de influência por todo o planeta. É interessante perceber como o sistema que tem por princípio a competição entre os diferentes agentes não tolera a prosperidade de outras cosmovisões e narrativas.

O que prospera, especialmente no campo tecnológico-digital, é a ideia dopaminérgica do “progresso” como imposição. Ou nos adaptamos (rapidamente) às inovações que surgem a cada momento, ou seremos descartades. O ideal ocidental de desenvolvimento é um rolo compressor, e é bem difícil escapar dele.

Isso não quer dizer que as novas invenções tecnológicas não sejam impressionantes. Um modelo algorítmico capaz de imitar a nossa criatividade e, ao mesmo tempo, aprender rapidamente a partir de uma quantidade gigantesca de dados, por exemplo, é uma façanha humana. Mas é exatamente isso que a visão de mundo ocidental produz: impressionâncias que nos distraem do essencial.

Quando esse sistema movido à dopamina se ergue como universal, e quando suas tecnologias se alastram como tentáculos por toda parte, sustentando teimosamente as feiuras da desigualdade social, da catástrofe ambiental e da inviabilidade de recusá-lo, então talvez precisemos ao menos tentar resgatar a pluralidade de modos de vida que já fez parte da história humana.

No livro O Despertar de Tudo, o antropólogo americano David Graeber e o arqueólogo britânico David Wengrow argumentam que uma característica central das sociedades humanas ancestrais era a sua diversidade (organizativa, relacional, econômica, política e cultural). Defini-las a partir de categorias reducionistas como o mito do bom selvagem ou o estado de natureza hobbesiano não dá conta de explicar o que se viveu durante tanto tempo.

Quando lidamos com as provas concretas, sempre vemos que as realidades da vida social humana nos seus primórdios eram muito mais complexas e bem mais interessantes do que qualquer teórico moderno do Estado de Natureza seria capaz de imaginar.

E, assim como eu estou me perguntando neste texto, os autores também se perguntam como é que viemos parar aqui:

E se tratássemos as pessoas, desde o começo, como criaturas imaginativas, inteligentes, lúdicas, que merecem ser vistas dessa maneira? E se, em vez de contar uma história narrando como a nossa espécie decaiu de algum idílico estado de igualdade, perguntássemos como acabamos presos em grilhões conceituais tão rígidos que não conseguimos mais sequer imaginar a possibilidade de nos reinventar?

A IA se alastrando em tudo

Dentre essas impossibilidades de nos reinventar, a questão tecnológica é a que mais me interessa aqui. A rápida onipresença das tecnologias digitais aponta para um quadro de asfixia ontológica. As telas vão chegando cada vez mais perto de nós: primeiro em nossos escritórios, depois em nossas casas, em nossos bolsos e, agora, a poucos centímetros de nossos olhos.

“Cell Phone Addiction Graphic Art” – Thought-Provoking and Powerful Design for Technology Awareness Sticker. Ilustração: MOTY1007.

Um dos processos que esse sufocamento digital fortalece é a colonização da nossa atenção, como já comecei a explorar neste artigo. Agora, a questão que se coloca tem a ver com a emergência dos novos sistemas de inteligência artificial (IA), que emulam o espírito criativo humano a partir do “aprendizado de máquina” sobre bases de dados colossais.

Não se engane: esse tipo de IA já está em todo lugar, e seu aprimoramento será cada vez mais implacável. Discussões sobre os seus dilemas e perigos também já estão pipocando por aí, variando desde riscos à confiabilidade (já precária) das informações, o uso imoral e bélico dessas tecnologias (incluindo a dificuldade em garantir que elas sempre trabalhem a partir de objetivos benéficos à humanidade), prejuízo aos sistemas políticos, exploração de mão de obra precarizada para treinar e monitorar a IA, aumento em larga escala do desemprego, da concentração de poder econômico nas mãos de pouquíssimas empresas e da divisão entre ricos e pobres, dentre outras questões – das mais concretas às mais filosóficas.

Enquanto recentemente no Brasil assistimos à história arrastada da tramitação do projeto de lei das Fake News (PL 2630/2020) – um problema sério, mas que ainda pode ser significativamente agravado pelo que vem por aí –, nós ainda nem pisamos no terreno mais pedregoso que é o debate e a regulamentação dos novos modelos de inteligência artificial. Iniciativas nesse sentido até existem mundo afora, mas sua velocidade e ousadia estão aquém do necessário.

A partir da constatação sobre a ubiquidade das visões de mundo, formas de vida e tecnologias ocidentais, é de se esperar que um campo tão alardeado (e potencialmente lucrativo) quanto a IA ganhe uma proporção universalizante em pouco tempo. Não teremos – ainda – um dispositivo massificado para reassistir às nossas memórias de vida como no episódio de Black Mirror, mas teremos a onipresença de algoritmos capazes de gerar o novo a partir das memórias digitais da humanidade.

O uso desses códigos, treinados a partir de bases de dados cada vez maiores e variadas – texto, imagem, áudio, vídeo etc –, será amplamente disseminado, de modo a impactar não apenas tarefas repetitivas e burocráticas, como também áreas intelectualmente complexas, criativas e, até então, tipicamente humanas como as ciências e as artes.

É aí que reside minha grande preocupação, que se soma aos muitos outros desafios que sintetizei acima.

As singularidades do processo criativo humano

Nos sistemas atuais de IA generativa, com algumas palavras e o apertar de um botão, já é possível gerar um texto ou imagem complexa coerente com a solicitação apresentada (áudio, música, vídeo, código e outros formatos estão um pouco atrás, mas não muito). Poesias, obras de arte, artigos argumentativos e figuras realistas estão agora a um clique não apenas de serem consumidas, mas de serem concebidas.

A eficiência do processo de criação ancorado em IA – em termos de custo, rapidez e acesso a “fontes de inspiração” – já é incrivelmente superior à criatividade humana. Sua capacidade de produzir resultados baratos, ágeis e adequados faz dessa tecnologia uma verdadeira “linha de produção” criativa.

Opinião compartilhada nas redes do Lucas Lima.

Não deve demorar muito para nos vermos inundades de conteúdo gerado por modelos de inteligência artificial – como se precisássemos de mais. Não será fácil distinguir entre conteúdos humanos e conteúdos gerados pela IA – e será que nos importaremos com isso? Eu com certeza sim. Num cenário em que pessoas criadoras usualmente são recompensadas mais pela quantidade e padronização de suas criações do que pela profundidade e autenticidade, isso é o que devemos esperar.

Embora alarmante, o ponto que mais me desassossega ainda não é esse. A pessoa humana não cria somente para obter um resultado; ela cria fundamentalmente pelo processo de criar. Por mais ineficiente, custoso e penoso que seja, é o percurso de criação de algo autêntico e relevante – ainda que apenas para si – que maximiza nossas capacidades de aprender e de atribuir significado à existência.

Eu mesmo, ao redigir este artigo, não consigo nem dizer o quanto me sinto concatenando perspectivas sobre um tema que, diga-se de passagem, não é a minha especialidade. Está sendo desafiador, mas é justamente isso que me habilita a crescer – e o texto, antes de ser um conteúdo para publicação, é pra mim um instrumento de reflexão.

(Certa vez ouvi que, em vez de só escrever sobre o que você sabe, melhor seria escrever sobre aquilo que ainda não se sabe, assim suas chances de se lançar em uma investigação fecunda serão muito maiores – foi o que fiz nos meus textos sobre o doutorado informal logo em seu início, relacionamentos e ideologias de ódio, por exemplo)

Talvez estejamos perdendo coisas importantes ao delegar aos algoritmos o poder de criar. Mesmo em se tratando de tarefas simples como resumir um livro, por exemplo – algo que a IA já faz perfeitamente –, é bem diferente quando nós mesmes fazemos nosso próprio resumo. Você provavelmente aprenderá algo lendo a síntese gerada artificialmente, mas isso não equivale ao que acontece no seu corpo (e no seu cérebro) ao ativamente produzir algo.

Trata-se de um princípio válido para qualquer atividade relacionada à cognição: quanto mais ativa, criativa e significativa ela for, maior o aprendizado. Nesse sentido, a ineficiência é uma aliada – assim como os músculos se desenvolvem melhor com movimentos mais lentos. A extrema otimização criativa viabilizada pela tecnologia, mesmo sendo capaz de gerar resultados surpreendentes, é uma inimiga das descobertas e elaborações que só são possíveis no interior dos processos humanos de criação.

Outra questão que atravessa esse debate, talvez ainda mais profunda que a aprendizagem, se refere à conexão umbilical que humanes fazem entre seus percursos criativos e os significados que conferem às suas vidas. Isso não é trivial. Deixar que calculadoras façam nossas contas é desejável, pois, até onde eu sei, poucas pessoas obtém seu senso de realização a partir de uma pilha de cálculos. No caso de trabalhos mais carregados de significado pessoal – que por vezes são a planta baixa da construção de identidade do sujeito –, aí o buraco é mais embaixo.

Alguém poderia argumentar que, uma vez consolidados os sistemas de IA generativa, isso acarretaria em novas formas de criatividade – a engenharia de prompt, que abarca as diferentes maneiras de se “conversar” com a IA, seria um exemplo. Embora eu acredite nisso, a expressividade das atividades criativas performadas por humanes permanecerá inalcançável, tanto para quem as performa quanto para quem delas desfruta.

Nosso tesão criativo, insatisfeito com a atribuição de somente fazer pedidos às máquinas, continuará buscando vias radiantes para desaguar.

Existem ainda outras facetas dos processos de invenção humana que vão além de seus resultados. Dedicar-se a um percurso criativo, qualquer que seja ele, pode ajudar as pessoas a lidarem com suas emoções. Isso é especialmente visível no caso das artes (e não seria toda atividade criativa humana uma espécie de arte?). Tristeza, raiva, vergonha, luto, insegurança, frustração, tensão, solidão, depressão, ansiedade, angústia e indignação são apenas alguns componentes da nossa paleta emocional que podem ser trabalhados e ressignificados por meio de um mergulho em ações criativas.

Além disso, o estado de fluxo – aquela sensação apetitosa de estarmos tão concentrades em alguma coisa que até esquecemos de nós mesmes – com frequência está associado a momentos de criação. Modelos de IA, por mais inteligentes que sejam, obviamente não podem gozar disso, pois sequer possuem uma autoconsciência que possa ser temporariamente perdida e um corpo que os possibilite sentir.

Eu não acredito que a criatividade artificial conseguirá substituir a criatividade humana. Meu palpite vai na direção oposta: com a avalanche de conteúdos construídos pela IA que possivelmente experimentaremos nos próximos anos, é provável que as produções criativas inteiramente humanas se tornem mais nichadas e valorizadas devido à sua relativa escassez. O historiador musical e crítico de jazz Ted Gioia, que escreveu recentemente um ótimo artigo sobre os impactos da IA na música, está otimista:

---

Não seria uma ótima reviravolta – se a ascensão da música baseada em IA realmente tornasse as músicas mais humanas? Se eu fosse arriscar, é justamente nisso que eu apostaria.

---

Pessoas que souberem criar de uma maneira mais artesanal, alavancando sua autenticidade e vulnerabilidade e se implicando nas próprias criações serão reconhecidas. Talvez tenhamos até mercados próprios voltados exclusivamente para quem deseja consumir a criatividade tipicamente humana, assim como hoje persistem os mercados de vinil e de livros físicos.

Vale dizer ainda que, além de podermos fortalecer esses aspectos humanos em nossas criações, contamos com um fator que os sistemas baseados em aprendizado de máquina não possuem: a capacidade de gerar explicações. O linguista e filósofo norte-americano Noam Chomsky argumenta que, embora possam fazer descrições e oferecer respostas a partir de grandes operações de memorização e correlação, os modelos mais recentes de inteligência artificial não conseguem criar inferências como nós fazemos. Ainda que sejam capazes de algo parecido no futuro, o pensamento crítico-reflexivo ainda é um atributo reservado à nossa espécie.

Uma religião chamada tecnologia

Possivelmente estamos vivenciando uma transição para um novo modelo econômico. Saímos de uma economia industrial para a economia do conhecimento, chegamos à economia digital e, agora, talvez seja o início da economia criativa algorítmica. Embora as circunstâncias mudem, as bases do modelo ocidental de exploração produtiva e universalização cultural permanecem intactas – se não fosse assim, a Apple sozinha não valeria mais que o PIB do Brasil e um pequeno conjunto de quatro plataformas digitais (todas norte-americanas) não concentraria, cada uma, mais de 2 bilhões de pessoas usuárias (25% da população do planeta).

Minha intenção ao escrever este texto não é negar os novos desenvolvimentos tecnológicos, mas sim problematizá-los, pois não existe tecnologia neutra. Essa conversa é longa e precisa ter espaço para acontecer, caso contrário estaremos fadados a venerar a tecnologia como uma espécie de religião contemporânea, como profetizou o autor e crítico cultural Neil Postman em 1992, com o seu livro Technopoly (Tecnopólio, em tradução livre).

A partir do raciocínio de Postman, elaborado muito antes do surgimento do Facebook e do ChatGPT, o culto à tecnologia pode ser equiparado a uma religião por ter sacerdotes (as big techs), fiéis (as pessoas usuárias) e rituais próprios (tirar selfies, por exemplo). Evoluímos a partir de culturas ancestrais que apenas construíam ferramentas para uma cultura totalitária em que todas as formas de vida devem ser submetidas à supremacia da técnica e da tecnologia.

Se Neil Postman estivesse vivo, seu argumento do tecnopólio estaria completo nos dias de hoje. Estamos vivendo o que ele descreveu de uma maneira superdimensionada. Nesse sentido, muita gente acredita que, se a tecnologia não vai salvar o mundo, ela pelo menos vai tornar as coisas bem melhores – entendendo esse “melhor” como mais otimizado, mais rápido, mais instantâneo, mais conveniente e/ou mais estimulante.

É o momento de parar um pouco e usar a nossa capacidade de pensar criticamente – ainda não conquistada pelas máquinas – para refletir sobre o que queremos. Ainda que a onipresença impositiva do modo de vida ocidental turve a nossa visão, existem escolhas éticas e estéticas que podemos (e precisamos) fazer. Não nos deixemos levar pelo furacão. Individual e coletivamente, podemos recalibrar nossas ações a partir do que é de fato essencial para nós.

Em sua palestra sobre o paradoxo da escolha, Barry Schwartz nos brinda com uma frase impactante:

Tudo era melhor naquela época em que tudo era pior.

Essa nostalgia reflete o agravamento da colonização tecnológica sobre cada aspecto de nossas vidas. Questionar esse domínio não é isento de consequências: no episódio de Black Mirror, as pessoas olham para Hallam no jantar como se ela fosse “atrasada” e inferior por não ter mais o grão recuperador de memórias.

Será mesmo?

---

Obs.: agradeço à Marcelle Xavier pela leitura e comentários neste texto.

---

Referências

Várias das referências que utilizei podem ser acessadas por meio dos links contidos no próprio texto.

As outras seguem abaixo:

“Se existe alguma maneira de controlar a inteligência artificial, devemos descobri-la antes que seja tarde demais”. Entrevista com Geoffrey Hinton. Instituto Humanitas Unisinos. Disponível aqui.

The Exploited Labor Behind Artificial Intelligence. Supporting transnational worker organizing should be at the center of the fight for “ethical AI.” Noema Magazine. Disponível aqui.

Imagem da capa:

Francesco Ungaro, em Pexels.