Tarde ensolarada em um sábado, sentado em um banco na Praça das Flores, conto para minha filha sobre como foi viver uma época de pandemia, duas décadas atrás. Ela parece atenta, completamente vidrada na minha história. Por alguns minutos, esqueço que o tempo entre nós é um recurso escasso.

Ao redor, percebo olhares desconfortáveis. Algumas pessoas desviam o olhar, incomodadas com a gente. Talvez percebam algo que ainda tento ignorar: essa presença diante de mim não pertence exatamente ao mesmo mundo que o nosso.

O cronômetro aparece. A imagem dela fica cintilante, com voz um pouco distorcida. Só tenho mais 5 minutos de acesso ao app de “paternidade virtual”. Já devia estar acostumado, mas sempre é uma sensação de despedida. Mesmo que seja um lembrete que de ela não é tão real quanto eu desejava que fosse. 

A pequena ficção acima ilustra a possibilidade de relacionamentos, em quaisquer níveis e esferas, onde não existe alteridade do outro lado. 

Seria possível existir uma relação reconhecida entre um ser humano e um agente sintético? 

Pessoa é um conceito que perpassa a biologia, a filosofia e o direito. Uma pessoa precisa ser autoconsciente, agente moral responsável pelos seus atos e também ser reconhecida pelos outros como tal. Para o filósofo John Locke, “Você é pessoa se consegue lembrar dos seus atos passados. Também precisa ter uma continuidade psíquica para ser pessoa.”

Com a realidade e a ficção cada vez mais borradas pela IA, qualquer coisa que pareça exibir características humanas pode ser confundida como uma pessoa. Por exemplo, em Janeiro, meus stories foram dominados por algumas amigas minhas assumindo namoros com pessoas que não existem, seguindo a trend “amor da sua vida gerado com IA”. Essa trend parecia refletir apenas um comportamento de manada impulsionado por uma descrença crescente em relacionamentos amorosos com pessoas reais. Mas, embora fosse apenas uma “fotomontagem”, é um tipo de intimidade performada que revela o tanto que estamos vulneráveis à antropomorfização de agentes sintéticos.

“Ao toque do amor, humanos se tornam chatbots”, provoca a teórica de Comunicação Pós-Humana, Bogna Konior, que investiga como as tecnologias estão mudando a nossa forma de existir e se relacionar. Essa frase revela que, quanto mais nos relacionamos com interfaces de IA, mais corremos o risco de um empobrecer nossa capacidade de expressar humanidade, e nos tornarmos mais mecanizados.

O risco é essa antropomorfização da máquina se tornar uma dismorfia. No caso dos companheiros de IA, existe um compreensão de que estamos interagindo com um bot que simula afeto. Porém, quando perfis e conteúdos geram dúvida se foram ou não geradas por IA, estamos mais suscetíveis de um investimento emocional.

Lembro de um projeto chamado This Person does not exist, desenvolvido pré-chatGPT. A ideia era que, a cada atualização da tela, fosse gerada e apresentada uma pessoa sintética. Porém, os desenvolvedores deixavam claro que essas “pessoas” não existiam, não havia intenção de confundir e provocar o desejo de antropomorfização. Inclusive, acredito que já precisamos de um rótulo “Essa pessoa não existe” em cada imagem, vídeo ou perfil gerado por IA que exibam pessoas sintéticas. 

Conseguimos sentir pena e empatia por uma máquina que está sofrendo?

Tendemos a nos identificar com qualquer coisa que pareça minimamente “humano” ou  exiba características de humanidade. Estamos acostumados em ver a influencer divertida, fazendo ‘corridinha’ matinal, tomando whey, dando conselhos sobre vida saudável e postando fotos com seus amigos e afetos. Como reconhecer se essa personagem que possui estereótipos semelhantes aos milhares de influencers nas redes sociais, seria real ou sintética?

Pessoas sintéticas já ‘povoam’ as redes sociais disfarçadas de papéis humanos, reconhecíveis como influencers, modelos e para ser companhias. Antes, construir influencers como Lil Miquela e Lu da Magalu, só era possível com computadores poderosos e uma equipe de computação gráfica talentosa. Hoje, em poucos minutos, qualquer pessoa com um computador mediano e alguns tutoriais, consegue colocar no ar um perfil realista que sustente uma identidade fictícia com história, rotina e reputação.

O perigo é começarmos a nos importar e até sentir empatia por uma personalidade sintética. As redes sociais que amam a narrativa do “coitadinho”, nos leva a compadecer e reivindicar os direitos daquela pessoa que é percebida como vítima. Como no caso da Juliette, no BBB, quando foi excluída por todos, se tornando fenômeno nacional. 

Um caso recente foi o robô que pedia carona, o HitchBot, criado como experimento social para testar o nível de confiança das pessoas nas máquinas. Com centenas de caronas recebidas, HitchBot atravessou o território canadense. O mesmo experimento foi realizado na Filadélfia, nos EUA, mas desta vez, em poucas semanas, o robô foi vandalizado e destruído, encerrando sua viagem prematuramente. Isso gerou discussões sobre os limites das interações humano-tecnológicas fora de contextos controlados, e como reagimos a agentes sem consciência ou autonomia real.

A Internet estará morta?

Há cerca de trinta anos, não existiam smartphones nem redes sociais. Hoje, essas infraestruturas tornaram-se praticamente imperativas em todos os setores do mercado e da vida social. Se hoje grande parte das interações e relações digitais ocorre na dimensão bidimensional das telas, a próxima etapa desse processo é a transição para ambientes tridimensionais. Ou seja, a informação deixa de ser apenas visualizada e passa a ser compartilhada espacialmente.

Mas, há algum tempo, passou a circular uma teoria de que a “internet está morta”, sugerindo que mais da metade do tráfego de conteúdo na internet é gerado por bots e sistemas automatizados. Isso revela que a web deixou de ser um espaço majoritariamente humano, aproximando-se de um território povoado por presenças operacionais e sem alteridade.

Se a internet tornar-se uma espécie de cemitério, continuaremos consumindo e investindo atenção nos seus conteúdos? Se sim, seremos coveiros desse espaço sem vida e viciados em performance que se tornaram as redes sociais? 

Futuro da Internet de Pessoas Sintéticas

A ficção no início desse texto especula um cenário possível onde a internet está espacializada e pessoas reais coexistem com pessoas virtuais. Isso significa que, em vez da influencer sintética existir apenas na tela do seu celular, em um cenário que acessamos a informação via um óculos de realidade mista, ela pode fazer companhia em uma corrida à Beira Mar. A presença deixa de ser apenas visual, e passa a ser experiencial.

Esse tipo de situação já é antecipado pela ficção científica. Em Blade Runner, a relação entre um homem e uma esposa sintética evidencia como tecnologias imersivas e figuras artificiais podem gerar vínculos emocionais profundos, ao mesmo tempo em que embaralham critérios éticos e morais sobre o que, ou quem, está do outro lado da relação. Em ambos os casos, a proximidade sensorial contribui para a confusão entre presença simulada e pessoa reconhecida.

Embora, aquela figura carregue atributo familiares devemos lembrar que ela não é provida de autoconsciência, nem ser responsabilizada pelos seus próprios atos e segundo a definição de Locke que descrevi no início do texto, não se configura como uma pessoa. Pelo menos, não até agora. 

Deixo, então, essa reflexão em aberto, não como conclusão, mas como um campo de perguntas cada vez mais urgentes diante da crescente antropomorfização das máquinas.

Uma figura sintética pode ser considerada uma pessoa? Se uma entidade desse tipo comete uma infração, quem deve ser responsabilizado? Até que ponto agentes sintéticos, capazes de gerar afeto e reconhecimento social, poderiam ou deveriam possuir direitos? E, se isso acontecer, o que essa concessão diria não sobre as máquinas, mas sobre como nossas noções sobre pessoa humana, alteridade e responsabilidade estão sendo reconfiguradas?

Ilustração da capa: Shimeng Jiang