Preservar vozes e rostos humanos

via cathopic

Para este Dia Mundial da Comunicação, o sexagésimo, que coincide com a data da Ascensão, o Papa Leão XIV faz uma profunda reflexão sobre a comunicação digital. Explica que o rosto e a voz são traços únicos e distintivos de cada pessoa, dados por Deus, que nos criou à sua imagem e semelhança. Sua Palavra, que nos chamou à vida, é a comunicação que Deus faz de si mesmo, e que se deixou conhecer na voz e no Rosto de Jesus, Filho de Deus. Não somos uma espécie feita de algoritmos bioquímicos predefinidos antecipadamente: cada pessoa possui uma vocação insubstituível e irrepetível, que se manifesta na comunicação com os outros.

De outro lado, a tecnologia digital, ao simular vozes e rostos humanos, sabedoria e conhecimento, consciência e responsabilidade, empatia e amizade invade o nível mais profundo da comunicação, ou seja, o das relações entre as pessoas. Daí o desafio que se põe a nós. Preservar os rostos e as vozes da pessoa, isto é, preservarmo-nos a nós próprios. Aceitar com determinação e discernimento as oportunidades oferecidas pela tecnologia digital e pela inteligência artificial, sem esconder seus pontos críticos e os riscos existentes.

A seguir, o Pontífice exorta a “Não renunciarmos ao próprio pensamento”. Pois há múltiplas evidências de que os algoritmos, concebidos para maximizar o envolvimento nas redes sociais – o que é extremamente rentável para as plataformas –, recompensam as emoções rápidas e, ao contrário, penalizam as expressões humanas que requerem mais tempo, como o esforço para compreender e a reflexão. Ao encerrar grupos de pessoas em bolhas de fácil consenso e indignação, estes algoritmos enfraquecem a capacidade de escuta e pensamento crítico, aumentando a polarização social. A isso se somou uma confiança ingenuamente acrítica na inteligência artificial como “amiga” que sabe de tudo, e fornece todas as informações.

]

O Papa alerta que tudo isto pode enfraquecer a nossa capacidade de pensar de forma analítica e criativa, nossas capacidades cognitivas, emocionais e comunicativas. E que não podemos renunciar ao processo criativo e entregar às máquinas as próprias funções mentais e a própria imaginação. Isso seria enterrar os talentos recebidos para crescer como pessoas em relação a Deus e aos outros. Significaria esconder o nosso rosto e silenciar a nossa voz.

Então Leão XIV enfrenta outra questão. À medida que navegamos pelos nossos feeds, torna-se cada vez mais difícil compreender se estamos interagindo com outros seres humanos ou com “bots”, “chatbots” ou influenciadores virtuais. As intervenções não transparentes destes agentes automatizados influenciam os debates públicos e as escolhas das pessoas. Embora esse contato possa ser interessante, é ao mesmo tempo enganador, especialmente para as pessoas mais vulneráveis.

Quando substituímos as relações com os outros pelas relações com a IA, treinada para catalogar os nossos pensamentos e, portanto, construir à nossa volta um mundo de espelhos, onde tudo é feito “à nossa imagem e semelhança”, deixamos de encontrar o outro, que é sempre diferente de nós e com o qual podemos e devemos aprender a confrontar-nos.

Outro grande desafio, adverte o Pontífice, está em que os modelos de IA estão moldados pela visão do mundo de quem os constrói e podem impor modos de pensar, replicando estereótipos e preconceitos, perpetuando e aprofundando as desigualdades e injustiças sociais existentes. A isto acrescenta-se o problema da falta de precisão, devido à ausência de verificação das fontes, que favorece a desinformação, provocando uma crescente sensação de desconfiança, desorientação e insegurança.

A Mensagem não deixa de lembrar que, por trás desta enorme força invisível que envolve a todos, está apenas um pequeno grupo de empresas. Trata-se de um oligopólio capaz de orientar sutilmente os comportamentos e até mesmo de reescrever a história da humanidade – incluindo a história da Igreja –, muitas vezes sem que possamos ter real consciência disso. É preciso estar conscientes do caráter ambivalente da inovação digital e orientá-la, para que estas ferramentas possam realmente ser integradas por nós como aliadas.

Continuando o documento, o Papa observa que é possível a aliança com a realidade virtual, mas tem de se basear em três pilares: responsabilidade, cooperação e educação.

Em primeiro lugar, a responsabilidade: honestidade, transparência, coragem, visão, dever de partilhar conhecimento, direito de ser informado. Ninguém pode fugir à sua responsabilidade diante do futuro que estamos construindo. Para quem está no comando das plataformas on-line e da criação das IAs, as estratégias não podem ser norteadas pelo critério da maximização do lucro, mas por uma visão de bem comum. Igual responsabilidade têm os legisladores nacionais e reguladores supranacionais, com a função de zelar pelo respeito da dignidade humana.  Por sua vez, as empresas dos mass media e da comunicação não podem permitir que algoritmos, orientados para vencer a qualquer custo a batalha por alguns segundos de atenção a mais, prevaleçam sobre a fidelidade aos seus valores profissionais, voltados para a busca da verdade. Os conteúdos gerados ou manipulados pela IA devem ser sinalizados e claramente distinguidos dos conteúdos criados por pessoas.

Por isso, explica Leão XIV, todos somos chamados a cooperar. É necessário criar mecanismos de salvaguarda, para a construção de uma cidadania digital consciente e responsável. Já o objetivo da educação é aumentar as nossas capacidades pessoais de refletir criticamente, avaliar a credibilidade das fontes e os possíveis interesses por trás da seleção das informações que nos chegam, compreender os mecanismos psicológicos que elas ativam, permitir às nossas famílias, comunidades e associações a elaboração de critérios práticos para uma cultura de comunicação mais saudável e responsável.

Em suma, todos esses sistemas devem ser tratados como ferramentas, que possam ser validadas externamente, protegendo-se a privacidade e os dados, conhecendo-se os parâmetros de segurança e as opções de reclamação. É preciso proteger a própria imagem (fotos e áudio), o próprio rosto e a própria voz, para evitar que sejam utilizados na criação de conteúdos e comportamentos prejudiciais, como fraudes digitais, ciberbullying, deepfake, os quais violam a privacidade e a intimidade das pessoas sem o seu consentimento. Assim como a revolução industrial exigiu uma alfabetização mínima para permitir que as pessoas reagissem às novidades, também a revolução digital exige um ensinamento digital (com uma formação humanística e cultural) para compreender como os algoritmos influenciam a realidade e quais são os mecanismos que determinam o aparecimento de determinados conteúdos nos nossos fluxos de informação (feeds).

O Papa finaliza sublinhando:

“É necessário que o rosto e a voz voltem a representar a pessoa. É necessário preservar o dom da comunicação como a mais profunda verdade do ser humano, para a qual também se deve orientar toda a inovação tecnológica.”

E agradece a todos aqueles que estão trabalhando para os objetivos por ele apresentados na Mensagem, abençoando quantos trabalham para o bem comum através dos meios de comunicação.

Deus abençoe você!

FONTE: Vatican.va