Recentemente, o Papa Francisco, maior autoridade da igreja católica e atual chefe de Estado do Vaticano, fez pronunciamentos a respeito do avanço da inteligência artificial. Ressalto aqui duas cartas publicadas, uma em 1º de Janeiro de 2024, cujo tema era Inteligência Artificial e Paz, e outra em Março do mesmo ano, no dia mundial das comunicações sociais . É importante dizer que as cartas abordam uma diversidade de temas relacionados ao avanço das tecnologias na contemporaneidade e tem uma perspectiva bastante alinhada a documentos diversos que propõem a regulamentação de tecnologias emergentes como a IA.

Em um trecho de uma das cartas, o Papa fala que os problemas de natureza técnica, científica e política só podem ser resolvidos passando pelo homem e ressalta a importância de se formar um novo tipo de humano, dotado de uma espiritualidade profunda.

Lembro aqui, que a maioria dos documentos que procuram oferecer subsídios para regulamentação das interações com o digital, reforçam a importância de se colocar o ser humano no centro das decisões. O relatório da UNESCO A tecnologia na Educação: uma ferramenta a serviço de quem? apresenta o seguinte trecho:

A premissa básica deste relatório é que a tecnologia deve servir às pessoas e que a tecnologia na educação deve colocar os estudantes e professores no centro. O relatório tentou evitar uma visão excessivamente focada na tecnologia ou na afirmação de que a tecnologia é neutra. Ele também oferece um lembrete de que, como grande parte da tecnologia não foi elaborada para a educação, sua adequação e seu valor precisam ser comprovados em relação a uma visão da educação centrada no ser humano.

Outro documento, divulgado por comissão da União Europeia, chamado: Orientações éticas para uma IA de confiança” propõe sete requisitos mínimos que os sistemas de IA devem cumprir para serem considerados de confiança. O primeiro é a agência humana e supervisão, reforçando a centralidade no ser humano como condição de confiabilidade. Outros requisitos são: a robustez técnica e segurança, a privacidade e a governança de dados, a transparência dos modelos de negocios e algoritmos, a diversidade, a não discriminação e a justiça, o bem-estar social e ambiental e a definição clara das responsabilidades pelos resultados e processos.

Em outro trecho, o Papa fala sobre a importância do homem despertar da hipnose da onipotência, ele reforça a importância de uma percepção de comunidade, de coexistência e de solidariedade. Ele afirma também que as tecnologias podem ser um instrumento de serviço amoroso ou podem servir a um domínio hostil. Marshall McLuhan, Langdon Winner e muitos outros autores já falavam, no século passado, sobre como o meio ou as tecnologias na mediação das comunicações, são determinantes na mensagem, e são também ferramentas políticas e não neutras. Este ponto também é reforçado na carta. O Papa também ressalta a importância de modelos de regulamentação ética para se garantir o pluralismo de ideias, a equidade no acesso e a justiça social.

Sobre a informação e os dados circulando na internet, o Papa fala sobre a importância da contextualização, de implicar o corpo, as experiências e a partilha. Ele afirma que não podemos, como seres humanos, nos tornarmos alimento para os algoritmos. Yuval Harari, em seu livro 21 Lições para o Século 21 também afirma que nós humanos somos semelhantes a outros animais domésticos. Temos criado vacas dóceis que produzem enormes quantidades de leite para nos servir. Segundo o professor, estamos criando agora homens domesticados que produzem enormes quantidades de dados e funcionam como chips eficientes num enorme mecanismo de processamento de dados. O filme Matrix já trazia este cenário em sua trama.

Outros pontos citados pela carta são relacionados com a posse dos dados, a propriedade intelectual e temas relacionados, o que pode resultar em discriminação, na vigilancia e controle e em possiveis interferências nos processos eleitorais como, por exemplo, o caso Cambridge Analytics, que influenciou as eleições presidenciais norte-americanas em 2016. É mencionado também o risco dos algoritmos distorcerem informações, replicarem as injustiças e os preconceitos. A classificação dos usuários/cidadãos em perfis psicossociais, realizada pelas redes sociais, foi ação comprovada, não somente nas eleições norte-americanas, mas também em processos eleitorais de outros países no mundo, com repercussões profundas na sociedade.

Cathy O´Neil assume uma postura contundente ao se referir aos algoritmos como Armas de Destruição Matemática. Essas armas são definidas por algoritmos usados na organização e análise de dados na educação, na avaliação de profissionais em processos seletivos, na obtenção de crédito, na aquisição de seguro e de emprego, junto à polícia e no sistema prisional, na propaganda e na vida cívica. Ela reforça a importância da transparência dos algoritmos para que o cidadão tenha maior clareza sobre seu perfil de consumidor, sobre as inferências realizadas sobre seus dados e para que se possa contestar, no caso de injustiças. Ainda sobre a transparência ou a opacidade dos modelos, O’Neil1 afirma que modelos opacos e invisíveis são a regra, e os transparentes a exceção. O algoritmo ou modelo matemático é considerado o “molho secreto” das empresas que os desenvolveram. Os algoritmos das grandes empresas de tecnologias valem bilhões de dólares e são uma caixa preta, tornando impossível, então, sua análise com relação aos interesses, à ética e à valorização dos direitos humanos.

Por fim, em mais um trecho, o Papa lembra que os avanços tecnológicos não necessariamente conduzem a uma melhoria da qualidade de vida da humanidade inteira, eles podem agravar as desigualdades e os conflitos, e por isso nunca poderão ser considerados um verdadeiro progresso. Lembro da fala de Nego Bispo2, intelectual e ativista, que ressalta a importância de descolonizar as palavras. Ele traz como exemplo a palavra des-envolvimento e afirma que ela é usada no sentido de progresso, com uma conotação positiva. No entanto, esta palavra representa a des-conexão do humano com a natureza e do humano com o humano, considerando o caminho que temos percorrido como humanidade. Se buscamos a ética, a justiça social e a paz ao lidar com os complexos desafios do nosso tempo, precisamos priorizar o envolvimento e a conexão e não o des-envolvimento e a des-conexão.

Notas

1 O'neil, Cathy. Algoritmos de Destruição em Massa. Rio de Janeiro: Rua do Sabão, 2021.
2 Santos, Antônio Bispo dos. A terra dá, a terra quer. São Paulo: Ubu Editora/Piseagrama, 2023.