O desenvolvimento indiscriminado de uma inteligência artificial poderia indicar o fim da humanidade.

(Stephen Hawking, março/2018)

Depois de termos folheado a agenda transumanista aspirando ao homem-máquina e à imortalidade, metas estranhas e fascinantes de um mundo novo de distópica utopia, vejamos qual é o perigo que espreita…

O tal perigo maior, assustador e fascinante, é a “Singularidade” (Vernor Vinge, 1993)!

Eis-nos face à tese (e ao medo!) de que a máquina ultrapassará o homem num futuro não muito distante, iniciando um novo ciclo da História em que o protagonista será uma nova espécie de homem-tecnológico, uma pós-humanidade tecnológica. Prevista para o período entre 2010 e 2140: a taxa explosiva de desenvolvimento promoverá um crescimento tecnológico no século XXI equivalente a 20 mil anos de progresso na velocidade atual, segundo Ray Kurzweil (The Singularity is Near, 2017).

Advento de um mundo novo, admirável por estranho e inimaginável. Uma hipótese para que convergiram os contributos da matemática (desde Stanislaw Ulam sobre a aceleração exponencial do progresso até ao Isaac Asimov de The Last Question, 1956), da ciência política (Philip K. Dick, com A máquina de governar, 1960, e A formiga elétrica, 1970), da estatística (Irving John Good sobre as máquinas ultrainteligentes) e de muitas outras áreas disciplinares.

A equação é simples e eficaz. Parte do problema: a vida e as suas dificuldades (limitações das capacidades humanas, doença, morte). E defende o objectivo correspondente: alongar a vida e ampliar as capacidades mentais e físicas do homem. Este novo Graal cria mercado e investimento. Apenas um exemplo: o projecto Human Brain Project, exigindo 1,2 bilhões de euros (dos quais, 500 milhões de fundos europeus) visando recriar, até 2024, um cérebro humano graças a um supercomputador, obteve o financiamento apesar da carta aberta de cientistas reconhecidos contra ele. Actualmente, o seu site anuncia:

The Human Brain Project aims to put in place a cutting-edge research infrastructure that will allow scientific and industrial researchers to advance our knowledge in the fields of neuroscience, computing, and brain-related medicine.

No séc. XXI, a “Singularidade” tornou-se um problema-chave e matéria de controvérsia, entre optimismo e pessimismo tecnológico, utopia e distopia imaginárias.

Paradoxalmente, são os que mais contribuíram para o desenvolvimento da Inteligência Artificial que mais denunciam a sua periculosidade… ou será, exactamente, por saberem muito dela:

Um paradoxo, contudo, salta aos olhos: apocalípticos ou preventivos, esses cenários vêm dos próprios pesquisadores e industriais engajados no desenvolvimento do que eles se mobilizam contra. Irrigados pelo dinheiro do Silicon Valley, as organizações e os comitês de ética supõem nos premunir contra a sublevação das máquinas, editando normas e regras que se multiplicam. Promotora de uma inteligência artificial generosa, a associação OpenAI, por exemplo, foi fundada em 2015 por donos de empresas como Musk, Sam Altman, dirigente da poderosa aceleradora Y Combinator, e Peter Thiel, cofundador da PayPal. O Future of Life Institute (“Instituto para o Futuro da Humanidade”), que procura diminuir os “riscos existenciais” ligados ao desenvolvimento de tecnologias, criado principalmente por Jaan Tallinn, cofundador do Skype, recebeu uma generosa doação de US$ 10 milhões feita por Musk. A Singularity University, que visa educar e responsabilizar os atores da indústria 4.0 diante dos “grandes desafios da humanidade”, foi criada graças aos fundos de patrocinadores- engenheiros-ensaístas, como Kurzweil e Peter Diamandis, especialista em turismo espacial e exploração de recursos de mineração de asteroides. Já a parceria para que a inteligência artificial beneficie as pessoas e a sociedade (Partnership on AI to Benefit People and Society), lançada com grande pompa em setembro de 2016 para promover “ações eficazes”, conta entre seus fundadores com Google, Apple, Facebook, Amazon, Microsoft e IBM. A lista é longa, mas todos essas empresas compartilham do credo de Diamandis: “Um dia, os dirigentes políticos vão despertar, mas será tarde demais. É preciso ultrapassá-los. Acredito muito mais no poder dos empreendedores do que no dos políticos ou mesmo no da política propriamente dita”.

Paradoxo, pois, como assinala Gabriel Ganascia, além disso, tudo parece tornar-se suspeito: os “pirómanos” seriam os “Bombeiros” dos fogos ateados que, entretanto, através de uma rede multiplicada de instituições filantrópicas de investigação ‘sem fins lucrativos’ que os denunciam e declaradamente os combatem, continuam a desenvolver dissimuladamente? Tratar-se-ia, a ser assim, de uma estratégia para atrair investimento (em 2019, os donativos declarados foram de 60.766.400,00 EUR, totalizando, desde 2008, 145.615.730,91 EUR, sempre de 75 receptores da doação, incluindo universidades), fugir ao fisco e usar colaboração científica em regime de voluntariado, potenciando a inovação tecnológica na via que denunciam?... Ou tratar-se-ia de um modo de desviar a investigação do controlo político e do da política científica?... A questão parece incontornável, dado o número imenso e a multiplicação exponencial de personalidades e de instituições, algumas delas lideradas pelos mesmos: p. ex., numa das listagens online, 760 nomes surgem associados à liderança de 930 organizações, sendo que alguns deles chegam a ocupar-se de até 8 instituições.

Francesco Panese, especialista das neurociências, assinala o modo como o discurso desses protagonistas (Google, Amazon, Facebook, Apple, Microsoft, etc.) se “despolitiza” em nome de “valores” combatendo evocados cenários apocalípticos da humanidade, escapando aos mecanismos de poder político e de política científica e… deslizando para a esfera do mito, com a recuperação das velhas utopias e da Idade do Ouro. O mito e a religião positivista do Progresso (Auguste Conte) renovando-se na senda tecnológica. O que evoca reedições de configurações como as dos Primeiro (1730 e 1740), Segundo (c. 1790–1840). Terceiro (c. 1850–1900) e Quarto (c. 1960–1980) Grandes Despertares, qualquer deles entendido à escala global pelos seus militantes.

Ora, o Transumanismo, que muitos consideram uma revolução em curso, divide-se, pelo menos, entre as duas linhas principais de pensamento já enunciadas: o biológico, que quer ‘matar a morte’, e um pós-humanismo cibernético. O biológico, desejando ‘matar a morte’, quer promover o Homo sapiens imortal ou humanos de 200 ou mais anos e uma medicina preventiva e de melhoramento (por manipulação genética), mais do que terapêutica. Exemplar disso é a experiência revelada pelo cientista He Jiankui (Universidade de Shenzhen, no sul da China) em 2018 sobre a modificação genética de embriões de gémeas para nascerem resistentes ao vírus da imunodeficiência humana (HIV), primeiro caso conhecido do género. A segunda modalidade de transumanismo defende o ideal científico de liberdade/“proibido proibir”. Um exemplo dessa via é a Universidade da Singularidade, no Silicon Valley (EUA) , financiada pelo Google, cujo nome consagra o conceito-chave:

Oriunda da física matemática, remete para a ideia de que, a partir de certo ponto de evolução da robótica e da inteligência artificial, os humanos serão totalmente ultrapassados e substituídos por máquinas autónomas ou, para melhor dizer, pelo surgimento de uma consciência e de uma inteligência globais, milhares de vezes superiores às do humano atual.

E Ray Kurzweil, seu diretor e defensor da ideia, assume como objetivo conseguir com implantes cerebrais, a criação do ‘pós-humano’.

Se olharmos para alguns indicadores dessa aventura em processo, eis a emergência do homem-máquina tal como o sintetiza Douglas Rodrigues Aguiar de Oliveira:

  1. Em 1883, o cirurgião e médico britânico William Arbuthnot Lane desenvolveu um sistema de pinos metálicos e placas para a fixação interna dos ossos [7]. Esse sistema acabou servindo para auxiliar no tratamento de fraturas ósseas.

  2. O aparelho de comunicação do físico Stephen Hawking foi responsável para superar as consequências de sua doença degenerativa. Essa tecnologia não serviu apenas para que o Hawking pudesse se comunicar, mas também para que ele desse continuidade em sua pesquisa acadêmica no campo cosmológico.

  3. Em 2014, cientistas da Universidade de Peking conseguiram implantar com sucesso a primeira vértebra impressa em 3D em um paciente jovem. O paciente, um menino de 12 anos, tinha um tumor maligno em sua medula espinhal. Depois de horas de cirurgia, os médicos substituíram a vértebra em seu pescoço com a peça impressa em 3D.

  4. Outra grande criação do ser humano para superar limitações físicas é o exoesqueleto do neurocientista Miguel Nicolelis [9]. Resumidamente, o exoesqueleto gera movimentos através do reconhecimento de impulsos cerebrais dos pacientes. Assim, os pacientes com algum nível de paralisia conseguem locomover-se.

  5. Através de estudos feitos sobre visão artificial através da estimulação neuronal, em outubro de 2014, aconteceu o primeiro implante de um olho biônico [10]. O paciente Larry Hester, que era considerado oficialmente cego por mais de 30 anos, após a cirurgia, voltou a ver, mas não perfeitamente. Basicamente, o que acontece é o seguinte: o olho biónico detecta a luz, converte-a em impulsos elétricos, que são interpretados pelo cérebro em imagens.

Uma caminhada em direcção ao primeiro ser humano reconhecido (pelo governo britânico em 2014) como um legítimo cyborg: o inglês Neil Harbisson, presidente e co-fundador da Fundação Cyborg. Com implantes cerebrais vários: um eyeborg, detector de cores que transforma em sons enviados para o crânio através de uma antena (ele sofria de acromatopsia congénita, vendo tudo a preto e branco); uma coroa solar, para incorporar a sensação do tempo; um sistema de comunicação transdental composto por dois dentes, cada um com um botão para Bluetooth e um mini-vibrador para comunicar com um par. Criou a Cyborg Nest (2010), empresa que desenvolve implantes humanos para expandir as sensações e os sentidos, e a Transpecies Society (2017), associação que representa pessoas com identidades não humanas. O “sujeito pós-humano” é “an amalgam, a collection of heterogeneous components, a material-informational entity whose boundaries undergo continuous construction and reconstruction”.

O algotitmo perfeito é o que permitiria a auto-regulação da superinteligência. É esse que emancipará a máquina e que iniciará um novo ciclo da civilização. É para ele que apenas se assinala uma última e única fronteira: a ligação à rede. Se essa ligação acontecer, o homem não mais dominará a máquina…

Pelo caminho, surgem casos como o Sistema de Crédito Social da República Popular da China, mecanismo de pontuação dos cidadãos pelo registo de comportamentos e por cálculos algorítmicos a partir da geolocalização com recurso a câmaras de vigilância e de reconhecimento facial e check-ins: a pontuação, que pode ser publicada e é necessária para qualquer decisão institucional. É uma “gestão social” planeada para supervisionar, moldar e classificar comportamentos através de processos económicos e sociais. Em contraste com cartazes com cidadãos-modelo, em 2013, a justiça chinesa aprovou uma “lista negra” de devedores.

A DARPA (“Defense Advanced Research Projects Agency”/Agência de Pesquisa Avançada de Projetos de Defesa), agência do departamento de defesa dos Estados Unidos, desenvolve projetos de alta tecnologia para eventuais fins militares. Recentemente, criou uma espécie de capacete com sensores que mede a atividade das ondas P-300 no cérebro, detectando a sua intensificação quando o subconsciente presesnte eventual perigo, fazendo o indivíduo prestar mais atenção à imagem-estímulo.

Afinal, o que é o humano, já que falamos dele sempre que lhe associamos algum prefixo que o ressemantiza (além, pós, super)? E quais as fronteiras entre ele e o que o prefixa? Da noite dos tempos e da bruma dos mitos, ecoa o enigma da Esfinge, que Édipo apenas resolveu provisoriamente, à medida do homem do seu mundo…

Eis-nos, pois, na alvorada de um novo mundo… não sei se admirável (Admirável Mundo Novo,1932, de Aldous Huxley), mas certamente incrível para as gerações que nos antecederam. E foi George Orwell, depois de ter publicado 1984, no documentário da BBC Orwell: A Life in Pictures, que nos interpelou a propósito desse seu ‘aviso à navegação’ efabulado e explicado:

Allowing for the book, after all, being a parody, something like 1984 could actually happen. This is the direction the world is going in at the present time. In our world, there will be no emotions except fear, rage, triumph, and self-abasement. The sex instinct will be eradicated. We shall abolish the orgasm. There will be no loyalty except loyalty to the Party. But always there will be the intoxication of power. Always, at every moment, there will be the thrill of victory, the sensation of trampling on an enemy who's helpless. If you want a picture of the future, imagine a boot stamping on a human face, forever. The moral to be drawn from this dangerous nightmare situation is a simple one: don't let it happen. It depends on you.