Um dos enigmas da historiografia mundial reside na decisão tomada pela aristocracia militar japonesa no segundo quartel do século XVII – no início da era de fechamento e paz interna denominada por Período de Edo (1600-1868) – de quase abolir o desenvolvimento de armas de fogo. Os arcabuzes foram introduzidos na sociedade nipónica em 1543, logo na chegada dos portugueses. Vivia-se o terrível Período Sengoku, uma interminável guerra civil que nos aparece com sangrento esplendor na filmografia de Kurosawa. Em poucos anos, com a sua diligência habitual, os armeiros japoneses aperfeiçoam as armas portuguesas ao ponto de em 1575 terem sido usados 3 000 arcabuzes na batalha de Nagashino, o que deve ter sido um recorde mundial na época. Haverá muitas razões para esse deliberado recuo tecnológico, incluindo o horror que os samurais devem ter sentido quando viram os seus camponeses conseguirem obter em 7 dias de treino uma capacidade letal que para eles implicava uma vida inteira de entrega ao manejo do sabre e do arco. Contudo, o que importa perguntar é se poderíamos, hoje, tomar a uma escala global uma decisão semelhante em relação ao curso da tecnologia em geral e da inteligência artificial (IA) em particular?
Na Inteligência Artificial é difícil separar o trigo do joio
A actual vanguarda tecnocientífica apresenta-se como um triângulo formado pela inteligência artificial, biotecnologia e nanotecnologia. Cada um destes vértices, vistos separadamente, apresenta prodigiosas promessas e gigantescas ameaças. Contudo, o futuro aponta para a sua convergência, até à plena fusão, num processo dominado pela IA, por máquinas que simulam exponencialmente a inteligência humana, por programas (software) que fazem as suas actualizações com autonomia. E isso parece emudecer até os mais desabridos entusiastas do incondicional optimismo tecnológico. Chamo a atenção do leitor para esta raridade: quatro das personalidades mais brilhantes da vertigem tecnocientífica em que desde a modernidade embarcámos, primeiro na Europa e agora no planeta inteiro, convergem num profundo cepticismo em relação aos perigos existenciais para a humanidade representados pelo crescimento exponencial da IA: o falecido físico Stephen Hawking, o empresário visionário, Elon Musk, o filósofo e adepto do transhumanismo, Nick Bostrom, e o historiador e autor de best-selllers, Yuval Noah Harari. Seria irónico, se não fosse trágico, verificar a coincidência destas preocupações com o teor dos oraculares murmúrios de Martin Heidegger, quando confessou à revista Der Spiegel, em entrevista publicada postumamente em Maio de 1976, que perante os riscos da técnica “Apenas um deus nos pode salvar” (Nur noch ein Gott kann uns retten).
Voltemos à pergunta inicial: será possível controlar hoje a IA do mesmo modo como o Xogunato de Tokugawa controlou as armas de fogo até à chegada da Marinha dos EUA a Tóquio em 1854? Controlar a IA significa que a desenvolveríamos apenas no quadro dos seus impactos benéficos, que já todos usufruímos nos nossos telemóveis, na encomenda de livros ou na busca do melhor preço para viajar, no apoio aos actos médicos, entre outros campos. Repare-se que mesmo os “impactos benéficos” implicam um problema para o qual não existe nenhuma solução política hoje. Por exemplo: como absorver as dezenas de milhões de desempregados que vão ser gerados pela substituição de pessoas por algoritmos e robôs inteligentes? Mas aquilo que, como bem escreve Harari no seu último livro, nos deveria preocupar ainda mais é o risco de passarmos de criadores da IA a seus escravos: “Perder o controlo sobre as nossas próprias vidas, no entanto, é um cenário muito mais assustador. Apesar do perigo do desemprego em massa, o que nos deve preocupar ainda mais é a mudança da autoridade dos humanos para os algoritmos, o que pode destruir qualquer fé remanescente na história liberal e abrir o caminho para o surgimento de ditaduras digitais.” A resposta que me parece mais próxima da verdade é a de reconhecermos, humildemente, que não temos qualquer meio disponível, neste momento, para travar ou modelar a marcha da IA rumo à realização de todos os seus possíveis tecnológicos, incluindo aqueles que se nos poderão revelar como funestos e existencialmente ameaçadores.
Os fundamentos para esta resposta, que pretende servir de lúcido alerta, são duplos. Empíricos e racionais. Apesar da velocidade da tecnologia ser superior à nossa capacidade de a acompanhar conceptualmente, não é difícil perceber que mais uma vez uma parte da liderança no desenvolvimento tecnológico, neste caso na esfera da IA, pertence ao Departamento da Defesa dos EUA (DoD) e às instituições análogas de todas as grandes potências do directório mundial em recomposição. Por exemplo, os sofisticados drones de combate (como o Pegasus X-47A e X.47B) com que Washington tem feito a sua guerra surda e suja contra suspeitos de terrorismo em muitos lugares do mundo são compêndios da IA de ponta. A China está à frente de todos os outros países no uso da IA, incluindo para controlo da sua população, através do “sistema de crédito de avaliação social”, que transforma toda a sociedade num imenso panóptico digital de vigilância e controlo generalizado e sem hiatos. A competição entre Estados encontra um espelho perfeito na competição entre as multinacionais da área. Também aqui, no futuro da IA, prevalece o lema da Liga Hanseática, “navegar é preciso, viver não é necessário.”
A condição humana “cavalgada” pela completude tecnocientífica
O aspecto mais notável, contudo, situa-se no plano racional. Os obstáculos estratégicos, políticos e económicos que transformam o desenvolvimento da IA numa espécie de race to the bottom, imune a linhas vermelhas e protocolos de prudência, não nos devem fazer esquecer que o que está em causa é a revelação, desta vez sem máscaras e véus de ocultação, da resposta à pergunta sobre a natureza da técnica na modernidade ocidental. Será que a essência da técnica pertence à mera categoria das utilidades, que desde o homo faber são fabricadas para comodidade da nossa espécie? Será que, apesar da sua sofisticação, a IA poderá ser vista no quadro de uma racionalidade instrumental subordinada a uma racionalidade teleológica, que tenha como centro a dignidade humana, no seu sentido kantiano, de fim-em-si-própria, de fim final (Endzweck) da Natureza?
Na verdade, o caso da IA atinge duramente os mitos da neutralidade axiológica da técnica, e coloca sérias sombras sobre as esperanças alimentadas até por pensadores tão profundos como Hermínio Martins de que possa algures existir uma bifurcação entre uma técnica fáustica – que transforma a humanidade em instrumento da sua própria completude, mesmo que ela acarrete a nossa destruição e a da própria Terra como nossa única casa cósmica habitável – e uma técnica prometeica onde a capacidade de decisão, mesmo que seja no minuto anterior à meia-noite, permaneça em sábias deliberações humanas.
Os argumentos fáusticos, que foram desenvolvidos de modo tão eloquente por Oswald Spengler, há um século, n’ O Declínio do Ocidente, parecem prevalecer. Eles combinam-se com a madura reflexão de Jacques Ellul no seu clássico ensaio de 1954: La Technique: L’Enjeu du Siècle. Para Ellul, algumas das características da sociedade tecnológica davam razão à tese de Spengler, de que o impulso fáustico para o poder pelo poder, através do alargamento do universo técnico, traduziam a incondicional sede de infinito da alma cultural do Ocidente, que hoje se mundializou de modo incontestável. Três dessas marcas explicam a ausência de limites ao curso futuro da IA: automatismo da escolha técnica; autocrescimento; autonomia no sentido mais amplo.
Poderemos vislumbrar alternativas? Claro que sim. A história ainda não acabou. Se a humanidade pudesse encontrar, por exemplo, através da reforma das Nações Unidas, e da elaboração de regimes internacionais vinculativos nas matérias da IA, biotecnologia, nanotecnologia, ambiente e clima, um consenso operacional de governação comum, de cooperação compulsória para evitarmos um mega naufrágio futuro, teríamos razões de esperança. Mas enquanto as democracias escolherem para chefes de Estado analfabetos éticos como Trump e Bolsonaro, ou cínicos imobilistas como a maioria dos líderes europeus, isso não passará de uma utopia para aquecer corações bondosos.
No ponto da história em que nos encontramos, e com as cartas que temos em cima da mesa, apenas podemos humildemente concordar com a metáfora usada por Henry David Thoreau, na sua obra Walden (1854), onde o seu pessimismo sobre a Revolução Industrial era derramado “Nós não montamos no caminho-de-ferro, ele é que nos cavalga” (We do not ride on the railroad; it rides upon us). Nesta analogia, a única diferença é que, no caso da IA, a frase de Thoreau aplica-se com total literalidade.
Viriato Soromenho-Marques
Publicado originalmente no Jornal de Letras, edição de 21 de Novembro de 2018, pp. 31-32