Os receios de uma explosão no crescimento da inteligência artificial (IA), com impactos desastrosos sobre o futuro da humanidade, vieram juntar-se aos espetros ameaçadores da entropia ambiental e climática, à ameaça ontológica da guerra nuclear de extermínio, bem como a toda uma vasta panóplia de perigos e novas entidades emergentes, tais como os organismos geneticamente modificados ou as nanotecnologias. Recentemente, as rotinas empresariais e académicas foram abaladas – com desafios e custos de adaptação ainda muito longe de terem sido compreendidos e ainda menos avaliados – por uma nova ferramenta digital, o ChatGPT, capaz de dialogar com os utilizadores, transformando num ápice em produto “original” o resultado do processamento de milhões de dados relativos às matérias solicitadas pelos utilizadores.
Não causa por isso surpresa que o FLI (Future of Life Institute), cujo objetivo consiste em estudar os riscos tecnológicos em sentido amplo, tenha promovido um abaixo-assinado sobre os perigos de um crescimento desmesurado da IA. O documento, com mais de 50 000 assinaturas na altura em que o li, contava com o apoio de grandes investigadores da área, mas também com celebridades como o poliédrico bilionário Elon Musk ou o historiador Yuval Harari. O texto, que é na verdade um manifesto, pode ser resumido na seguinte pergunta: “deveremos arriscar a perda de controlo sobre a nossa civilização?”. A resposta traduz-se no pedido, aos laboratórios e governos, de uma moratória de pelo menos seis meses no desenvolvimento da IA. A isso junta-se a proposta de análises de risco mais robustas associado a um sistema de regulação e governança mundial para a IA. Apesar de alguma simpatia com a intenção desse manifesto (que contrasta com as alucinações panglossianas dos profissionais do otimismo), a verdade é que ele faz prova das ilusões e aparentes ingenuidades cultivadas por tanta gente inteligente, rica e poderosa. Será que num planeta colocado nos cuidados intensivos pela irresponsável ação humana nos poderemos ainda considerar senhores das alavancas de controlo da “nossa civilização”? Será que existe alguma tecnologia, para além da IA, em que a prudência e a precaução tenham prevalecido sobre outras considerações, bastante menos nobres ou, até, profundamente anti-humanistas?Como é que seria possível esperar qualquer moratória no desenvolvimento da IA quando esta, como quase tudo aquilo que é “inovador”, pertence na esfera crucial do financiamento e das encomendas ao “complexo militar industrial”, inserindo-se na lógica da luta pela hegemonia entre as grandes potências, como o sangrento laboratório da guerra na Ucrânia o exemplifica? Na verdade, a conceção de ciência e tecnologia patente no manifesto, eivada de um fantasmático neoplatonismo de recorte humanista, está completamente desfasada do ethos que anima a empresa científico-tecnológica moderna. Em Francis Bacon ou Descartes, e já antes na revolução da artilharia naval trazida pelos nossos marinheiros de Quinhentos aos teatros de guerra da Ásia, o que se pretende não é uma teoria contemplativa da verdade, mas um conhecimento operatório que permita o poderio e a dominação sobre o mundo natural e os outros povos rivais. Na verdade, há muito que perdemos o controlo sobre o futuro da civilização e da tecnologia que o molda. Não reconhecer esse facto é uma falta de coragem que só poderá tornar ainda mais precário o nosso futuro coletivo.
Viriato Soromenho-Marques
Publicado no Diário de Notícias, edição de 8 de abril de 2023, p. 9.