Palavras introdutórias
Escritor, humanista e livre-pensador francês do Renascimento, François Rabelais, cujo retrato está reproduzido acima, deixou-nos este pensamento que convida à meditação: “Ciência sem consciência, mais não é que ruína da alma“.
Se me perguntardes a que venho, porque estou aqui convosco nesta casa acolhedora, dir-vos-ei simplesmente: para vos dar notícia do mundo em que vivemos e do que o futuro nos pode trazer, a nós que aqui nos encontramos hoje mas, sobretudo, aos nossos filhos e netos, aos que virão depois de nós. Nesse sentido procuraremos abordar algumas questões que hoje se colocam com especial acuidade à nossa espécie e ao planeta que habitamos.
A árvore da Ciência do Bem e do Mal : um pouco de ”filosofia”
Gosto de mostrar a imagem do quadro pintado há quase século e meio por um grande artista francês chamado Paul Gaugin.
Eva medita junto à “Árvore da Ciência do Bem e do Mal”, também conhecida por “Árvore do Conhecimento do Bem e do Mal” ou, simplesmente, “Árvore da Ciência”, plantada, segundo o relato bíblico, no Jardim do Éden. Eva procura tapar os ouvidos para ignorar as confidências encantatórias da serpente. A imagem encerra um profundo simbolismo que ganha peso à medida que se vai tomando consciência de que a Ciência tem duas faces já que, se contribui para melhorar a qualidade e as condições de vida do ser humano, abre ao mesmo tempo a porta, a uma multidão de aplicações perversas do conhecimento científico e técnico que põem em causa o mundo natural e a própria sobrevivência da espécie no planeta.
A incerteza da vida, leva por vezes alguns a dizer que “o futuro a Deus pertence”. Esse desabafo ou essa convicção, não deve, todavia, levar a abdicar da responsabilidade que a cada um de nós cabe, de contribuir, pelo pensamento e pela acção, para a construção do futuro. Nos momentos difíceis que o Mundo atravessa, devemos procurar dar essa contribuição por todas as formas que estejam ao nosso alcance. Importa procurar informar-nos e entendermo-nos. O facto real é que vivemos numa sociedade em que o acesso à informação é fortemente condicionado por interesses poderosos, logo essa não é uma tarefa fácil como não é fácil distinguir a verdade da mentira.
Não apenas na escola, mas ao longo da vida, por um esforço de educação permanente, importa enriquecer em cada um de nós o conhecimento da Natureza e das sociedades humanas. Importa olhar sem preconceitos o mundo à nossa volta, procurar acompanhar e avaliar criticamente, as aplicações que são dadas ao conhecimento científico, em constante evolução, já que, inevitavelmente, os progressos da Ciência, onde se incluem as ciências sociais e humanas, vão determinar o futuro do mundo― o nosso e o das gerações que se nos seguirão. Isto não é uma novidade: foi assim no passado e, como alguém disse, “em cada instante está presente o passado e o futuro de todas as coisas” O que ontem fomos determina, em larga medida, o que somos hoje e dará forma ao que seremos amanhã.
Perspectiva histórica: do passado longínquo ao momento presente
O conhecimento científico, e os desenvolvimentos tecnológicos que a Ciência proporciona têm estado desde sempre associados à evolução dos meios militares, das armas e sistemas de armamento. As guerras têm acompanhado a Humanidade ao longo da História. Já os meios que são utilizados na guerra têm variado notavelmente ao longo do tempo. Como têm variado também as consequências sociais das guerras e o seu impacte sobre o meio natural.
Aqui temos um mosaico de imagens que ilustra conflitos, acções guerreiras e meios de combate em épocas muito diferentes.
Em cima, à direita, uma pintura rupestre representa o combate entre dois grupos humanos armados com lanças (mesolítico ou idade média da pedra por volta de 10 mil anos a.C.).
Em cima, à esquerda, mostra-se um carro de guerra de 2 rodas chamado “biga” puxado por dois cavalos. Foram os Hiksos, povo que dominou o Egipto por volta de 1600 a.C., que introduziram o carro de combate e o cavalo na arte guerreira.
Em cima, ao centro, uma mula-robot usada pelo exército dos EUA (400 kg de carga em terreno difícil).
Em baixo, à esquerda, drone de 4 hélices de fabrico norte-americano, de comando à distância.
Em baixo, ao centro, desenho da metralhadora projectada para César Borgia por Leonardo da Vinci (1482).
Finalmente, em baixo, à direita, vê-se um baixo-relevo do palácio de Assurbanipal (Mesopotâmia, hoje Iraque) que mostra guerreiros de um povo chamado Elamita (sudoeste do actual Irão) vencidos na batalha de Til Tuba (séc. VII a.C.) prestando vassalagem ao rei.
………………………………………..
Se as guerras têm, como se disse, acompanhado a Humanidade ao longo da História, também ao longo dos tempos aqueles que se opõem à guerra têm, com coragem e persistência, procurado defender a Paz.
A vida dos intelectuais humanistas nem sempre foi fácil. Leonardo, genial figura da intelectualidade renascentista a que nos referimos atrás, detestava a guerra. Viu-se forçado a trabalhar como engenheiro militar sob as ordens de um patrão sanguinário — César Bórgia— para satisfazer necessidades económicas básicas de sobrevivência.
Giordano Bruno e Galileu Galilei, foram vítimas da Inquisição. O primeiro, executado, o segundo, amordaçado. Mais perto de nós homens como Bento de Jesus Caraça ou Manuel Valadares foram perseguidos pela polícia política de Salazar.
Nos nossos dias, assistimos a avanços tecnológicos que se sucedem a um ritmo sem precedente. Esses avanços têm por trás o progresso do conhecimento científico. Os avanços da Ciência são sempre construídos sobre os ombros dos homens de gerações que, ao longo dos séculos, nos antecederam. Por outras palavras: a Ciência é um empreendimento colectivo da Humanidade.
Importa estar consciente de que não só não é possível como não é desejável, travar (e menos ainda impedir) a procura de conhecimento novo que é o objecto da actividade de investigação científica : a investigação que faz avançar a Ciência ― seja sobre o mundo natural seja sobre os fenómenos sociais e a evolução das sociedades humanas. Entretanto, o que é possível e absolutamente vital é estar atento ao modo como são aplicados os conhecimentos novos. Quer dizer, por um lado, o avanço imparável da Ciência pura ou fundamental, e, por outro, as suas aplicações tecnológicas com um impacte directo nas nossas vidas. Seja um telemóvel seja uma central nuclear.
A hora do “Relógio do Fim-do-Mundo”
Pesam sobre o mundo de hoje diferentes ameaças sérias que não devem ser subestimadas. Trata-se de ameaças que têm origem na actividade humana e que têm um carácter global isto é não são ameaças que afectem localmente esta ou aquela região, continente ou país mas o conjunto do planeta, ainda que os seus efeitos se façam ou venham a fazer-se sentir com maior ou menor severidade aqui ou ali.
O caso a que em geral e justificadamente se vem dando, há décadas, mais atenção, é o da possibilidade de uma guerra nuclear de que falaremos mais adiante.
Entretanto, nos nossos dias mantêm-se comportamentos e despontam novas formas de fazer a guerra e novos meios, armas e sistemas de armamento, que não sendo travados podem contribuir para o fim da própria civilização humana e mesmo para a extinção da vida sobre a Terra.
Vou agora apresentar-vos o “Relógio do Fim do Mundo”, “Doomsday Clock”, em inglês. Trata-se de um relógio simbólico criado pela equipa do “Boletim dos Cientistas Atómicos”, em 1947, já lá vão portanto 81 anos.
O “Boletim dos Cientistas Atómicos” é uma publicação bimensal, fundada em 1945 no rescaldo da 2ª Guerra Mundial, hoje livremente acessível na internet. Na sua origem estão cientistas que trabalharam no célebre Projecto Manhattan, nome de código, do empreendimento norte-americano para desenvolver a bomba atómica.
O Relógio foi criado com o objectivo de alertar o público sobre o risco de auto destruição que corremos ao utilizar erradamente certas tecnologias que nós próprios criámos. É um alerta para os perigos que deveremos conjurar para sobrevivermos.
O momento dessa catástrofe global hipotética é representado como “a meia-noite” e a sua proximidade traduzida pelo número de minutos que separa a hora do relógio das 24 horas. O acerto dos ponteiros do relógio está a cargo de uma comissão científica do Boletim dos Cientistas Atómicos, integrada por especialistas de várias nacionalidades e de várias áreas científicas, apoiada num Conselho Consultivo que inclui 15 Prémios Nobel. A decisão sobre a “hora” indicada pelo relógio é tornada pública todos os anos em Janeiro. A hora do Relógio , que marcava 15 minutos para a meia-noite em 1947, foi sendo alterada no decorrer dos anos, em geral aproximando-se das 24 horas, e indica desde Janeiro de 2018, a meia-noite menos 2 minutos. Nunca esteve tão próxima da hora fatal.
Ameaças da hora actual
Importa dizer que, até ao ano de 2007, na sua análise da situação mundial, a Comissão do Relógio tinha unicamente em conta a possibilidade e as consequências de um eventual conflito nuclear. A partir de 2007 passou a avaliar, além daquela, outras potenciais ameaças.
Trata-se, designadamente, dos riscos associados às alterações climáticas e à ausência de medidas susceptíveis de as combater de forma eficaz, principalmente, pelo abandono de fontes de energia emissoras de gases de estufa; em segundo lugar, os riscos potenciais decorrentes de aplicações de novas tecnologias emergentes e em rápido desenvolvimento, com destaque para aplicações da Inteligência Artificial e da Robótica, nomeadamente, em armas e sistemas de armamento com capacidade de decisão sem intervenção humana; também, aplicações no campo da informática e das tecnologias da informação e comunicação, que podem pôr em risco a operação ou a estabilidade de infra-estruturas vitais para o funcionamento das sociedades modernas, como sistemas de transportes, redes eléctricas e outras, pela via da intrusão-pirata (“hacking”), em sistemas informáticos de comando e controlo; por último, os avanços no domínio da biologia sintética[1], que podem conduzir ao desenvolvimento de armas biológicas e a manipulações perigosas de material genético. Em particular, a chamada ferramenta CRISPR/Cas9 de edição de genes, que permite alterar o genoma de seres vivos, no fundo, o Código da Vida.
A inovação tecnológica, bem como os avanços do conhecimento científico em geral, processam-se hoje, como disse, a um ritmo tal que torna difícil serem acompanhados e assimilados pela generalidade do corpo social. Importa criar mecanismos de controlo e regulação que permitam gerir a inovação tecnológica encorajando os aspectos positivos das novas tecnologias e, ao mesmo tempo, prever e impedir utilizações que comportem riscos para as sociedades humanas e para a integridade do património natural herdado das gerações que nos precederam.
Entretanto, as incertezas da situação geopolítica mundial e o agravamento de tensões em várias regiões do globo que a nova administração americana vem em larga medida exacerbando, sem descontinuidade significativa, aliás, em relação às políticas de anteriores administrações, aumentam o risco do (impensável) recurso à utilização de armas nucleares por parte de quem alimenta a ilusão de que uma guerra nuclear pode ser limitada. Aliás a experiência passada permite pensar que estamos hoje menos defendidos do que já estivemos contra a possibilidade de um confronto nuclear poder vir a ser desencadeado por acidente.
Por outro lado, enquanto o clima da terra continuar a mudar, estaremos sujeitos a suportar fenómenos climáticos extremos mais violentos e mais frequentes; secas prolongadas; alteração das estações; subida do nível do mar; esgotamento dos recursos pesqueiros. Mudanças que são ameaças à sobrevivência humana.
Citando o “Boletim dos Cientistas Atómicos”: “O homem inventou as armas nucleares e também as máquinas que queimam combustíveis fósseis e contribuem para a mudança climática; sabemos como funcionam pelo que se presume que sejamos capazes de reduzir ou eliminar os seus perigos. Para prevenir a catástrofe exige-se uma cooperação concertada a nível mundial.”
À pergunta sobre qual é a maior ameaça que o mundo enfrenta, se as armas nucleares se a mudança climática, pode responder-se assim: qualquer delas é potencialmente susceptível de destruir a civilização e tornar a Terra praticamente inabitável pelo ser humano. Mas ambas as ameaças estão interligadas. Com efeito, se, para fugir à queima de combustíveis fósseis alargarmos nas próximas décadas o recurso às centrais nucleares para produção de energia, o que implica aumentar as quantidades de urânio e plutónio necessários ao seu funcionamento, aumenta o risco de proliferação das armas nucleares e do seu uso em teatros de guerra. Se não for travada a emissão de gases de estufa ligada à queima de combustíveis fósseis, agravar-se-á a escassez de recursos naturais indispensáveis à vida, como a água, que criará instabilidade social e levará a conflitos que podem degenerar em guerra e na possibilidade de utilização de armamentos nucleares.
Alterar este estado de coisas e os rumos da vida no Planeta, é algo que depende de todos nós mais do que de elites que governam para o curto prazo, promovem a pilhagem dos recursos naturais, ignorando ou esquecendo que ao desprezar os equilíbrios naturais estão a cavar a sua própria sepultura.
Olhando para o relógio, não o que temos no pulso mas o Relógio, com maiúsculas, “do fim do mundo” gostaria de vos ajudar a avaliar a importância da luta contra as armas nucleares para a qual o Conselho Português para a Paz e Cooperação tem dado uma inestimável e persistente contribuição. Tema que é também central nas preocupações e na acção da Federação Mundial dos Trabalhadores Científicos e da nossa Organização nacional de Trabalhadores Científicos que é aliás filiada naquela e faz parte dos seus órgãos executivos.
Os efeitos de uma explosão nuclear
Vou-vos propor uma breve digressão sobre o tema dos efeitos de uma explosão nuclear que ocorresse na nossa terra. Porque estamos no Porto vamos imaginar que o ataque ocorreria aqui.
Na exposição que se segue vamos valer-nos de um programa informático que simula os efeitos do rebentamento de um explosivo nuclear.[2]
A energia é libertada numa pequeníssima fracção de segundo. O seu imenso poder destrutivo decorre em larga medida desse facto [3]. A explosão tem efeitos de diferente natureza. De início há um relâmpago de luz e a formação de uma bola de fogo com temperaturas que podem chegar à dezena de milhões de graus kelvin, seguida de imediato de uma frente de radiação térmica que se propaga à velocidade da luz. Segue-se após alguns segundos uma poderosa onda de choque com pressões muito elevadas cujo efeito principal é a destruição de edifícios e outras estruturas como pontes ou viadutos. A onda de pressão é acompanhada de ventos que podem atingir 1000 km/h.
Dito isto olhemos para as figuras que se seguem.
Mostra-se na figura os efeitos previsíveis do rebentamento sobre o Porto, a 2 km de altura, de uma bomba nuclear capaz de libertar a energia equivalente à da explosão de 350 mil toneladas equivalente de TNT. O TNT (trinitrotolueno) é um explosivo químico poderoso. Bombas como esta — Minuteman III — são correntes no arsenal nuclear dos EUA e podem ser lançadas de submarinos em imersão. A energia libertada numa pequeníssima fracção de segundo por uma destas bombas é mais de 20 vezes superior à energia libertada pela bomba nuclear “Little Boy” lançada sobre Hiroshima em 1945.
A figura seguinte mostra os efeitos do rebentamento da mesma bomba a mais baixa altitude (cerca de 800 m). Neste caso, o rebentamento dá origem à deposição de resíduos radioactivos que vão contaminar uma vasta zona dos territórios próximos. A região contaminada depende da orientação e intensidade do vento que soprar na altura.
O nível da contaminação e a extensão das áreas contaminadas dependem da medida em que a “bola de fogo” criada pela explosão toca o solo. Quando isso acontece dá-se uma espécie de sucção de poeiras e restos diversos fragmentados, do solo, de construções e mesmo de seres vivos, que são aspirados, se vão dispersar rapidamente e depositar em regiões próximas. A radioactividade que com eles transportam mantém-se durante dias, semanas ou meses nessas regiões.
Inteligência Artificial e Robótica: promessas e perigos
Dois campos em que se vem progredindo aceleradamente são o da Robótica e o da Inteligência Artificial. Ambos se encontram associados em muitos objectos tecnológicos alguns dos quais fazem já parte do nosso dia-a-dia.
Também neste domínio, é importante ter consciência de que o impacto sobre as nossas vidas, e o impacto sobre o planeta, a nossa casa comum, da ciência aplicada, que conduz ao aparecimento de novos dispositivos, máquinas, produtos e processos, esse impacto não é sempre positivo.
Estamos a lidar com uma arma de dois gumes que tanto permite melhorar qualidade e esperança de vida como pode transformar-se numa força destruidora de vidas e de bens, por vezes de comunidades inteiras. É por isso que temos que saber distinguir, Ciência, factor de Paz e de desenvolvimento, de criação de riqueza e bem-estar, da Ciência, que alimenta guerras e destruição, material e moral, do próprio Homem e da Natureza que o sustenta.
No campo da robótica e informática, robôs e computadores em associação íntima desempenham hoje um papel de grande importância nas técnicas da guerra. Pondo por agora de lado as importantes aplicações pacíficas e úteis que admiramos e apreciamos, é sobre a utilização perversa e perigosa para a Paz no mundo que queremos falar. Todos já ouvimos falar em drones e nas suas proezas. Os drones mais utilizados pertencem à classe dos chamados “UAV” que quer dizer “Unmanned Aerial Vehicle”. Em português: “Veículo aéreo não–tripulado”. A palavra inglesa “drone” quer dizer “zangão”. Os drones são usados para fins de reconhecimento ou de ataque.
Um dos drones mais utilizados em teatros de guerra é o MQ-1 Predator, fabricado pela General Atomics. É usado principalmente pelas Forças Aéreas dos EUA e da Grã-Bretanha e também pela CIA. Foi inicialmente concebido, no início da década de 90, para fins de reconhecimento e de observação avançada. O Predator possui câmaras de vídeo e outros sensores mas foi modificado para poder transportar e disparar mísseis AGM-114, “fogo do inferno”, ou outras munições. O Predator é usado desde 1995 e serviu ou serve em combate no Afeganistão, Paquistão, Bósnia, Sérvia, Iraque e Iémen.
Há dezenas de tipos de drones com diferentes características técnicas e para diversos fins.
Várias fontes referem trabalhos de desenvolvimento tecnológico de robots-espiões de pequenas dimensões. Têm uma aparência semelhante à de um insecto, são capazes de voar como insectos e passar despercebidos. Entretanto decorrem também trabalhos que visam a utilização de insectos reais em que são implantados cirurgicamente dispositivos (“chips”) electrónicos que permitem comandar à distância o seu voo e comportamento. Esses dispositivos enviam também sinais que transportam diversas informações de interesse para os operadores. Os “chips” são implantados nos insectos de preferência durante a fase de desenvolvimento da crisálida antes da metamorfose final do insecto. Trabalhos deste tipo são desenvolvidos no departamento das Forças Armadas dos EUA designado por DARPA directamente ou sob contrato com empresas especializadas. A missão da agência DARPA é o desenvolvimento de tecnologias de ponta para fins militares.
Estes insectos modificados são usualmente chamados “Cyborgs” ou “Cybugs”.
Os drones de ataque são muito mais baratos que os aviões militares e podem manter-se no ar durante vários dias sem necessidade de serem reabastecidos. O record estava até há pouco em quase 100 horas.
Como não são tripulados em caso de abate não há perda de vidas de uma equipagem que não existe. Não há o espectáculo traumático do regresso a casa das urnas com os restos mortais dos filhos da terra que morreram lá longe.
A utilização de drones num teatro de guerra pode ser militarmente muito interessante mas arrasta consigo problemas sérios nos planos da ética e da moral.
Brian Christie Design, adaptado de P.W. Singer, “The War of the Machines”, Sc.American-July2010
Com efeito os drones são comandados por operadores que se encontram do outro lado do mundo, a milhares de quilómetros de distância, em frente de uma mesa pejada de sofisticados aparelhos que recebem toda a informação enviada pelos sensores do drone. Em dado momento, carregam num botão e um míssil é disparado. O disparo pode provocar dezenas de mortes sabendo-se que muitas das vítimas, muitas vezes a maior parte, são civis que estavam no lugar errado à hora errada.
No fim do seu dia de trabalho, o nosso operador, regressa a casa, quem sabe, para jantar com a família.
No século XV por altura da guerra dita dos “Cem anos” em que a França esteve envolvida, há nota de um nobre francês ter afirmado que as armas de fogo são instrumentos de assassínio de que um verdadeiro soldado repugnará servir-se, escrevendo que só um cobarde “fugirá a olhar cara-a-cara o homem que vai matar de longe com as suas miseráveis balas”.
Para além de missões militares ou policiais os drones estão a ser cada vez mais utilizados em missões civis quer no sector público quer por empresas privadas. Mais uma vez, aqui como em muitas outras situações, o que é necessário e urgente para nossa própria salvaguarda, é distinguir as boas das más utilizações dos progressos da Ciência e da Tecnologia.
Os drones podem ser usados na distribuição de correio ou na entrega de encomendas a domicílio, na regulação do trânsito automóvel ou ainda como veículos de prestação de serviços de saúde urgentes.
Falámos em robôs e nas suas aplicações, em particular, nas suas aplicações militares. A Robótica e a Inteligência Artificial são dois domínios científicos que têm evoluído e evoluem muito rapidamente. A sua conjugação permite fazer aparecer dispositivos robóticos evoluídos que não dependem de um operador para determinar o seu comportamento. Por isso se chamam dispositivos robóticos autónomos: são robôs com “autonomia de decisão”. Como se esperaria suscitam o interesse dos militares, que se dispõem a financiar generosamente o seu desenvolvimento. Nesta altura, todas as principais potências militares estão empenhadas em desenvolver os chamados “sistemas de armas autónomas com acção letal” (LAWS na sigla inglesa). Quer dizer, que não se trata de adormecer ou paralisar as vítimas mas de as liquidar.
Mas o que são afinal as armas robóticas com autonomia de decisão? Robô é uma máquina capaz de executar operações complexas de forma automática, em regra comandada por um computador ou dispositivo informático nela integrado, que comunica com um centro emissor-receptor, próximo ou distante, para o qual envia informação recolhida localmente, através de sensores de diferentes tipos, também integrados no robô. No centro emissor está um operador que pode enviar instruções ao robô.
O robô autónomo distingue-se do robô automático por reagir à informação que recebe localmente dos sensores de que dispõe, sem qualquer intervenção humana. Quer dizer sem que as acções que executa dependam da análise ou verificação por um operador humano da informação recebida. Existe obviamente uma programação “de fábrica” que determina o tipo de acções executáveis, mas o comportamento e as reacções do robô em cada situação não estão sujeitos ao controlo de um operador. As armas robóticas com capacidade de decisão são “capazes de procurar e abater pessoas que preencham determinados requisitos pré-definidos”. O robô pode por exemplo abater “uma pessoa de aspecto suspeito” seja lá o que for que possa entender-se por “aspecto suspeito”. Uma arma robótica autónoma é capaz de identificar, seleccionar e atacar um alvo, sem supervisão humana.
A militarização da Ciência e os alertas da comunidade científica
É claro que tal como aconteceu quando surgiu a bomba atómica cujos efeitos permanecem gravados na memória do povo japonês, há um numeroso grupo de cientistas que se opõe a que prossiga o desenvolvimento das armas robóticas com autonomia de decisão, ainda numa fase inicial, e procura contribuir para que não venham a ser utilizadas.
No ano passado foi lançada uma Carta Aberta de Investigadores em Inteligência Artificial e Robótica que já foi subscrita por mais de 20 mil cientistas de todo o mundo daquela e de outras áreas científicas.
Contam-se entre os signatários da referida Carta Aberta, Stephan Hawkings, recentemente falecido, Noam Chomsky e Luís Moniz Pereira, fundador e primeiro Presidente da Associação Portuguesa de Inteligência Artificial, e membro dos Órgãos Sociais da OTC.
Vejamos o que eles dizem:
“As armas autónomas identificam e atacam alvos sem intervenção humana. Aí se incluem, por exemplo, quadricópteros armados, capazes de procurar e abater pessoas que preencham determinados requisitos pré-definidos, mas não se incluem mísseis de cruzeiro ou drones, pilotados a distância, casos estes em que a última decisão de ataque a alvos é tomada por um agente humano. As tecnologias de Inteligência Artificial atingiram um ponto em que o emprego de tais dispositivos autónomos é possível na prática ― mesmo sem suporte legal ― não dentro de décadas mas dentro de poucos anos, e a parada é alta: as armas autónomas têm sido referidas como a terceira revolução na arte da guerra, a seguir à pólvora e às armas nucleares.”
Esta foi a primeira (e importante) manifestação colectiva de figuras eminentes da área da IA e da Robótica de que temos conhecimento, e que numerosos intelectuais progressistas de variadas outras áreas apoiaram subscrevendo-a. Nos anos que se lhe seguiram multiplicaram-se iniciativas e tomadas de posição visando a proibição das armas autónomas e o fim das aplicações militares da Inteligência Artificial. A mais recente que data de 15 de Maio, e reuniu em pouco mais de uma semana mais de um milhar de assinaturas de docentes e investigadores dos 5 continentes, é dirigida a responsáveis da Google manifestando solidariedade aos mais de 3000 técnicos da multinacional que se pronunciaram contra o desenvolvimento de aplicações militares da Inteligência Artificial. Efectivamente a multinacional gigante Google está a trabalhar para o departamento de Defesa dos EUA naquilo que se chama “machine learning” ou “ensinar as máquinas”.
De entre as várias tomadas de posição de que há conhecimento gostaria de destacar uma das que me parece mais relevantes por vir de onde vem e pelos termos em que coloca a questão.
Trata-se de uma posição da Santa Sé onde se pode ler o seguinte:
“ (…) a ausência do combatente humano induzirá o desaparecimento daquilo que a relação de uma pessoa com outra pessoa e a descoberta da face do outro poderia suscitar, Uma máquina é incapaz de empatia real (isso requere a experiência de sentir no seu próprio corpo o que o outro sentirá no seu; a máquina não tem uma corporalidade real). A máquina não se abre a um inesperado perdão e a uma real possibilidade de reconciliação ou de pacificação”.
É uma posição clara que vai muito para além das questões de natureza tecnológica ligadas ao desenvolvimento e utilização destas armas.
Gostaríamos de terminar com breve comentário focado na utilização de certos implantes cerebrais no ser humano que tiram partido dos avanços da Inteligência Artificial.
Nos EUA, gigantes tecnológicos como a Google ou o Facebook estão a investir fortemente em Investigação & Desenvolvimento (I&D) no domínio da IA. O mesmo se passa com os militares, em particular a agência de projectos de investigação avançados em defesa DARPA (Defense Advanced Research Projects Agency).
Um desenvolvimento muito sensível que está a ser perseguido é a possibilidade de comandar o comportamento, e mesmo alterar a personalidade de um ser humano, mediante o implante cerebral de pequenos circuitos electrónicos conhecidos como “chips”. Também aqui, a tecnologia que sustenta tal desenvolvimento pode ser uma espada de dois gumes. Por um lado, permitindo a uma pessoa recuperar faculdades físicas ou mentais perdidas ou inexistentes, incluindo defeitos à nascença (mover um membro paralisado, recuperar a visão ou audição, tratar a perda de memória ou outros sintomas relacionados com a doença de Alzheimer). Por outro lado, promovendo desenvolvimentos sensoriais e cognitivos sobrehumanos, no sentido em que conferem ao ser humano “modificado” capacidades que um ser humano comum não possui. Alguns peritos sublinham, entre essas novas capacidades, a extensão da percepção de imagens às bandas da radiação infravermelha e ultravioleta. Mas também a capacidade de memorizar do cérebro e de comunicar com outros através da transmissão telepática de pensamentos.
D.T. Max[4] em artigo publicado na “National Geographic Magazine” refere o caso de um laboratório no Centro de Engenharia Neuronal da Universidade da Carolina do Sul que está a testar a implantação de chips no cérebro para recuperar memórias perdidas.
O autor também indica que “no ano passado, na Universidade de Pittsburgh, um indivíduo foi capaz de transmitir impulsos eléctricos do seu cérebro, através de um computador, para controlar um braço robótico e mesmo sentir aquilo que os seus dedos tocavam”. Estas realizações são promissoras para a cura ou alívio do sofrimento humano. Contudo, devemos estar conscientes dos riscos envolvidos nas aplicações que implicam interacções computador-cérebro. Como assinala D.T. Max, a ideia de que “ligando o cérebro humano a uma máquina se pode produzir um combatente sem rival não escapou à DARPA”.
In 1998, Ellen M. McGee e G. Q. Maguire, Jr., apresentaram ao 20º Congresso Mundial de Filosofia o importante ensaio, sobre “Avaliação Ética dos Chips Implantáveis no Cérebro”[5].
Segundo os autores “a implicação mais assustadora desta tecnologia é a possibilidade séria dela poder facilitar o controlo totalitário dos seres humanos”.
Questionam, em particular, as consequência de um eventual transplante do chip cerebral de um cérebro humano para o cérebro de outra pessoa. Perguntam-se se será “possível capturar os dados que representam a totalidade das experiências sensoriais de um ser humano num único chip implantado no cérebro?”. Na eventualidade de um chip de memórias ser transplantado dum cérebro para outro, a continuidade psicológica associada à identidade pessoal dos seres humanos envolvidos seria perturbada, com inegáveis ramificações. “Teria a pessoa transplantada as identidades de outras pessoas?” ― interrogam-se os autores.
Estas são questões muito sérias que exigem um debate social informado e inclusivo.
Neste contexto, importa notar que a Ciência e a Tecnologia estão, em larga medida “militarizadas”.
À medida que as universidades são compelidas a desenvolver laços mais estreitos com os militares, dedicando mais recursos a projectos que trazem receitas, vozes discordantes dentro da comunidade científica vão sendo marginalizadas, o pessoal académico sente-se vulnerável e os críticos independentes tornam-se escassos. A Ciência torna-se refém dos militares.
Apelo final
O negócio das armas, o negócio da droga, o tráfico de seres humanos, são dos mais lucrativos negócios dos nossos dias e desenvolvem-se à margem das leis, da ética, da moral e dos direitos humanos e ambientais. Qualquer um se pode aproveitar dos avanços das tecnologias e do conhecimento científico. Só a tomada de consciência dos perigos da má utilização desses avanços por parte da opinião pública pode minimizar os riscos que lhes estão associados. Para isso, a intervenção da comunidade científica pode revelar-se decisiva. São trabalhadores científicos, mulheres e homens, cuja formação lhes permite intervir, distinguindo o trigo do joio nos caminhos que a ciência e a técnica nos vão abrindo. A mobilização da opinião pública de forma a assegurar um futuro sustentável para as futuras gerações implica identificar e esclarecer os riscos possíveis, agindo para lá dos limites da comunidade científica e chegando a todos. Há efectivamente, uma urgente necessidade de informação e de diálogo, a vários níveis e com distintos interlocutores. É preciso promover um activismo cívico dirigido à cidadã e ao cidadão comuns.
É com esse espírito que estamos hoje aqui convosco.
Frederico Carvalho
26 de Maio de 2018
[1] A biologia sintética é uma área interdisciplinar nova que procura aplicar à biologia princípios ou técnicas da engenharia. O seu objectivo é a re-engenharia e fabricação de componentes e sistemas biológicos que não se encontram na natureza. Combina a síntese química de ADN e conhecimentos avançados de genómica, de forma a permitir a construção rápida de sequências pré-estabelecidas de ADN e a sua inserção em novos genomas.
[2] Alex Wellerstei, historiador de ciência e das armas nucleares, professor assistente do Stevens Institute of Technology (EUA), é o criador do programa de simulação designado por “Nukemap”
[3] A energia libertada pela explosão atómica de Hiroshima é aproximadamente equivalente à energia útil total correspondente ao funcionamento durante mais de 2 anos de uma central nuclear com a potência de 1000 MW.
[4] D.T. Max, “How Humans Are Shaping Our Own Evolution”, National Geographic, Abril 2017
[5] Ver “The Proceedings of the Twentieth World Congress of Philosophy”, Boston, Massachusetts, 10-16 Agosto 1998
