
Os Tratados sobre Armamentos, Tecnologias Emergentes e Activismo-Cidadão
Frederico Carvalho
Um contributo para os trabalhos do Grupo “Paz, Desarmamento e Cooperação” da Federação Mundial dos Trabalhadores Científicos
89a Reunião do Conselho Executivo da FMTS
Paris, 29-30 Abril 2019
Ameaças à paz e instrumentos de regulação
Vivemos tempos difíceis e perigosos.
A natureza predadora do capitalismo selvagem está gradualmente a bloquear todas as saídas de emergência e a impedir que a humanidade sobreviva no planeta com uma qualidade de vida minimamente aceitável. Não devemos deixar que um tal desastre aconteça.
A questão da regulação tem uma importância fundamental.
A regulação abrange um vasto domínio de actividades — sociais, económicas e culturais. Os conflitos armados em geral, as armas nucleares, o armamentos espacial e o ciberarmamento e, actualmente, a regulação das tecnologias emergentes, em especial da inteligência artificial e das técnicas de manipulação genética, merecem uma atenção particular.
Para ser eficaz, a regulação de âmbito internacional mais vasto exige um acordo entre estados partes, após um processo negocial que é frequentemente moroso e árduo. Nalguns casos, os Tratados, Convenções ou Protocolos são o resultado de negociações bilaterais ou que envolvem um número limitado de partes. Um exemplo notável é o do Tratado das Forças Nucleares de Médio Alcance (Intermediate-Range Nuclear Forces (INF) Treaty, 1987-2019?). O Tratado de Redução de Armas Estratégicas (Strategic Arms Reduction Treaty, START, 1994-2009) e o Novo Tratado START (2011-2021?) são outros exemplos de tratados bilaterais que vinculam os EUA e a Federação Russa.
Outro exemplo é o Tratado sobre Mísseis Antibalísticos (Anti-Ballistic Missile (ABM) Treaty, 1972-2002). O Tratado de Não-proliferação de Armas Nucleares (Treaty on the Non-Proliferation of Nuclear Weapons, 1970-sem termo), vulgarmente conhecido como Tratado de Não-Proliferação (Non-Proliferation Treaty ou NPT, na sigla inglesa) é um tratado internacional com 190 estados-parte.
O Tratado de Proibição Total de Ensaios Nucleares (Comprehensive Nuclear-Test-Ban Treaty, CTBT) é outro tratado multilateral que interdita as explosões nucleares, tanto para fins civis como militares, em quaisquer ambientes. Foi adoptado pela Assembleia-Geral das Nações Unidas a 10 de Setembro de 1996 mas não entrou em vigor por não ter sido ratificado por oito estados específicos.[1]
Desde a sua fundação em 1945 e ao longo dos anos, a Organização das Nações Unidas e as suas agências especializadas, como a Agência Internacional para a Energia Atómica (International Atomic Energy Agency, IAEA), têm tido um papel fundamental na promoção e mediação de conversações que resultaram em diversos importantes tratados internacionais. Vários desses tratados permanecem pilares da infraestrutura mundial empenhada em consolidar a paz. Infelizmente, o papel e capacidade do Sistema das Nações Unidas para construir consensos em matérias que são importantes para toda a humanidade estão actualmente a ser corroídos.
Fora do domínio das armas nucleares, merecem atenção particular diversos outros instrumentos internacionais que regulam o desenvolvimento e uso de outros tipos de armamento. É o caso da Convenção sobre as Armas Químicas (Chemical Weapons Convention (CWC), 1997- sem termo) e a Convenção sobre a Proibição ou Limitação do Uso de Certas Armas Convencionais que Podem ser Consideradas como Produzindo Efeitos Traumáticos Excessivos ou tendo Efeitos Indiscriminados (Convention on Prohibitions or Restrictions on the Use of Certain Conventional Weapons Which May Be Deemed to Be Excessively Injurious or to Have Indiscriminate Effects (CCW or CCWC), 1983-sem termo).
Esta última convenção abrange as minas terrestres, armadilhas, armas incendiárias, armas laser e a eliminação dos resíduos de guerra explosivos. Até agora, no entanto, os Sistemas Autónomos de Armas Letais (Lethal Autonomous Weapons Systems, LAWS), frequentemente referidos como “robôs assassinos”, não foram incluídos.
A Convenção sobre Armas Biológicas e Tóxicas (Biological and Toxin Weapons Convention (BTWC), 1975-sem termo) foi o primeiro tratado multilateral de desarmamento que proibiu a produção de toda uma categoria de armas.

Embora os tratados e convenções internacionais multilaterais que estão em vigor tenham sido assinados e ratificados por uma grande maioria dos países membros das Nações Unidas, existe em todos os casos um pequeno mas significativo número de estados não-signatários. Dois exemplos: quatro estados dispondo de armamento nuclear, Índia, Israel, Coreia do Norte e Paquistão não estão vinculados ao NPT; a Convenção sobre Armas Químicas não foi assinada ou ratificada pelo Egipto, Israel, Coreia do Norte e Sudão do Sul. Israel nunca assinou ou ratificou a Convenção sobre Armas Biológicas e Tóxicas. O Egipto e a Síria assinaram mas não ratificaram.

A mais recente iniciativa com vista a alcançar um acordo internacional sobre desarmamento nuclear — o Tratado de Proibição de Armas Nucleares (Treaty on the Prohibition of Nuclear Weapons (TPNW) ou Nuclear Weapon Ban Treaty) — data de Dezembro de 2016. Em conformidade com o mandato então adoptado pela Assembleia-Geral das Nações Unidas, as negociações com vista à elaboração de um tratado com essa finalidade deveriam iniciar-se em Março de 2017. A intenção era redigir aquilo que seria o primeiro acordo internacional juridicamente vinculativo a proibir totalmente as armas nucleares, com o objectivo último de conseguir a sua eliminação completa. O projecto de texto foi concluído, posto à votação e aprovado a 7 de Julho de 2017 por uma maioria de 122 estados membros. Contudo, mais de um terço dos estados membros não participaram na votação, entre eles todos os estados que dispõem de armamento nuclear e todos os membros da NATO, com a excepção dos Países Baixos, que votaram contra. À data, o Tratado continua a não estar juridicamente em vigor, uma vez que o número necessário de ratificações ainda não foi alcançado.
É interessante assinalar que diversas potências nucleares, incluindo a Rússia e os EUA, manifestaram explicitamente a sua oposição ao Tratado. Diversos estados membros não-nucleares da NATO argumentaram que o tratado será “ineficaz na eliminação das armas nucleares” e, em alternativa, apelaram a que se aplique plenamente o Artigo VI do Tratado de Não-Proliferação. Contudo, a experiência mostra que os estados nucleares não deram um único passo nos últimos cinquenta anos para aplicar o referido Artigo VI do NPT[2]., Os membros da NATO que possuem armas nucleares, EUA, Reino Unido e França, tornaram pública uma declaração conjunta indicando que não tencionam “assinar, ratificar ou alguma vez tornar-se partes” daquele tratado. Subjacente a uma tal atitude sobre o desarmamento nuclear está a ideia, partilhada por diversas potências, de que desistir das armas nucleares seria “incompatível com a política de dissuasão nuclear que tem sido essencial para manter a paz na Europa e no Norte da Ásia ao longo de mais de 70 anos”.[3]
O argumento é de que a posse de armamento nuclear, bem como de outros dispositivos tecnologicamente avançados susceptíveis de serem usados contra um opositor, são essenciais para impedir as agressões e que a sua eliminação não deve ser aceite enquanto não existirem condições para um desarmamento simultâneo e controlado. Tais considerações podem aplicar-se tanto ao armamento nuclear como às armas químicas, biológicas e sistemas de armas autónomas.
No caso do armamento nuclear, incluindo os seus vectores, os instrumentos de regulação, nomeadamente tratados internacionais e bilaterais, estão a ser desmantelados. Em termos práticos, tal enfraquece a base da referida “política de dissuasão nuclear”. O desenvolvimento de explosivos nucleares mais sofisticados e de menor dimensão, bem como de vectores mais furtivos, vão na mesma direcção. A possibilidade de iniciar e vencer uma guerra nuclear limitada parece ser considerada uma opção viável nalgumas altas esferas militares, nomeadamente nos EUA, e constitui uma justificação para os esforços que estão a ser desenvolvidos.
Vivemos sob a ameaça crescente de um conflito nuclear generalizado, desencadeado por um erro de cálculo relativamente à reacção do adversário. Isto vem acrescentar-se ao risco que existe há muito tempo de uma guerra nuclear ser desencadeada por um erro ou falha num componente defeituoso da parafernália de equipamentos e sistemas que constituem essa imensa máquina de guerra.
Quanto à robótica, inteligência artificial (IA) e técnicas de manipulação genética (genome editing), os instrumentos de regulação são ainda incipientes ou inexistentes. Contudo, há uma necessidade crescente de elaborá-los. A secção seguinte inclui informações sobre aplicações militares e de vigilância da IA.
As manipulações genéticas são uma matéria complexa que suscita múltiplas questões em diversos domínios. À semelhança da maioria dos avanços tecnológicos, podem ser usadas para bem da humanidade ou podem ser a origem de novas ameaças. Em qualquer dos casos, suscitam importantes questões éticas. Os cientistas apelaram a uma moratória para que se avaliassem as implicações de segurança de tais manipulações genéticas e se aplicasse regulamentação adequada ao seu uso.
As técnicas de manipulação genética permitem alterar sequências específicas de ADN de modo preciso e controlado. A chamada tecnologia CRISPR/Cas9 é provavelmente a mais fácil de aplicar. Pode ser usada em ciência fundamental, para a saúde humana ou para melhorar culturas. Mas também pode ser usada para matar ou esterilizar plantas. Com efeito, a tecnologia CRISPR/Cas9 suscitou o interesse dos militares. A agência do Departmento de Defesa dos EUA para projectos de investigação avançados (Defense Advanced Research Projects Agency, DARPA) está a trabalhar nesse domínio.[4] Um outro possível domínio de aplicação da CRISPR é o melhoramento humano com finalidades não-médicas. Num artigo recente no Journal of Bioethical Inquiry, os autores afirmam: “A optimização do desempenho (performance) humano é, há muito, uma prioridade da investigação militar para reduzir o hiato entre os avanços nas tecnologias da guerra e as limitações dos seus actores humanos.”[5]
Posições públicas colectivas contra as aplicações militares dos progressos científicos e tecnológicos e o aumento do financiamento da I&D militar
Em anos recentes, a investigação científica conduziu a um rápido desenvolvimento de novas tecnologias susceptíveis de aplicação militar num teatro de guerra, bem como em operações domésticas policiais contra movimentos de cidadãos. Este estado de coisas é particularmente preocupante num contexto de escalada da corrida ao armamento, degradação das relações internacionais entre as principais potências e eficácia decrescente dos organismos internacionais, sobretudo das Nações Unidas, para lidar com as crises.
Existem, contudo, alguns sinais de esperança.
Têm surgido diversas iniciativas no seio da comunidade científica manifestando oposição a um aumento da despesa de fundos públicos em projectos de investigação militar. No passado, as intervenções dos cientistas estiveram no cerne de acordos internacionais concluídos com êxito no domínio nuclear e outros. Tais iniciativas são bem-vindas e merecem ser apoiadas. Assistimos actualmente ao desenvolvimento, a ritmo acelerado, de tecnologias que podem ser rapidamente aplicadas no domínio militar. Estes progressos rápidos tornam particularmente difícil para os não-especialistas avaliar ou mesmo compreender o impacto social potencial das tecnologias em áreas-chave como o emprego e mercado de trabalho, intrusão na vida privada, segurança ou manutenção da paz. As aplicações de inteligência artificial ou robótica são particularmente sensíveis quando têm que ver com sistemas de armamento letal com capacidade para tomarem decisões sem intervenção humana.
Há cerca de quatro anos (Julho de 2015), por iniciativa do Institute for the Future of Life (Instituto para o Futuro da Vida), uma associação não-governamental baseada nos EUA, foi divulgada uma “carta aberta” subscrita por investigadores em inteligência artificial e robótica alertando a comunidade científica para os perigos da utilização de dispositivos com autonomia de decisão como arma de guerra num campo de batalha.[6] Quando a carta foi divulgada — por ocasião de uma reunião científica em Buenos Aires — estava assinada por cerca de 1000 cientistas e outros intelectuais de renome. O falecido Stephen Hawkins e Noam Chomsky, o conhecido linguista americano, eram dois dos signatários. A carta continuou a circular e recolheu, até à data, mais de 31 000 assinaturas. Trinta e quatro dos signatários são portugueses. A carta chama a atenção para o facto de (citação) “a tecnologia da inteligência artificial (IA) ter atingido um ponto em que a efectiva utilização de tais sistema – em termos práticos, senão legais – será viável dentro anos, não de décadas, e que o que está em jogo é muito importante: as armas autónomas têm sido descritas como a terceira revolução na arte da guerra, a seguir à pólvora e às armas nucleares”.
Dois anos mais tarde (Agosto 2017), 116 funcionários executivos de “empresas que desenvolvem tecnologias de inteligência artificial e robótica susceptíveis de ser redireccionadas para o desenvolvimento de armas autónomas”, de 26 países, divulgaram uma carta aberta dirigida aos representantes dos 124 estados-parte na conferência das Nações Unidas, da anteriormente referida Convenção sobre Certas Armas Convencionais (Convention on Certain Conventional Weapons), saudando a decisão da Conferência de criar um Grupo de Peritos Governamentais (Group of Governmental Experts, GGE) sobre Sistemas de Armas Autónomas Letais (Lethal Autonomous Weapon Systems, LAWS). “Muitos dos nossos investigadores e engenheiros — prosseguia a carta — estão disponíveis para aconselhar tecnicamente o Grupo nas suas deliberações”. Os signatários declararam que, como profissionais “se sentiam especialmente responsáveis por fazer soar o alarme” [7].
“Estas podem ser armas de terror — acrescentaram — armas que déspotas e terroristas podem usar contra populações inocentes e armas que podem ser alvo de ataques informáticos e comportar-se de modo indesejável. Não dispomos de muito tempo para actuar. Uma vez aberta esta Caixa de Pandora, será difícil voltar a fechá-la”.
O CGE já se reuniu por diversas vezes desde que foi criado. Não existem indicações, até à data, de qualquer acordo substancial entre as partes.
Da última vez que o GGE se reuniu, em Agosto passado, 26 estados apoiaram a proibição de sistemas de armas totalmente autónomas – mais quatro estados que aqueles que apoiaram a medida na reunião de Abril de 2018. Contudo, 12 estados—incluindo a Rússia, EUA e Reino Unido — opuseram-se sequer à negociação de um tratado sobre sistemas de armas autónomas letais.
Na União Europeia, permanece vivo o activismo pela paz e contra as políticas que exacerbam o risco de uma corrida aos armamentos. Em 28 de Novembro de 2018, um grupo de 177 cientistas europeus de 17 estados-membros, “alarmados com a deriva militar da UE”, divulgaram uma carta onde manifestaram a sua preocupação acerca “dos montantes significativos de fundos públicos que a EU está a atribuir a investigações militares e ao desenvolvimento potencial de armas autónomas (…)”[8]. Treze dos signatários são portugueses.
Alguns meses antes, os “Investigadores pela Paz” (Researchers for Peace), uma iniciativa de oito associações europeias de trabalhadores científicos, publicou uma carta onde chamava a atenção para o facto da UE ter criado em 2018, e pela primeira vez, um programa de investigação militar com o objectivo de “ajudar a preservar a competitividade da indústria de armamento”. A chamada Acção Preparatória sobre Investigação de Defesa (Preparatory Action on Defense Research, PADR) atribuiu um total de 90 milhões de euros a projectos de investigação militar ao longo de um período de três anos que se prolonga até 2020. A carta sublinha o facto da Acção Preparatória pretender ser “apenas um primeiro passo na criação de um robusto Fundo de Defesa Europeu (European Defense Fund) com um orçamento estimado de 40 mil milhões de euros para investigação e desenvolvimento de equipamento militar ao longo dos próximos dez anos”. Ou seja, até 2030. A carta dizia ainda: “Investir fundos da UE em investigação militar não só desvia recursos de outros domínios mais pacíficos, como pode fomentar corridas armamentistas, pondo em causa a segurança na Europa ou noutras partes do mundo”. A carta foi assinada por mais de um milhar de trabalhadores científicos[9]. Oitenta dos signatários são portugueses ou trabalham em Portugal.
Em anos recentes, as aplicações miltares de IA e robótica, especialmente de armas autónomas, têm estado na primeira linha das preocupações dos trabalhadores científicos socialmente responsáveis e de activistas pela paz de todo o mundo. Em Julho de 2018, foi tornado público em Estocolmo um compromisso de “não participar em, nem apoiar,o desenvolvimento, produção, comércio ou uso de armas autónomas”. O compromisso foi assinado, até à data, por mais de 160 empresas e organizações ligadas à IA de 36 países e por 2400 pessoas indivíduais de 90 países. A OTC e a Universidade Nova de Lisboa estão entre as organizações signatárias, assim como uma dezena de trabalhadores científicos portugueses. Em Setembro de 2019, o Parlamento Europeu aprovou uma resolução banindo os sistemas de armas autónomas por 566 votos a favor e 47 contra, com 73 abstenções.
Recentemente surgiram acções de outro tipo que merecem uma menção particular. Trata-se de reacções de trabalhadores de grandes empresas tecnológicas multinacionais que se opõem ao envolvimento destas em contratos com militares para o desenvolvimento de armas. Há três casos, pelo menos, que vieram a público e que dizem respeiro à Microsoft, à Google e à Amazon.
Os funcionários da Microsoft protestaram contra um contrato da empresa, no valor de 480 milhões de dólares, para fornecer ao Exército dos EUA dispositivos individuais de realidade aumentada, publicando uma carta em que afirmaram “não subscrever o desenvolvimento de armas.”[10] Na carta diziam ainda: “Somos uma coligação global de trabalhadores da Microsoft e recusamo-nos a criar tecnologia para a guerra e a opressão”[11].
Esta carta segue-se a outra, divulgada em Outubro de 2018 por funcionários da Microsoft que escolheram permanecer anónimos, em que exigiam que a empresa retirasse a sua proposta para um contrato com o Departamento de Defesa dos EUA no valor de 10 mil milhões de dólares, relacionado com a chamada Joint Enterprise Defense Infrastructure (JEDI). Um trecho da carta dizia: “Muitos funcionários da Microsoft não acreditam que aquilo que construímos deva ser usado para fazer guerras. Quando decidimos trabalhar para a Microsoft, fizemo-lo com o intuito de ajudarmos a “dar a todas as pessoas do planeta a possibilidade de chegar mais longe”, não com a intenção de destruir vidas e reforçar a natureza letal do armamento.”[12]
Em Junho de 2018, num artigo de Drew Harwell, o Washington Post revelou que “a Google vai banir o desenvolvimento de software de inteligência artificial que pode ser usado em armas.”[13] Esta decisão parece surgir em resposta àquilo que o autor descreve como “(…) uma vaga de demissões de funcionários e de críticas públicas ao contrato celebrado pela Google com o Departamento de Defesa para o desenvolvimento de software que ajude a analisar os vídeos de drones, o qual, segundo os críticos, fez a empresa dar mais um passo em direcção ao “negócio da guerra.””
Um grupo de cerca de 1200 académicos e investigadores de diferentes países publicou uma carta aberta dirigida à Administração da Google, em apoio dos mais de três mil funcionários e tecnólogos da empresa envolvidos neste processo. O Professor Luís Moniz Pereira, que é membro dos órgãos sociais da Direcção da OTC, é um dos signatários.

No caso da Amazon, o activismo dos trabalhadores tem por alvo a venda do software de reconhecimento facial da empresa — “Rekognition” — a forças responsáveis pela manutenção da ordem. Os trabalhadores divulgaram uma carta interna dirigida ao presidente (CEO) da empresa, onde pedem à administração que ponha fim às parcerias com as autoridades dos EUA responsáveis pelo controle da imigração e questões aduaneiras (US Immigration and Customs Enforcement, ICE). “A nossa empresa não deve estar no negócio da vigilância; não devemos fazer policiamento;” diz a carta dos trabalhadores[14]. E acrescenta: “Não precisamos de esperar para ver de que modo estas tecnologias serão usadas. Já sabemos que, num quadro de militarização sem precedentes da polícia, de ataques renovados contra activistas negros e de crescimento de uma força federal responsável por deportações e presentemente envolvida em abusos dos direitos humanos — o software será mais um instrumento poderoso para o controlo interno e, em última análise, será prejudicial para os mais marginalizados.”
Esta declaração indicia o reconhecimento claro de que o software em questão pode ser usado como instrumento na criação de um estado policial.
3 de Julho de 2019 (revisão)
[1] China, Egipto, Índia, Irão, Israel, Coreia do Norte, Paquistão, Estados Unidos
[2] Artigo VI do TNP: “Cada uma das Partes do Tratado compromete-se a conduzir negociações de boa-fé sobre medidas efectivas relativas à cessação da corrida aos armamentos nucleares em data próxima e ao desarmamento nuclear, e sobre um tratado de desarmamento geral e completo sob estrito e efectivo controlo internacional.
[3] Declaração Conjunta à Imprensa dos Representantes Permanentes nas Nações Unidas dos Estados Unidos, Reino Unido e França após a adopção de um tratado que proíbe as armas nucleares, 7 de Julho de 2017.
[4] https://otc.pt/wp/2019/02/22/a-new-bioweapon-system/
[5] “Ethical Issues of Using CRISPR Technologies for Research on Military Enhancement”, Greene, M. and Master, Z., Journal of Bioethical Inquiry, Setembro 2018, Volume 15, Número 3, pp 327–335
[6] “Autonomous Weapons: An Open Letter from AI & Robotics Researchers”, July 2015. (https://futureoflife.org/open-letter-autonomous-weapons/)
[7] https://futureoflife.org/autonomous-weapons-open-letter-2017/
[8] https://www.vredesactie.be/unmanned-autonomous-weapons-how-eu-adrift
[9] https://www.researchersforpeace.eu/form/researchers-pledge-form#english
[10] https://www.euronews.com/2019/02/23/microsoft-employees-demand-military-contract-be-dropped (February 2019)
[11] https://www.documentcloud.org/documents/5746790-Microsoft-HoloLens-Letter.html
[12] https://medium.com/s/story/an-open-letter-to-microsoft-dont-bid-on-the-us-military-s-project-jedi-7279338b7132
[13] https://www.postguam.com/business/technology/google-bans-development-of-artificial-intelligence-used-in-weaponry/article_7af8feb4-6ae3-11e8-866c-a72d5ab46141.html
[14] https://gizmodo.com/amazon-workers-demand-jeff-bezos-cancel-face-recognitio-1827037509 (June 2018)