A IA E O FABRICANTE DE ARMAS

KAIST- Korea Advanced Institute of Science & Technology
Na Coreia do Sul, uma associação duvidosa entre um Centro Universitário de excelência e um fabricante de armas proibidas

O KAIST— Korea Advanced Institute of Science and Technology, considerada como “the leading research university” da Coreia do Sul, inaugurou recentemente um Laboratório de Inteligência Artificial e Armamentos (“AI and Weapons Lab”) de parceria com o maior fabricante de armas do país, a empresa Hanwah. A Hanwah é conhecida por fabricar munições de fragmentação proibidas pela Convenção Internacional sobre esse tipo de armas, em vigor desde 1 de Agosto de 2010, já assinada por 120 países, entre os quais Portugal. A Coreia do Sul não assinou a Convenção. Entretanto, a Hanwah não goza de boa reputação e foi incluído por razões éticas, na lista negra do fundo público ou Fundo Soberano de Investimento Norueguês (Norway’s Government Pension Fund Global), porventura o maior do mundo, com activos da ordem de um trilião de dólares, alimentado com receitas do sector da exploração de produtos petrolíferos.

O KAIST é uma instituição pública (“state run”) de ensino superior e investigação. Em 2018, ocupa a posição 41, no QS World University Ranking, entre cerca de 1000 instituições congéneres. É uma instituição jovem, fundada em 1971, com crédito concedido pela Agência dos Estados Unidos para o Desenvolvimento Internacional (United States Agency for International Development). 

No dizer de François Rabelais, eminente figura de humanista francês do século XVI,

“Ciência sem consciência, mais não é que ruína da alma”. Pode ser também a ruína de muitas vidas.

Felizmente há quem sinta necessidade de reagir e reaja.

Assim, está neste momento em curso a recolha de assinaturas para uma Carta Aberta dirigida ao Presidente do Korea Advanced Institute of Science and Technology, Professor Sung-Chul Shin, promovida por um grupo de investigadores e engenheiros de várias nacionalidades activos na área da Inteligência Artificial e Robótica que manifestam uma posição contrária ao desenvolvimento de armas autónomas. Nessa Carta solicitam garantias de que o KAIST não se envolverá num programa que visa as aplicações da IA ao desenvolvimento de armas autónomas, adiantando que promoverão um boicote a todas as actividades do KAIST enquanto essas garantias não forem dadas. Ao mesmo tempo, os promotores da iniciativa manifestam a intenção de dar conhecimento da sua tomada de posição ao Grupo de Peritos Governamentais constituído no âmbito da “Convenção Sobre Certas Armas Convencionais” referida atrás, por ocasião da próxima reunião do Grupo de Peritos fixada para 9 de Abril corrente, em Genebra, no edifício sede da delegação das Nações Unidas, naquela cidade.

Segue-se o texto da Carta Aberta de que tomámos conhecimento por intermédio do nosso associado Luís Moniz Pereira, que é, a convite dos promotores, um dos signatários da Carta.

Carta Aberta ao Professor Sung-Chul Shin, Presidente do KAIST

“Como investigadores e engenheiros que trabalham em inteligência artificial e robótica, estamos muito preocupados com a abertura de um “Centro de Pesquisa para a Convergência de Defesa Nacional e Inteligência Artificial” na KAIST em colaboração com a Hanwha Systems, empresa líder de armas da Coreia do Sul. Foi relatado que os objectivos deste Centro são o “desenvolvimento de tecnologias de inteligência artificial (IA) para aplicações militares, participando na competição global para desenvolver armas autónomas”.

No momento em que as Nações Unidas estão a discutir de que forma conter a ameaça representada para a segurança internacional pelas armas autónomas, é lamentável que uma instituição de prestígio como a KAIST se disponha a contribuir para acelerar a corrida armamentista para desenvolver essas armas. Vimos assim declarar publicamente que boicotaremos toda a colaboração com qualquer unidade do KAIST até que o Presidente do KAIST forneça as garantias, que procurámos receber, mas não recebemos, de que o Centro não desenvolverá armas autónomas que dispensem controlo humano significativo. Não iremos, por exemplo, visitar o KAIST, acolher visitantes do KAIST ou contribuir para qualquer projecto de investigação que envolva o KAIST.

As armas autónomas, se forem desenvolvidas, serão a terceira revolução na guerra: permitirão travar uma guerra de forma mais rápida e em escala maior do que até aqui, e têm características que permitem ser usadas como armas de terror. Poderiam ser usadas contra populações inocentes por déspotas e terroristas, ignorando quaisquer restrições éticas. Esta é uma caixa de Pandora que será difícil de fechar se fôr aberta. Tal como acontece com outras tecnologias proibidas no passado como os lasers que podem causar a cegueira, podemos simplesmente decidir não as desenvolver. Exortamos o KAIST a seguir este caminho, e a trabalhar, sim, em aplicações da IA a favor da melhoria, não do prejuízo de vidas humanas.”

(original em inglês)

Open Letter to Professor Sung-Chul Shin, President of KAIST​

“As researchers and engineers working on artificial intelligence and robotics, we are greatly concerned by the opening of a “Research Center for the Convergence of National Defense and Artificial Intelligence” at KAIST in collaboration with Hanwha Systems, South Korea’s leading arms company. It has been reported that the goals of this Center are to “develop artificial intelligence (AI) technologies to be applied to military weapons, joining the global competition to develop autonomous arms.”

At a time when the United Nations is discussing how to contain the threat posed to international security by autonomous weapons, it is regrettable that a prestigious institution like KAIST looks to accelerate the arms race to develop such weapons. We therefore publicly declare that we will boycott all collaborations with any part of KAIST until such time as the President of KAIST provides assurances, which we have sought but not received, that the Center will not develop autonomous weapons lacking meaningful human control. We will, for example, not visit KAIST, host visitors from KAIST, or contribute to any research project involving KAIST.

If developed, autonomous weapons will be the third revolution in warfare. They will permit war to be fought faster and at a scale greater than ever before. They have the potential to be weapons of terror. Despots and terrorists could use them against innocent populations, removing any ethical restraints. This Pandora’s box will be hard to close if it is opened. As with other technologies banned in the past like blinding lasers, we can simply decide not to develop them. We urge KAIST to follow this path, and work instead on uses of AI to improve and not harm human lives.”

END

A Carta Aberta suscitou uma resposta rápida do Presidente do KAIST, datada de 4 de Abril corrente, e dirigida individualmente aos signatários daquela tomada de posição colectiva, resposta na qual, Sung-Chul Shin afirma que o seu Instituto “não tem qualquer intenção de se envolver no desenvolvimento de sistemas de armamentos autónomos letais (LAWS ou “Lethal Autonomous Weapons Systems”). Acrescenta que o KAIST está ciente das preocupações éticas suscitadas pelas aplicações de qualquer tecnologia incluindo a Inteligência Artificial”