A IRRESISTÍVEL ASCENSÃO DA INTELIGÊNCIA ARTIFICIAL:
PROMESSAS E PERIGOS
Frederico Carvalho
Intervenção na Mesa-Redonda OTC
“Inteligência Artificial & Robótica- Actualidade e futuros impactes sociais”
28 de Março de 2018
RESUMO
Os fulminantes avanços da inteligência artificial e suas aplicações nos mais diversos domínios da actividade humana são objecto de atenção. Procura-se discernir o que deve entender-se por inteligência artificial, e distinguir entre autómatos e dispositivos ou sistemas dotados de autonomia de decisão. Sublinha-se a impossibilidade de travar ou impedir os avanços da Ciência e da Tecnologia, que neste como em outros domínios, podem ser simultaneamente portadores de esperança no progresso social e humano e ameaça à sustentabilidade da vida sobre a Terra. As tecnologias emergentes têm, nos nossos dias, como é regra, uma natureza dual que tende a colocar-nos perante opções difíceis. Nos casos da AI e da Robótica, faz-se referência particular às aplicações bélicas, corporizadas, designadamente, nos sistemas de armas autónomas de efeitos letais — em inglês, “LAWS: Lethal Autonomous Weapons Systems” — mas também às aplicações no campo da saúde e, nestas, nomeadamente, às que envolvem implantes electrónicos cerebrais. A responsabilidade social dos cientistas e dos trabalhadores científicos em geral, é, também aqui, directamente interpelada, no contexto da sociedade e do poder político e económico.
INTRODUÇÃO
Robótica e Inteligência Artificial incluem-se no grupo das tecnologias ditasemergentes, cuja rápida evolução coloca questões merecedoras de particular atenção. Desde logo importa ter presente uma realidade com que a cada momento nos vemos confrontados: a tradução do conhecimento científico fundamental em métodos e dispositivos práticos que alargam a capacidade de interacção do homem com o mundo natural, tanto pode ser fonte de bem-estar como pode ser portadora de desgraça.
Nisso estará a meditar a Eva de Paul Gaugin junto à “árvore da Ciência do bem e do mal”, tapando os ouvidos para ignorar as confidências encantatórias da serpente.
A outra realidade que importa ter presente é a de que não há obstáculos que possam levantar-se com sucesso para impedir ou sequer coarctar, o desenvolvimento do conhecimento científico em qualquer domínio que seja.
Em 1946, Arthur Compton, Prémio Nobel da Física, e colaborador eminente do chamado Manhattan Project, escreveu:
“Era inevitável que a humanidade viesse a possuir o fogo atómico. O desenvolvimento, geral e global, da ciência e da tecnologia, é a via principal da rápida evolução do homem para um ser social cuja comunidade é o mundo. A libertação da energia atómica constitui um passo de enorme significado nessa evolução. Insere-se na nossa incessante procura de caminhos que permitam usar as forças da natureza para moldar o mundo à imagem dos nossos desejos.”
Em 1947 surge o “Doomsday Clock” ou “Relógio do Fim-do-Mundo”, ícone que representa a probabilidade de uma catástrofe global por acção do homem. Na sua origem está um grupo de cientistas ligados ao já referido Manhattan Project[1].
O momento dessa catástrofe global hipotética é representado como “a meia-noite” e a sua proximidade traduzida pelo número de minutos que separa a hora do relógio das 24 horas. O acerto dos ponteiros deste relógio simbólico está a cargo da comissão de “Ciência e Segurança” do Bulletin of Atomic Scientists[2]. A Comissão, integrada por especialistas de várias nacionalidades e áreas científicas, apoia-se num Conselho Consultivo que inclui 15 Prémios Nobel. A decisão sobre a “hora” indicada pelo relógio é tornada pública todos os anos em Janeiro
Até 2007 na sua análise da situação mundial a Comissão tinha unicamente em conta a possibilidade e as consequências de um eventual conflito nuclear. A partir de 2007 passou a avaliar, além daquela, outras potenciais ameaças.
Trata-se, designadamente, dos riscos associados às alterações climáticas e à ausência de medidas susceptíveis de as combater de forma eficaz, principalmente, pelo abandono de fontes de energia emissoras de gases de estufa[3]; em segundo lugar, os riscos potenciais decorrentes de aplicações de novas tecnologias emergentes e em rápido desenvolvimento, com destaque para aplicações da Inteligência Artificial e da Robótica, nomeadamente, em sistemas de armamentos letais com capacidade de decisão sem intervenção humana; também, aplicações no campo da informática e tecnologias da informação e comunicação, que podem pôr em risco a operação ou a estabilidade de infra-estruturas vitais para o funcionamento das sociedades modernas, como sistemas de transportes, redes eléctricas e outras, pela via da intrusão-pirata (“hacking”), em sistemas informáticos de comando e controlo; por último, os avanços no domínio da biologia sintética[4], que podem conduzir ao desenvolvimento de armas biológicas e a manipulações perigosas de material genético. Em particular, a chamada ferramenta CRISPR/Cas9 de edição de genes, que permite alterar o genoma de seres vivos, no fundo, o Código da Vida.
A inovação tecnológica, bem como os avanços do conhecimento científico em geral, processam-se nos nossos dias a um ritmo tal que torna difícil ser acompanhado e assimilado pela generalidade do corpo social. Importa criar mecanismos de controlo e regulação que permitam gerir a inovação tecnológica encorajando os aspectos positivos das novas tecnologias e, ao mesmo tempo, prever e impedir utilizações que comportem riscos para as sociedades humanas e para a integridade do património natural herdado das gerações que nos precederam.
Neste contexto, uma questão particularmente importante, é a de saber em que medida os dirigentes políticos têm em conta os pareceres dos cientistas nas escolhas que fazem e valorizam a importância da contribuição que a Ciência pode dar para a determinação dessas escolhas. Infelizmente no momento actual em que se impõe enfrentar sérios riscos globais, há razões para dizer que a Ciência é subestimada por parte de certas elites poderosas e até mesmo, em alguns países ditos desenvolvidos, está sob ataque.
Este estado de coisas justificou a mudança da hora do “Relógio do Fim do Mundo” que, no passado dia 25 de Janeiro, foi adiantado 30 segundos e marca agora 2 minutos para a meia-noite[5].
OS SISTEMAS DE ARMAS AUTÓNOMAS
As armas autónomas, muitas vezes designadas de robôs-assassinos, são um componente importante das novas armas tecnologicamente avançadas. Não estão incluídas na Convenção das Nações Unidas sobre Certas Armas Convencionais (United Nations Convention on Certain Conventional Weapons, CCWC), que abrange as minas e armadilhas, armas incendiárias e armas laser que provocam cegueira irreversível.
Em anos recentes, diversos organismos e especialistas têm levantado a questão da proibição do uso de robôs para fins militares, sendo que as armas autónomas representam a principal preocupação. Em Dezembro de 2016, os representantes de 123 Estados-Parte da Convenção atrás referida acordaram unanimemente em iniciar discussões formais sobre armas autónomas.
A Conferência decidiu criar um Grupo aberto de Peritos Governamentais (Group of Governmental Experts, GGE) sobre tecnologias emergentes e sistemas autónomos de armas letais (lethal autonomous weapons systems, LAWS) em 2017. A primeira sessão de trabalho do grupo teve lugar em Genebra em Novembro do ano passado.
Em Agosto, líderes de empresas de inteligência artificial e robótica de todo o mundo, subescreveram uma carta aberta, onde apelam às Nações Unidas para que proíbam as armas autónomas. A carta, divulgada pelo “The Future of Life Institute”[6], foi endereçada aos representantes dos 124 Estados-Parte na Convenção sobre Armas Convencionais.
A carta, assinada por 116 fundadores de empresas de robótica e inteligência artificial de 26 países, foi a primeira posição conjunta tomada sobre a matéria.
A abrir a carta, os autores justificam a sua diligência, dizendo: “Como empresas que desenvolvem nos domínios da IA e da Robótica tecnologias que podem ser redirigidas para o desenvolvimento de armas autónomas, sentimos a particular responsabilidade de lançar este alerta”.
Segundo os signatários “as armas autónomas letais ameaçam transformar-se na terceira revolução nas tecnologias da guerra (…). Uma vez desenvolvidas, permitirão que os conflitos armados se desenrolem a uma escala nunca vista e a um ritmo que ultrapassa a compreensão humana”. E acrescentam “não nos resta muito tempo para agir. Uma vez aberta, essa caixa de Pandora será difícil de fechar”, justificando desse modo o seu apelo urgente às Nações Unidas [7].
Além disso, já há cerca de dois anos[8], mais de 1000 investigadores em IA tinham publicado uma carta aberta onde se pedia a proibição das armas autónomas letais. Até ao presente a carta já recolheu mais de 24 mil assinaturas[9].
É por demais evidente que a IA e domínios associados da ciência e tecnologia continuarão a desenvolver-se rapidamente.
Em alguns círculos políticos, a consciência do que está em jogo tem-se manifestado em diferentes ocasiões. Noutros, parece reinar a ignorância pura e simples.
Existem, contudo, diferenças consideráveis de pontos de vista entre as elites conhecedoras, seja na esfera política ou na própria comunidade da IA, relativamente ao impacto que a disseminação de aplicações envolvendo IA poderá ter sobre as sociedades humanas.
Nos EUA, gigantes tecnológicos como a Google ou o Facebook estão a investir fortemente em Investigação & Desenvolvimento (I&D) no domínio da IA. O mesmo se passa com os militares, em particular a agência de projectos de investigação avançados em defesa DARPA (Defense Advanced Research Projects Agency).
Um desenvolvimento muito sensível que está a ser perseguido é a possibilidade de comandar o comportamento, e mesmo alterar a personalidade de um ser humano, mediante o implante cerebral de pequenos circuitos electrónicos conhecidos como “chips”. Também aqui, a tecnologia que sustenta tal desenvolvimento pode ser uma espada de dois gumes. Por um lado, permitindo a uma pessoa recuperar faculdades físicas ou mentais perdidas ou inexistentes, incluindo defeitos à nascença (mover um membro paralizado, recuperar a visão ou audição, tratar a perda de memória ou outros sintomas relacionados com a doença de Alzheimer). Por outro lado, promovendo desenvolvimentos sensoriais e cognitivos sobrehumanos, no sentido em que conferem ao ser humano “modificado” capacidades que um ser humano comum não possui. Alguns peritos sublinham, entre essas novas capacidades, a extensão da percepção de imagens às bandas da radiação infravermelha e ultravioleta. Mas também a capacidade de memorizar do cérebro e de comunicar com outros através da transmissão telepática de pensamentos.
D.T. Max[10] em artigo publicado na “National Geographic Magazine” refere o caso de um laboratório no Centro de Engenharia Neuronal da Universidade da Carolina do Sul que está a testar a implantação de chips no cérebro para recuperar memórias perdidas.
O autor também indica que “no ano passado, na Universidade de Pittsburgh, um indivíduo foi capaz de transmitir impulsos eléctricos do seu cérebro, através de um computador, para controlar um braço robótico e mesmo sentir aquilo que os seus dedos tocavam”. Estas realizações são promissoras para a cura ou alívio do sofrimento humano. Contudo, devemos estar conscientes dos riscos envolvidos nas aplicações que implicam interacções computador-cérebro. Como assinala D.T. Max, a ideia de que “ligando o cérebro humano a uma máquina se pode produzir um combatente sem rival não escapou à DARPA”.
In 1998, Ellen M. McGee e G. Q. Maguire, Jr., apresentaram ao 20º Congresso Mundial de Filosofia o importante ensaio, sobre “Avaliação Ética dos Chips Implantáveis no Cérebro”[11].
Segundo os autores “a implicação mais assustadora desta tecnologia é a possibilidade séria dela poder facilitar o controlo totalitário dos seres humanos”.
Questionam, em particular, as consequência de um eventual transplante do chip cerebral de um cérebro humano para o cérebro de outra pessoa. Perguntam-se se será “possível capturar os dados que representam a totalidade das experiênciais sensoriais de um ser humano num único chip implantado no cérebro?”. Na eventualidade de um chip de memórias ser transplantado dum cérebro para outro, a continuidade psicológica associada à identidade pessoal dos seres humanos envolvidos seria perturbada, com inegáveis ramificações. “Teria a pessoa transplantada as identidades de outras pessoas?” ― interrogam-se os autores.
Estas são questões muito sérias que exigem um debate social informado e inclusivo.
Neste contexto, importa notar que a Ciência e a Tecnologia estão, em larga medida “militarizadas”.
À medida que as universidades são compelidas a desenvolver laços mais estreitos com os militares, dedicando mais recursos a projectos que trazem receitas, vozes discordantes dentro da comunidade científica vão sendo marginalizadas, o pessoal académico sente-se vulnerável e os críticos independentes tornam-se escassos.
ROBÔS-ASSASSINOS: QUESTÕES MORAIS, ÉTICAS E JURÍDICAS
A atribuição de responsabilidades por danos decorrentes da acção de sistemas autónomos, em particular armas autónomas letais, é uma questão delicada.
Tucker Davey, do “Future of Life Institute”, aborda esta questão num artigo intitulado “Who is Responsible for Autonomous Weapons?” [12]
No caso de um veículo autónomo, embora possam ocorrer acidentes fatais, o fabricante deve adoptar todas as soluções tecnológicas possíveis para os evitar. Quando se lida com armas autónomas, o que orienta o fabricante é potenciar a letalidade do seu equipamento.
Os robôs militares autónomos ― sublinha o autor ― “podem deslocar-se por si próprios em diferentes ambientes e tomar autonomamente decisões acerca de quem deve ser morto e quem deve ser poupado.” “Como é que responsabilizamos seres humanos pelas acções de sistemas autónomos? E como é que se faz justiça quando o assassino é, basicamente, um computador?“. Davey acrescenta que “Não existem respostas simples para este dilema”.
ELIMINAR OS SERES HUMANOS DO CAMPO DE BATALHA[13]
Num teatro de guerra, a substituição de soldados humanos por robôs humanóides apresenta vantagens significativas. Por um lado, as capacidades dos combatentes robóticos humanóides poderão ser superiores às dos soldados humanos; por outro lado, os responsáveis políticos evitarão o espectáculo do regresso a casa dos sacos transportando cadáveres e os funerais na presença de familiares e amigos enlutados.
A par de combatentes humanoides, as principais potências militares estão a investir em módulos de combate de maior envergadura, com capacidade de auto-decisão.
O fabricante russo de armas Kalashnikov anunciou recentemente o desenvolvimento de um módulo de combate totalmente autónomo baseado em redes neuronais artificiais. “As tecnologias de redes neuronais permitem ao módulo identificar alvos e tomar decisões por si próprio”, informa a comunicação social . “Não é claro se o módulo abrirá fogo por sua própria iniciativa ou se aguardará uma autorização humana” ― acrescenta”[14].
A já referida Carta Aberta de 2015, co-assinada por investigadores de IA e Robótica, lança o alerta:
“Se uma qualquer grande potência militar avançar com o desenvolvimento de armas baseadas em IA, uma corrida global aos armamentos é virtualmente inevitável, e o desfecho dessa trajectória tecnológica é óbvio: as armas autónomas tornar-se-ão as Kalashnikovs de amanhã. Ao contrário das armas nucleares, não exigem matérias-primas dispendiosas ou difíceis de obter e, por isso, serão omnipresentes e baratas para produzir em massa por qualquer potência militar que se preze”[15].
Grandes figuras da intelectualidade mundial e também e também instituições reconhecidamente responsáveis têm-se pronunciado de forma inequívoca a favor da proibição das armas com antonomia de decisão.
Para que as minhas palavras e o acento tónico posto nas aplicações militares da IA e robótica não sejam erradamente interpretados, desejo afirmar que no meu entendimento e no estado actual dos conhecimentos e das aplicações da robótica e da IA, algumas incipientes outras mais avançadas, o potencial benefício para a humanidade do seu rápido desenvolvimento pode prevalecer sobre possíveis aplicações perversas que lhes estejam associados.
Partilho a convicção de que é na Ciência, ainda que apareça por vezes como uma fraca luz bruxuleante na escuridão (“a candle in the dark”) que reside a esperança de combater com sucesso as ameaças globais com que as sociedades humanas e o planeta hoje se vêem confrontados.
Frederico Carvalho
28 de Março de 2018
______________________________________________________
[1] A História efectivamente comprova que um numeroso grupo de cientistas que participaram no Projecto Manhattan tinham plena consciência de que a arma atómica era em si mesma uma ameaça potencial extraordinária para a Humanidade. Muitos dos seus escritos atestam-no, tal como posteriores diligências de figuras eminentes de intelectuais como Albert Einstein ou Bertrand Russel.
[2] https://thebulletin.org/ . O “Bulletin of Atomic Scientists” é uma ONG independente, sediada nos EUA. É publicado, sem interrupções, desde 1945, ano em que foi fundado na sequência dos bombardeamentos atómicos de Hiroshima e Nagasaki por um grupo de físicos ligados ao chamado Projecto Manhattan, que entenderam “não poder manter-se indiferentes às consequências do seu trabalho”, defendendo a abolição da arma atómica com argumentos técnicos e humanistas.
[3] A este respeito a Comissão de Ciência e Segurança que gere a hora do Relógio, faz notar que apesar de estarem em construção novas centrais nucleares, principalmente na Ásia, a escala desse esforço não é suficiente para cobrir as necessidades de energia livre de carbono.
[4] A biologia sintética é uma área interdisciplinar nova que procura aplicar à biologia princípios ou técnicas da engenharia. O se objectivo é a re-engenharia e fabricação de componentes e sistemas biológicos que não se encontram na natureza. Combina a síntese química de DNA e conhecimentos avançados de genómica de forma a permitir a construção rápida de sequências pré-estabelecidas de DNA e a sua inserção em novos genomas.
[5] Uma única vez, no passado, o Relógio esteve tão próximo como agora da “meia-noite”. Foi em 1953, no auge da chamada “guerra fria”, quando a― na altura― URSS ensaiou um primeiro engenho explosivo termo-nuclear, nove meses depois dos EUA terem feito explodir a sua primeira bomba de hidrogénio sobre uma pequena ilha no Pacífico.
[6] “The Future of Life Institute” é uma organização de voluntários na região de Boston dedicada à investigação e divulgação. A organização trabalha para mitigar os riscos existenciais que ameaçam a humanidade, em particular o risco colocado pela inteligência artificial de ponta (Wikipedia). Trata-se de uma organização sem fins lucrativos fundada em Março de 2014, localizada em Cambridge, Massachusetts, USA.
[7] “An Open Letter To The United Nations Convention On Certain Conventional Weapons”
(https://futureoflife.org/autonomous-weapons-open-letter-2017/ )
[8] 24th International Joint Conference on Artificial Intelligence, Buenos Aires, Julho 2015
[9] “Autonomous Weapons: An Open Letter From AI & Robotics Researchers”, Julho 2015. Stephen Hawking, Noam Chomsky e Elon Musk, são alguns dos signatários. (https://futureoflife.org/open-letter-autonomous-weapons/)
[10] D.T. Max, “How Humans Are Shaping Our Own Evolution”, National Geographic, Abril 2017
[11] Ver “The Proceedings of the Twentieth World Congress of Philosophy”, Boston, Massachusetts, 10-16 Agosto 1998
[12] Tucker Davey, “Who is Responsible for Autonomous Weapons? ”, 21 Novembro 2016
(https://futureoflife.org/2016/11/21/peter-asaro-autonomous-weapons/)
[13] Alguns analistas consideram também o impacto sobre o mercado de trabalho da utilização extensiva de robôs controlados por algoritmos de IA, numa tendência que pode ser descrita como “a eliminação dos trabalhadores humanos” da economia.
[14]https://www.rt.com/news/395375-kalashnikov-automated-neural-network-gun/ (5 Julho 2017)
[15] Cf. nota 9
