Em reação às crescentes preocupações com as armas autônomas, a Campaign to Stop Killer Robots (Campanha para Proibir Robôs Assassinos) e cientistas e pesquisadores em Inteligência Artificial (AI), criaram um vídeo que retrata um futuro perturbador em que as armas autônomas letais se tornam acessíveis e onipresentes em toda parte do mundo.
O pesquisador, Stuart Russell, da UC Berkeley AI, apresentou o vídeo na semana passada na Convenção das Nações Unidas sobre Armas Convencionais, em Genebra, organizada pela Campaign to Stop Killer Robots. Russell, que aparece no final do vídeo, adverte que a tecnologia descrita no vídeo já existe* e que o timing para agir está acabando rapidamente.
O apoio à proibição de armas autônomas vem aumentando. Em 2 de novembro, mais de 200 cientistas canadenses e mais de 100 cientistas australianos na academia e indústria escreveram cartas abertas ao primeiro-ministro Justin Trudeau e a Malcolm Turnbull, instando-os a apoiar a proibição.
Mais de 130 líderes de empresas de AI assinaram uma carta em apoio às discussões desta semana. Essas cartas seguem uma carta aberta de 2015, divulgada pelo Future of Life Institute e assinada por mais de 20 mil pesquisadores de AI / robótica, dentre eles Elon Musk e Stephen Hawking.
“Muitos dos principais pesquisadores mundiais da IA preocupam-se que, se essas armas autônomas forem desenvolvidas, podem reduzir dramaticamente o limiar de conflitos armados, ameaçar a vida humana, capacitar terroristas e criar instabilidade global. Os EUA e outras nações usaram drones e sistemas semi-automáticos para realizar ataques há vários anos, mas a remoção total de um ser humano do circuito está em desacordo com o direito internacional humanitário e direitos humanos”, de acordo com o artigo publicado pelo Future of Life Institute, o qual financiou o vídeo.
“A Campaign to Stop Killer Robots não está tentando represar a inovação na inteligência artificial e na robótica, como também não deseja banir sistemas autônomos do mundo civil ou militar”, explicou Noel Sharkey, do Comitê Internacional de Controle de Armas de Robô. “Em vez disso, vemos uma necessidade urgente de evitar a automação de funções críticas para selecionar alvos e usar força violenta sem a deliberação humana, garantindo assim um controle significativo do homem para cada ataque”.
Mais de 70 países participam do encontro que aconteceu entre 13 a 17 de novembro, organizado pela Fifth Review Conference, na ONU, que criou um Grupo de Especialistas Governamentais em armas autônomas letais. O encontro foi presidido pelo embaixador indiano Amandeep Singh Gill, e os países continuarão as negociações no que pode se tornar um tratado internacional histórico.
* Para mais informações sobre armas autônomas:
Campaign to Stop Killer Robots
Making the Case The Dangers of Killer Robots and the Need for a Preemptive Ban, Human Rights Watch
Meaningful Human Control or Appropriate Human Judgment? The Necessary Limits on Autonomous Weapons, Global Security
ETHICALLY ALIGNED DESIGN A Vision for Prioritizing Human Wellbeing with Artificial Intelligence and Autonomous Systems, IEEE Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems
Killing by machine: Key issues for understanding meaningful human control, Artigo 36
