A reportagem Nós fazemos parte do futuro? mostra que o fim de algumas classes sociais deve ser lento, promovido por um longo processo de exclusão e marginalização da sociedade, catalisado pelos avanços da inteligência artificial e da robótica. Neste cenário, apesar de exterminadores do futuro estarem fora de projeção, anunciam-se neste século robôs letais para os humanos. A diferença é que estes serão programados pela própria humanidade.
Estados Unidos, Rússia, China, Israel, Coreia do Sul e o Reino Unido são as principais bandeiras sob as quais desenvolvem-se novas tecnologias de inteligência artificial e robótica voltadas para tirar do humano o papel de identificar e neutralizar alvos militares. Chamadas de “armas autônomas”, essas ferramentas de guerra podem ser drones munidos com um sistema de reconhecimento facial e explosivos ou mesmo tanques de guerra não tripulados. São máquinas que, uma vez estabelecido o objetivo, podem decidir quem vive e quem morre sem mais intervenções humanas, como no episódio Metalhead de Black Mirror.
Organizações como a Human Rights Watch já se movimentam para definir uma linha vermelha no desenvolvimento bélico, que culminaria em um novo tratado internacional para banir este tipo de armamento. Durante esta pandemia, a reportagem conversou com Mary Wareham, coordenadora global da Campaign to Stop Killer Robots, que atua na Human Rights Watch em Washington, DC. Além de diretora de advocacia da divisão de armas, ela desenvolveu papel central na criação e monitoramento do Tratado de banimento de minas, de 1997, e na Convenção de munições de fragmentação, de 2008.
“A maioria dos nossos esforços são de conscientização, organização de pessoas e debates com políticos para que possamos dialogar com mais líderes através da Human Rights Watch. Nossos esforços se concentram em tentar transformar essas iniciativas em leis internacionais que regulem a criação desses robôs assassinos. Neste momento, nossos esforços estão tendo foco na questão da automatização da identificação de alvos e neutralização”, explica Mary Wareham.
Ela explica que, no momento, a organização tenta se concentrar na questão dos alvos e do momento dos disparos, para que essa força letal continue sendo uma ação exclusiva humana. “Não podemos deixar a cargo de um sistema de inteligência artificial a responsabilidade de identificar e atirar”, afirma.
Entre os aliados da causa encontram-se o próprio secretário geral da ONU, António Guterres, que já demonstrou interesse em criar leis que proíbam esse tipo de arma. O problema, porém, é que falta poder político efetivo para criar um novo tratado internacional que estabeleça um limite. Temos aliados, como os ministros de relações exteriores de países como o Canadá, Alemanha, Suécia e Paquistão. Apesar da adesão, é difícil transformar esse apoio em medidas efetivas e legais..
Em abril deste ano, Bonnie Docherty. diretora associada de Conflitos Armados e Proteção Civil e professora de Direito na Clínica Internacional de Direitos Humanos apresentou três propostas centrais para as regras em um documento, feito para a campanha, cujo objetivo seria tornar viável o desenvolvimento de mecanismos judiciais para próximos debates. As propostas são, de acordo com o site da campanha: 1) “Uma obrigação geral para manter controle humano significativo no uso da força”; 2) “Proibições de sistemas armados que selecionam e visam alvos e, por sua natureza, causam problemas morais e legais fundamentais”; 3) “Obrigações positivas para assegurar que o controle significativo humano será mantido no uso de qualquer outro sistema que seleciona e ataca alvos”.
Questionada sobre os países subdesenvolvidos que, a princípio, não poderiam bancar uma corrida armamentista para defesa contra esse tipo de ameaça, Mary argumenta: “A maioria dos países do sul político do mundo apoia a causa. Temos, por exemplo, o Paquistão, que está assustado com a possibilidade da Índia desenvolver esse tipo de armamento. Além disso, temos o próprio Brasil, que estava assumindo um certo protagonismo na campanha contra os robôs assassinos. Isso acontece porque a necessidade de investimento nesse tipo de defesa seria necessário se não conseguirmos pôr um limite nesse desenvolvimento”.
Nesse sentido, a queda de prestígio internacional do Brasil se mostra como mais uma dificuldade. Apesar da falta de políticas nacionais sobre o tema, em maio de 2014, o então embaixador do Brasil, Pedro Motta Pinto Coelho, atuou na primeira reunião informal na Convenção da ONU sobre Armas Convencionais (conhecida pela sigla CCAC ou, em inglês, CCW). Nela, o representante nacional afirmou a importância do controle humano sobre mira e ataque. Além disso, houve diversas intervenções durante o encontro, incluindo perguntas sobre o paradigma da responsabilidade pessoal sobre mortes geradas por essa tecnologia.
“O Brasil estava se tornando uma espécie de liderança internacional, mas acho que fica difícil articular com a ONU quando o país não paga seus débitos e, agora, menos ainda, principalmente por causa das atitudes do atual presidente. Muita coisa mudou com o Brasil e acho que só podemos pensar em como vai ser essa luta após a pandemia”, lamenta Mary Wareham.
Vista como o momento de “vai ou racha” no assunto, a Sexta Conferência de Revisão da Convenção da ONU sobre Armas Convencionais acontece em dezembro de 2021. Este é o prazo estabelecido pelos países desde que o debate sobre os robôs letais começou oficialmente, em 2014. Ou seja, até o próximo ano, a organização deve estabelecer um quadro normativo sobre o assunto. O acordo visado pela Human Rights Watch poderia ser assinado na ocasião, mas a Rússia e os Estados Unidos seguem negando o compromisso com um instrumento jurídico vinculativo.