ONU faz alerta sobre armas autônomas controladas por IA e aponta os riscos do uso de armamentos sem intervenção humana
O comunicado foi emitido em uma reunião com a Cruz Vermelha, após a Ucrânia acusar a Rússia de matar civis com um drone guiado por inteligência artificial
Nesta terça-feira (25), a ONU fez um alerta sobre o uso de armas controladas por inteligência artificial na guerra. O aviso surgiu depois que a Ucrânia acusou a Rússia de matar 3 civis com um drone operado por IA. O caso reacendeu o debate sobre os riscos do uso de tecnologias autônomas em conflitos armados.
O apelo
O secretário da Organização das Nações Unidas, António Guterres, fez um comunicado lido por uma porta-voz em uma reunião com a Cruz Vermelha: “Estamos agora perigosamente próximos de cruzar uma linha vermelha moral: o alvo autônomo de humanos por máquinas. A inovação deve servir à humanidade — não colocá-la em risco”. O pedido evidencia o perigo de usar inteligência artificial sem intervenção humana em práticas de guerra e aponta a morte de três civis como motivo do apelo. O jornal “The New York Times” confirmou o ataque feito por um drone russo no dia 6 de junho, em Zaporíjia, na Ucrânia. A morte dos três homens ocorreu em um posto de gasolina.
Foi encontrado nos destroços do drone um minicomputador da empresa americana Nvidia, líder mundial em chips para inteligência artificial. Na guerra, esses chips são utilizados para que o sistema detecte imagens de possíveis alvos; porém, segundo militares da Ucrânia, os drones utilizados pela Rússia ainda estão em fase de testes. O sistema detecta um alvo por conta própria e dispara. Em declaração, a Nvidia afirmou que produz e comercializa para usos benéficos e que ele não é vendido na Rússia. O caso é um dos primeiros registros documentados de civis mortos por uma arma autônoma.
No comunicado da ONU, os representantes citam uma nova Conferência de Revisão da Convenção sobre Certas Armas Convencionais, em novembro, para ampliar o debate sobre o assunto. “O trabalho minucioso realizado nos últimos três anos forma a base ideal para tais negociações e não deve ser perdido”, afirmam.
Quem vai se responsabilizar?
A tecnologia na guerra entre a Rússia e a Ucrânia já não é mais novidade, mas a inovação de drones que decidem o alvo sem intervenção humana acende um alerta global. O uso da inteligência artificial era direcionado à fase final do ataque, depois que um humano determinava o local a ser atingido. A chefe do serviço de desarmamento das Nações Unidas afirmou que a comunidade internacional não pode esperar acontecer uma atrocidade para agir.
A questão central gira em torno da responsabilidade jurídica e moral quando uma máquina comete um erro fatal. Quando um drone autônomo atinge civis, a culpa cabe aos programadores, aos fabricantes do equipamento, aos comandantes militares ou ao Estado que implantou a tecnologia?
“Algumas decisões devem permanecer para sempre com seres humanos. Especialmente a de acabar ou não com uma vida.”
