Robôs assassinos e a banalidade do mal
'Arma autônoma letal' soa mais amigável do que 'robô assassino'.
- Muitas vezes aceitamos que certas pessoas – soldados, espiões e agentes da lei, por exemplo – tenham que matar no interesse de um bem maior. Em outras palavras, eles têm uma 'licença para matar'.
- Estamos desenvolvendo máquinas tecnologicamente capazes que podem selecionar e engajar alvos de forma autônoma. Eles podem fazer isso com menos riscos para os operadores humanos.
- O problema moral com essas armas autônomas é que elas desumanizam a vítima. Isso ecoa um ponto importante que Hannah Arendt fez ao assistir ao julgamento de Adolf Eichmann, que permitiu o Holocausto.
No mundo de James Bond de Ian Fleming, o Agente 007 tem uma “licença para matar”. O que isso significa é que Bond tem o direito de tomar a decisão de usar força letal para realizar um bem maior. Mas os humanos são emocionais e falíveis. Somos propensos a erros e tendenciosos. Isso levanta a questão: se uma “licença para matar” é uma necessidade para a aplicação da lei, ela deveria ser dada a um robô?
Isso não é mais uma preocupação teórica. Agora vivemos em um mundo onde a guerra é conduzida cada vez mais pela tecnologia, de mísseis de longa distância a drones não tripulados. Em nosso site irmão, Freethink, examinamos as questões que envolvem as “guerras de robôs” dos dias modernos — isto é, usando robôs assassinos em uma zona de conflito. Se permitirmos que soldados e espiões matem pelo “bem maior”, por que não estender esse privilégio aos robôs?
Mas, vamos tornar a questão um pouco mais pessoal. O departamento de polícia local deveria ser capaz de usar robôs assassinos em sua vizinhança?
Proteger e Servir 2.0
“Robôs assassinos” têm um nome mais formal: “armas autônomas letais” (LAWs). Eles têm aparecido bastante nas notícias, recentemente. Em novembro, o Departamento de Polícia de São Francisco fez uma petição aos legisladores da cidade para permitir que a polícia usasse robôs que podem matar. O SFPD foi interessado em usar robôs “quando o risco de perda de vida para membros do público ou oficiais é iminente e supera qualquer outra opção de força disponível para o SFPD.” Em outras palavras, eles querem usar as LEIS quando são a melhor coisa em uma situação ruim.
O uso de robôs letais pela polícia não é algo inédito. Em 2016, o polícia de Dallas tinha um robô carregando explosivos matando um atirador que já havia matado cinco policiais. A polícia de Oakland fez com que um robô armado com uma espingarda desarmasse uma bomba com segurança, e eles levantou a ideia que o mesmo robô poderia ser equipado com munição real (embora eles tenham voltado atrás).
Inicialmente, o pedido do SFPD foi atendido, mas levou apenas uma semana de pressão de manifestantes e grupos de defesa das liberdades civis para que a decisão fosse revertida. Dean Preston, um dos legisladores da cidade que se opôs a isso desde o início, disse , “O povo de São Francisco falou alto e claro: não há lugar para robôs policiais assassinos em nossa cidade. Deveríamos estar trabalhando em maneiras de diminuir o uso da força pela polícia local, não dando a eles novas ferramentas para matar pessoas”.
a questão moral
Quem está certo neste debate? Se um robô, controlado de forma responsável e devidamente regulamentado, pode proteger ou salvar a vida de civis, por que não deveríamos poder usá-los? Existem duas diferenças morais importantes entre a “licença para matar” de um ser humano e a de uma IA.
A primeira diz respeito a até que ponto os computadores podem fazer escolhas éticas complexas em um campo de batalha ou situação de aplicação da lei. Quase qualquer evento complexo envolvendo armas de fogo ou armas envolverá um elemento de “dano colateral” – um eufemismo para “mortes de civis”. No entanto, um agente humano também pode mostrar discrição moral . Eles podem abandonar uma missão, por exemplo, se ela representar um risco muito alto para as crianças. Ou, um agente pode mudar de tática se considerar um alvo inapropriado ou errado. Um policial com uma arma tem um grau de escolha que um robô não tem - um robô segue apenas ordens. Muitas LEIS , quando não estão mais se comunicando com seus operadores humanos, não podem mostrar discrição. Eles não podem tomar uma decisão moral.
Inscreva-se para receber histórias contra-intuitivas, surpreendentes e impactantes entregues em sua caixa de entrada toda quinta-feiraA segunda questão, no entanto, diz respeito não apenas à santidade da vida mas a dignidade da morte. Como a campanha, Pare os robôs assassinos , coloca: “As máquinas não nos veem como pessoas, mas apenas como outro pedaço de código a ser processado e classificado”. Hannah Arendt, enquanto assistia ao julgamento de Adolf Eichmann, facilitador do Holocausto, acreditava que seu mal era amplificado pelo quão distante ele era de seu trabalho. Ele tinha ordens a seguir e cotas a cumprir. Ele viu planilhas, não humanos. Como disse Arendt:
“Eichmann não era Iago e nem Macbeth. Exceto por uma diligência extraordinária em cuidar de seu progresso pessoal, ele não tinha nenhum motivo… ele nunca percebeu o que estava fazendo… criminosos daquele período... tal afastamento da realidade e tal falta de consideração podem causar mais estragos do que todos os instintos malignos juntos.
Ao ler isso, não é muito difícil ver o robótico aspecto para Eichmann - uma visão desumana e calculista da vida. Ter drones ou robôs matando pessoas não é mais maligno do que uma bala ou uma lança. Ter IA decidir ou identificar quem matar, é. Os LAWs falham em apreciar os humanos como dignos e dignos da vida, então é difícil imaginar que eles possam apreciar os humanos. Em suma, os robôs assassinos são a manifestação máxima da famosa expressão de Arendt “a banalidade do mal”.
Jonny Thomson ensina filosofia em Oxford. Ele administra uma conta popular chamada Minifilosofia e seu primeiro livro é Minifilosofia: um pequeno livro de grandes ideias .
Compartilhar:
