O princípio da distinção é um axioma fundamental do moderno direito de guerra — também conhecido como direito dos conflitos armados ou direito internacional humanitário (DIH) — e exige que apenas objetivos militares possam ser legalmente objeto de ataques, enquanto os bens não militares, como os bens de caráter civil, permanecem protegidos contra ataques. No que diz respeito às pessoas, apenas os combatentes podem ser legalmente objeto de ataques, salvo quando se encontrem hors de combat em virtude de doença, ferimento ou captura.Artigo 48.º do Protocolo Adicional I. Para respeitar o princípio da distinção, as partes num conflito armado devem distinguir os combatentes e os objetivos militares dos não combatentes e dos bens não militares, como os civis e os bens de caráter civil, bem como dos combatentes que se encontrem hors de combat em virtude de ferimento, doença ou captura. Isto significa que os ataques diretos só podem ser lançados contra objetivos militares, enquanto os bens não militares (como os bens de caráter civil) estão protegidos contra ataques. O princípio da distinção aplica-se tanto aos conflitos armados internacionais como aos conflitos armados não internacionais.Jean-Marie Henckaerts e Louise Doswald-Beck (eds.), International Committee of the Red Cross: Customary International Humanitarian Law (CUP, 2005; doravante ICRC CIHL Study), disponível em: http://www.icrc.org/customary-ihl/eng/docs/home. Direito de guerra O princípio da distinção é um princípio do direito internacional humanitário que rege o uso legal da força num conflito armado, segundo o qual os beligerantes são obrigados a distinguir entre combatentes e não combatentes (pessoa protegida|pessoas protegidas, incluindo civis)Advisory Opinion on Legality of the Threat or Use of Nuclear Weapons, 8 July 1996, I.C.J. Reports, pp.226, 257.: as partes num conflito devem «dirigir as suas operações apenas contra objetivos militares».Protocol Additional to the Geneva Convention of 12 August 1949, and Relating to the Protection of Victims of International Armed Conflicts (Protocol 1), art. 48, U.N. Doc. A/32/144, Annex I, 1125 U.N.T.S. 512, reprinted in 16 I.L.M. 1391 (1977). Neste contexto, combatente significa uma pessoa que tem o direito de participar diretamente nas hostilidades e que, por conseguinte, não beneficia de imunidade contra ataques diretos em situações de conflito armado.Crawford Emily - Lattimer Mark - Sands Philippe, Who is a Civilian? Membership of Opposition Groups and Direct Participation in Hostilities, Hart (The Grey Zone: Civilian Protection Between Human Rights and Laws of War), p. 20. Neste contexto, civil protegido significa um civil que seja nacional de um Estado inimigo ou cidadão de um Estado neutro fora do território de uma potência beligerante. A distinção, a proporcionalidade e a precaução são fatores importantes na avaliação da necessidade militar, uma vez que os danos causados a civis protegidos ou a bens de caráter civil devem ser proporcionais e não podem ser «excessivos em relação à vantagem militar concreta e direta prevista» de um ataque contra um objetivo militar.O artigo 52.º do Protocolo Adicional I às Convenções de Genebra fornece uma definição amplamente aceite de objetivo militar: «No que respeita aos bens, os objetivos militares limitam-se aos bens que, pela sua natureza, localização, finalidade ou utilização, contribuam efetivamente para a ação militar e cuja destruição total ou parcial, captura ou neutralização ofereça, nas circunstâncias existentes no momento, uma vantagem militar definida» (Fonte: ). Discussão nas Armas Autônomas Letais A discussão sobre o Princípio da Distinção nas Armas Autônomas Letais (Lethal Autonomous Weapon ou LAWs) está relacionada ao modo de atuação dessas máquinas, principalmente em situações de guerra, e como ela deve distinguir o seu possível alvo em meio aos civis. As Armas Autônomas Letais (LAWs) são regulamentadas pelo Direito Humanitário Internacional (International Humanitarian Law ou IHL) e a partir deste órgão que é dito como ela irá operar, isto é, procurar, detectar, identificar, rastrear, selecionar e atacar o seu alvo. Qualquer tipo de LAWs que não obedece a este tipo de regulamentação é considerada ilegal.

Atualmente não existe nenhum tipo de software capaz de operar de forma fiel a mente humana em uma situação de guerra. Ou seja, as LAWs que operam nos dias de hoje infringem o Princípio da Distinção pois, elas são capazes de localizar e neutralizar os seus alvos de forma totalmente automática, trazendo consequências morais sérias. O maior problema dessa forma operar independente é que pessoas inocentes podem acabar sendo seriamente prejudicas caso haja algum tipo algum tipo de falha no entendimento do contexto em que a LAW está inserida.

Fases de Funcionamento Hoje, o plano que é seguido pelos governos que desenvolvem Armas Autônomas é composto basicamente de três fases:

Fase de Desenvolvimento O controle humano pode ser exercido nesta fase, através da programação do sistema de armas. As decisões tomadas durante o estágio de desenvolvimento servem garantir que o sistema de armas possa ser usado obedecendo as leis do IHL e algumas outras leis internacionais que podem se aplicar ​a depender das circunstâncias de uso pretendidas ou esperadas. Nessa fase, a previsibilidade e a confiabilidade do sistema de armas devem ser verificadas através de testes em ambientes realistas. Os parâmetros operacionais do uso da arma devem ser integrados às instruções militares para seu uso, por exemplo, limitar seu uso a uma situação específica, restringir seu movimento no tempo e no espaço ou permitir a supervisão humana, por exemplo, uma arma de “proteção ativa” de veículo existente (que ataca foguetes ou morteiros) precisará ser testada de acordo com as circunstâncias de uso pretendidas, e os limites operacionais devem ser definidos para que a arma seja ativada apenas em situações em que seus efeitos ocorrerão. ser previsível. Além disso, será necessário estabelecer os requisitos operacionais e o mecanismo técnico para supervisão humana, bem como a capacidade de desativar a arma.

Fase de Ativação Nessa segunda o controle humano ainda deve ser ser exercido, e envolve a decisão do responsavel pela Arma de usar um sistema de armas específico para uma finalidade específica, seja em um ataque específico, ou de responder a uma ameaça geral em um período de tempo específico (por exemplo, defesa contra foguetes). Esta decisão por parte do operador deve ser baseada em conhecimento e entendimento suficientes do funcionamento da arma nas circunstâncias dadas para garantir que ela funcione conforme o planejado e de acordo com o IHL. Esse conhecimento deve incluir uma consciência bastante adequada do ambiente operacional, especialmente em relação aos riscos potenciais para civis e objetos civis. Se o sistema de armas operará dentro das restrições do IHL, uma vez ativado, dependerá do desempenho técnico da arma específica nas circunstâncias específicas de uso, especialmente sua previsibilidade e confiabilidade (conforme determinado e testado no estágio de desenvolvimento). No entanto, também dependerá de vários parâmetros operacionais, a maioria dos quais será definida no estágio de desenvolvimento e alguns que serão definidos ou ajustados no estágio de ativação. Isso inclui o seguinte:

A tarefa que o sistema foi designado a realizar O tipo de alvo que o sistema pode atacar O tipo de força e munições que emprega O ambiente em que o sistema deve operar A mobilidade do sistema no espaço O prazo de sua operação O tipo de força e munições que emprega (e seus efeitos) O nível de supervisão humana e capacidade de intervir após a ativação

Existem lições a serem tiradas das Armas Autônomas existentes, como sistemas de defesa contra mísseis e foguetes, onde o controle humano é amplamente exercido por meio de uma combinação de desempenho técnico e restrições operacionais, como limites de alvos, limites de espaço geográfico e período de tempo. operação, controles físicos sobre o meio ambiente e supervisão humana e capacidade de desativar.

Fase de Operação O risco de violação do IHL pode ser reduzido pela manipulação desses parâmetros operacionais até o ponto de ativação. No entanto, para garantir a conformidade com o IHL, pode ser necessário um controle humano adicional durante o estágio de operação, quando a arma seleciona e ataca autonomamente os alvos. O último parâmetro operacional listado acima, o nível de supervisão humana e a capacidade de intervir após a ativação, fornece um meio pelo qual um controle adicional pode ser exercido sobre um ataque. Onde o desempenho técnico da arma e os parâmetros operacionais definidos durante os estágios de desenvolvimento e ativação forem insuficientes para garantir a conformidade com o DIH na execução de um ataque, será necessário manter a capacidade de controle humano e tomada de decisão durante a fase de operação. Um exemplo seria através da supervisão do sistema de armas e da área alvo e dos links de comunicação bidirecional que permitem o ajuste dos critérios de combate e a capacidade de cancelar um ataque. Por exemplo, algumas armas existentes de contra-foguete, artilharia e argamassa mantêm a capacidade, mesmo com projéteis recebidos, de um operador humano verificar visualmente o projétil na tela e decidir cancelar o ataque, se necessário. Em suma, o tipo e o grau de controle humano sobre um sistema de armas autônomo necessário para garantir a conformidade com o DIH podem se manifestar nos seguintes termos: (a) desempenho técnico verificado do sistema de armas para o uso pretendido, conforme determinado em a fase de desenvolvimento; (b) manipulação de parâmetros operacionais nos estágios de desenvolvimento e ativação; e (c) supervisão humana e potencial de intervenção e desativação durante o estágio de operação. Isso sugere que a conformidade com o IHL requer limites para níveis legais de autonomia em sistemas de armas.

Previsibilidade A previsibilidade envolvida no funcionamento das Armas Autônomas em vários tipos de situações é o que garante o seu cumprimento das regras estabelecidas pelo IHL. Para isso a pessoa que está responsável precisa de um alto nível de confiança no software e hardware que está sendo utilizado e do ambiente que ela está atuando. O que se espera é que, com o decorrer do tempo os sistemas envolvidos tornem-se mais complexos, desenvolvimento de uma IA que seja capaz de "aprender", interpretar e se adaptar as novas situações e ambiente, algoritmos mais certos de um resultado desejado, análise de dados obitdos em testes e em situações reais de conflitos, melhorias no hardware também devem ser esperadas como, utilização de novos sensores e novos tipos de armas mais precisas. É por isso que hoje para que estajam de acordo com o IHL, e que tenha níveis aceitáveis de previsibilidade, ainda é bastante necessário a intervenção humana em seu funcionamento.

Entidades humanitárias Segundo o Artigo 35 do Protocolo adicional a Convenção de Genebra e Proteção a Vítimas de Conflitos Internacionais Armados, publicado pelo Movimento Internacional da Cruz Vermelha e do Crescente Vermelho (International Committee of the Red Cross ou ICRC):

Não é ilimitado o direito das partes envolvidas,em qualquer conflito armado, de escolher métodos ou meios de guerra. É proibido o uso de armas, projéteis e materiais e métodos de guerra de natureza para causar ferimentos supérfluos ou sofrimento desnecessário. É proibido métodos ou meios de guerra que se destinem, ou se pode esperar, a causar danos generalizados, a longo prazo e graves ao ambiente natural.

Segundo o IHL deve haver supervisão e/ou interveção humana nos três pocessos de funcionamanto (Desenvolvimento, Ativação e Operação) das LAWs para que haja uma uma previsibilidade e confiabilidade em relação ao seu funcionamento e para que haja uma garantia que o uso da força seja legal e ético.

Inteligência artificial