Upload
others
View
1
Download
0
Embed Size (px)
Citation preview
Internationali Negotia Bruno José Bergamaschi Kumer Reis
Comissão de Ciência e Tecnologia para o Desenvolvimento
Robôs e automatização de equipamentos militares
MODELO INTERNACIONAL DO BRASIL
Brasília - DF 2015
1
1. Histórico do Comitê
A Comissão de Ciência e Tecnologia para o Desenvolvimento (CCTD) faz parte do
sistema da Organização das Nações Unidas (ONU) e é um dos comitês subordinados ao
Conselho Econômico e Social das Nações Unidas (ECOSOC), um dos seis principais órgãos
da ONU, demonstrando a ligação direta que existe entre a ciência e a tecnologia e posições
socioeconômicas das nações. A comissão atual do CCTD é formada por 43 Estados-membros,
que são eleitos pelo ECOSOC para atuar por um período de quatro anos. É composta por
cinco membros dos Estados europeus orientais, nove membros dos Estados asiáticos, onze
membros dos Estados africanos, oito membros dos Estados latino-americanos e caribenhos e
dez membros dos Estados europeus ocidentais e outros.
O CCTD nasce no contexto de mudanças do início da década 1990, onde a Ciência e
Tecnologia atingem uma abrangência nunca antes vista na história. Com o fim da Ordem
Bipolar e, consequentemente, a difusão para as populações das tecnologias desenvolvidas
nesse período, se inicia a chamada Era da Informação.
A comissão foi estabelecida em 1992 para fornecer à Assembleia Geral e ao Conselho
Econômico e Social da ONU uma consultoria de elevada qualidade sobre questões atuais de
alta relevância, permitindo assim que o CCTD possa guiar o futuro trabalho das Nações
Unidas, no que tange à Ciência e à Tecnologia, desenvolvendo políticas de interesse comum
aos membros participantes e ajudando os países a chegarem à acordos benéficos para todas as
partes.
O primeiro encontro do CCTD foi em 1993 e desde então a secretaria de Comércio e
Desenvolvimento das Nações Unidas (UNCTAD) tem sido a responsável pela manutenção da
Comissão. Nesse contexto internacional, o CCTD tem a função de examinar as questões
relacionadas à ciência e tecnologia e suas implicações para o desenvolvimento, obter um
avanço na compreensão sobre as políticas de ciências e tecnologia dos países em geral,
particularmente em relação às políticas dos países que se encontram em desenvolvimento,
estimular a cooperação entre os países do Norte e os países do Sul, no âmbito de transferência
de tecnologia, e por fim formular recomendações e orientações sobre questões científicas e
tecnológicas das Nações Unidas.
Assim, com o constante aumento do desenvolvimento tecnológico e da integração
entre pessoas e países por meio da tecnologia, o papel do CCTD se mostra cada vez mais
importante dentro da ONU, sendo cada vez mais fundamental para a grande maioria das
questões internacionais. Afinal, a tecnologia está presente em vários aspectos no mundo
globalizado em que vivemos.
2
2. Introdução
Iniciada na Inglaterra, em meados do século XVIII, a 1ª Revolução Industrial foi um
conjunto de mudanças tecnológicas que causaram um profundo impacto no processo
produtivo. A era da agricultura havia sido superada e, a partir daquele momento, cada vez
mais, o trabalho artesanal passou a ser substituído pelo uso das máquinas e,
consequentemente, a automação do processo de produção se tornaria cada vez mais presente
dentro da sociedade como um todo, abalando para sempre a forma como se davam as relações
de trabalho.
Em seguida, tivemos a 2ª Revolução Industrial, iniciada por volta de 1870, tendo como
berço os Estados Unidos da América. Foi responsável por grande parte do desenvolvimento
científico, técnico e de trabalho que ocorreram na Primeira e, principalmente, na Segunda
Guerra Mundial. Teve como sistema de produção o Fordismo, termo criado por Henry Ford
que caracteriza um método de produção que visa à produção e ao consumo em massa,
causando um conjunto de mudanças nos processos de trabalho, sendo caracterizados por
linhas de montagem e semi-automatização do processo de produção.
E temos a 3ª Revolução Industrial, que é a grande responsável pelo estilo de vida
tecnológico que temos hoje e a mais relevante na problemática que iremos tratar dentro deste
comitê. Iniciou-se na década de 1970, tendo como base o uso e desenvolvimento de alta
tecnologia. Nesse período, o mundo conheceu inovações como a microeletrônica, a
informática, os robôs, a biotecnologia entre outras tecnologias dinamizadoras do processo de
produção.
A principal máquina desse período é o computador, uma máquina flexível, composta
por duas partes, o hardware (os componentes físicos da máquina) e o software (os programas
de computadores no geral, responsáveis por dar as instruções ao hardware). O hardware e o
software integram-se sob o comando de um chip, fazendo o computador uma máquina
diferente das demais. Um computador pode ser reprogramável e até mesmo auto programável,
basta que se altere o software que é executado na máquina. E é através dessa máquina
amplamente utilizada no mundo todo, para as mais variadas funções, que surge o conceito-
chave desse comitê, a inteligência artificial.
A inteligência artificial (IA) é a implementação de uma inteligência similar à humana
por meio de um software, ou algum outro mecanismo tecnológico. A que nos interessa aqui, é
aquela implementada em máquinas com o propósito de torná-las um agente inteligente, ou
seja, um sistema que ao perceber seu ambiente, é capaz de tomar atitudes que maximizam
3
suas chances de sucesso em uma dada tarefa a ser cumprida.
O principal objetivo por trás da IA é conseguir fazer com que máquinas consigam
pensar como seres humanos ou que sejam tão inteligentes quanto o homem.Espera-se que
essas máquinas sejam capazes de adquirir habilidades humanas e substituir a atividade
humana em determinadas tarefas. Existem várias formas de se fazer isso. Formas mais
simples como, por exemplo, para um problema x, a resposta programada é y, e formas mais
complexas como a implementação de redes neurais, onde a máquina tentar reproduzir o
funcionamento de neurônios humanos, em que as informações são transmitidas de uma célula
a outra e se combinando com outros dados para se chegar a uma única solução.
Existem vários segmentos no estudo de sistemas inteligentes, em que cada um se
dedica a um aspecto específico do comportamento humano. Para ilustrar, temos, por exemplo,
especialistas que estudam robôs e se preocupam com a parte motora deles, enquanto outras
áreas estudam a fala do ser humano para desenvolver máquinas que possam se comunicar,
entendendo o que é falado e o significado da fala.
O que dificulta a criação de uma máquina capaz de se assemelhar muito com um ser
humano é que todas as áreas de estudo da inteligência artificial são muito específicas e
requerem muita especialização no assunto, o que torna a tarefa de construir uma máquina que
reproduza o ser humano em sua totalidade, quase impossível de ser realizada. Por isso, é
pouco provável que se desenvolvam máquinas que se tornem mais inteligentes que o próprio
ser humano, pois além de todos motivos supracitados, temos também o fato de que o próprio
ser humano não conhece a totalidade do próprio cérebro e está longe de conhecer.
Existem diversas pesquisas que tem o objetivo de desenvolver uma máquina que tenha
capacidade de aprendizagem e assimilação de informações equivalente à do ser humano, mas
os esforços nesse sentido têm passado longe de ser bem-sucedidos. Prova disso é que até hoje
nenhuma máquina tenha conseguido passar pelo Teste de Turing, no qual um julgador irá
entrar em uma conversa com outro ser humano, em linguagem natural, e com uma máquina
projetada para produzir respostas indistinguíveis de outro ser humano. Caso o juiz não seja
capaz de distinguir a máquina do humano, a máquina passa no teste.
Tudo isso pode parecer que beira a ficção e está muito distante da nossa realidade, a
inteligência artificial já está presente no cotidiano da população em geral. Por exemplo, no
desenvolvimento de jogos que utilizam a IA para criar videogames cada vez mais complexos,
ou máquinas fotográficas, que fazem foco automático dependendo do que você quer
fotografar ou que disparam ao encontrar um sorriso. Até mesmo em nossos celulares, nos
corretores ortográficos, é necessário um sistema inteligente para detectar que há um erro de
4
sintaxe em uma frase e oferecer uma solução.
3. Problemática
No CCTD, por mais que existam físicos e cientistas de renome, como por exemplo
Stephen Hawking, que acreditam que o completo desenvolvimento da inteligência artificial
pode significar o fim da raça humana, não é o assunto o qual iremos tratar aqui. A
problemática que será abordada é algo factível e que, por alguns Estados-membros deste
comitê, já foi inclusive testado.
Essa problemática pode ser introduzida com uma questão ética e moral famosa
chamada de "The Trolley Problem" (ou O Dilema do Bonde), aplicada em uma tecnologia já
presente em nossas vidas em algumas partes do mundo: O seu carro que é auto tripulado, seria
programado para matar seu tripulante caso isso significasse salvar a vida de mais pessoas
estranhas?
Não assumiremos aqui um lado para a resolução desse problema, pois a resposta para
ele pode variar dependendo da crença da pessoa a quem o problema é dado. Caso seja uma
pessoa que acredite no utilitarismo, provavelmente tomaria um lado, caso acreditasse na
Deontologia, possivelmente, tomaria outro. Mas o que nos interessa aqui são as variações
desse problema.
E se a pessoa que estivesse na frente do seu carro fossem cinco criminosos perigosos,
a sua ação ainda seria a mesma? E se a pessoa que estivesse na rua fosse seu único filho, você
jogaria seu carro contra a parede para salvá-lo? A questão é, se nem seres humanos racionais
com consciência do mundo a sua volta e conhecimento sobre ele, conseguem decidir a ação a
ser tomada de imediato, será que máquinas programadas para dirigir sozinhas, que não
possuem esse conhecimento, conseguiriam tomar a melhor ação em uma situação como essa?
Com essa questão ética levantada, iremos agora aplicar esse mesmo contexto para o
tema do qual viemos tratar aqui, a automatização de equipamentos militares. Em outono do
ano passado, um bombardeiro B-1 da Força Aérea lançou um míssil experimental.
Inicialmente, os pilotos a bordo do avião direcionaram o míssil, mas na metade do percurso
até seu destino, ele rompeu a comunicação com seus operadores. Sozinho, sem nenhuma
supervisão humana, o míssil decidiu qual dos três navios atacar, baixando pouco acima da
superfície do mar e atingindo um cargueiro não tripulado de 79 metros.
Do ponto de vista militar, o teste foi considerado um sucesso. Mas o projeto desse
novo míssil e de outras armas que podem escolher alvos por conta própria tem provocado um
5
alvoroço no mundo científico e gerado a crítica de diversos analistas, alegando que existe um
limiar ético que está sendo cruzado.
Os críticos alegam que os fabricantes de armas estão dando os primeiros passos para o
desenvolvimento de máquinas de guerra robóticas que fazem uso de software, e não de
instrução humana, para decidir quem irão atacar e matar. A velocidade com que essas armas
fazem seus cálculos e a rapidez com que se movem afetam tanto a capacidade do ser humano
de controlar a máquina e determinar seus comandos e rotas, como dificultam ou até mesmo
impossibilitam a defesa de seu alvo.
Alguns cientistas temem ainda que o desenvolvimento de tais tecnologias possa vir
tornar as guerras a serem mais admissíveis do que são hoje, e até mesmo mais prováveis, visto
que uma das principais motivações da automatização do armamento é a redução de mortes por
parte dos operadores dos equipamentos militares.
Pessoas de grande importância no mundo tecnológico e científico abraçam essa causa,
como o físico Stephen Hawking, o empreendedor Elon Musk e o cofundador da Apple Steve
Wozniak. Na última Conferência Internacional de Inteligência Artificial, ocorrida em Buenos
Aires, em julho desse ano, todos acima juntos de milhares de cientistas e especialistas em
inteligência artificial assinaram a carta aberta "Armas Autônomas: uma Carta Aberta de
Pesquisadores em Robótica & AI", que será transcrita abaixo
3.1 Armas Autônomas: uma Carta Aberta de Pesquisadores de Robótica e Inteligência
Artificial (IA)
Armas autônomas selecionam e engajam em alvos sem intervenção
humana. Elas podem incluir, por exemplo, helicópteros quadrimotores armados que
podem procurar e eliminar pessoas que atendem a certos critérios pré-definidos, mas
não incluem mísseis de cruzeiro ou drones pilotados remotamente, nos quais são
humanos que decidem as decisões de alvo.
Muitos argumentos foram feitos contra e favor de armas autônomas. Por
exemplo, a substituição de soldados humanos por máquinas é boa por reduzir as
casualidades feitas em situações de risco, mas ruim por diminuir a hesitação de ir
para a batalha. A questão chave para a humanidade hoje é se devemos iniciar uma
corrida armamentista global de IA ou prevenir ela de começar. Se qualquer poder
militar maior avançar no desenvolvimento de armas de IA, uma corrida
armamentista global é inevitável, e o fim desta trajetória tecnológica é óbvia: armas
autônomas transformar-se-ão nos Kalashnikovs de amanhã. Diferente de armas
nucleares, elas não necessitam de matérias-primas caras ou de difícil obtenção;
6
então, elas se tornarão onipresentes e baratas para qualquer poder militar significante
produzir em grande escala. Será apenas uma questão de tempo até que elas apareçam
no mercado negro e nas mãos de terroristas, ditadores desejando um melhor controle
da população, chefes militares querendo perpetuar uma limpeza étnica, etc. Armas
autônomas são ideais para tarefas de assassinatos, desestabilização de nações,
subjugamento de populações e extermínio seletivo de um determinado grupo étnico.
Nós, portanto, acreditamos que a corrida armamentista militar de IA não será
benéfica para a humanidade. Existem muitos caminhos nos quais IA podem fazer
campos de batalha mais seguros para humanos, especialmente civis, sem a criação
de novas ferramentas para matar pessoas.
Assim como a maioria de químicos e biólogos não tem nenhum interesse na
construção de armas químicas ou biológicas, a maioria de pesquisadores de IA não
tem interesse na construção de armas com IA - e não desejam que outros denigram
seu campo construindo-as, criando, potencialmente, uma repercussão pública maior
contra IA que prejudicará seus futuros benefícios sociais. De fato, químicos e
biólogos têm apoiado amplamente acordos internacionais que, com sucesso,
proibiram armas químicas e biológicas, assim como a maioria de físicos apoiou os
tratados de banimento de armas nucleares usadas no espaço e armas laser que
causam cegueira.
Em resumo, nós acreditamos que IA tem grande potencial para beneficiar a
humanidade em muitos aspectos, e que o objetivo deste campo de estudos deveria
ser esse. Começar uma corrida armamentista militar é uma má ideia e deve ser
prevenida a partir de um banimento de armas autônomas ofensivas que necessitam
de um controle humano ínfimo. (FUTURE OF LIFE INSTITUTE, 2015)
Como podemos ver, existem diversos medos, entre eles temos que esse tipo de arma
venha a cair em mãos erradas e se vire contra a própria população, a extinção de grupos
étnicos por pessoas que tenham esse tipo de interesse, e até mesmo desestabilizar toda uma
nação, entre diversas outras coisas horríveis que possam vir a acontecer. Como mencionado
na própria carta no segundo parágrafo: “A questão chave para a humanidade hoje é se
devemos iniciar uma corrida armamentista global de IA ou prevenir ela de começar.”
(FUTURE OF LIFE INSTITUTE, 2015).
Por outro lado, existe um grupo significativo de pesquisadores que acredita que o
banimento desse tipo de arma não seja a solução. Alegam que, se observarmos na história da
regulamentação da tecnologia global, fazer declarações como a da carta aberta é comum,
agora quando colocamos na prática, e percebe-se o que pedir por coisas desse tipo significa, o
resultado nem sempre é o esperado. Pode ser muito difícil dizer o que deve-se banir sobre essa
tecnologia e como fazer esse banimento perdurar.
7
Um exemplo que pode-se dar em relação a isso, foi quando durante o período de 50
anos o governo dos Estados Unidos classificou softwares de segurança como armas, graças ao
papel que programas de criptografia tiveram na Segunda Guerra Mundial. Isso significou que
a exportação desse tipo de software era extremamente restrita. Essa condição de proibitiva se
foi por volta dos anos 90 e os softwares de segurança vieram a ter uma importância muito
maior do que seu uso militar. O banimento na época fez com que novas indústrias e melhorias
relativas a tecnologia de segurança online não se desenvolvessem e atrasou algo que viria ser
fundamental no mundo em que vivemos hoje, como por exemplo as compras que fazemos via
internet.
Nesse caso, o problema em restringir a disponibilidade do software é que isso afetou
todos seus potenciais usos, inclusive aqueles que seriam descobertos no futuro e que não
poderiam ter sido previstos pelos cientistas do presente. Os cientistas que se colocavam contra
o banimento da tecnologia armamentista alegam ainda que, os milhares de cientistas que
assinaram essa carta para proibir o uso militar da inteligência artificial podem ter, sem
perceber que o fizeram, assinado uma carta que cria restrições da própria capacidade que eles
teriam futuramente de compartilhar esse tipo de software com colaboradores internacionais, e
até mesmo impedi-los de desenvolver futuras tecnologias.
A tensão existente entre o uso duplo desse tipo de tecnologia, tanto para o bem quanto
para o mal, torna a discussão da utilização dessa tecnologia complexa,uma vez que é possível
utilizá-la de uma forma extremamente ampla e de formas imprevisíveis.
8
5. Posicionamento dos países
Observação importante
Muitos dos blocos de posição dos países listados abaixo foram feitos baseados em
discursos realizados pelos representantes dos países durante conferências internacionais.
Enquanto vocês estiverem simulando, vocês não devem seguir somente a linha de raciocínio
contida no bloco de posição, os blocos servem somente para dar um norte à pesquisa de vocês
e direcionar vocês na posição que devem assumir diante o comitê.
5.1 África
Angola
Após conseguir sua independência de Portugal, em novembro de 1975, entrou em uma
profunda guerra civil que durou 27 anos. Os principais movimentos responsáveis por
conseguir a independência angolana, após obterem seu interesse comum, entraram em uma
profunda disputa pelo poder do país que deixou milhares de baixas e um país completamente
destruído. Atualmente, a Angola se posiciona contra sistemas automatizados de armamento
letais e teme que com a redução de baixas proporcionada por esse tipo de armamento, haja
uma banalização da guerra, algo com que o país sofreu durante anos, e não tem interesse
algum de que se repita.
Egito
O Egito foi um dos cinco primeiros países a se pronunciarem totalmente contra a
sistemas automáticos de armas totalmente autonômos na Convenção da ONU sobre Armas
Convencinais. Mostrou-se firme diante de sua posição, mas acredita que esse assunto deva ser
amplamente debatido para evitar que tal proibição prejudique o desenvolvimento da
inteligência artificial.
Chade
A República do Chade tem sua história marcada por tensões étnicas que se estendem
até os dias de hoje. Brigas entre etnias que, durante sua história, causaram mais de centenas de
milhares de mortes e que, na última década, tiveram destaque internacional, onde o Alto
Comissariado das Nações Unidas para os Refugiados adverte que pode haver um genocídio
futuramente, tal como tem acontecido em Darfur. Atualmente, Chade é a casa de mais de
duzentas etnias distintas, em que muitas delas, vivem em guerra até hoje. Diante da
9
problemática do comitê, a República do Chade teme que esse tipo de armamento possa vir a
ser usado por grupos de etnias rivais para promover a extinção étnica de muitos dos grupos
residentes no país, posicionando-se fortemente contra a utilização e produção destes.
Gana
Gana, na última década, adquiriu uma má reputação relacionada a crimes cibernéticos
e, numa tentativa de reverter essa reputação, tem investido fortemente no setor tecnológico
do país e obtido significativos avanços no que diz respeito à segurança digital e cibernética
dentro do seu território. No mundo, é o sétimo país que mais investe no combate a crimes
cibernéticos e tem investido pesadamente no campo de inteligência artificial, em uma
tentativa de otimizar seus sistemas e reduzir os custos relacionados à segurança digital. Por
mais que tenha interesse no desenvolvimento da inteligência artificial, foi integrante, no ano
de 2014, de uma comissão cujo principal objetivo era alertar o secretário geral da ONU dos
perigos que uma corrida pelo desenvolvimento de sistemas automatizados de armamento
letais poderia trazer para a humanidade. Atualmente, Gana se mostra totalmente contra a
utilização da inteligência artificial para fins militares e a favor da continuidade do
desenvolvimento e pesquisa na área.
Costa do Marfim
A Costa do Marfim, com várias guerras civis em sua história causadas por atritos
étnicos gerados por políticas públicas, e com guerras civis que ocorrem até hoje devido ao
interesse de determinado grupo étnico de se manter no poder do estado, teme
desenvolvimento de sistemas autônomos de armas letais. De um lado, a utilização do estado
de tais artefatos poderiam por em risco a população da etnia rival residente no país e, do outro
lado, ao cair na mão de grupos extremistas presentes dentro do país, pode significar massacres
e até mesmo extinção de grupos étnicos de populações pequenas.
Argélia
A Argélia foi uma das vinte primeiras nações a se pronunciar a respeito da utilização
de armas completamente autônomas no Conselho de Direitos Humanos das Nações Unidas,
em que o assunto foi armas robóticas letais autônomas. Mostrou-se extremamente preocupada
com a violação dos direitos humanos que tais sistemas podem vir a infringir e acredita que se
deve haver uma discussão profunda sobre a inteligências artificial, para estabelecer os limites
dessa tecnologia e tomar as medidas necessárias para a sua fiscalização.
10
Marrocos
O Marrocos fez-se presente no Conselho de Direitos Humanos das Nações Unidas no
qual o assunto era a problemática desse comitê e mostrou sérias preocupações a respeito do
futuro dessa tecnologia. As preocupações se deram principalmente em relação a violação dos
direitos humanos que esses mecanismos podem vir a trazer e também às transgressões sobre a
Lei Humanitária Internacional, afirmando que a discussão deve ser focada nesses dois tópicos
para evitar problemas futuros com a referida tecnologia.
Nigéria
A Nigéria é considerada um estado multinacional, habitada por mais de 500 grupos
étnicos diferentes e com uma história repleta de conflitos étnicos gerados pelo desejo de
grupos maiores assumirem o controle do país. Desde 1999, a Nigéria veem sofrendo um
processo democratização, no qual até os dias de hoje questões étnicas são levantadas e geram
atritos entre os diferentes grupos. Com o anseio de que os Sistemas Autônomos de
Armamento Letais venham ser usados por grupos étnicos para o subjugamento ou até mesmo
o extermínio de grupos rivais, a Nigéria posiciona-se contrária a produção e utilização desse
tipo de sistema.
Serra Leoa
A Serra Leoa passou por diversos conflitos internos relacionados as diferenças étnicas
durante a sua história. Com mais de 16 etnias dentro do país e um passado de governos que
legislavam para favorecer minorias étnicas, a Serra Leoa posiciona-se contra a utilização de
Sistemas Autônomos de Armamento Letais. Com uma grande variedade de grupos étnicos
vivendo dentro do país,tendo acabado de sair de uma guerra civil e um passado repleto de
conflitos entre esses grupos,o governo teme que caso esse tipo de armamento caia nas mãos
erradas, ocorra uma grande catástrofe dentro do país, estimulando um novo conflito civil.
5.2 América Latina e Caribe
Argentina
A Argentina esteve presente em diversas convenções internacionais para tratar o
assunto e se posicionou contrária a produção e utilização de armas autônomas. O país afirma
que caso não sejam impostos limites a esses tipos de sistemas, uma corrida armamentista pode
iniciar-se, dividindo a opinião de países e enfraquecendo o Sistema Internacional de Leis. E
11
ainda fala sobre a possibilidade desses sistemas causarem retaliações, impactos nos direitos
humanos e no Direito Internacional Humanitário e até mesmo terrorismo.
Brasil
Dono de relativa sofisticação tecnológica, o país desenvolve de submarinos a
aeronaves, além de estar presente na pesquisa aeroespacial, possuindo um Centro de
Lançamento de Veículos Leves e sendo o único país do Hemisfério Sul a integrar a equipe de
construção da Estação Espacial Internacional (ISS). Foi um dos primeiros países a se
pronunciar a respeito de sistemas autônomos de armas letais, afirmando que por mais que
existam diversos possíveis problemas no futuro caso não sejam proibidos esse tipo de
armamento, deve-se fazer uma análise cautelosa das consequências que uma possível
proibição traria para o desenvolvimento tecnológico da inteligência artificial.
Chile
O Chile vem se destacando internacionalmente pela inovação e contribuições
tecnológicas no campo da mineração, que vem beneficiando indústrias pelo mundo todo.
Recentemente a Codelco, empresa estatal de exploração de cobre, patenteou um projeto piloto
de mineração robótica, que visa à operação de máquinas via software de controle automático
de geolocalização. Tem investido na pesquisa e desenvolvimento de máquinas inteligentes
para uso industrial e se posiciona fortemente contra armas letais autônomas, querendo
continuar a pesquisa e progressão que tem conseguido no campo da inteligência artificial.
Cuba
Cuba foi um dos primeiros países a se pronunciarem a respeito do uso de sistemas
autônomos de armas letais e mostrou forte preocupação com as consequências negativas, em
especial com a violação dos direitos humanos que pode vir à acontecer. Acredita que deve
haver uma forte discussão a respeito da produção, fabricação, aquisição e uso desses artefatos
para que, assim, caso seja permitido a produção e uso, sejam estipulados limites e regras bem
definidas para o bem geral das nações. No momento, dá suporte ao banimento de sistemas
autônomos de armas letais.
Equador
O Equador foi um dos primeiros países que, em seus discursos, levantou a questão
relacionada a sistemas autônomos de armas letais na Primeira Comissão da Assembleia Geral
12
das Nações Unidas: Desarmamento e Segurança Internacional (DSI). Afirmou que o alto
número de vítimas causadas pelo uso indiscriminado de drones em áreas civis, traz a tona
questões legais e éticas sobre o desenvolvimento de novas tecnologias militares, das quais
incluem a responsabilidade humana no manuseio dessas sistemas militares, tornando urgente
uma discussão em torno desses novos problemas provenientes desses equipamento no campo
das armas convencionais.
México
O México esteve presente no Conselho de Direitos Humanos das Nações Unidas onde
pode manifestar-se a respeito da temática em questão. Mostrou-se preocupado com a falta de
fiscalização com que os sistemas autônomos de armas letais estão sendo produzidos e afirma
que o desenvolvimento tecnológico deve ser observado sempre à luz da obrigação da proteção
sobre a vida. Afirmou ainda que, os estados tem a obrigação garantir o direito à vida e que a
análise de qualquer arma letal deve ser feita à luz do Direito Humanitário Internacional e da
Lei Internacional dos Direitos Humanos, posicionando-se contra o desenvolvimento
desenfreado de equipamentos bélicos sem supervisão humana.
Peru
O Peru esteve presente no encontro informal de experts à respeito de Sistemas
Autônomos de Armas Letais (LAWS) e nele pode externar sua opinião a respeito do tema.
Afirmou que o debate a respeito dos sistemas inteligentes é fundamental antes da tomada de
qualquer decisão, para evitar que o desenvolvimento da inteligência artificial seja
comprometida, e também que é contra armas completamente autônomas, sendo necessário o
mínimo de controle sobre elas, onde um dos debates mais necessários sobre o tema é o quão
mínimo esse controle deve ser.
Uruguai
O Uruguai realizou discursos em diversas convenções relacionados a Sistemas
Autônomos de Armas Letais (LAWS) e em todos eles assumiu uma postura neutra e de
diálogo. Afirma que antes de qualquer tomada de decisão, a favor ou contra a respeito dessas
tecnologias, deve-se ter um profundo debate e diálogo em torno do tema, considerando todas
os fatores que podem vir a resultar em um banimento desse tipo de arma e as consequências
resultantes de uma possível liberação.
13
Venezuela
Dona da maior reserva de petróleo do mundo, a Venezuela possui forte interesse no
desenvolvimento de tecnologias capazes de agilizar a prospecção do recurso e condena
fortemente a utilização de tecnologia para fins militares. No contexto atual, procura por uma
solução que não prejudique o desenvolvimento da inteligência artificial e que ao mesmo
tempo tenha caráter proibitivo para o uso dessa tecnologia para fins militares.
5.3 Ásia-Pacífico
Paquistão
O Paquistão foi um dos primeiros países que se manifestaram como totalmente
contrários a qualquer possibilidade na produção de sistemas automáticos de armamento letais
na Convenção da ONU sobre Armas Convencionais. Foi extremamente duro em suas críticas
e se mostrou muito preocupado, principalmente devido aos ataques realizados pelos Estados
Unidos com drones no passado.
Índia
A Índia, com previsão de ser o país mais populoso do mundo até 2022 (segundo
relatório da ONU) e um dos países com maior densidade populacional, preocupa-se com as
catástrofes que possam vir a ser ocasionadas com a utilização de Sistemas Autônomos de
Armas Letais(LAWS) em áreas civis. Presente em quase todas as convenções a respeito do
tema até o momento, afirma que é contra o desenvolvimento das LAWS sem a devida
fiscalização e acredita que o debate deva girar em torno dos fatores éticos, legais e
humanitários que abrangem a utilização e produção desse tipo de equipamento.
China
Desde a Revolução Cultural, a China tem feito investimentos significativos na área
tecnológica, em que quase sua totalidade é destinada a pesquisa científica. Possui empresas de
destaque como a Lenovo e a Huawei, que são líderes mundiais em telecomunicações e
computadores pessoais. Os supercomputadores chineses são considerados os mais poderosos
do mundo e atualmente a China tem vivido um aumento significativo da utilização de robôs
nos seus processos industriais, robôs inteligentes capazes de desenvolverem múltiplas tarefas
com poder de decisão próprio. A China tem o segundo maior gasto mundial com
equipamentos militares e atualmente vem investido maciçamente na produção de drones de
14
combate e em aeronaves capazes de se camuflarem, além do extenso desenvolvimento de
sistemas de mísseis inteligentes.
República da Coréia
A República da Coréia é um dos países que mais investem em desenvolvimento
tecnológico em todo o mundo. Em seu território, encontra-se a zona mais disputada do
mundo, a fronteira entre a Coréia do Sul e a Coréia do Norte, na qual faz uso de equipamentos
bélicos sem supervisão humana para proteger seu território. Esteve presente em diversas
convenções a respeito do tema e defende que deva ser considerado o Direito Humanitário
Internacional na produção desse tipo de equipamento, mas é estritamente contra um
banimento total desse tipo de sistema automático. Alega que isso causaria o retardo do
desenvolvimento tecnológico da inteligência artificial, setor no qual o país investe
pesadamente.
Japão
Um dos principais produtores de tecnologias do mundo, conta com uma população
com altos níveis de qualidade de vida e com alto grau técnico especializado. A ciência e
tecnologia dentro do Japão está focada principalmente no desenvolvimento de aparelhos
eletrônicos, robôs e na indústria automotiva. Desde o começo do desenvolvimento da
inteligência artificial, indústrias e universidades japonesas tem tido bastante interesse, sendo
inclusive pioneiras, no desenvolvimento de máquinas inteligentes, visto que o
desenvolvimento e financiamento são orientados para essa área. Mesmo com intenso
investimento na área, o objetivo do desenvolvimento dessa tecnologia não tem fins militares,
e sim na automatização de processos industriais e também a inserção da tecnologia dentro da
cultura de sua população. Declarou na última Convenção da ONU sobre Armas
Convencionais (CCAC) que não possui planos de desenvolver robôs que não tenham auxílio
humano e que sejam capazes de cometer assassinatos.
Jordânia
A Jordânia participa do conflito árabe-israelense desde sua origem, o que fez com que
participasse em diversas guerras, em que uma em específico, a Guerra dos Seis Dias, ocorrida
em 1967, fez com que houvesse um aumento dramático no número de palestinos vivendo na
Jordânia. De acordo com o senso de 2008, a Jordânia possuía aproximadamente dois milhões
de refugiados palestinos, representando na época, aproximadamente 33% de sua população
15
total. Atualmente, com o alto desenvolvimento de sistemas autônomos de armas letais por
parte de seu vizinho, Israel, e novos ataques entre palestinos e israelitas, a Jordânia tem
mostrando-se radicalmente contra o desenvolvimento de armas autônomas, sendo um dos
protagonistas na defesa da proibição do armamento autônomo.
Malásia
A infraestrutura da Malásia é uma das mais desenvolvidas da Ásia. No país, todas as
decisões relacionadas a políticas científicas são ditadas pelo Ministro da Ciência, Tecnologia e
Inovação. O país é um dos maiores exportadores de dispositivos semicondutores, e produtos
relacionados à tecnologia da informação e comunicação do mundo. O país possui grande
interesse no desenvolvimento da inteligência artificial para que possa aprimorar ainda mais
sua infraestrutura, permanecendo neutro em relação a questão da utilização de tal tecnologia
como armamento.
Irã
O Irã esteve presente no Conselho de Direitos Humanos das Nações Unidas, em maio
de 2013, onde posicionou-se a respeito do tema. Afirma que diversos países já fazem uso de
sistemas robóticos com diversos níveis de autonomia e letalidade, em especial os Estados
Unidos, e que cabem a esses países prestar contas com a comunidade internacional e se
responsabilizar pelas possíveis consequências resultantes da utilização desse tipo de sistema.
Também é a favor de ações imediatas, partindo da comunidade internacional, de intervir na
produção e distribuição desse tipo de equipamento, visto que muitas vezes o uso desses
sistemas ferem o Direito Humanitário Internacional e a Declaração Universal dos Direitos
Humanos, no estado em que se encontram agora.
Sri Lanka
O Sri Lanka participou de um encontro informal de experts à respeito dos Sistemas
Autônomos de Armas Letais (LAWS) e nele pode expressar sua opinião a respeito do tema.
Afirmou que existem muitas áreas relacionadas às LAWS que devem ser analisadas, debatidas
e entendidas para que sejam tomadas as ações necessárias para prevenir que esses tipos de
sistemas causem catástrofes, no entanto, as consequências negativas resultantes de um
possível uso desse tipo de equipamento dentro do campo de guerra ou em áreas civis podem
ser catastróficas, tornando necessárias medidas preventivas para evitar que isso aconteça.
16
5.4 Europa Ocidental e Outros
Alemanha
Poucos países contribuíram tanto para a ciência e a tecnologia como a Alemanha. É
considerada líder em inovação mundialmente, possuindo universidades de ponta e institutos
de pesquisa na área de engenharia e tecnologia da informação considerados como uns dos
melhores do mundo. Mesmo com todo aparato tecnológico, em abril desse ano, declarou na 3ª
Convenção da ONU sobre Armas Convencionais (CCAC) que era a favor de um banimento
imediato da utilização desse tipo de armamento, alegando que é inaceitável que a decisão
sobre a vida ou a morte de algo deva ser decidida somente por um sistema autônomo.
Espanha
A Espanha esteve presente em quase todas as convenções e encontros realizados para a
discussão a respeito do tema e em seus discursos manteve-se neutra. Afirma que a discussão a
respeito dos Sistemas Autônomos de Armas Letais é extremamente complexa e que ao mesmo
tempo em que devem ser consideradas as consequências do uso indevido desse tipo de
equipamento, deve-se considerar também o s empecilhos que uma possível proibição traria
para o desenvolvimento de novas tecnologias.
Estados Unidos da América
A maior potência do mundo também se configura como o país que mais investe no
setor militar do mundo e também é um dos líderes em pesquisas científicas e inovações
tecnológicas, investindo grandes quantias de dinheiro dentro do setor. Esteve presente em
diversos encontros internacionais para tratar sobre o tópico e defendeu a utilização dos
equipamentos militares autônomos já existentes, como aeronaves pilotadas remotamente,
afirmando que a discussão deve ser focada em tecnologias que estão surgindo, nas armas do
futuro, e não em equipamentos já utilizados pelo país e por outros . Atualmente é um dos três
países que lideram a produção de Sistemas Autônomos de Armas Letais (LAWS), junto aos
Reino Unido e Israel, e acredita que um tratado a respeito do assunto é desnecessário, visto
que os três países já possuem processos de revisão internos sobre as armas que garantem a
conformidade com o interesse comum internacional.
17
França
A França, na última Convenção da ONU sobre Armas Convencionais (CCAC), foi
extremamente ativa e proferiu vários discursos contrários a utilização e produção de sistemas
autônomos de armas letais. Mesmo sendo o quinto país do mundo que mais investe no setor
militar, deixou claro aos países favoráveis à utilização de armas inteligentes que quer
garantias que sempre exista um controle significativo humano sobre a utilização desse tipo de
armamento.
Israel
O campo de ciências e tecnologia de Israel é um dos setores mais desenvolvidos do
país. A porcentagem de israelitas engajados na pesquisa científica e tecnológica, bem como o
gasto que o país realiza com a pesquisa e desenvolvimento de novas tecnologias em relação
ao produto interno bruto do país (PIB), é o segundo maior do mundo. É um expoente tanto na
produção de armamento militar, quanto no desenvolvimento técnico-científico, com destaque
na produção de armas com tecnologias de alta tecnologia e na aplicação de inteligência
artificial a robôs. Atualmente é um dos três países que lideram a produção de Sistemas
Autônomos de Armas Letais (LAWS), junto aos Estados Unidos da América e o Reino Unido,
e acredita que um tratado a respeito do assunto é desnecessário, visto que os três países já
possuem processos de revisão internos sobre as armas que garantem a conformidade com o
interesse comum internacional.
Áustria
A Áustria esteve presente em diversas convenções e assembléias relacionadas à
Sistemas Autônomos de Armas Letais(LAWS) e foi um membro ativo, manifestando sua
opinião a respeito do tópico e mostrando suas preocupações em seus discursos. Afirma que as
consequências do uso indevido desse tipo de equipamento podem ser catastróficas, sendo
urgente a adoção de medidas pelo Conselho das Nações Unidas para impor limites e garantir
que a produção desse tipo de sistema seja feito sem infringir o Direito Humanitário
Internacional e a Lei Internacional dos Direitos Humanos.
Nova Zelândia
A Nova Zelândia esteve presente na Assembléia Geral das Nações Unidas, na Primeira
Comissão sobre o Desarmamento e Segurança Internacional, e em seus discursos mostrou
uma postura neutra mediante ao tema. Afirma estar ciente dos riscos que possam vir a ser
18
causados por uma possível liberação desse tipo de armamento, mas teme que a proibição da
produção e desenvolvimento desses sistemas possa vir a causa impactos no desenvolvimento
tecnológico na área da inteligência artificial, retardando-o ou até mesmo o interrompendo.
Reino Unido
O Reino Unido possui uma excelente infraestrutura tecnológica e é, desde os
primórdios da Revolução Científica iniciada no século 17, um dos países que mais produzem
novas tecnologias no mundo. Atualmente é um dos três países que lideram a produção de
Sistemas Autônomos de Armas Letais (LAWS), junto aos Estados Unidos da América e Israel,
e acredita que um tratado a respeito do assunto é desnecessário, visto que os três países já
possuem processos de revisão internos sobre as armas que garantem a conformidade com o
interesse comum internacional.
Suíça
A Suiça compareceu a todos os eventos relacionados aos Sistemas Autônomos de
Armas Letais e manteve uma postura neutra em seus discursos. Afirma que por mais que o
uso desse tipo de tecnologia possa ser nocivo a vida humana, o seu desenvolvimento deve ser
continuado, desde que a sua produção e uso esteja em conformidade com o Direito
Humanitário Internacional e a Lei Internacional dos Direitos Humanos.
5.5 Europa Oriental
República Tcheca
A República Tcheca tem uma longa tradição no desenvolvimento ciêntifico
tecnológico e apoia todo e qualquer tipo de avanço na área, desde que os avanços sejam feitos
de forma a cumprir acordos internacionais, como por exemplo, o Direito Humanitário
Internacional. Também afirma que não cabe a somente uma máquina a decisão de manter ou
não a vida de uma pessoa, sendo necessária a presença de um controle humano significativo
sobre esses sistemas, sendo esse o maior desafio dessa problemática, a definição do quão
significativo o controle sobre essas máquinas deve ser.
Bielorrússia
A Bielorrússia não é detentora de uma infraestrutura tecnológica desenvolvida, no
entanto, tem participado das últimas convenções e congressos relacionados à Sistemas
19
Autônomos de Armas Letais (LAWS). Sua posição internacional mediante ao assunto é de
extrema preocupação com os perigos que estão envolvidos na utilização de armas
completamente autônomas e afirma que caso seja permitido o uso desses sistemas, haverá
grandes desafios a serem enfrentados para que não ocorram catástrofes internacionais com a
utilização desse tipo de equipamento.
Hungria
A Hungria é famosa pelo seu investimento tecnológico e pelos diversos cientistas
renomados que saíram do páis durante a história. Mantem-se neutra sobre o assunto discutido
dentro do comitê, não é estritamente contra a aquisição e utilização de Sistemas Autônomos
de Armamento Letais.Entretanto, acredita que o tópico deve ser bem debatido e os limites de
aquisição e produção bem estabelecidos para evitar com que a Declaração Universal dos
Direitos Humanos seja seguida.
Lituânia
A Lituânia possui uma grande variedade de centros tecnológicos, especialmente na
área biotecnológica, em que o governo oferece incentivos especiais para investimentos em
tecnologias de última geração. A Lituânia acredita que devem sim ser consideradas questões
humanas nos debates acerca do tema, mas que antes de tudo deve-se compreender o tópico em
questão por completo, para que assim possam ser impostos limites e critérios para o
desenvolvimento de sistemas completamente autônomos.
Polônia
A Polônia fez-se presente na Convenção da ONU Sobre Armas Convencionais com a
temática de Sistemas Autônomos de Armas Letais (LAWS), e argumentou que a discussão em
torno dessa tecnologia deve ser focada em como ela deve ser aplicada e utilizada e não se a
tecnologia deve ser proibida ou não. Argumentou que a tecnologia não é boa e nem ruim para
a sociedade, e sim o uso de que se faz dela. Procura por uma solução intermediária, que
restrinja usos nocivos, mas que possa, ao mesmo tempo, permitir a continuidade da pesquisa
tecnológica na área.
Letônia
Com seu investimento tecnológico irrisório, a Letônia não possui forte interesse no
desenvolvimento da inteligência artificial. É considerada uma nação que preza pelos direitos
20
humanos e levanta essa bandeira em seus discursos. É totalmente contra o desenvolvimento
tecnológico da inteligência artificial e seus usos, alegando que o desenvolvimento dessa
tecnologia pode vir a ferir a Lei Humanitária Internacional.
Rússia
Com altos gastos militares em seu país e um forte investimento no setor tecnológico, a
Federação Russa, nos últimos anos, tem desenvolvido uma extensa gama de veículos aéreos
não pilotados e também equipamentos de guerra automáticos, que são capazes de decidir
alvos por conta própria, e tomar a decisão de atirar ou não. A Rússia afirma que todo
equipamento desenvolvido pelo país está de acordo com a Lei Internacional Humanitária e
também defende que esses sistemas sejam produzidos de forma a respeitar o Direito
Internacional Humanitário, é estritamente contrária a qualquer resolução que a proíba de
continuar com o desenvolvimento na área de inteligência artificial dentro do país.
Geórgia
A Geórgia esteve presente na Convenção de Armas Convencionais(CCW) e em seus
discursos se posicionou de forma neutra. Afirma que esse debate é extremamente complexo e
que antes de ser tomada uma decisão definitiva, deve-se analisar todos os pontos contrários e
favoráveis aos Sitemas Autônomos de Armas Letias para que se chegue a um veredicto que
satisafaça toda a comunidade internacional.
Ucrânia
A Ucrânia esteve presente na Convenção de Armas Convencionais (CCW) e
posicionou-se fortemente contra a utilização e produção de Sistemas Autônomos de Armas
Letais(LAWS). Afirma que devem ser tomadas ações imediatas para proibir a produção,
desenvolvimento e distribuição desses tipos de equipamentos, também sugere a adição desse
tipo de sistema na lista de armas proibidas como a da CCW e também de uma maior rigidez
na fiscalização de países que já utilizam desse tipo de arma.
21
6. Grupos Regionais das Nações Unidas
África América Latina e
Caribe Ásia-Pacífico
Europa
Ocidental e
Outros
Europa
Oriental
Angola Brasil China Alemanha Lituânia
Chade Chile Japão Espanha Polônia
Nigéria Cuba Jordânia
Estados
Unidos da
América
Rússia
Egito Venezuela Malásia França Ucrânia
Costa do
Marfim Argentina
República da
Coréia Israel Bielorrúsia
Argélia Uruguai Sri Lanka Nova Zelândia Hungria
Serra Leoa Equador Paquistão Reino Unido Letônia
Gana México Índia Suíça Geórgia
Marrocos Peru
Irã Áustria República
Tcheca
22
7. Leitura recomendada para o comitê
A maioria dos links encontram-se em inglês
Compilação de declarações feitas pelos países em diferentes conferências
http://www.stopkillerrobots.org/wp-content/uploads/2013/03/KRC_CountryStatus_14Mar2014.pdf
Convenção da ONU sobre armas não convencionais
https://pt.wikipedia.org/wiki/Conven%C3%A7%C3%A3o_da_ONU_sobre_Armas_Convencionais
Documentos redigidos pelos países para o encontro informal de experts sobre LAWS
http://www.unog.ch/80256EE600585943/(httpPages)/6CE049BE22EC75A2C1257C8D00513E26?Ope
nDocument
Lista de países com veículos aéreos não tripulados
https://en.wikipedia.org/wiki/List_of_unmanned_aerial_vehicles
Reportagem do The Guardian com uma análise interessante à respeito do assunto
https://www.theguardian.com/science/political-science/2015/jul/31/artificial-intelligence-ban-
autonomous-weapons-easier-said-than-done
Todos os links presentes na bibliografia.
23
8. Referências
United Nations Commission on Science and Technology for Development. Disponível em:
http://steps-centre.org/anewmanifesto/timeline/un-commission-on-science-and-technology-
for-development/. Acesso em: 08 de setembro de 2015.
Membership of the Commission on Science and Technology for Development. Disponível
em: http://unctad.org/en/Pages/CSTD/CSTD-Membership.aspx. Acesso em: 08 de setembro
de 2015.
Commission on Science and Technology for Development. Disponível em:
http://www.unctad.info/en/Science-and-Technology-for-Development---StDev/Science--
Technology-on-the-UN-Agenda/CSTD/. Acesso em: 08 de setembro de 2015.
FUTURE OF LIFE INSTITUTE. Autonomous Weapons: An Open Letter from AI &
Robotics Researchers. 2015. Disponível em:
<http://futureoflife.org/AI/open_letter_autonomous_weapons>. Acesso em: 15 out. 2015.
RUSSELL, Stuart. Robotics: Ethics of artificial intelligence. 2015. Disponível em:
<http://www.nature.com/news/robotics-ethics-of-artificial-intelligence-1.17611>. Acesso em:
07 nov. 2015.
WELSH, Sean. Machines with guns: debating the future of autonomous weapons systems.
2015. Disponível em: <http://theconversation.com/machines-with-guns-debating-the-future-
of-autonomous-weapons-systems-39795>. Acesso em: 07 nov. 2015.
LEE, Dave. Killer robots: Tech experts warn against AI arms race. 2015. Disponível em:
<http://www.bbc.com/news/technology-33686581>. Acesso em: 07 nov. 2015.
KNIGHT, Will. Military Robots: Armed, but How Dangerous? 2015. Disponível em:
<http://www.technologyreview.com/news/539876/military-robots-armed-but-how-
dangerous/>. Acesso em: 07 nov. 2015.
24
GRAY, Richard. Artificial Intelligence is as dangerous as nuclear weapons: AI pioneer
warns smart computers could doom mankind. 2015. Disponível em:
<http://www.dailymail.co.uk/sciencetech/article-3165356/Artificial-Intelligence-dangerous-
NUCLEAR-WEAPONS-AI-pioneer-warns-smart-computers-doom-mankind.html>. Acesso
em: 07 nov. 2015.
SAUER, Frank. Banning Lethal Autonomous Weapon Systems (LAWS): The way forward.
2014. Disponível em: <http://icrac.net/2014/06/banning-lethal-autonomous-weapon-systems-
laws-the-way-forward/>. Acesso em: 07 nov. 2015.
JEFFRIES, Adrianne. Only five countries actually want to ban killer robots. 2014.
Disponível em: <http://www.theverge.com/2014/5/16/5724538/what-happened-at-the-un-
killer-robot-debate>. Acesso em: 07 nov. 2015.
CAMPAIGN TO STOP KILLER ROBOTS. Consensus killer robots must be addressed.
2013. Disponível em: <http://www.stopkillerrobots.org/2013/05/nations-to-debate-killer-
robots-at-un/>. Acesso em: 07 nov. 2015.
EURONEWS. IA: Stephen Hawking e Elon Musk contra o desenvolvimento de armas
inteligentes. 2015. Disponível em: <http://pt.euronews.com/2015/07/28/ia-stephen-hawking-
e-elon-musk-contra-o-desenvolvimento-de-armas-inteligentes/>. Acesso em: 07 nov. 2015.
CUÉ, Carlos E.; REBOSSIO, A. Cientistas contra robôs armados. 2015. Disponível
em:<http://brasil.elpais.com/brasil/2015/07/28/internacional/1438078885_287962.html>.
Acesso em: 07 nov. 2015.
MUSGRAVE, Zach; ROBERTS, Bryan W. Humans, Not Robots, Are the Real Reason
Artificial Intelligence Is Scary. 2015. Disponível em:
<http://www.theatlantic.com/technology/archive/2015/08/humans-not-robots-are-the-real-
reason-artificial-intelligence-is-scary/400994/>. Acesso em: 07 nov. 2015.
BLAND, Jessica; STILGOE, Jack. A ban on autonomous weapons is easier said than done.
2015. Disponível em: <http://www.theguardian.com/science/political-
25
science/2015/jul/31/artificial-intelligence-ban-autonomous-weapons-easier-said-than-done>.
Acesso em: 07 nov. 2015.