1

A Corrida Armamentista pela Inteligência Artificial

Aspirante a Oficial Gabriel Adriano de Melo1

Aspirante a Oficial Lourenço Bruno da Cunha Neto2

Aspirante a Oficial Geovanna Santos Nobre de Oliveira3

Aspirante a Oficial Wesley Proença de Camargo4

Aspirante a Oficial Gianluigi Dal Toso3 1º Ten Marcos Antonio do Nascimento5

Resumo

Este trabalho apresenta os principais desenvolvimentos no campo dainteligência artificial (IA) aplicados ao meio militar, analisando desde seuemprego em veículos e em sistemas de armamento autônomos até suaaplicação no auxílio à logística e à administração de recursos, realizandoestimativas de manutenção da frota. Além disso, faz-se uma revisão dasprincipais políticas adotadas pela China e pelos Estados Unidos, os doisprincipais atores nessa área, a respeito do desenvolvimento de armamentosautônomos, de sua segurança e de suas implicações sociais e éticas. Por fim,trata-se de uma previsão para os desenvolvimentos futuros, realizando-seum levantamento dos principais valores para a elaboração de uma estratégianacional brasileira de inteligência artificial.

Palavras-chaves: Militar. Defesa. Desenvolvimento. Armamentos Autônomos.

1 Introdução

A pesquisa em inteligência artificial (IA), dada desde o início do século passado,cujo termo foi criado em 1956 por John Mac. A explosão de aplicações em IA, no iníciode década de 2010, foi possibilitada principalmente por três fatores, sejam eles: adisponibilidade de grandes conjuntos de dados, os avanços nas técnicas de aprendizadode máquina e o aumento da capacidade de processamento dos computadores (SAYLER,2019a). Os recentes avanços tecnológicos na área de IA contribuíram para o surgimentode novos sistemas de armamentos autônomos e para a largada de uma verdadeira corrida

pela IA, com semelhança à corrida espacial da década de 60 entre os Estados Unidos

1Aspirante do 9° semestre do curso de Engenharia de Computação do Instituto Tecnológico de Aeronáutica e 3° ano doEstágio de Preparação de Oficiais Engenheiros,CPORAER.2Aspirante do 7° semestre do curso de Engenharia de Computação do Instituto Tecnológico de Aeronáutica e 2° ano doEstágio de Preparação de Oficiais Engenheiros,CPORAER.

2

3Aspirante do 5° semestre do curso de Engenharia de Computação do Instituto Tecnológico de Aeronáutica e 1° ano doEstágio de Preparação de Oficiais Engenheiros,CPORAER.4Aspirante do 9° semestre do curso de Engenharia Aeroespacial do Instituto Tecnológico de Aeronáutica e 3° ano doEstágio de Preparação de Oficiais Engenheiros,CPORAER.5Orientador. Instrutor do Centro de Preparação de Oficiais da Reserva da Aeronáutica de São José dos Campos –CPORAER-SJ.

e a União Soviética, cuja posição competitiva frente aos Estado Unidos hoje se dá pelaChina (HARARI, 2019). Estes sistemas foram proporcionados pelo surgimento de novastécnicas de aprendizado de máquina, destacando-se as redes neurais artificias profundas,além de uma maior quantidade de poder computacional e dados disponíveis.

Segundo Harari (2019), a corrida da IA se encontra cada vez mais concentradanas duas principais potências: Estados Unidos e China. Estes países fizeram dainteligência artificial uma política de estratégia nacional. A capacidade da IA parainfluenciar o comportamento humano foi observado no escândalo envolvendo a empresaCambridge Analytica e seu processamento de dados a fim de influenciar as eleiçõesamericanas (BERGHEL, 2018). A matéria-prima para esse tipo de indústria são os dadoscoletados a partir da atividade de usuários ou de sensores e ainda segundo Harari (2019),uma nova forma de colonialismo caracterizada pela mineração de informações podeexistir: o colonialismo de dados. Como forma de combater o imperialismo dessaspotências, o autor sugere a criação de políticas inter-regionais e também a regulaçãodessa coleta de dados, tal como são pagos royalties pela extração de minerais e depetróleo.

A inteligência artificial irá trazer objetos inertes à vida, tal qual a eletricidade háum século, tudo o que se havia eletrizado agora será cognitizado (SAYLER, 2019a).

1.1 Definições de Inteligência Artificial (IA)

Não existe uma definição comumente aceita de IA, contudo podem-se citar asquatro principais definições: pensar como seres humanos, pensar racionalmente, agircomo seres humanos ou agir racionalmente (RUSSELL; NORVIG, 2009). Sobretudo,por uma definição pragmática, sistemas artificiais inteligentes devem funcionar, isto é,satisfazer os requisitos pelos quais foram projetados, caso contrário, seriam classificadoscomo sistemas não inteligentes, mas “ineptos”.

Também é importante definir dois conceitos de IA: forte (generalista) e fraca(especialista). A definição de uma IA forte se dá em um sistema com capacidades deresolver uma ampla gama de problemas tal qual, ou ainda melhor que, um ser humano,generalizando o conhecimento adquirido. Já a IA fraca é capaz de resolver apenas umconjunto restrito de problemas, uma tarefa específica, como um jogo de xadrez oudirigir um carro, não sendo capaz de generalizar o seu conhecimento para outras tarefas.Até hoje ainda não foi desenvolvida nenhuma IA forte, sendo esse campo de pesquisaconsiderado o “Santo Graal” da computação.

3

2 As Estratégias Nacionais de IA

As Estratégias Nacionais de Inteligência Artificial estabelecem os objetivos, asprioridades, os incentivos e os padrões que uma nação se comprometerá a desenvolverem prol de seu crescimento tecnológico em IA. A Figura 2 mostra uma linha do tempodas publicações de estratégias nacionais de inteligência artificial em diversos países. Oprimeiro país a publicar a primeira estratégia foi o Canadá, no qual grandespesquisadores na área de redes neurais artificiais trabalham, a exemplo dospesquisadores Geoffrey Hinton, Yoshua Bengio e Yann LeCun que receberam o PrêmioTuring em 2018, que pela sua significância seria um equivalente a um Prêmio Nobel emcomputação. É importante notar que as estratégias nacionais dos outros países que nãosejam China ou Estados Unidos que estão em busca de se tornar ou se manter emprimeiro lugar mundial diferem significativamente com respeito a vários aspectos aexemplo de regulamentos da indústria, da pesquisa científica, da capacitação e aquisiçãode mão-de-obra especializada e das parcerias internacionais (DUTTON, 2018).

Figura 1 – Estratégias nacionais de Inteligência Artificial. FONTE: (DUTTON, 2018)

Do ponto de vista estratégico, a inteligência artificial pode ser vista como umatecnologia de propósitos gerais para melhorar a precisão, a velocidade e a escala detomadas de decisão autônomas em ambientes variados. Dessa forma, substituem oumelhoram a capacidade humana em tarefas de reconhecimento de padrões, de prediçõese de otimizações de objetivos (MAAS, 2019).

Em termos militares, os EUA já desenvolveram duas estratégias assimétricas(offsets) baseados respectivamente em armamentos nucleares e em armamentos de altaprecisão e de invisibilidade a radares. Assim, a terceira estratégia americana (ThirdOffset) se baseia no uso de novas doutrinas organizacionais e também nodesenvolvimento de sistemas autônomos e de IA (LEWIS, 2017).

4

2.1 China

Os chineses têm convicção de que ter a liderança em tecnologias de IA é umfator crítico para o futuro da competição internacional, por poder econômico e militar(ALLEN, 2019). A estratégia de IA da China data desde 2015 com o plano Made inChina 2025 e foi fortalecida em 2017 pelo New Generation Artificial IntelligenceDevelopment Plan (AIDP), que evidenciou o novo foco da competição internacional detecnologias que moldarão o futuro.

O governo chinês mantém uma postura que prioriza o progresso da IA emdetrimento dos perigos associados a isso, o que poderia aumentar as chances de umaescalada à guerra. Ao mesmo tempo, em uma posição pouco sincera, o governo chinêsapoia um banimento internacional de armamentos autônomos, embora a definiçãochinesa desses LAWs seja extremamente restrita de forma a não prejudicar seu própriodesenvolvimento (ALLEN, 2019).

Duas organizações chinesas criadas pelo Ministério da Defesa da China, sub-sidiadas ao National University of Defense Techonology (NUDT) se destacam nessesentido: o Unmanned Systems Research Center (URSC) e o Artificial IntelligenceResearch Center (AIRC). Nesse contexto, o governo chinês aposta no surgimento detecnologias disruptivas, que ofereçam uma alternativa melhor e mais econômicas que àstecnologias atuais dominadas pelas forças armadas americanas, assim, uma frota deminissubmarinos autônomos poderia por em cheque toda a frota de porta-aviões norte-americanos. O acesso à tecnologia do mercado internacional garante uma vantagemcompetitiva à China que, diferentemente da União Soviética, teve metade de suaspublicações científicas coautoradas por pesquisadores estrangeiros.

Apesar de ser a maior potência de IA em número de artigos e de patentes em IA,ainda há fraquezas, sobretudo na questão de talentos, na produção de teorias e bases decódigos inovadores. O governo chinês reconhece que o nível médio de inovaçãotecnológica ainda é atrasado em comparação aos EUA e por isso criou um programa deincentivo à IA nas universidades, com a formação de mais 5.000 professores nessecampo de pesquisa e do incentivo a jovens talentos (ALLEN, 2019). Além disso, na áreade desenvolvimento de código base e de hardware, a China já recrutou váriospesquisadores e executivos de empresas Taiwanesas, iniciando a produção de chips detecnologia litográfica inferior (de 28 nm).

2.2 Estados Unidos

O uso no processamento de dados para a geração de relatórios de inteligência foiobservado por (HAMILTON E KREUZER, 2018). Segundo Hasik (2018), a terceiraestratégia de vantagem (offset) dos americanos se baseia em uma nova organizaçãoinstitucional e em novas tecnologias relacionadas a sistema autônomos e à IA, mudanças

5

que contemplariam profundas atualizações das doutrinas. Em uma visão histórica, asduas estratégias de vantagem (offset) anteriores foram caracterizadas respectivamentepelo desenvolvimento e produção em massa de armamentos nucleares e de armamentosmodernos de alta precisão, tais como mísseis teleguiados e aeronaves invisíveis a radar.

Destacam-se projetos recentes, a exemplo do enxame de drones Perdix da SCO(Strategic Capabilities Office) da força aérea americana e também do projeto SeaHunter da marinha americana, uma embarcação autônoma anti-submarinos, e atémesmo o projeto secreto Ghost Fleet. Em termos organizacionais, destacam-se oDefense Innovation Unit Experimentation (DIUx) e também o Algorithmic WarfareCross-Functional Team, que analisa grandes quantidades de vídeos coletados pordrones.

Ainda há dúvida quanto à viabilidade técnica e ao custo de desenvolvimentodesses sistemas, sobretudo ao se analisar a vantagem que tais sistemas teriam sobreadversários numerosos e distantes.

A exemplo de projetos fracassados tem-se o Future Combat System, uma coleçãode quatorze sistemas interconectados por uma extensa rede de comunicação robustas aataques eletrônicos, que permitiria aos comandantes ter uma visão em tempo real docampo de batalha com decisões imediatas.

Em comparação com a China, manter tais sistemas de armas como umavantagem tática será muito mais difícil do que com as outras tecnologias desenvolvidas,tendo em vista o seu uso dual e as relações comerciais com a China. Projetos de carrosautônomos são presentes em diversas empresas, americanas e chinesas, a exemplo daTesla, Uber, Ford, Alphabet, Baidu e Pony, desenvolvidos com uma finalidade comerciale com relativa integração entre essas empresas, mas que também teriam aplicaçõesmilitares, caracterizando o seu uso dual. A integração comercial entre os EUA e a Chinapossibilita o acesso à essa tecnologia de forma relativamente fácil por essas partes, umavez desenvolvido um carro autônomo economicamente viável. Assim, o autor sugereque a melhor estratégia a ser adotada pelos americanos seria uma guerra de atritoeconômico com a China, o que não necessitaria de nenhum avanço tecnológico maslevaria a uma vantagem sobre os chineses (HASIK, 2018).

Como outro exemplo de aplicação, tem-se um sistema que ajude a antecipar olançamento de um míssil com capacidades nucleares e também monitorar e apontarlançadores móveis de mísseis (PENTAGON, 2018).

2.3 Rússia

Não há uma estratégia ou um plano nacional de defesa que contemple especi-ficamente o uso de IA, porém o presidente russo Vladmir Putin já ordenou odesenvolvimento de tal estratégia, conforme foi relatado pela agência de reportagemrussa TASS (PUTIN, 2019), além de outras declarações reafirmando o interesse nacional

6

no assunto. Os objetivos a serem alcançados foram publicados pelo site oficial doKremlin (INSTRUCTIONS, 2019).

A Rússia está estabelecendo um número de organizações voltadas para de-senvolvimento de inteligência artificial para o meio militar. Em Março de 2018, ogoverno russo liberou uma agenda de IA de 10 pontos, que faz o requerimento para seestabelecer algumas iniciativas como um Centro Nacional para IA e um Fundo paraAlgoritmos e Programas Analíticos (SAYLER, 2019b).

Além desses dois países, a Rússia está tentando acompanhá-los por meio daênfase em desenvolvimento de veículos semiautônomos e autônomos (SAYLER,2019b), como veículos aéreos não tripulados (RUSSIA, 2017).

Em termos de investimento na pesquisa e desenvolvimento em IA, a Rússiaencontra-se bem defasada se comparada com a China e com os Estados Unidos, aindamais com a redução de gastos militares nos últimos 3 anos (SAYLER, 2019b). Apesardisso, em uma analogia ao campo cibernético, no qual a Rússia não detém grandesempresas de tecnologia e, também, pouco investe em pesquisa fundamental emcomputação, há uma capacidade de realizar operações cibernéticas ofensivas e perturbara segurança do ambiente cibernético. Da mesma forma, embora a Rússia não estejaperto da liderança pela IA, há projetos de sistemas de armas autônomos que poderiagerar uma assimetria no campo de batalha, caso fossem bem sucedidos.

2.4 Brasil

O Brasil não apresenta nenhuma política ou estratégia nacional que citediretamente o desenvolvimento de tecnologias autônomas ou de IA. Há, contudo, umaobservação genérica para o desenvolvimento de ciência e tecnologia (BRASIL, 2012a;BRASIL, 2012b; BRASIL, 2017).

A pesquisa e o desenvolvimento brasileiro em IA encontram-se atrasados emrelação aos principais líderes, principalmente em termos de aplicações. Citam-seiniciativas acadêmicas desenvolvidas pelas universidades e também a criação dealgumas organizações voltadas à pesquisa e a educação, a exemplo da CD&IA.Rio e oAdvanced Institute for Artificial Intelligence.

A Estratégia Brasileira para a Transformação Digital é o documento que mais fazmenção à IA, tratando-a de forma genérica em conjunto com outras áreas de pesquisastais como robótica colaborativa, big data, Internet das coisas, manufatura aditiva e ananotecnologia. Tais tecnologias são também de grande importância e são camposférteis para aplicação de IA, contudo, é importante ressaltar que a IA é uma área que porsi só merece uma atenção especial, devido ao seu potencial disruptivo.

Os princípios básicos para uma proposta de uma estratégia nacional estãoelencados na Seção 6. O planejamento para o desenvolvimento de tal estratégia está

7

apresentado como projeto de cooperação internacional 914BRZ2023, no qual umpesquisador da área está sendo selecionado para elaborar o documento.2.5 A Corrida pela IA

Allen (2019) revela a preocupação que o governo norte-americano tem comrelação ao desenvolvimento de tecnologias relacionadas à IA na China. O imperativopela IA é retratado por MICHAEL e SHANEMAN (2018), que evidencia a visão doDepartamento de Defesa norte-americano sobre a criticidade do papel da IA na futuracapacidade militar.

Nesse contexto, o projeto Maven, também conhecido como Algorithmic War-fare Crossfunctional Team, tem como objetivo trazer ao meio militar várias tecnologiasjá desenvolvidas no meio civil em mineração e processamento de dados, a fim delevantar novas capacidades para o setor de inteligência (MAGNUSON, 2017).

A corrida de IA ainda está em seus estágios iniciais e provavelmente ganharáritmo e intensidade a partir de 2020. O sucesso ou o fracasso, sem dúvida, definirão asnações com vantagem militar e geopolítica (MELANIE, 2019). Mas (2019) faz umaanálise da viabilidade de controlar a corrida armamentista em relação aodesenvolvimento de IA, fazendo um paralelo com o desenvolvimento de armasnucleares. Já Geist (2016) declara que já é tarde para tentar controlar essa corridaarmamentista, sugerindo contingências para esse problema.

3 Sistemas Autônomos

Sistemas que podem mudar seu comportamento, em resposta a eventos não an-tecipados durante sua operação, são chamados de "autônomos"(WATSON; SCHEIDT,2005). Ou seja, são sistemas que, ao interagir com seu domínio, são capazes de aprendere tomar decisões sem agentes externos ditarem o comando ou pouco o influenciarem.

Cossins (2019) afirma que o desenvolvimento da robótica já atingiu níveispráticos de utilização comercial e militar, e ressalta a importância de um corpo físicopara o desenvolvimento da IA.

3.1 Veículos Autônomos

Veículos autônomos são tópicos de diversas discussões nos últimos anos dentroda área de IA, devido a popularização e maior viabilização da construção de dronesremotamente controlados e autônomos, além de carros com as mesmas características.

No campo militar, UUVs (Unmanned Underwater Vehicle), como os descritospelo NAVSEA PMS-403, e UAV (Unmanned Air Vehicle), como o Predator e GlobalHawk construídos pelos americanos, são alguns exemplos (WATSON; SCHEIDT,2005).

8

Quaranta (2017) ressalta o desenvolvimento de aeronaves não apenas remo-tamente pilotas, mas também autônomas, capazes de cumprir missões mesmo semcomunicação com o centro de controle.

O autor acredita que o desenvolvimento de veículos autônomos na área militar,em maior escala, possibilitará abordagens menos custosas e mais seguras a longo prazopara uma nação realizar atividades como rastreamento de zonas críticas e transportehumano e de suprimentos.

3.2 Armamentos Autônomos

Existe uma discussão sobre a regulação ou o banimento desses armamentos emuma análise de três diferentes países: o Brasil por Santos (2016), a Índia por Chansoria(2016) e os Estados Unidos por Roff (2016). É interessante notar que, enquanto há umaargumentação em torno dos benefícios e de uma possível regulamentação para taisarmamentos por parte dos americanos, a visão dos outros países tende a focar nasviolações dos direitos e da dignidade humana, argumentando pelo banimento dearmamentos autônomos ofensivos.

Já existem sistemas de armas autônomos estacionários com o objetivo de defesa,sobretudo de ameaças aéreas. Contudo, a autonomia para ofensivamente selecionar eengajar alvos humanos. O Exército dos EUA quer desenvolver pequenos drones paraidentificar e atingir automaticamente veículos e pessoas. Pode permitir respostas maisrápidas às ameaças, mas também pode ser um passo em direção a drones autônomos queatacam alvos sem supervisão humana (HAMBLING, 2018).

4 Implicações da tecnologia

Segundo ALLEN e HUSAIN (2018), o balanço de poder no campo de batalhapode ser afetado pelo uso de IA, sobretudo ao possibilitar que países pequenos, mas comum profundo desenvolvimento tecnológico, possam utilizar desses sistemas paraaumentar a sua influência de poder. O uso assimétrico e insurgente dessas capacidadespode ser também capaz de desestabilizar países que não tenham as contramedidasnecessárias. Outro ponto a ser ressaltado é o potencial para a modernização deequipamentos já ultrapassados sem a necessidade de seguir todas as epatas de seudesenvolvimento tecnológico, isto é, realizando-se um salto de etapas intermediárias. OExército Popular de Libertação tem, por exemplo, realizado a conversão de seus caçasJ-6 e J-7 da década de 60 e de 70 para aeronaves remotamente pilotadas e autônomas.

Em termos da expressão de poder, que pequenos países em termos popula-cionais, mas que estejam investindo fortemente em IA, podem-se citar como exemploOs Emirados Árabes Unidos e o Catar, em termos de destaque nos países árabes(ALLEN; HUSAIN, 2018). Tais países já se utilizaram respectivamente de uma rede deinformação Al-Jazeera e de forças contratadas tecnologicamente avançadas para realizar

9

ataques precisos em seus inimigos. Isso revela que mesmo com um contingentepequeno, mas altamente especializado de forças e de elementos técnicos, é possívelexercer uma projeção de poder, mesmo que não haja um histórico de liderança nessaárea.

A disponibilidade de equipamentos autônomos e cada vez mais modernos paraconsumidores permitem que sejam improvisados armamentos cada vez mais letais eeficazes, como drones-bomba e armas-de-fogo acopladas a plataformas de controleremoto ou até mesmo autônomas. Os avanços na manufatura aditiva possibilitam quecomplexos mecanismos sejam fabricados em impressoras 3-d disponíveis no mercado, oque aumenta a viabilidade econômica desses armamentos improvisados. Dessa forma, acapacidade autônoma, possibilitada pelos avanços na IA, aumentaria o seu poderdestrutivo contribuindo para um desbalanço de poder.

Nesse sentido, uma verdadeira corrida armamentista teria início para criarcontramedidas que fossem eficazes a tais armamentos, à medida que se busquemsistemas capazes de ultrapassar tais contramedidas. Um exemplo recente dessefenômeno se dá na área cibernética de edição de imagens, mais especificamenteconhecidas como deep fakes, no qual uma rede neural artificial é utilizada paratransplantar as expressões faciais de uma pessoa em uma imagem ou até em um vídeode outra, o que economiza centenas de horas de edição de vídeo manual e permite aprodução em massa de conteúdos falsos. Assim, uma outra arquitetura de rede neuralartificial foi criada para discernir vídeos que tenham sidos alterados pela primeira, quepor sua vez também começou a ser otimizada, tendo em vista o trabalho da segunda.Assim, criaram-se gerações de modelos computacionais para criar e para discernirconteúdos falsos.

As guerras do futuro poderiam ser travadas, sobretudo entre robôs, diminuindoas perdas de vidas humanas, o que seria chamada de Guerras Robóticas (Word War)(BARANIUK, 2014). Dessa forma, a batalha seria travada pelos engenheiros aoconceberem sistemas autônomos cada vez mais capazes e econômicos. Contudo, o fatorlimitante para o aprimoramento desses sistemas provavelmente não seria técnico, maspolítico.

O Partido Comunista Chinês ressalta a importância estratégica da IA e estabeleceque até 2030 a China tome a liderança mundial nessa área, posição que hoje é detidapelos Estados Unidos (CHINA, 2018; CHINA, 2017). Destaca-se o plano de Made inChina 2025. A ambição chinesa não passou despercebida aos olhos dos americanos(JON, 2017), destacando-se a colaboração entre as indústrias chinesas em estrangeiras,sobretudo da companhia de defesa China Electronics Techonology Group Corporation(CETC) com a University of Technology Sydney (UTS). Na questão da quantidade dedados que a China tem disponível para o treinamento de IA, a China é considerada a“Arábia Saudita dos Dados” (ZAAGMAN, 2018).

10

Assim, os Estados Unidos, como resposta à estratégia chinesa, também lançouuma nova política com respeito ao desenvolvimento de IA, tanto do ponto de vista dodesenvolvimento econômico e social (USA, 2018), quanto do ponto de vista de suasaplicações militares (DOD, 2019). Em termos de pesquisa, há uma iniciativa para umaterceira onda de inteligência artificial baseada em sua explicabilidade (DARPA, 2016).

Como exemplos de projetos, podemos citar a Força Aérea Americana, que estádesenvolvendo um sistema integrado de comunicação aérea autônoma, baseada eminteligência artificial, com técnicas capazes de mitigar ataques de guerra eletrônica ecibernéticos (KELLER, 2018a). Além disso, há vários projetos para um enxame dedrones autônomos (USAF, 2018). O exército americano também está realizandopesquisas para aplicar AI em guerra eletrônica (Eletronic Warfare – EW); inteligência,monitoramento e reconhecimento (intelligence, surveillance and reconnaissance– ISR);reconhecimento, monitoramento e aquisição de alvos (reconnaissance, sur- veillanceand target acquisition – RSTA); operações cibernéticas ofensivas (offensive cyberoperations – OCO); inteligência de sinais (signals intelligence – SIGINT); pro-cessamento, exploração e disseminação (processing, exploitation and dissemination –PED); e análise de Big Data (KELLER, 2018b).

Outras aplicações incluem a pesquisa da DARPA para o desenvolvimento depequenos robôs similares a insetos (KELLER, 2019a). O projeto intitulado MicroscaleBiomimetic Robust Artificial Intelligence Networks (Micro-BRAIN) se propõe adesenvolver protótipos de modelos computacionais que possam ser mapeadosdiretamente em hardware para que as suas funcionalidades possam ser emuladasdiretamente com maior eficiência energética. Novamente, a pesquisa tem umainspiração biológica advinda da capacidade dos insetos em exibir um comportamentorelativamente complexo com um sistema nervoso de tamanho reduzido. Portanto, existeum desafio não apenas da manufatura de componentes menores, mas principalmente dealgoritmos de IA que possam exibir tal comportamento suficientemente complexo,utilizando poucos recursos computacionais, tanto em termos de memória, de tempo, desensoriamento e de controle de atuadores.

A fim de concentrar os esforços das forças armadas americanas, o Secretário deDefesa dos Estados Unidos estabeleceu o desenvolvimento do Joint ArtificialIntelligence Center (JAIC), uma organização que concentrá os esforços das aplicaçõesmilitares no desenvolvimento da IA (CRONK, 2019), tanto no campo de batalha comoem sistemas de logística e de manutenção. Isso mostra que se faz necessário umareestruturação organizacional para otimizar e propiciar tal desenvolvimento, a fim deque não ocorra redundâncias nos projetos e de assegurar um financiamento adequadopara os mesmos. É ainda importante destacar.

Nesse sentido, propõe-se uma governança da IA, isto é, estabelecer padrões decomo a humanidade pode se adaptar melhor à transição de sistemas avançados de IA.Essa tecnologia, considerada tão disruptiva quanto a própria eletricidade, deve ser

11

baseado em padrões internacionais de transparência, de justiça e de privacidade na visãode (DAFOE, 2018). A Organização das Nações Unidas estabeleceu uma visão para oavanço da “IA pelo bem comum”, utilizando-a como forma para atingir os seusobjetivos de desenvolvimento sustentável de 2030.

Em termos econômicos e sociais o avanço de IA e de automação irá aumentar aeficiência e a produtividade da indústria no longo prazo, possibilitando que uma menorquantidade de mão-de-obra humana consiga gerenciar uma capacidade maior demáquinas. Nesta linha de pensamento, a automação trará cada vez mais prosperidadeinclusive com desenvolvimento sustentável propiciado por um uso mais eficiente dosrecursos naturais. Contudo, as implicações de curto prazo incluem uma vulnerabilidadesocial gerada pelo desemprego em postos de trabalho perdidas para a automação. Dessaforma é necessário que haja políticas para mitigar essa vulnerabilidade e o potencialaumento das desigualdades sem que o desenvolvimento de IA seja prejudicado pois osseus efeitos de longo prazo se tornam mais significativos do que as consequências decurto prazo.

5 Segurança da Inteligência Artificial

No campo cibernético, Taddeo e Floridi (2018) sugerem a criação de normasinternacionais para regular o uso de IA. Caracterizado pelas invasões a sistemas e redesde computadores, as operações cibernéticas tem uma nova gama de estratégiasdisponíveis pelo uso de sistemas que sejam capazes não apenas de detectar ataquesautomaticamente, mas também de contra-atacar. Assim, com uma capacidade dedissuasão no meio cibernético poderia se justificar a aplicação de tais tecnologias comobenéfica para a sua segurança, contudo, é importante notar a possibilidade de ocorrênciade um ciclo vicioso nos ataques e contra-ataques autônomos que poderia culminar emuma guerra. Em 2016, na competição patrocinada pela DARPA Cyber GrandChallenge, tais sistemas autônomos foram desenvolvidos em um ambiente restrito, masque representam um passo inicial em sua ampla aplicação, sendo um marco nanecessidade de novas políticas cibernéticas. Nesta área devem ser propostas asdefinições de barreiras legais sobre os limites da atuação automática de tais sistemas, asoperações conjuntas de teste e treinamento com outras nações aliadas e, por fim, amonitoração e o cumprimento das regras estabelecidas a fim de garantir a estabilidadedo espaço cibernético.

Segundo Payne (2018), a IA deve reescrever as regras de combate de maneirasútil, mas também aterrorizante, com ênfase em sistemas que auxiliem ou sejamcompletamente autônomos nas tomadas de decisão. Nesse contexto de automação há operigo para que a dominação de escalada de forças, termo cunhado pelo estrategistanuclear Herman Kahn (escalation dominance), fuja ao controle. Em uma simulaçãoentre dois agentes que compitam entre si com o objetivo de atingir a dominância sobre ooutro, observa-se uma escalada das forças de ataque que não cessa até a incapacitação

12

do inimigo, caracterizada pela alta velocidade e intensidade das ações tomadas. Nessecontexto, o primeiro agente a hesitar ou a ter um atraso em sua resposta sofreria umadesvantagem imediata que aumentaria sua probabilidade de derrota. Payne (2018) nota adificuldade em estabelecer normas internacionais que regulamentem esses sistemas detomada de decisão militares devido a vantagem estratégia de sua implementação, esugere que a solução aplicável é adquirir a dominância na corrida pela IA, uma soluçãodita como clássica nos estudos estratégicos.

Swarte, Boufous e Escalle (2019) analisam as implicações éticas de um sistemaautônomo e a dependência que os seres humanos teriam com tal sistema. Utilizandouma abordagem utilitarista, analisa-se a hipótese de que um sistema artificial possa sermais ético ou ainda respeitar melhor os valores humanos do que os próprios sereshumanos. Como o objetivo desses sistemas é justamente otimizar uma função deutilidade, o grande dilema está em como conseguir definir tal função , de modo quetodos esses valores sejam refletidos nessa função. Assim, os dilemas éticos como oDilema do Bonde, no qual uma ação evita a morte de várias pessoas em detrimento deoutra, teriam a sua solução definida pela ação que maximiza a função de utilidadecomputada pelo agente artificial. Há, contanto, limitações técnicas na demonstração deque certa função de utilidade está sempre alinhada com os valores humanos, dado aintratabilidade de um conjunto exponencial de permutação de situações. Dessa forma,tendo em vista que não há oposição entre as ciências naturais e as ciências humanas,observa-se que a ética empregada na IA é Pós-Kantiano (SWARTE; BOUFOUS;ESCALLE, 2019).

Nesse contexto, Turchin e Denkenberger (2018) propuseram uma classificaçãodos riscos relacionados à IA em seus diferentes níveis de desenvolvimento e ressaltaramo fato de que ainda não há uma solução simples para a questão da segurança na IA.Realizando-se uma análise de longo prazo, existe uma fronteira de auto-aperfeiçoamentode um sistema artificial classificado com inteligência forte Artificial GeneralIntelligence (AGI) no qual há alta probabilidade de se perder o controle. Contudo,mesmo uma IA fraca tem diversos riscos associados que devem ser endereçados, taiscomo acidentes em uma infraestrutura crítica (em usinas geradoras de energia),execução de comandos errados em armamentos autônomos, engenharia de biotecnologiaperigosa, adoção de soluções não testadas, vírus computacional baseado em IA que semodifica, desemprego ocasionado por IA, desenvolvimento de armas, destruição emmassa auxiliados por IA, entre outros. Nesses diferentes cenários catastróficos os quaissão resultados de ações tomadas por IA, ressalta-se, ainda, o experimento do Basiliscode Roko, que representa o risco existencial, que um futuro agente artificial possa ter,inclusive sobre os seres humanos atuais. O perigo memético ocorre pelodesenvolvimento de uma superinteligência artificial que tenha como objetivo o bem dahumanidade, devendo ser implementado o mais rápido possível para evitar desperdício esofrimento de vidas humanas com doenças ou condições cuja cura se tornaria possível.

13

Contudo, como forma de acelerar sua criação, esse agente irá punir todos aquelesindivíduos que tomaram conhecimento de sua potencial existência, mas que nãoajudaram em sua criação. A punição se daria em uma tortura infinita dentro de umasimulação controlada por esse agente, inclusive de indivíduos que já tenham falecido,mas que de alguma forma possam ser encontrados por uma simulação do universo.Dessa forma, o agente, mesmo que bem intencionado, estaria coagindo os sereshumanos atuais que tiveram conhecimento a trabalharem em prol de sua criação.

Além de tais falhas catastróficas, Guersenzvaig (2018) atenta para o fato de quetais sistemas podem falhar ao princípio de discriminação, não sendo capazes dedistinguir civis de combatentes com a precisão requerida para diminuir o dano aos nãocombatentes. Essa óptica está relacionada a sistemas capazes de automaticamenteselecionar o alvo, realizando a decisão de ataque sem intervenção humana. Ressalta-se aexistência de tais sistemas para objetivos de defesa, a exemplo da torreta Phalanx CIWS,observada na Figura 2, que é montada em diversos navios de guerra americanos queautomaticamente atira contra mísseis e aeronaves inimigas supersônicos. Nessessistemas defensivos considera-se uma defesa reativa que está restrita a um envelope deoperações previamente definido e com um aceitável nível de previsibilidade que osexcluiriam de um banimento. Portanto, um banimento pre-emptivo em sistemasautônomos letais estaria embasado na doutrina da guerra justa e no direito humanitáriointernacional, supondo que a capacidade discriminatória e os erros cometidos por taissistemas fossem maiores.

Figura 2 – Sistemas de armas autônomo Phalanx CIWS utilizado para fins de defesa deembarcações. FONTE: William Weinert (2008)

Utilizando tal análise, a maior parte das nações concordam que é necessário umcerto nível de regulação e de controle humano ao se produzir e ao se disponibilizararmamentos cada vez mais autônomos (RIGHETTI et al., 2018). Vardi (2015) indica as

14

diferenças entre um sistema autônomo, capaz de selecionar os seus alvos por sua própriadecisão, de um sistema de atire-e-esqueça (fire-and-forget), uma vez selecionado o alvopor um outro agente, cumpre apenas a ação especificada. Já Underwood (2017) nota quenão apenas a malevolência, mas também a incompetência técnica deve ser levada emconsideração na avaliação ética de um sistema de armas autônomo, que poderiam sermais imprevisíveis do que os combatentes humanos, levando a um dano maior aos nãocombatentes.

Deste modo, a campanha para banir a produção de armamentos completamenteautônomos (Campaign to Stop Killer Robots) vem ganhando tração no meio civil,sobretudo no ambiente europeu (Editorial Board, 2019). Contudo, Meuser (2016) afirmaque os recursos para resolver esses dilemas éticos já existem e que estão baseados emarmamentos atuais, principalmente do tipo teleguiados. Dessa forma, já existemregulações para tais armamentos, além de doutrinas militares sobre o uso dos mesmos.Adams (2017) também avalia o risco de que o desenvolvimento de armamentosautônomos pode ter, destacando a repercussão contrária e também a favor, sobretudo dopresidente russo Vladmir Putin ao afirmar que a IA é o futuro de toda a humanidade,com perigos difíceis de serem previstos, mas também grandes oportunidades,ressaltando que as guerras do futuro poderão ser travadas, sobretudo entre osarmamentos autônomos das partes envolvidas.

A segurança da informação de modelos de aprendizado de máquina também éalvo da IARPA, que pesquisa por soluções de segurança cibernética, ao garantir queesses modelos não sejam comprometidos por ataques cibernéticos, tal projeto se intitulaSecure, Assured, Intelligent Learning Systems (SAILS) (KELLER, 2019b). Os modelosde aprendizado de máquina atuais estão expostos a uma reconstrução parcial dos seusdados de treinamento a partir dos parâmetros ajustados do modelo utilizado emoperação, tal ataque se denomina inversão de modelo que pode ser utilizado, porexemplo, para a reconstrução facial das pessoas autorizadas a uma certa área. Outroataque utilizado é a inferência sobre o conjunto de pertinência, que por sua vez buscadeterminar se um determinado padrão de entrada foi utilizado como um padrão detreinamento, o que também pode comprometer a privacidade dos dados.

6 Uma proposta brasileira

Baseada nas estratégias de outros países, sobretudo dos Estados Unidos, e,também, nas peculiaridades do Brasil, uma proposta brasileira para uma estratégianacional de IA deve ter como base os seguintes princípios que não se limitam à área dedefesa, mas também têm um foco no desenvolvimento econômico e social:

•Remoção de barreiras e criação de incentivos para inovação;

Priorizar investimento em projetos de desenvolvimento e de pesquisa em IA;

•Utilizar IA para potencializar a automação de serviços públicos;

•

15

• Priorizar a educação de ciência, tecnologia, engenharia e matemática (STEM);

•Realizar parcerias internacionais e parceria público-privado;

A situação brasileira, em termos de desenvolvimento, de pesquisas e deaplicações na área de IA, se encontra atrasada em relação a outros países de similar oumaior desenvolvimento econômico. Segundo China (2018), o Brasil ocupa a 15a posiçãoem termos de artigos produzidos e 8ª posição em termos de autores. Contudo, se forconsiderado o fator de impacto desses trabalhos utilizando-se o índice H, que quantificaapenas as publicações que receberam mais citações, o Brasil ficaria na 23a colocação, oque pode indicar uma menor qualidade ou significância da média das publicaçõesbrasileiras. Tais dados também podem ser observados na base Scimago Journal &Country Rank.

Dessa forma, é crucial que soluções para problemas de IA não sejamreinventadas em paralelo, mas aproveitadas as já existentes, sejam da iniciativa privadaou de outros países a fim de otimizar os investimentos.

A economia deve estar preparada para a expansão da IA em seu meio, comoforma de aumentar a eficiência e a produtividade, mesmo que no curto prazo issosignifique um aumento de mão-de-obra desqualificada. Dessa forma, é necessário osegundo foco da estratégia, que é na educação.

O Brasil deve almejar a liderança nessa área, uma proposta um tanto ousada,mas que possível em um desenvolvimento tecnológico, no qual o principal recurso sãoas cabeças pensantes de pesquisadores, e desenvolvedores, de programadores, sendoseguidos por dados e por quantidade de processamento.

7 Considerações finais

O desenvolvimento de novas tecnologias que possibilitem a produção em massade sistemas autônomos e mesmo a utilização de IA em tarefas específicas implica emprofundas mudanças, não apenas no campo militar, mas também em toda a sociedade. Amelhoria da eficiência em processos administrativos e o aumento da produção industrialpropiciada pela automação são exemplos da aplicação dessa tecnologia. Mesmopequenas melhorias na inteligência artificial podem ter um significativo impactoeconômico, uma vez que as capacidades tecnológicas de pesquisa e de produçãocontribuam para um ciclo virtuoso de aprimoramento (RUSSELL; DEWEY;TEGMARK, 2015).

Com tal capacidade produtiva, é necessário que sejam criadas políticas públicasnacionais para incentivar a produção de tais sistemas e, sobretudo, para defender amineração de dados brasileiros. A ideia proposta por Harari (2019) de que o próximocolonialismo será baseado em dados é assustadora para a nossa nação, que se encontra

16

em absoluto despreparo e pouco desenvolvimento nessa área, tornando-se fadada a sermais uma colônia de dados sobre a influência neo-imperialista.

Em termos de aplicações na área militar, observou-se uma forte utilização, tantona Força Aérea Americana (GIANNETTI, 2018), por meio de enxames de aeronavesautônomas, quanto no Exército Americano (HENNIG; SCHWARTZ; BAILEY, 2017),além da Marinha Americana (POURNELLE, 2017), que se comprometeram com acausa da IA ou se arriscar a perder as próximas batalhas. Dessa forma, não apenas nocampo de batalha, mas também em atividades de logística, de manutenção e deadministração, o uso de IA é capaz de agregar valor, aumentando a eficiência e aeficácia dessas atividades.

É também necessário considerações sobre segurança e ética no uso da IA. Dessaforma se faz necessário a mitigação do desemprego de curto prazo, e também deregulamentos internacionais para assegurar a estabilidade de operações que utilizem IAde forma competitiva ou ainda no campo de batalha.

Por fim, é necessário que o Brasil aproveite todo o potencial que taldesenvolvimento tecnológico pode proporcionar, principalmente pela capacidade deavançar na escada tecnológica com um verdadeiro salto de tecnologias intermediáriasque se tornam obsoletas. Esse potencial do “pulo do gato” (leapfrog) propiciaria umaeconomia do desenvolvimento de infraestrutura e um avanço tecnológico dos meios deprodução. Em um primeiro momento, é necessário que se recupere o atraso em IA, emcomparação com os principais líderes, implementando a aplicando as tecnologias jáexistentes. Após esse período inicial, é necessário reestabelecer os objetivos para ainovação com o desenvolvimento de novas técnicas que melhore as já existentes.

Agradecimentos

Agradecemos ao Centro de Computação da Aeronáutica de São José dosCampos (CCA-SJ) e ao Instituto Tecnológico de Aeronáutica (ITA) por nosproporcionarem apoio na elaboração deste trabalho.

Referências

ADAMS, R. Will robots go rogue?. Military Technology, v. 41, n. 11, p. 60 – 61, 2017.ISSN 07223226.

17

ALLEN, G. C. Understanding China’s AI Strategy: Clues to Chinese Strategic Thinkingon Artificial Intelligence and National Security. Center for a New American Security(CNAS), Washington DC, United States, 2019. Disponível em:<https://www.cnas.org/publications/reports/understanding-chinas-ai-strategy>.

ALLEN, J.; HUSAIN, A. AI will change the balance of power. U.S. Naval InstituteProceedings, v. 144, n. 8, p. 26 – 31, 2018. ISSN 0041798X.

BARANIUK, C. World war r. New Scientist, v. 224, n. 2995, p. 38 – 41, 2014. ISSN02624079.

BERGHEL, H. Malice domestic: The cambridge analytica dystopia. Computer, v. 51, n.5, p. 84–89, May 2018. ISSN 0018-9162.

BRASIL. Livro Branco de Defesa Nacional. Brasília, DF: Ministério da Defesa,2012a.

BRASIL. Política Nacional de Defesa. Brasília, DF: Ministério da Defesa, 2012b.

BRASIL. Cenário de Defesa 2020-2039 Sumário Executivo. Brasília, DF: Ministério daDefesa, 2017.

CHANSORIA, M. To ban or regulate autonomous weapons: An indian response. Bulletinof the Atomic Scientists, v. 72, n. 2, p. 120–121, 2016. ISSN 19383282.

CHINA. New Generation Artificial Intelligence Development Plan. Ministry of Industryand Information Technology, Science and Technology Department, Beijing, China, 2017.Disponível em: <www.miit.gov.cn/n1146290/n4388791/c5960863/ content.html>.

CHINA. China AI Development Report 2018. China Institute for Science and TechnologyPolicy, Tsinghua University, Haidian, Beijing, China, 2018. Disponível em:<http://www.sppm.tsinghua.edu.cn/eWebEditor/UploadFile/China_AI_development_report_2018.pdf>.

COSSINS, D. The robots are here. New Scientist, v. 241, n. 3215, p. 34 – 38, 2019. ISSN02624079.

CRONK, T. M. DOD Unveils Its Artificial Intelligence Strategy. U.S. DEPARTMENT OFDEFENSE, 2019. Disponível em: <https://dod.defense.gov/News/Article/Article/1755942/dod-unveils-its-artificial-intelligence-strategy/>.

DAFOE, A. Global politics and the governance of artificial intelligence. Journal ofInternational Affairs, v. 72, n. 1, p. 121 – 126, 2018. ISSN 0022197X.

DARPA. Explainable Artificial Intelligence (XAI). Defense Advanced Research ProjectsAgency, Arlington, VA, USA, 2016. Disponível em:<https://www.darpa.mil/attachments/DARPA-BAA-16-53.pdf>.

DOD. SUMMARY OF THE 2018 DEPARTMENT OF DEFENSE ARTIFICIALINTELLIGENCE STRATEGY: Harnessing AI to Advance Our Security and Prosperity.

18

DEPARTMENT OF DEFENSE, Defense Pentagon, Washington DC, USA, 2019.Disponível em: <https://media.defense.gov/2019/Feb/12/2002088963/-1/-1/1/SUMMARY-OF-DOD-AI-STRATEGY.PDF>.

DUTTON, T. An Overview of National AI Strategies. Politics+ AI, 2018. Disponível em: <https://medium.com/politics-ai/ an-overview-of-national-ai-strategies-2a70ec6edfd>.

Editorial Board. Don’t let bots pull the trigger. Scientific American, v. 320, n. 3, p. 6,2019. ISSN 00368733.

GEIST, E. M. It’s already too late to stop the AI arms race—we must manage it instead.Bulletin of the Atomic Scientists, Routledge, v. 72, n. 5, p. 318–321, 2016. Disponível em:<https://doi.org/10.1080/00963402.2016.1216672>.

GIANNETTI, W. Artificial intelligence: Myths and realities. Air & Space Power Journal,v. 32, n. 3, p. 92 – 95, 2018. ISSN 1555385X.

GUERSENZVAIG, A. Autonomous weapon systems: Failing the principle ofdiscrimination. IEEE Technology and Society Magazine, v. 37, n. 1, p. 55 – 61, 2018.ISSN 0278-0097.

HAMBLING, D. Us is seeking smart killer drones. NEW SCIENTIST, v. 237, n. 3171, p.8, 2018. ISSN 02624079.

HAMILTON, S. P.; KREUZER, M. P. The big data imperative: Air force intelligence forthe information age. Air & Space Power Journal, v. 32, n. 1, p. 4 – 20, 2018. ISSN1555385X. Disponível em: <https://www.airuniversity.af.edu/Portals/10/ASPJ_Spanish/Journals/Volume-30_Issue-2/2018_2_11_hamilton_s_eng.pdf>.

HARARI, Y. N. Who will win the race for AI? Foreign Policy, n. 231, p. 52 – 54, 2019.ISSN 00157228.

HASIK, J. Beyond the third offset: Matching plans for innovation to a theory of victory.JFQ: Joint Force Quarterly, n. 91, p. 14 – 21, 2018. ISSN 10700692.

HENNIG, J.; SCHWARTZ, P.; BAILEY, K. Mission command on semi-automatic.Army AL&T Magazine, p. 50 – 55, 2017. ISSN 15298507.

INSTRUCTIONS from the meeting of the supervisory board of the Agency for StrategicInitiatives. Kremlin Official Website. Disponível em:<http://kremlin.ru/acts/assignments/orders/59758>.

JON, G. China aims to be a world leader in artificial intelligence. Jane’s Defence Weekly,n. 39, 2017.

KELLER, J. Air force eyes airborne communications node with artificial intelligence.

19

Military & Aerospace Electronics, v. 29, n. 12, p. 30, 2018. ISSN 10469079a.

KELLER, J. Army wants artificial intelligence technology for cyber and electronicwarfare. Military & Aerospace Electronics, v. 29, n. 6, p. 6 – 7, 2018. ISSN 10469079b.

KELLER, J. DARPA eyes tiny insects as models for artificial intelligence (al) computing.Military & Aerospace Electronics, v. 30, n. 2, p. 28, 2019. ISSN10469079a.

KELLER, J. IARPA seeks to apply trusted computing to artificial intelligence andmachine learning models. Military & Aerospace Electronics, v. 30, n. 1, p. 8 – 9, 2019.ISSN 10469079b.

LEWIS, L. Insights for the Third Offset: Addressing Challenges of Autonomy andArtificial Intelligence in Military Operations. Center for Naval Analyses, Arlington,United States, 2017. Disponível em: <https://apps.dtic.mil/dtic/tr/fulltext/u2/1041043.pdf>.

MAAS, M. M. How viable is international arms control for military artificialintelligence? three lessons from nuclear weapons. Contemporary Security Policy,Routledge, v. 0, n. 0, p. 1–27, 2019. Disponível em:<https://doi.org/10.1080/13523260.2019.1576464>.

MAGNUSON, S. DoD making push to catch up on artificial intelligence. NationalDefense, p. 22 – 23, 2017. ISSN 00921491.

MELANIE, R. Us dod releases first artificial intelligence strategy. Jane’s DefenceWeekly, n. 11, 2019.

MEUSER, C. Franken weapons loom on the horizon. U.S. Naval Institute Proceedings, v.142, n. 7, p. 28 – 33, 2016. ISSN 0041798X.

MICHAEL, F. J.; SHANEMAN, S. The imperative for artificial intelligence.National Defense, v. 102, n. 777, p. 4, 2018. ISSN 00921491.

PAYNE, K. AI, warbot. New Scientist, v. 239, n. 3195, p. 40 – 43, 2018. ISSN02624079.

PENTAGON. Pentagon has secret artificial intelligence program to find hidden nuclearmissiles. Military & Aerospace Electronics, v. 29, n. 7, p. 6 – 8, 2018. ISSN10469079.

POURNELLE, P. E. Trusts autonomous machines. U.S. Naval Institute Proceedings, v.143, n. 6, p. 38 – 41, 2017. ISSN 0041798X.

PUTIN orders to develop national strategy on AI by summer. TASS Russian New Agency.Disponível em: <http://tass.com/economy/1046645>.

20

QUARANTA, P. Unmanned capabilities for 2020 and beyond. Military Technology, v. 41,n. 5, p. 47 – 52, 2017. ISSN 07223226.

RIGHETTI, L. et al. Lethal autonomous weapon systems [ethical, legal, and societalissues]. IEEE Robotics and Automation Magazine, v. 25, n. 1, p. 123–126, 2018.ISSN 10709932.

ROFF, H. To ban or regulate autonomous weapons: A US response. Bulletin of theAtomic Scientists, v. 72, n. 2, p. 122–124, 2016. ISSN 19383282.

RUSSELL, S.; DEWEY, D.; TEGMARK, M. Research priorities for robust andbeneficial artificial intelligence. AI Magazine, v. 36, n. 4, p. 105–114, 2015. ISSN07384602. Disponível em: <https://futureoflife.org/data/documents/research_ priorities.pdf?x33606>.

RUSSELL, S.; NORVIG, P. Artificial Intelligence: A Modern Approach. 3rd. ed. UpperSaddle River, NJ, USA: Prentice Hall Press, 2009. ISBN 0136042597, 9780136042594.

RUSSIA. Russia has ambitions for military robotics. Military & Aerospace Electronics,v. 28, n. 12, p. 25, 2017. ISSN 10469079.

SANTOS, P. To ban or regulate autonomous weapons: A brazilian response. Bulletin ofthe Atomic Scientists, v. 72, n. 2, p. 117–119, 2016. ISSN 19383282.

SAYLER, K. M. Artificial Intelligence and National Security. CongressionalResearch Service (CRS), Washington DC, USA, 2019. Disponível em:<https://crsreports.congress.gov/product/details?prodcode=R45178>a.

SAYLER, K. M. Artificial intelligence and national security. Congressional ResearchService, 2019b.

SWARTE, T. de; BOUFOUS, O.; ESCALLE, P. Artificial intelligence, ethics andhuman values: the cases of military drones and companion robots. Artificial Life andRobotics, 2019. ISSN 16147456. Disponível em:<https://doi.org/10.1007/s10015-019-00525-1>.

TADDEO, M.; FLORIDI, L. Regulate artificial intelligence to avert cyber arms race.NATURE, v. 556, n. 7701, p. 296 – 298, 2018. ISSN 00280836. Disponível em:<https://www.nature.com/articles/d41586-018-04602-6>.

TURCHIN, A.; DENKENBERGER, D. Classification of global catastrophic risksconnected with artificial intelligence. AI & SOCIETY, May 2018. ISSN 1435-5655.Disponível em: <https://doi.org/10.1007/s00146-018-0845-5>.

UNDERWOOD, S. Potential and peril. Communications of the ACM, ACM, New York,NY, USA, v. 60, n. 6, p. 17–19, maio 2017. ISSN 0001-0782. Disponível em:

<http://doi.acm.org/10.1145/3077231>.

USA. SUMMARY OF THE 2018 WHITE HOUSE SUMMIT ON ARTIFICIAL

21

INTELLIGENCE FOR AMERICAN INDUSTRY. The White House, Washington DC, USA,2018. Disponível em: <https://www.whitehouse.gov/wp-content/uploads/ 2018/05/Summary-Report-of-White-House-AI-Summit.pdf>.

USAF. Air force eyes drone swarms, cloud computing, and artificial intelligence (AI).Military & Aerospace Electronics, v. 29, n. 9, p. 8, 2018. ISSN 10469079.

VARDI, M. Y. On lethal autonomous weapons. Communications of the ACM, ACM, NewYork, NY, USA, v. 58, n. 12, p. 5–5, nov. 2015. ISSN 0001-0782. Disponível em:

<http://doi.acm.org/10.1145/2839512>.

WATSON, D. P.; SCHEIDT, D. H. John Hopkins APL Technical Digest. [S.l.: s.n.], 2005.v. 26. 368-376 p.

ZAAGMAN, E. China’s computing ambitions. Communications of the ACM, v. 61, n. 11,p. 40 – 41, 2018. ISSN 00010782.