O Pentágono está levando a sério as armas da IA

O engenheiro aeroespacial Mike Griffin diz que está levando a sério a ameaça de enxames de drones – incluindo aqueles que poderiam ser movidos pela inteligência artificial. Assim é o seu empregador, o Departamento de Defesa dos EUA, assim como os altos funcionários da Força Aérea dos EUA.

A ameaça não é mais teórica. Durante uma conferência em Washington, DC em 9 de abril sobre o futuro da guerra patrocinada pelo think tank New America, Griffin, ex-diretor do programa espacial, que em fevereiro se tornou subsecretário de defesa para pesquisa e engenharia, observou que um pequeno enxame de drones em janeiro atacou uma base aérea russa na Síria.

“Certamente, sistemas de armas dirigidos por humanos podem lidar com um ou dois ou alguns drones se eles os virem, mas eles podem lidar com 103?” Griffin perguntou. “Se eles podem lidar com 103, o que eu duvido, eles podem lidar com 1.000?”

Os comentários de Griffin vieram durante uma conversa sobre como lidar com drones e outras armas sendo equipadas com inteligência artificial, na qual ele defendia esforços mais sérios em armas ofensivas e defensivas. “Em uma sociedade avançada”, ele disse, “a AI e o ciberespaço e alguns desses outros reinos mais recentes oferecem possibilidades para que nossos adversários [atinjam os outros com sucesso], e precisamos fazer com que não nos surpreendamos”.

Ele pediu um trabalho mais sério do Pentágono, dizendo: “Pode haver uma corrida armamentista de inteligência artificial, mas ainda não estamos nela.” Os adversários da América, ele disse, “entendem muito bem a possível utilidade do aprendizado de máquina. Eu acho que é hora de fazermos isso também.

Seu endosso explicava, em parte, uma proposta expansiva da própria força de drones do Departamento de Defesa. Um relatório de 9 de abril do Centro para o Estudo do Drone no Bard College informou que o orçamento proposto pelo Departamento de Defesa para sistemas e tecnologias sem uso inclui um aumento de 25% sobre o financiamento de 2018, o que permitiria alcançar US $ 9,39 bilhões. Essa proposta inclui o financiamento de 3.447 novos drones aéreos, terrestres e marítimos. Em 2018, o orçamento exigia apenas 807 novos drones, segundo o relatório.

O lado ofensivo da tecnologia do drone está mais longe do que o lado defensivo – particularmente quando enxames estão em questão. “Não há esquema ideal e comprovado” para defender-se de tais enxames, disse Griffin. Assim, o Pentágono pode, como resultado, ter que construir apenas “um esquema muito bom”. Caso contrário, o inimigo terá uma chance incontestável de sucesso.

Alguns especialistas em tecnologia estão preocupados com o impulso acelerado em direção a sistemas de armas que usam AI para tomar decisões importantes sobre ataques. Em Genebra, nesta semana, representantes de 120 países membros das Nações Unidas começaram a discutir uma potencial proibição de armas com infusão artificial de IA em um fórum organizado por um grupo das Nações Unidas, conhecido como Grupo de Especialistas Governamentais (GGE) da Convenção sobre Armas Convencionais (CCW). sobre sistemas letais de armas autônomas (LAWS).

Os EUA devem “comprometer-se a negociar sem demora um tratado de proibição juridicamente vinculativo para traçar os limites da futura autonomia dos sistemas de armas”, disse Mary Wareham, diretora de defesa da Divisão de Armas da Human Rights Watch, à CCW. Tal tratado deveria “impedir o desenvolvimento, produção e uso de armas totalmente autônomas”.

Separadamente, na semana passada, milhares de funcionários do Google escreveram uma carta protestando contra o envolvimento do gigante de tecnologia no programa de inteligência artificial do Pentágono, conhecido como Projeto Maven. E rsquo; uma missão administrada pelo Gabinete do Secretário de Defesa para processar vídeo de drones táticos “em apoio à campanha Defeat-ISIS”, de acordo com um memorando de abril de 2017 do subsecretário de Defesa Robert O. Work, que criou o projeto .

Documentos orçamentários descrevem o Project Maven como um programa que desenvolve AI, aprendizado de máquina e algoritmos de visão computacional para “detectar, classificar e rastrear objetos” visto em vídeo em movimento capturado por drones e outras ferramentas de “Inteligência, Vigilância e Reconhecimento”. É essencialmente um método de escolher terroristas que poderiam ser alvo de ataques de mísseis drones.

Enquanto o programa é atualmente destinado a ajudar a analisar os fluxos de vídeo baixados, o Pentágono eventualmente adapta os próprios sensores ao equipamento analítico – potencialmente dando às máquinas a capacidade de tomar decisões em tempo real. O Pentágono também quer “apoiar a rápida expansão da IA ​​para outras áreas de missão”, afirmam os documentos do orçamento .

O esforço global de “guerra algorítmica” do Pentágono deverá obter dezenas de milhões de dólares de novos fundos no orçamento militar de Trump para o ano fiscal de 2018. O Pentágono solicitou mais de US $ 93 milhões especificamente para o Projeto Maven no ano fiscal de 2019. Isso é de US $ 70 milhões em 2017, de acordo com uma porta-voz do Pentágono.

Essas são algumas das razões pelas quais os funcionários do Google expressaram preocupação. “Acreditamos que o Google não deveria estar no negócio da guerra”, dizia a carta , endereçada ao executivo-chefe do Google, Sundar Pichai, solicitando que a empresa terminasse seu trabalho no projeto. “Construir esta tecnologia para ajudar o governo dos EUA na vigilância militar – e resultados potencialmente letais – não é aceitável”.

Quando questionados sobre a controvérsia do Google na conferência da New America, o general Stephen W. Wilson, vice-chefe de pessoal da Força Aérea, minimizou as preocupações dos funcionários do Google e disse que o único problema do programa é que não foi explicado com bastante atenção. “Para esclarecer as coisas, o que estamos fazendo com o Project Maven é que estamos tentando levar em consideração, na rotina, o processamento de imagens”, disse ele.

“Você pode ter um analista de inteligência e, após algum período de treinamento, ele pode acertar 75% das vezes”, explicou Wilson. “Computadores médios podem fazer 1.000 fotos por minuto com 99% de precisão. Então, como eu posso alavancar essa equipe de máquina humana e deixar os computadores fazerem o que os computadores são bons, e deixar os humanos fazerem o que os humanos são bons, e então descobrir os insights e o porquê e a análise, em vez de tarefas competitivas?

“É aqui que a inteligência artificial está se dirigindo”, acrescentou ele.

Wilson também sugeriu que ele é um entusiasta da IA. “Eu acho que vai levar todos nós trabalhando juntos em toda a academia, em toda a indústria, em todos os departamentos, em todos os laboratórios nacionais … e reunindo-os nesta competição com a IA, porque isso é, de fato, o que a China está fazendo.”

Tate Nurkin, analista de defesa e segurança da IHS Aerospace, uma firma de pesquisa financeira sediada em Londres, também chamou a atenção para a conferência sobre o massivo programa estatal de pesquisa de IA da China. Ele disse que os avanços da China na IA poderiam “mudar fundamentalmente a competição com os EUA” e mencionou um enxame de 1.180 drones que a companhia chinesa EHang mostrou em dezembro no Global Fortune Forum em Guangzhou. O país disse que quer se tornar o líder mundial em IA até 2030.

O Center for Public Integrity é uma organização de notícias investigativas sem fins lucrativos em Washington, DC.

Click here for more information