Uma recente análise de documentos da Agência Nacional de Segurança lançadas
anteriormente pelo denunciante Edward Snowden mostra que a CIA e outras
agências dos EUA pode estar matando pessoas inocentes, como resultado
de sua dependência de metadados.
SKYNET da NSA é um programa que supervisiona metadados de telefones, a fim de rastrear suspeitos de terrorismo. Através
da SKYNET, a agência de segurança se engaja em vigilância em massa da
rede de telefonia móvel do Paquistão, afetando 55 milhões de pessoas -,
mas isso não é tudo. Uma vez que os dados são recolhidos, ele é executado através de uma aprendizagem de máquina algoritmo que tenta avaliar se um indivíduo em particular é mais ou menos provável de ser um terrorista.
De acordo com os Direitos Humanos Análise de Dados diretor-executivo Patrick Ball ', os métodos da NSA são "ridiculamente
otimistas" e "completamente besteira." Se a bola estiver correta, a
metodologia de SKYNET pode estar colocando milhares de vidas inocentes
em perigo, porque eles estão sendo falsamente identificados como
terroristas .
Enquanto
Bola tem levantado muitas questões, um dos pontos mais importantes, que
os funcionários da NSA parecem estar ignorando, é que a máquina só é
capaz de identificar um terrorista se ele tem acesso aos detalhes
relativos a um grande número de outros terroristas conhecidos. De acordo com aNew York Magazine ,
no entanto, "simplesmente não há que muitos terroristas conhecidos" que
poderiam ser adicionados à lista da máquina ", especialmente em
comparação com o número de telefones a NSA está monitorando no
Paquistão."
Os documentos disponibilizados pela The Intercept mostram a NSA trabalha com os dados de apenas sete terroristas conhecidos . Funcionários
da NSA supostamente alimentar seis das informações dos terroristas na
máquina, tasking SKYNET com o dever de encontrar o sétimo em um grupo
aleatório de 100.000 cidadãos.
Bola diz que este sistema não pode funcionar.
De acordo com a Ars Technica ,
havia cerca de 120 milhões de aparelhos celulares em uso no Paquistão
no final de 2012. Na época, a NSA analisados 55 milhões desses
registros. Com apenas "80
variáveis sobre 55 milhões de usuários de telefones móveis do
Paquistão, há obviamente demais dados para dar sentido manualmente," Ars
Technica explicou.
Como
qualquer outra aplicação de segmentação de dados grandes, SKYNET é
usado como um substituto para a "razão humana e julgamento," Ars Technica 's Christian Grothoff e JM Porupexplicar .
Aplicativos semelhantes, como o utilizado pelo Facebook, são propensos a fazer grandes erros , mas as consequências dos erros do Facebook são relativamente inócuos. Quando SKYNET comete erros semelhantes, identificando erroneamente um terrorista, as consequências são mortais.
Ars Technica afirma
que as informações colhidas e analisadas por NSA é "provável" utilizado
pela CIA ou militares dos EUA, duas agências que executam " Encontre-Fix-Finish " estratégias com a ajuda de drones Predator ou " on-the-ground morte esquadrões . "
Antes
de alimentar as informações para a CIA ou militares, SKYNET usa
informações sobre típicos rotinas diárias das pessoas para contar uma
história. De acordo com os documentos da NSA, a análise Ars Technica detalhes ,
o "Programa ... baseia-se no pressuposto de que o comportamento de
terroristas difere significativamente daquela dos cidadãos comuns",
quando se trata de mais de 80 propriedades diferentes que eles usam para
avaliar as pessoas.
Com organizações terroristas aumentando seus esforços para
passar despercebido, é difícil ver como SKYNET poderia ser eficaz,
especialmente depois de saber que o chefe do escritório da Al-Jazeera em
Islamabad, Ahmad Zaidan, já foi alvo mais bem cotados da Skynet .
Em 2014, o ex-diretor tanto da CIA e NSA, Michael Hayden, orgulhosamente afirmou que "matam as pessoas com base em metadados."
Para
Bola, a NSA tem um grande problema em suas mãos se eles "estão usando
os mesmos registros para treinar o modelo como eles estão usando para
testar o modelo."
Porque
há um número tão pequeno de terroristas conhecidos para trabalhar, o
número de possíveis terroristas não é suficientemente reduzida. Bola
explica a "prática usual é a realização de alguns dos dados fora do
processo de formação para que o teste inclui registros do modelo nunca
foi visto antes.Sem este passo, a sua avaliação ajuste classificação é
ridiculamente otimistas. "
Se a NSA é sério sobre ser precisos, Bola disse Ars Technica ,
a agência deve misturar os terroristas no conjunto da população "antes
da seleção aleatória de um subconjunto." Mas o baixo número de
terroristas conhecidos faz com que este passo em particular difícil de
seguir. Sem uma "análise estatística cientificamente sólida," não há precisão.
O presidente Barack Obama tem estado sob escrutínio pesadopara
autorizar campanhas de aviões não tripulados que resultam em erros
grosseiros, matando um grande número de pessoas inocentes ao alvejar ",
confirmou terroristas." Desde 2004, houve401 ataques aéreos dos EUA no Afeganistão, sozinho, matando 3.058 pessoas total. No Paquistão, centenas, incluindo crianças, morreram em busca de apenas duas dúzias declarou terroristas.
