Este padrão ‘adversarial’ pode impedir câmeras de vigilância de detectar você

Bill Swearingen passou o último ano rodando praticamente o mesmo teste, repetidamente. O objetivo era produzir um padrão gerado por computador capaz de bloquear a detecção pelas câmeras de vigilância que tomam conta das ruas americanas. Cerca de 31 milhões de testes depois, Swearingen afirma que agora consegue gerar padrões sob demanda que, quando aplicados a roupas e objetos, impedem que alguns dos leitores de placa e câmeras de vigilância mais comuns detectem o que o padrão cobre — de pessoas a veículos.

Seu projeto, chamado noRecognition, permite que as pessoas escapem da detecção automática e da vigilância algorítmica usadas nos EUA e em outros lugares. Nos últimos anos, as câmeras de vigilância foram turbinadas com a capacidade de detectar o que está acontecendo nas imagens gravadas, desde rastrear placas de veículos em alta velocidade até usar reconhecimento facial para identificar suspeitos. Os algoritmos de detecção que alimentam a maioria das câmeras de vigilância atuais conseguem vasculhar grandes quantidades de imagens, permitindo que a polícia identifique atividades de interesse.

Os padrões gerados por computador de Swearingen não bloqueiam a gravação das câmeras. Em vez disso, eles embaralham a capacidade da câmera de identificar objetos, pessoas ou rostos, para que nenhum alerta de detecção seja disparado. Ao bloquear a capacidade da câmera de detectar o que o padrão cobre, a pessoa volta a ser uma agulha no palheiro — até que alguém saiba onde procurar.

“Privacidade é um direito fundamental”, disse Swearingen ao TechCrunch em uma ligação esta semana. Ele descreveu seus padrões como uma forma de permitir que as pessoas “optem por não ser rastreadas”.

Em seu primeiro teste público, na sexta-feira, na conferência de segurança cibernética Def Con, em Las Vegas, Swearingen demonstrou com sucesso o padrão impresso em um veículo, provando que esses padrões podem ser eficazes para derrotar a detecção por vigilância no mundo real.

Ensinando um modelo a pintar

Em uma ligação de sua casa em Kansas City, onde co-fundou o encontro de segurança cibernética SecKC, Swearingen disse ao TechCrunch que, como profissional de cibersegurança, está profundamente ciente dos riscos de privacidade e segurança da vigilância. Ele descreveu como sua cidade está repleta de câmeras de vigilância, às vezes localizadas a poucos metros umas das outras. Ele disse que ele e outros nunca optaram por ser vigiados, assim como nunca optaram por ter sua carteira de motorista usada para reconhecimento facial pelo governo.

Swearingen se descreveu como um homem branco de meia-idade que vive no centro dos Estados Unidos e reconheceu que, por causa disso, não enfrentou dificuldades ou discriminação por ser quem é ou pela aparência. No ano passado, quis participar de um protesto, mas se sentiu desconfortável e preocupado com o fato de o grande número de câmeras poder rastrear pessoas que exerciam seus direitos constitucionais de livre expressão. Se ele se sentia assim, sem dúvida outros também se sentiriam, incluindo aqueles que queriam exercer seus direitos, mas não se sentiam seguros ou confortáveis para fazê-lo. Swearingen colocou a mão na massa.

Desde que existem câmeras capazes de detectar coisas, existem esforços para neutralizar a tecnologia. Vários projetos de arte e marcas de roupas lançaram peças que visam ajudar as pessoas a enganar o reconhecimento facial. Alguns fabricantes de óculos estão aderindo à tendência, ainda que sem muita eficácia. Swearingen disse que sua pesquisa se baseia em alguns desses trabalhos anteriores, que mostraram que era possível bloquear detecções por câmeras.

No ano passado, ele começou com um laboratório de prova de conceito que passou a derrotar, incrementalmente, um algoritmo de detecção de câmera de vídeo de código aberto após o outro. Ao longo do ano, refinou os padrões ampliando seus testes com mais poder de processamento computacional. Agradeceu à comunidade que apareceu com hardware para ajudar a impulsionar o projeto.

Sua prova de conceito evoluiu com o tempo para um modelo de aprendizado por reforço, essencialmente um sistema autônomo que poderia treinar a si mesmo sobre quais padrões funcionam e quais não funcionam contra algoritmos específicos de câmera. Em termos simples, Swearingen disse ao TechCrunch que essencialmente ensinou seu modelo “como pintar”.

Cada vez que um padrão falhava e um algoritmo o detectava, o modelo tentava novamente, repetidamente, até que eventualmente derrotava vários algoritmos ao mesmo tempo. Logo seu modelo começou a encontrar receitas perfeitas de padrões capazes de derrotar todos os 11 algoritmos de detecção de código aberto que testou, incluindo o software que alimenta leitores de placa Flock, câmeras corporais Axon e câmeras que rodam Clearview AI. Agora o modelo cria novos padrões a cada minuto, e cada lote é matematicamente melhor que o anterior, disse ele.

Teste público em Las Vegas

Na sexta-feira, na conferência de segurança cibernética Def Con, em Las Vegas, Swearingen realizou seu primeiro teste no mundo real. Com a ajuda da Donut Media, o teste envolveu cobrir um Toyota Yaris 2009 com um dos padrões mais novos de Swearingen para ver se o carro ficaria invisível para a detecção por uma câmera Flock.

“Provamos que foi eficaz”, disse Swearingen, embora as rodas tenham sido um desafio. O vídeo da demonstração será lançado nas próximas semanas, disse a Donut Media.

Com a demonstração pública em Las Vegas, o projeto é uma prova inicial de que é possível evitar a detecção algorítmica em espaços públicos. O próximo passo é colocar os padrões nas mãos das pessoas que os desejam, disse ele.

Próximos passos

O projeto noRecognition também tem uma campanha de crowdfunding para ajudar a financiar a venda dos primeiros produtos com os padrões, de camisetas a moletons, com potencial para capas impressas para veículos no futuro. Swearingen disse que o objetivo é que os padrões tenham alta qualidade e resolução boa o suficiente para funcionar à distância, além de ter uma aparência fashion.

Ele disse que está mantendo seus padrões mais fortes fora da internet para evitar que os fabricantes de câmeras os derrotem, mas o trabalho ainda não terminou. Seus modelos continuam gerando novos padrões. “Cada falha melhora meu modelo, e por isso os padrões continuam ficando cada vez melhores”, disse.

Fonte: baseado na matéria de Zack Whittaker, publicada pela TechCrunch. Acesse o artigo original.