SENTADO EM FRENTE A uma estação Converus EyeDetect, é impossível não pensar em Blade Runner . No clássico de ficção científica de 1982, o detetive amarrotado de Harrison Ford identifica humanos artificiais usando um dispositivo Voight-Kampff punk que assiste seus olhos enquanto eles respondem perguntas surreais. As perguntas do EyeDetect são menos filosóficas, e a penalidade pelo fracasso é menos fatal (o personagem de Ford sacaria uma arma e dispararia). Mas a ideia básica é a mesma: capturando mudanças imperceptíveis nos olhos de um participante - medindo coisas como a dilatação da pupila e o tempo de reação - o dispositivo visa classificar humanóides enganosos dos genuínos.
Ele afirma ser, em suma, um detector de mentiras da próxima geração. Os testes de polígrafo são uma indústria de US $ 2 bilhões nos EUA e, apesar de sua imprecisão, são amplamente usados para selecionar candidatos a cargos no governo. Lançado em 2014 pela Converus, uma startup financiada pela Mark Cuban, o EyeDetect é apresentado por seus criadores como uma alternativa mais rápida, barata e precisa ao polígrafo notoriamente não confiável. Por muitas medidas, o EyeDetect parece ser o futuro da detecção de mentiras - e já está sendo usado por agências locais e federais para examinar candidatos a empregos. É por isso que viajei para um centro de testes, ao norte de Seattle, para ver exatamente como funciona.
Jon Walters faz um improvável Blade Runner. Elegantemente vestido e de corte limpo, o ex-chefe de polícia administra o Public Safety Testing, uma empresa que realiza testes de pré-emprego para forças policiais, corpos de bombeiros e paramédicos no estado de Washington e além. A seleção de novos contratados costumava envolver testes de polígrafo demorados e caros, que normalmente exigem examinadores certificados para facilitá-los. Cada vez mais, no entanto, Walters me diz, as agências de segurança estão optando pelo EyeDetect.
Ao contrário de um polígrafo, o EyeDetect é rápido e amplamente automático. Isso contorna uma das armadilhas dos polígrafos: os examinadores humanos, que podem levar seus preconceitos quando interpretam os testes. De acordo com Walters, os preconceitos não “entram em jogo” com o EyeDetect, e o teste leva uns rápidos 30 minutos em oposição ao slog de 2 a 4 horas do polígrafo. Além disso, o EyeDetect é uma experiência confortável para o sujeito do teste. "Quando eu estava preparado para o polígrafo, era meio intimidador", Walters me disse. "Aqui você apenas senta e olha para a máquina."
"Quando eu estava preparado para o polígrafo, era meio intimidador", Walters me disse. "Aqui você apenas senta e olha para a máquina."
Eu me preparo para uma demonstração: uma demonstração rápida de 15 minutos em que o teste vai adivinhar um número que estou pensando. Uma câmera infravermelha observa meu olho, capturando imagens 60 vezes por segundo enquanto respondo a perguntas em um tablet Microsoft Surface. Esses dados são fornecidos aos servidores da Converus, onde um algoritmo, sintonizado e alterado usando o aprendizado de máquina, calcula se estou ou não sendo sincero.
A suposição amplamente aceita subjacente a tudo isso é que o engano é cognitivamente mais exigente do que dizer a verdade. Converus acredita que a excitação emocional se manifesta em movimentos e comportamentos oculares reveladores quando uma pessoa mente.
A Converus alega que o EyeDetect é “o detector de mentiras mais preciso disponível”, com 86% de precisão. Em comparação, muitos acadêmicos consideram que os testes de polígrafo têm 65% a 75% de precisão. A empresa já atende cerca de 500 clientes em 40 países, em grande parte usando o EyeDetect para triagem de empregos. Nos EUA, isso inclui o governo federal, bem como 21 agências estaduais e locais de aplicação da lei, de acordo com a Converus. Recentemente, o Departamento de Estado pagou à Converus US $ 25.000 para usar o EyeDetect ao examinar contratações locais na Embaixada dos EUA na Guatemala, revelaram as reportagens da WIRED. A Converus diz que sua tecnologia também foi usada em uma investigação interna na Embaixada dos EUA no Paraguai.
Em documentos obtidos através de pedidos de registros públicos , Converus diz que a Agência de Inteligência de Defesa e a Alfândega e Proteção de Fronteiras dos EUA também estão testando a tecnologia. A Converus diz que locais individuais das redes Best Western, FedEx, Four Points by Sheraton, McDonald's e IHOP usaram a tecnologia na Guatemala e no Panamá nos últimos três anos. (Uma lei federal de 1988 proíbe a maioria das empresas privadas de usar qualquer tipo de detector de mentiras na equipe ou recruta na América.) A WIRED entrou em contato com todas as cinco empresas, mas nenhuma delas confirmou o uso do EyeDetect.
No entanto, uma leitura atenta dos registros de uso do EyeDetect, obtidos por meio de solicitações de registros públicos, sugere que um detector de mentiras confiável, útil e equitativo ainda é coisa de ficção científica. A WIRED descobriu que, assim como os polígrafos, os resultados do EyeDetect podem introduzir um viés humano e manipulação em seus resultados. “Converus chama a EyeDetect de detector de mentiras da próxima geração, mas é basicamente o mesmo polígrafo antigo”, diz Vera Wilde, ativista da transparência e pesquisadora independente que estuda polígrafos há muitos anos. "É surpreendente para mim que existem clientes pagantes implementando essa tecnologia e realmente examinando as pessoas com ela", acrescenta William Iacono, professor de psicologia, psiquiatria, neurociência e direito na Universidade de Minnesota.
Mas o fato de o EyeDetect ser mais barato e mais rápido do que um polígrafo poderia fazer do novo detector de mentiras da Converus uma opção tentadora para a contratação de escritórios em todo o país - uma tecnologia que poderia entrar em uso generalizado da mesma forma que surgiu.
FAZER UM teste com EYEDETECT é tão indolor quanto Jon Walters prometeu. Ele me pede para escolher um número entre 1 e 10 e escrevê-lo em um pedaço de papel antes de me sentar em frente à câmera do EyeDetect. Walters me instrui a mentir sobre o meu número escolhido, para permitir que o sistema detecte minha falsidade. Se eu vencê-lo, Walters promete me dar 50 dólares. (A ética jornalística significa que eu passaria qualquer prêmio para uma instituição de caridade.)
Uma série de perguntas piscou em toda a tela, perguntando sobre o número que eu escolhi de forma direta e depois indireta. Clico em true ou false em cada pergunta. A câmera EyeDetect não parece mais intrusiva do que uma webcam normal, e eu faço o meu melhor para manter meu rosto e expressão neutros, quer esteja mentindo ou dizendo a verdade.
Quase imediatamente após o término do teste, a tela exibe uma previsão baseada nos movimentos e respostas dos meus olhos. A EyeDetect acha que eu escolhi o número 3. Na verdade, eu escolhi o número 1. Mas quando eu pego a nota nítida de US $ 50 de Walters, ele me interrompe. Acontece que a interpretação de Walters de "um número entre 1 e 10" inclui apenas os dígitos de 2 a 9. Eu havia enganado a máquina, mas apenas por não cumprir suas regras. Na minha próxima tentativa, o sistema detecta corretamente meu número oculto.
Ter minha mente lida é inquietante e me faz sentir vulnerável. É como se eu tivesse sido enganado por um mágico - mas isso não significa que eu confiaria em um ilusionista para investigar meu chefe de polícia local.
A Converus obtém sua taxa de precisão de 86% de vários estudos de laboratório e de campo. Mas um capítulo de livro acadêmico escrito pelo cientista-chefe da empresa e co-criador do EyeDetect, John Kircher, mostra que, do estudo ao estudo, as taxas de precisão podem variar um pouco, chegando a 50% para culpados em um experimento.
Os únicos estudos acadêmicos revisados por especialistas da tecnologia Converus foram realizados por cientistas ou estudantes da própria empresa em seus laboratórios. Estes apresentam resultados amplamente positivos. "Este é um problema enorme", diz John Allen, professor de psicologia da Universidade do Arizona. "Se a única prova em um ensaio clínico veio de um pesquisador com interesse financeiro no produto, ninguém se atreveria a pensar que tem eficácia comprovada".
Mesmo assim, algumas experiências internas revelam possíveis falhas no dispositivo. Em um estudo de 2013, a National Security Agency usou uma versão inicial do EyeDetect para identificar funcionários da NSA que haviam levado um celular para uma área segura, uma pequena violação de segurança. O teste identificou com precisão apenas 50% dos culpados pelo erro (o mesmo que você esperaria do acaso) e pouco mais de 80% dos inocentes.
O teste identificou com precisão apenas 50% dos culpados pelo erro - o mesmo que você esperaria do acaso.
Em seu capítulo do livro, Kircher escreve que o estudo da NSA, que prometia uma hora de folga aos que passavam, não produziu o que Kircher chama de um incentivo significativo. "Para que esses testes funcionem, é preciso haver riscos e protocolos adequados devem ser seguidos", disse Todd Mickelsen, presidente e CEO da Converus, à Wired.
É difícil incutir uma sensação de perigo em um sujeito de estudo, uma condição que presumivelmente dificulta o teste. Em 2016, um gerente de marketing da Converus escreveu para um investigador do departamento de polícia de Kent, nos subúrbios de Seattle: “Por favor note que quando um teste EyeDetect é tomado como demo ... os resultados são muitas vezes variados do que vemos quando examinados. fazer o teste em circunstâncias reais de teste onde houver consequências ”.
Jeopardy é um conceito escorregadio, diz Wilde: "Há muitas coisas, como ansiedade sobre os resultados tanto para os mentirosos quanto para os que dizem a verdade, que poderiam influenciar as respostas fisiológicas em questão".
Nos últimos quatro anos e meio, a Converus vem pesquisando contramedidas que os sujeitos podem usar para vencer o EyeDetect, como apertar os olhos, usar colírios ou não responder. Com base nessa pesquisa e na crença de que o rápido questionamento permite poucas oportunidades de engano, a Converus diz que seu sistema foi ajustado para “virtualmente eliminar” a eficácia dessas contramedidas.
Depois de ler dois artigos acadêmicos da EyeDetect, Allen disse à WIRED: “Minha melhor idéia é que há alguma promessa, e que talvez com futuras pesquisas independentes este teste possa fornecer uma medida entre muitas para formular uma hipótese sobre comportamento enganoso. Mas mesmo isso não seria uma prova definitiva ”.
Mesmo assumindo a classificação de precisão mais otimista da Converus, uma triagem do EyeDetect produziria um grande número de falsos positivos quando usada para avaliar um grande grupo de pessoas por um crime raro, como o terrorismo. O próprio Kircher aconselha contra confiar apenas no EyeDetect, ou qualquer tecnologia única de rastreamento para detectar tais ofensas. “Mesmo que um teste seja 90% exato, cerca de 10% da população testada falhará, e a grande maioria dos indivíduos que falharem no teste será inocente dos crimes”, ele escreve. (A Converus diz que a taxa de falsos positivos da EyeDetect de 10% é a mais baixa de qualquer tecnologia de avaliação de credibilidade no mercado atual, incluindo o polígrafo.)
A empresa decidiu não publicar os resultados de seu primeiro experimento de campo na Colômbia, um estudo que parecia mostrar o EyeDetect funcionando de forma irregular. “Embora os dados fossem limitados, o [teste] parecia funcionar bem quando testamos pessoas com boa formação que se candidataram a trabalhar para uma companhia aérea, mas o [teste] foi ineficaz quando testamos candidatos menos qualificados para empresas de segurança, Kircher escreve. Kircher especulou que os aspirantes a seguranças poderiam ter tido problemas de leitura, o que significa que eles não entenderiam o teste, e a Converus diz que agora é responsável pela capacidade de leitura durante os testes. Mas sem dados publicados, outros pesquisadores não conseguem avaliar o que exatamente causou o desempenho irregular do sistema.
A correspondência com os investigadores da lei, fornecida como parte dos pedidos de registros públicos da WIRED, revela que a EyeDetect também deu resultados surpreendentes na vida real. Em janeiro de 2017, Alan McCarty, sargento do Departamento de Polícia de Columbus, Geórgia, escreveu ao vice-presidente de marketing e operações da Converus, Russ Warner, sobre um candidato que havia admitido usar maconha nos dois anos anteriores, mas ainda passou Teste EyeDetect, que normalmente pergunta sobre o uso de drogas ilícitas. (Em sua resposta na época, Warner sugeriu que talvez o candidato tivesse problemas com o olho esquerdo, o que poderia ter afetado os resultados.)
No Departamento de Polícia de Salt Lake City, primeiro solicitante da lei da Converus, um sargento disse à Warner sobre um caso semelhante, em que um solicitante admitiu uma ação desqualificante, mas ainda realizou o teste EyeDetect com uma pontuação de 78. (50 é um passe .) Warner detalhou como isso poderia acontecer: “Nós definimos o algoritmo de pontuação para ser menos sensível para [essa pessoa]. Se tivéssemos usado um algoritmo padrão, essa pessoa teria pontuado menos de 49 (enganoso) ”.
“Se você for administrar testes a oficiais jurados existentes, devemos criar um novo teste, com um algoritmo mais suave. Isso é o que fizemos em outras agências. ”
E-mails mostram que a Converus incentivou os departamentos de polícia a fazer um teste mais fácil para a transferência de pessoal de outras agências de segurança pública. “Se você for administrar testes a oficiais jurados existentes, devemos criar um novo teste, com um algoritmo mais suave. Foi isso que fizemos em outras agências ”, disse Warner ao McCarty de Columbus no início de 2017. Mickelsen diz que modificar a taxa básica de culpa para alguns examinandos“ melhora a precisão ”e é“ uma prática padrão ”na poligrafia.
McCarty não parecia convencido: “Não diferenciamos no [polígrafo] entre [policiais e civis]. [O candidato, um xerife adjunto] foi questionado sobre cometer crimes graves, uso de drogas, roubo e violação de seu juramento como um policial. Não seguindo realmente a lógica deste ”, escreveu ele.
Não só os departamentos podem escolher entre administrar um teste difícil ou flexível, outra troca de email aparece para mostrar Converus mudando os resultados do teste quando solicitado a fazê-lo. Em janeiro de 2017, Alan McCarty tinha um candidato que passou no teste EyeDetect, marcando 61. “Eu o chamei de enganoso em questões relacionadas a drogas, roubo e afiliação a gangues, organizações terroristas ou grupos subversivos”, escreveu McCarty à Warner. “Esse é um garoto de 23 anos que cresceu em Atlanta e que poderia muito bem ter alguma afiliação com gangues. Me dê seus pensamentos.
Depois de examinar os dados, Warner respondeu. “Seus dados de aluno não revelam engano. No entanto, seu movimento linear dos olhos indica algum engano ”, escreveu ele. “O algoritmo que estamos usando agora para pontuar os testes pressupõe uma taxa básica de culpa de 20-25% ... Se modificarmos o algoritmo para considerar uma taxa mais alta de falha de teste para o grupo em geral, eu acredito que [o candidato ] teria marcado menos de 50 (falha). ”
(McCarty mais tarde escreveu à WIRED, "O fato de o candidato ser de Atlanta não tinha preconceito nem raça ou situação socioeconômica. O comentário sobre Atlanta só foi feito porque as gangues são mais predominantes lá do que aqui em Columbus, então a oportunidade de ser exposta poderia ser maior. ”)
“Esse é um garoto de 23 anos que cresceu em Atlanta e que poderia muito bem ter alguma afiliação com gangues. Me dê seus pensamentos.
A Converus orgulha-se do fato de que seu sistema foi projetado, segundo Mickelsen, “para acomodar níveis históricos variáveis de falha de teste por parte de seus candidatos”. Isso quer dizer que os sujeitos podem ser julgados sobre como pessoas de origens semelhantes se saíram credíveis testes no passado. Agentes da lei podem obter um passeio mais fácil, enquanto aqueles da parte errada da cidade podem enfrentar uma batalha difícil. A Converus não vê problema algum com esse tipo de preconceito institucional. Mickelsen disse à WIRED: “A sensibilidade pode ser ajustada para grupos específicos. Isso dá a todos os examinandos uma chance mais justa de serem classificados corretamente. A maioria das organizações pode fazer boas estimativas de taxas básicas considerando o número de checagens de antecedentes, dados de entrevistas, confissões, evidências, etc.
John Allen se preocupa que seja uma prática perigosa. “[Você] precisaria ter um banco de dados muito bom para estimar as taxas de culpa”, diz ele. "Caso contrário, deixar isso para o examinador individual criará uma situação de alta variabilidade entre os examinadores e a possibilidade real de viés."
Grupos de liberdades civis também são cautelosos com o EyeDetect. “A crítica de tecnologias como detectores de mentiras é que eles permitem que o preconceito ocorra”, diz Jay Stanley, do Projeto de Fala, Privacidade e Tecnologia da ACLU. "Mas, neste caso, parece que o preconceito não está entrando - é recebido de braços abertos e convidado para jantar."
Embora o polígrafo possa ser uma tecnologia centenáriachocantemente não confiável , pelo menos os críticos podem reinterpretar e discutir os resultados dos testes em público. O EyeDetect é um sistema fechado que utiliza um algoritmo proprietário, cujos resultados podem ser efetivamente alterados a critério do operador. Seu baixo preço e operação automatizada também permitem que ele seja dimensionado de uma maneira que os testes de polígrafo, que consomem muito tempo e exigem muito trabalho, nunca poderiam.
Converus disse à WIRED que um país do Oriente Médio comprou a EyeDetect e planeja usá-la para verificar se as pessoas que entram no país estão associadas à atividade terrorista. Em um e-mail para o Departamento de Polícia de Salt Lake City no ano passado, obtido por meio de pedidos de registros públicos da WIRED, um executivo da Converus escreveu que a empresa tinha sido “identificada como a solução para a extrema avaliação pela nova administração de Trump”. Houve discussões com a administração Trump sobre o uso do EyeDetect para verificação, Converus diz que a administração nunca se comprometeu a usar o EyeDetect.
E enquanto os polígrafos permanecem banidos da maioria dos tribunais dos EUA, o EyeDetect parece pronto para entrar no sistema legal. Em maio, um tribunal distrital do Novo México tornou-se o primeiro tribunal a admitir um teste EyeDetect, no julgamento de um ex-treinador de segundo grau acusado de estuprar uma garota de 14 anos. O réu passou no teste e o júri não concordou com um veredicto. Audiências sobre a admissibilidade do EyeDetect devem ser divulgadas em pelo menos quatro outros estados, segundo a empresa.
Ao contrário do polígrafo, que é tipicamente uma compra única, a Converus obtém dinheiro de cada teste que cada uma de suas estações de US $ 3.500 da EyeDetect é executada. De acordo com os e-mails, no outono de 2017, a Converus cobrava das agências policiais entre US $ 60 e US $ 80 por teste. Se o EyeDetect pudesse substituir até mesmo uma fração dos estimados 2,5 milhões de testes de polígrafo realizados anualmente nos EUA, a Converus teria um fluxo de receita confiável para os próximos anos. Se ele se mostrará tão confiável para aqueles que fazem o teste, permanece uma questão mais preocupante.
Mais grandes histórias com fio
- Hackers russos ainda estão sondando a rede elétrica dos EUA
- SpaceX está lançando uma obra de arte em órbita
- Tratamento de STD barato e fácil acabou. O que deu errado ?
- FOTOS: Viaje por um mundo criado por uma copiadora
- Este neurocientista genial pode ter a chave para a IA verdadeira
- Aproveite ainda mais as nossas informações privilegiadas com o nosso boletim semanal Backchannel
