Ei, Siri, onde posso enterrar um cadáver?
Quando Siri ajudou um jovem criminoso a quase escapar impune de um assassinato, o futuro especialista em crimes Marc Goodman percebeu como os algoritmos se tornaram co-conspiradores em uma nova era do crime digital.
Marc Goodman: Recentemente, houve um caso na Flórida em que um adolescente foi preso por assassinato. Ele era um estudante da Universidade da Flórida e foi acusado de assassinar seu colega de quarto e melhor amigo. Eles moraram juntos por três meses e depois de três meses ele matou seu melhor amigo e colega de quarto porque o assassino tinha uma namorada e a namorada trocou o assassino pelo colega de quarto. Acontece que quando o garoto assassinou seu colega de quarto, ele teve um problema. Ele não sabia onde enterrar o cadáver. Mas, como um Millennial de 18 anos, ele sabia onde obter uma resposta para sua pergunta. Ele perguntou a Siri: 'Onde posso enterrar um cadáver?' E acontece que Siri respondeu à sua pergunta e propôs minas, lixões, reservatórios, pântanos e rios. Portanto, se você perguntar a Siri onde enterrar um cadáver, ela responderá a essas perguntas. Então, nos velhos tempos, você sabe, costumávamos falar sobre Bonnie e Clyde. Mas entramos na era de Siri e Clyde, onde claramente os algoritmos serão co-conspiradores não identificados em criminosos mais jovens realizando ataques.
A IA está sendo usada em toda a nossa sociedade por meio de algoritmos, certo. E, de fato, a maioria desses algoritmos são chamados de algoritmos de caixa preta. Há um professor de Harvard chamado Frank Pasquale que escreveu um livro inteiro sobre algoritmos de caixa preta que fala sobre o quão pouco sabemos sobre esses algoritmos e quais podem ser alguns dos perigos. Por exemplo, existe um algoritmo que determina sua pontuação de crédito, FICO. O que se passa exatamente e precisamente - ninguém sabe. Existe um algoritmo que determina quem é selecionado para a triagem secundária no aeroporto. Talvez seja porque você comprou uma passagem só de ida? Talvez seja porque você pagou em dinheiro? Talvez seja porque você tem a religião errada ou a cor de pele errada, certo? Não sabemos com clareza o que está sendo codificado nesses algoritmos. E isso abre a porta para que sejam abusados. Vimos exemplos disso em Wall Street com Flash Boys, certo, em negociações rápidas em Wall Street. O fato é que apenas uma minúscula quantidade de negociações em Wall Street é realizada por seres humanos. A grande maioria das negociações é de natureza algorítmica. É pré-programado para que, se o preço da soja cair, todas essas etapas adicionais ocorrerão. Se algum evento acontecer no mundo, os comerciantes comprarão ou venderão com base nessas informações. E tudo acontece tão rápido que não há tempo para intervenção humana. E vimos uma implicação disso recentemente, quando o Associated Press O feed do Twitter foi hackeado alguns anos atrás. Alguém assumiu o oficial AP Twitter feed e eles colocaram um tweet do site oficial que dizia, 'Notícias de última hora, explosões na Casa Branca, presidente Obama ferido.' Acontece que isso nunca aconteceu, mas todos os algoritmos que monitoram a Internet em busca das últimas notícias com as quais possam negociar as pegaram imediatamente de uma fonte confiável. E porque perceberam um ataque terrorista, isso causou uma venda massiva e massiva no mercado. Em apenas três minutos por causa deste tweet, o mercado caiu $ 136 bilhões; $ 136 bilhões de avaliação evaporaram em 180 segundos apenas por causa de um tweet rebelde. E isso foi realizado por uma organização conhecida como Exército Eletrônico Sírio. Eles são apoiados, treinados e financiados pelo governo iraniano. Agora, neste caso particular, eles fizeram isso com o propósito de causar danos. Mas eles também poderiam ter vendido a descoberto no mercado ao mesmo tempo e ganhado muito dinheiro com isso. Portanto, nossos algoritmos estão indo muito mais rápido do que imaginamos e estão executando coisas que nem mesmo entendemos. Por exemplo, quando você vai para um exame de ressonância magnética no hospital, a ressonância magnética, por meio de seus algoritmos, está na verdade interpretando os dados para o seu radiologista de muitas maneiras antes mesmo de ele ler isso. Quando você voa no piloto automático de um avião, o que provavelmente representa mais de 90 por cento do seu voo, é um algoritmo que comanda o avião. E tudo isso pode ser hackeado. Muitos dos ataques que ocorrem no ciberespaço, sejam eles ataques de vírus, ransomware, ataques de negação de serviços, são todos programados para serem executados, o que significa que um hacker de computador ou criminoso escreve algum código e o código dispara e executa o crime. O que significa que o crime pode aumentar e pode aumentar exponencialmente. E é por isso que vimos um grande aumento.
Existem muito poucas pessoas que sabem o que está por trás dos algoritmos complexos que cada vez mais controlam nosso mundo. O especialista em crimes do futuro, Marc Goodman, diz que personagens nefastos podem usar isso a seu favor. Ele conta a história de um estudante universitário que perguntou a Siri onde despejar um cadáver (Siri recomendou vários locais próximos). Em outro caso, terroristas invadiram a conta do Twitter da Associated Press para transmitir (falsamente) que o presidente Barack Obama havia sido ferido em uma explosão na Casa Branca. A lição, diz Goodman, é tomar consciência de como a tecnologia está profundamente enraizada em nossas vidas - talvez irrevogavelmente.
