• O Presente

A Apple planeja escanear as imagens em seu telefone, por um bom motivo – mas você confia nelas?

Gilles Lambert / Unsplash

O plano da Apple para escaneie os telefones e outros dispositivos dos clientes para imagens que retratam abuso sexual infantil gerou um folga sobre questões de privacidade, o que levou a empresa a anunciar um atraso .

Apple, Facebook, Google e outras empresas há muito tempo digitalizam imagens de clientes que estão armazenadas nos servidores das empresas para este material. A verificação de dados nos dispositivos dos usuários é uma mudança significativa .

Por mais bem-intencionada que a Apple esteja ou não disposta e capaz de cumprir suas promessas de proteger a privacidade dos clientes, o plano da empresa destaca o fato de que as pessoas que compram iPhones não são donas de seus próprios dispositivos. Além disso, a Apple está usando um sistema de digitalização complicado isso é difícil de auditar . Assim, os clientes enfrentam uma dura realidade: se você usa um iPhone, precisa confiar na Apple.

Especificamente, os clientes são forçados a confiar na Apple para usar este sistema apenas conforme descrito, executar o sistema com segurança ao longo do tempo e colocar os interesses de seus usuários acima dos interesses de outras partes, incluindo os governos mais poderosos do planeta.

Apesar do plano até agora único da Apple, o problema da confiança não é específico da Apple. Outras grandes empresas de tecnologia também têm controle considerável sobre os dispositivos dos clientes e informações sobre seus dados.

O que é confiança?

Confiança é a vontade de uma parte de ser vulnerável às ações de outra parte , de acordo com cientistas sociais. As pessoas baseiam a decisão de confiar na experiência, nos sinais e nos sinais. Mas o comportamento passado, as promessas, a maneira como alguém age, as evidências e até os contratos só fornecem pontos de dados. Eles não podem garantir ações futuras.

Portanto, a confiança é uma questão de probabilidades. Você está, de certa forma, jogando os dados sempre que confia em alguém ou em uma organização.

A confiabilidade é uma propriedade oculta. As pessoas coletam informações sobre o provável comportamento futuro de alguém, mas não podem saber com certeza se a pessoa tem a capacidade de cumprir sua palavra, é realmente benevolente e tem integridade – princípios, processos e consistência – para manter seu comportamento ao longo do tempo, sob pressão ou quando ocorre o inesperado.

Confie na Apple e na Big Tech

A Apple afirmou que seu sistema de digitalização será só deve ser usado para detectar material de abuso sexual infantil e tem várias proteções de privacidade fortes. O detalhes técnicos do sistema indicar que a Apple tomou medidas para proteger a privacidade do usuário, a menos que o material direcionado seja detectado pelo sistema. Por exemplo, os humanos revisarão o material suspeito de alguém somente quando o número de vezes que o sistema detectar o material alvo atingir um determinado limite. No entanto, a Apple deu poucas provas sobre como esse sistema funcionará na prática.

O novo sistema da Apple para comparar suas fotos com um banco de dados de imagens conhecidas de abuso infantil / cortesia Apple

Depois de analisar o Algoritmo NeuralHash em que a Apple está baseando seu sistema de varredura, pesquisadores de segurança e organizações de direitos civis alertam que o sistema provavelmente vulnerável para hackers, em contraste com Reivindicações da Apple .

Os críticos também temem que o sistema seja usado para procurar outro material , como indícios de dissidência política. A Apple, juntamente com outros players da Big Tech, cedeu às demandas de regimes autoritários, principalmente a China, para permitir a vigilância governamental de usuários de tecnologia. Na prática, o governo chinês acesso a todos os dados do usuário . O que será diferente desta vez?

Deve-se notar também que a Apple não está operando este sistema por conta própria. Nos EUA, a Apple planeja usar dados e denunciar material suspeito para a organização sem fins lucrativos Centro Nacional para Crianças Desaparecidas e Exploradas . Assim, confiar na Apple não é suficiente. Os usuários também devem confiar nos parceiros da empresa para agir com benevolência e integridade.

O histórico pouco encorajador da Big Tech

Este caso existe dentro de um contexto de invasões regulares de privacidade da Big Tech e se move para restringir ainda mais as liberdades e o controle do consumidor . As empresas se posicionaram como partes responsáveis, mas muitos especialistas em privacidade dizem que há pouca transparência e escassas evidências técnicas ou históricas para essas alegações.

Outra preocupação são as consequências não intencionais. A Apple pode realmente querer proteger as crianças e proteger a privacidade dos usuários ao mesmo tempo. No entanto, a empresa agora anunciou – e apostou sua confiabilidade – uma tecnologia adequada para espionar um grande número de pessoas. Os governos podem aprovar leis para estender a digitalização a outros materiais considerados ilegais.

A Apple, e potencialmente outras empresas de tecnologia, optariam por não seguir essas leis e potencialmente sair desses mercados, ou eles cumpririam as leis locais potencialmente draconianas ? Não há como dizer sobre o futuro, mas a Apple e outras empresas de tecnologia optaram por aquiescer a regimes opressivos antes. As empresas de tecnologia que optam por operar na China são obrigado a submeter-se à censura , por exemplo.

Pesando se deve confiar na Apple ou em outras empresas de tecnologia

Não há uma resposta única para a questão de saber se a Apple, o Google ou seus concorrentes podem ser confiáveis. Os riscos são diferentes dependendo de quem você é e de onde você está no mundo. Um ativista na Índia enfrenta ameaças e riscos diferentes de um advogado de defesa italiano. A confiança é uma questão de probabilidades, e os riscos não são apenas probabilísticos, mas também situacionais.

É uma questão de com qual probabilidade de falha ou engano você pode conviver, quais são as ameaças e riscos relevantes e quais proteções ou mitigações existem. A posição do seu governo , a existência de leis de privacidade locais fortes, a força do estado de direito e sua própria capacidade técnica são fatores relevantes. No entanto, há uma coisa com a qual você pode contar: as empresas de tecnologia geralmente têm amplo controle sobre seus dispositivos e dados.

Como todas as grandes organizações, as empresas de tecnologia são complexas: funcionários e gerência vêm e vão, e regulamentações, políticas e dinâmicas de poder mudam.

Uma empresa pode ser confiável hoje, mas não amanhã.

A Big Tech mostrou comportamentos no passado que devem fazer os usuários questionarem sua confiabilidade, principalmente quando se trata de violações de privacidade. Mas eles também defenderam a privacidade do usuário em outros casos, por exemplo, na Caso de tiroteio em massa em San Bernardino e debates subsequentes sobre criptografia .

Por último, mas não menos importante, a Big Tech não existe no vácuo e não é todo-poderosa. Apple, Google, Microsoft, Amazon, Facebook e outros precisam responder a várias pressões e poderes externos. Talvez, considerando essas circunstâncias, maior transparência, auditorias mais independentes por parte de jornalistas e pessoas de confiança da sociedade civil, mais controle do usuário, mais código-fonte aberto e discurso genuíno com os clientes possam ser um bom começo para equilibrar objetivos diferentes.

Embora seja apenas um primeiro passo, os consumidores poderiam pelo menos fazer escolhas mais informadas sobre quais produtos usar ou comprar.

Este artigo é republicado de A conversa sob uma licença Creative Commons. Leia o artigo original .

Compartilhar: