“Brincando de Deus”: como o metaverso desafiará nossa própria noção de livre-arbítrio
Dentro do metaverso, suas emoções e respostas físicas serão monitoradas, e a IA usará esses dados para influenciá-lo em tempo real. Isso é essencialmente controle da mente?
- O metaverso vai revolucionar o mundo, tanto no bom quanto no ruim.
- Um uso particularmente preocupante do metaverso será a capacidade de terceiros de monitorar suas expressões e sinais vitais, ajustando suas interações com você em tempo real para otimizar o impacto. Isso pode ocorrer por motivos benignos, como vender um carro, ou nefastos, como tentar convencê-lo a aceitar a desinformação.
- Dessa forma, a tecnologia avançada dentro do metaverso desafiará nossa própria noção de livre-arbítrio.
O Conselho de Direitos Humanos das Nações Unidas adotou recentemente um projeto de resolução intitulado Neurotecnologia e Direitos Humanos . O objetivo é proteger a humanidade de dispositivos que podem “gravar, interferir ou modificar a atividade cerebral”. Para descrever os riscos, a resolução usa frases eufemísticas como engenharia cognitiva , privacidade mental , e liberdade cognitiva , mas o que estamos realmente falando é o controle da mente.
Aplaudo a ONU por abordar a questão do controle mental, mas a neurotecnologia não é nossa maior ameaça nessa frente. Isso porque envolve hardware sofisticado que varia de “implantes cerebrais” a dispositivos vestíveis que podem detectar e transmitir sinais através do crânio. Sim, essas tecnologias podem ser muito perigosas, mas é improvável que sejam implantadas em escala tão cedo. Além disso, os indivíduos que se submetem a implantes ou estimulação cerebral provavelmente o farão com consentimento informado.
Por outro lado, há uma categoria emergente de produtos e tecnologias que podem ameaçar nossas liberdades cognitivas em grandes populações, exigindo nada mais do que hardware e software de nível de consumidor de empresas confiáveis. Esses sistemas aparentemente inocentes, que serão comercializados para uma ampla gama de aplicações positivas, do entretenimento à educação, visando crianças e adultos, podem ser perigosamente mal utilizados e abusados sem nosso conhecimento ou consentimento.
Estou falando do metaverso. Para explicar por que, primeiro gostaria de apresentar um conceito de engenharia que me ajuda a pensar objetivamente sobre os perigos potenciais dos sistemas interativos. O conceito é controle de feedback , e vem de uma disciplina técnica chamada teoria de controle .
Sistemas de controle
A teoria de controle é apenas o nome dado por engenheiros e cientistas ao método formal usado para influenciar os comportamentos de um sistema. Esse sistema pode ser qualquer coisa que interaja com o mundo. Pense em uma luz noturna barata com um sensor. Quando escurece lá fora, a luz noturna acende. Quando a luz se apaga novamente, a luz noturna se apaga. Isso é um sistema de controle.
Agora, considere um exemplo um pouco mais complexo: o termostato em sua casa. Ao contrário de uma luz noturna com apenas dois estados (“ligado” ou “desligado”), sua casa pode ter uma faixa de temperaturas. Você define uma meta e, se sua casa ficar abaixo dessa meta, seu aquecedor liga. Se sua casa ficar muito quente, ele desliga. Ao funcionar corretamente, seu termostato mantém sua casa perto da meta que você definiu. Isso é controle de feedback. Este conceito simples é geralmente representado em um formato padrão chamado diagrama do sistema de controle .
O diagrama tem três caixas de chave rotuladas sistema , sensor , e controlador . No exemplo de aquecimento, sua casa seria o sistema, um termômetro seria o sensor e o termostato seria o controlador. Um sinal de entrada chamado referência é a temperatura que você definiu como meta. O objetivo é comparado com a temperatura real em sua casa (ou seja, saída medida ). A diferença entre a meta e a temperatura medida é alimentada no termostato que determina o que o aquecedor da casa deve fazer. Se a casa estiver muito fria, o aquecedor liga. Se estiver muito quente, o aquecedor desliga.
É claro que os sistemas de controle podem ficar sofisticados, permitindo que aviões voem no piloto automático, carros naveguem de forma autônoma no tráfego e rovers robóticos pousem em Marte.
No metaverso, você é o sistema que está sendo controlado
Crédito: Louis Rosenberg / MidjourneyCom esse pano de fundo, vamos voltar para o metaverso , que trata em grande parte de transformar a forma como nós, humanos, interagimos com o mundo digital. Na sociedade de hoje, consumimos principalmente “mídia plana” vista da perspectiva de terceira pessoa. No metaverso, o conteúdo digital se tornará experiências imersivas que se apresentam espacialmente ao nosso redor. Essa mudança para interações em primeira pessoa alterará fundamentalmente nosso relacionamento com a informação digital, transformando-nos de pessoas de fora olhando o conteúdo para participantes ativos envolvidos com o conteúdo apresentado naturalmente ao nosso redor. Em outras palavras, literalmente entraremos e nos tornaremos parte do sistema de informação.
Antes de descrever os riscos das tecnologias imersivas, preciso expressar que o metaverso tem potencial para ser uma tecnologia profundamente humanizadora. Afinal, ele nos fornecerá informações no formato que nossos sentidos deveriam perceber – como experiências naturais em primeira pessoa, não como documentos planos vistos através de pequenas janelas. Eu realmente acredito que isso será um grande benefício para a humanidade. Há trinta anos, descrevi o potencial assim : “Dada a capacidade de aproveitar nossas instalações humanas altamente evoluídas, os usuários de sistemas de ambiente virtual podem obter um nível íntimo de percepção e compreensão.”
Ainda acredito nisso, mas o poder da mídia imersiva pode funcionar em ambas as direções. Usado de maneira positiva, ele pode liberar insights e compreensão para pessoas em todo o mundo. Usado de forma negativa, pode desencadear a mais poderosa ferramenta de persuasão e manipulação que já criamos. Isso porque a mídia imersiva pode ser muito mais impactante do que a mídia tradicional, visando nossos canais perceptivos da forma mais pessoal e visceral possível: como experiências. , e sentir as coisas diretamente ao nosso redor que são inteiramente fabricadas não é uma situação para a qual estamos mentalmente preparados.
Mas esse não é o aspecto mais perigoso do metaverso. Para apreciar o verdadeiro perigo das tecnologias imersivas, podemos usar os fundamentos da teoria de controle. Voltando ao diagrama acima, vemos que apenas alguns elementos são necessários para controlar efetivamente um sistema, seja uma simples luz noturna ou um robô sofisticado. Os dois elementos mais importantes são um sensor para detectar os comportamentos do sistema em tempo real e um controlador que pode influenciar esses comportamentos. Os únicos outros elementos necessários são os ciclos de feedback que continuamente detectam comportamentos e transmitem influências, orientando o sistema em direção aos objetivos desejados.
Dentro do metaverso, o sistema que está sendo controlado é você. Quando você coloca um fone de ouvido e mergulha no metaverso, você está mergulhando em um ambiente que tem o potencial de agir sobre você mais que você agir sobre isso . Isso significa que vocês são o sistema com maior probabilidade de ser controlado — um habitante de um mundo fabricado que pode monitorar e influenciar você em tempo real.
Quando visto a esta luz, o entrada do sistema inclui as visões imersivas, sons e sensações de toque que são alimentados em seus olhos, ouvidos, mãos e corpo. Esta é uma entrada esmagadora – possivelmente a mais extensa e íntima que poderíamos imaginar. Isso significa que a capacidade de influenciar o sistema (você) é igualmente extensa e íntima. Do outro lado do usuário humano está o saída do sistema — em outras palavras, suas ações, reações e interações em tempo real. Isso inclui tudo o que seu corpo faz que potencialmente pode ser rastreado por sensores.
Sensores sensacionais
No metaverso, os sensores rastrearão tudo o que você faz em tempo real, como os movimentos sutis de sua cabeça, mãos e corpo. Isso inclui a direção que você está olhando, quanto tempo seu olhar permanece, o movimento fraco de seus olhos, a dilatação de suas pupilas e as mudanças em sua postura e marcha. Até mesmo seus sinais vitais, como frequência cardíaca, frequência respiratória e pressão arterial, provavelmente serão rastreados no metaverso.
Por exemplo, o fone de ouvido mais recente implantado por Meta pode rastrear com precisão o movimento dos seus olhos e expressões faciais, incluindo expressões que fazemos subconscientemente que são muito rápidas ou sutis para os observadores humanos reconhecerem. Conhecido como ' microexpressões ”, eles podem transmitir emoções que os usuários não pretendiam expressar e não sabem revelar. Os usuários podem nem estar cientes de sentir as emoções, levando a situações em que o sistema literalmente conhece o usuário melhor do que ele próprio.
Além disso, a IA pode inferir informações que não são detectadas diretamente pelos sensores. Em um papel recente , pesquisadores da Meta mostraram que, ao processar “dados esparsos” de apenas alguns sensores na cabeça e nas mãos, a tecnologia de IA pode prever com precisão a posição, a postura e o movimento do resto do corpo. Outros pesquisadores mostraram que os movimentos do corpo, como a marcha, podem ser usados para inferir uma série de condições médicas de depressão para demência .
Além disso, já existe tecnologia para inferir suas emoções em tempo real a partir de suas expressões faciais, inflexões vocais, gestos e postura corporal. Existem outras tecnologias para detectar emoções do padrões de fluxo sanguíneo em seu rosto e os sinais vitais detectados por sensores em seus fones de ouvido . Isso significa que quando você mergulha no metaverso, quase tudo que você faz e diz será observado, e então esses dados serão usados para prever como você se sente durante cada ação, reação e interação.
Obviamente, essas informações serão registradas e usadas novamente. Com esses dados, a IA pode criar modelos comportamentais e emocionais para prever como você reagiria a uma ampla gama de estímulos. E porque o metaverso não é apenas realidade virtual, mas também realidade aumentada , o rastreamento e o perfil dos usuários podem ocorrer ao longo de nossas vidas diárias, desde o momento em que acordamos até o momento em que vamos dormir.
O influenciador definitivo
Isso nos leva a um passo gigante em direção ao controle da mente, potencialmente tornando o metaverso a mais perigosa ferramenta de persuasão alguma vez criado. Para avaliar os riscos, precisamos considerar a caixa final do sistema, o controlador.
O controlador pode ser um software executado em processadores que fazem uso extensivo da tecnologia de IA. O controlador recebe um erro medido , que é a diferença entre um meta de referência (um comportamento desejado) e o saída medida (um comportamento percebido). Para trazer isso de volta ao tópico do controle mental, o objetivo pode ser a agenda de um terceiro que visa transmitir influência sobre um usuário. (Veja o diagrama abaixo.) Esse terceiro pode ser um patrocinador pagante que deseja persuadir um usuário a comprar um produto, assinar um serviço ou até mesmo acreditar em alguma propaganda, ideologia ou desinformação.
É claro que a publicidade e a propaganda já existem com as técnicas tradicionais de marketing. O que é único no metaverso é a capacidade de criar loops de feedback de alta velocidade nos quais os comportamentos e emoções de um usuário são continuamente alimentados em um controlador que ajusta sua influência em tempo real para uma persuasão otimizada. Esse processo poderia facilmente cruzar a linha do marketing para o controle da mente.
Em sua essência, um controlador visa “reduzir o erro” entre o comportamento desejado de um sistema e o comportamento medido do sistema. No metaverso, um controlador modificaria o ambiente virtual ou aumentado no qual o usuário está imerso. Em outras palavras, o controlador pode alterar o mundo ao redor do usuário, modificando o que esse usuário vê, ouve e sente para conduzi-lo ao objetivo desejado. E como o controlador pode monitorar com precisão como o usuário reage às alterações do mundo, ele poderá ajustar em tempo real, otimizando o impacto persuasivo da mesma forma que um termostato otimiza a temperatura de uma casa.
Cenários de controle mental no metaverso
Imagine um usuário sentado em uma cafeteria (virtual ou aumentada) no metaverso. Um patrocinador terceirizado quer inspirar o usuário a comprar um determinado produto, por exemplo, um carro novo. No metaverso, publicidade não serão os anúncios e vídeos pop-up que estamos familiarizados hoje, mas serão experiências imersivas que são perfeitamente integradas ao nosso entorno. Assim, o controlador pode criar um casal virtual sentado na mesa ao lado. Esse par virtual será a entrada do sistema usada para influenciar o usuário.
Inscreva-se para receber histórias contra-intuitivas, surpreendentes e impactantes entregues em sua caixa de entrada todas as quintas-feirasO controlador projetará o par virtual para obter o máximo impacto. Isso significa que idade, gênero, etnia, estilo de roupa, estilo de fala, maneirismo e outras qualidades do casal serão selecionadas por algoritmos de IA para serem persuasivas de maneira ideal para o usuário-alvo com base no perfil histórico desse usuário. Em seguida, o casal se envolverá em uma conversa controlada por IA entre eles que está ao alcance da voz do usuário-alvo – aquele carro novo que eles compraram é simplesmente incrível!
À medida que a conversa começa, o controlador monitora o usuário em tempo real, avaliando microexpressões, linguagem corporal, movimentos oculares, dilatação da pupila e pressão arterial para detectar quando o usuário começa a prestar atenção. Isso pode ser tão simples quanto detectar uma mudança fisiológica sutil no usuário correlacionada com os comentários feitos pelo casal virtual. Uma vez engajado, o controlador modificará os elementos conversacionais para aumentar o engajamento. Por exemplo, se a atenção do usuário aumenta à medida que o casal fala sobre a potência do carro, a conversa se adapta em tempo real para focar no desempenho.
À medida que a conversa ouvida continua, o usuário pode não perceber que se tornou um participante silencioso, respondendo por meio de microexpressões subconscientes, postura corporal e mudanças nos sinais vitais. O controlador acionado por IA destacará elementos do novo carro aos quais o usuário-alvo responde mais positivamente e fornecerá contra-argumentos de conversação quando as reações do usuário forem negativas. E como o usuário-alvo não expressa objeções abertamente, os contra-argumentos podem ser profundamente influentes. Afinal, o casal virtual poderia abordar verbalmente as preocupações emergentes antes mesmo que essas preocupações surgissem totalmente na mente do usuário-alvo. Isso não é marketing; é o controle da mente.
Em um metaverso não regulamentado, o usuário alvo pode acreditar que o casal virtual são avatares controlados por outros usuários. Em outras palavras, o usuário-alvo pode facilmente acreditar que está ouvindo uma conversa autêntica entre usuários, em vez de uma conversa. experiência alterada promocionalmente que foi direcionado especificamente para eles. Um controlador mais agressivo poderia envolver o usuário diretamente. Um avatar controlado por IA empurrando uma agenda orientada conversa promocional poderia enganar os usuários a pensar que eles estão interagindo com outros seres humanos.
Claro, vender um carro é um exemplo relativamente benigno. Muito mais preocupantes são as agendas de terceiros cujos objetivos são mais nefastos, como influenciar os usuários-alvo a aceitar alguma ideologia política, propaganda extremista ou desinformação.
“Brincar de Deus”
Os sistemas de IA podem superar os melhores concorrentes humanos do mundo no xadrez, go, pôquer e outros jogos de estratégia. Então, que chance um consumidor médio tem quando se envolve em uma conversa promocional com um agente de IA que tem acesso ao histórico e interesses pessoais desse usuário e pode adaptar suas táticas de conversação em tempo real com base em mudanças sutis na dilatação da pupila e na pressão arterial? O potencial de violação da liberdade cognitiva de um usuário por meio desse tipo de controle de feedback no metaverso é substancial.
Na verdade, pode ser a coisa mais próxima de “brincar de Deus” que qualquer tecnologia convencional já alcançou. Essa é uma afirmação ousada, e não a faço de ânimo leve. Eu estive neste campo por mais de 30 anos , realizando pesquisas em Stanford, NASA e Força Aérea dos EUA, após o que fundei várias empresas de sucesso nesse espaço. Eu realmente acredito que o metaverso pode ser uma tecnologia positiva para a humanidade, mas se não proteger contra as desvantagens criando regulamento cuidadoso , poderia desafiar nossas liberdades pessoais mais sagradas – incluindo nossa capacidade básica de livre-arbítrio.
Compartilhar:
