O caso para exigir “direitos de imersão” no metaverso
O Metaverso pode ser a ferramenta de persuasão mais perigosa que a humanidade já criou.
- O metaverso está definido para transformar a forma como compramos bens e serviços e interagimos uns com os outros.
- Embora muitas dessas mudanças possam ser positivas, as tecnologias AR e VR também podem permitir que anunciantes e propagandistas nos manipulem de maneiras sutis, mas eficazes.
- Os formuladores de políticas e empresas de tecnologia devem começar a pensar em como garantir “direitos de imersão” básicos no metaverso.
Pronto ou não, o metaverso está chegando, trazendo uma visão de futuro em que passamos uma parte significativa de nossas vidas em mundos virtuais e aumentados. Embora pareça ficção científica para alguns, um recente estudo da McKinsey descobriu que muitos consumidores esperam passar mais de quatro horas por dia no metaverso nos próximos cinco anos.
Pessoalmente, acredito que este é um ponto de inflexão perigoso na história humana. O metaverso pode ser um meio criativo que expande o que significa ser humano. Ou pode se tornar uma tecnologia profundamente opressiva que dá às corporações (e aos atores estatais) um controle sem precedentes sobre a sociedade. Não faço essa afirmação de ânimo leve. já fui campeão de mundos virtuais e aumentados por mais de 30 anos, começando como pesquisador em Stanford, NASA e Força Aérea dos EUA, e depois fundando várias empresas de VR e AR. Tendo passado por vários ciclos de hype, seguidos por invernos frios, acredito que finalmente estamos aqui: o metaverso em breve terá um grande impacto na sociedade. Infelizmente, a falta de proteções regulatórias me preocupa profundamente.
Mas primeiro, o que é o Metaverso?
Eliminando as muitas tecnologias tangenciais que nos distraem do conceito central, podemos resumir a essência a uma definição limpa e simples:
“O metaverso” representa a ampla mudança social na forma como engajamos o conteúdo digital, passando de mídia plana vista na 3ª pessoa para experiências imersivas engajadas na 1ª pessoa.
O metaverso terá dois sabores principais: virtuais e aumentadas , que se sobrepõem, mas evoluem em taxas diferentes, envolvem diferentes players corporativos e provavelmente adotam diferentes modelos de negócios. O “metaverso virtual” evoluirá dos jogos e das mídias sociais, trazendo-nos mundos puramente virtuais para entretenimento, socialização, compras e outras atividades de duração limitada. O ' metaverso aumentado ” evoluirá da indústria de telefonia móvel e embelezará o mundo real com sobreposições virtuais imersivas que trazem conteúdo artístico e informativo para nossas experiências diárias em casa, no trabalho e em locais públicos.
Perigo significativo está à frente
Seja virtual ou aumentada, essa mudança de mídia plana para experiências imersivas dará às plataformas do metaverso um poder sem precedentes para rastrear, criar perfis e influenciar usuários em níveis muito além de qualquer coisa que experimentamos até hoje. Na verdade, como discuti com POLÍTICO esta semana, um metaverso não regulamentado pode se tornar a mais perigosa ferramenta de persuasão que a humanidade já criou.
Inscreva-se para receber histórias contra-intuitivas, surpreendentes e impactantes entregues em sua caixa de entrada todas as quintas-feirasIsso porque as plataformas do metaverso não apenas rastrearão onde os usuários clicam, mas também monitorarão para onde os usuários vão, o que fazem, com quem estão e o que veem. As plataformas também rastrearão a postura e a marcha, avaliando quando os usuários desaceleram para navegar ou aceleram para passar por locais em que não estão interessados. quanto tempo você estuda a embalagem, e até mesmo como seu pupilas dilatam para indicar níveis de engajamento.
No metaverso aumentado, a capacidade de rastrear o olhar, o portão e a postura levanta preocupações únicas porque o hardware será usado durante toda a vida diária. Enquanto os usuários andam pelas ruas reais, as plataformas saberão em quais vitrines eles olham, por quanto tempo, até mesmo quais partes da vitrine atraem sua atenção. O rastreamento da marcha também pode ser usado para identificar condições médicas e psicológicas, desde detectando a depressão para previsão de demência .
As plataformas Metaverse também rastrearão expressões faciais , inflexões vocais e sinais vitais, enquanto os algoritmos de IA avaliam as emoções do usuário. Os provedores de plataforma usarão isso para tornar os avatares mais naturais, com reações faciais autênticas. Embora tais recursos sejam valiosos e humanizadores, sem regulamentação os mesmos dados poderiam ser usados para criar perfis emocionais que documentam como os indivíduos reagem a uma série de situações e estímulos ao longo de sua vida diária.
O monitoramento invasivo é um preocupação com a privacidade , mas os perigos aumentam quando consideramos que perfis comportamentais e emocionais podem ser usados para persuasão direcionada. Isso porque a publicidade no metaverso fará a transição da mídia plana para experiências imersivas. Isso provavelmente incluirá duas formas únicas de marketing metaverso conhecidos como Colocações Virtuais de Produtos (VPPs) e Porta-vozes Virtuais (VSPs) da seguinte forma:
Posicionamentos de produtos virtuais (VPPs) são produtos, serviços ou atividades simulados injetados em um mundo imersivo (virtual ou aumentado) em nome de um patrocinador pagante, de modo que apareçam para o usuário como elementos naturais do ambiente ambiente.
Porta-vozes virtuais (VSPs) são pessoas simuladas ou outros personagens injetados em ambientes imersivos (virtuais ou aumentados) que transmitem verbalmente conteúdo promocional em nome de um patrocinador pagante, geralmente envolvendo usuários em conversas promocionais moderadas por IA.
Para apreciar o impacto dessas métodos de marketing , considere o Virtual Product Placements sendo implementado em uma cidade virtual ou aumentada. Enquanto caminha por uma rua movimentada, um consumidor que é perfilado como um atleta casual de uma determinada idade pode ver alguém passando por ele bebendo uma marca específica de bebida esportiva ou vestindo uma marca específica de roupas de ginástica. Porque este é um VPP segmentado , outras pessoas ao seu redor não veriam o mesmo conteúdo. Um adolescente pode ver pessoas vestindo roupas da moda ou comendo um certo fast food, enquanto uma criança pequena pode ver uma figura de ação enorme acenando para eles enquanto eles passam.
Embora as colocações de produtos sejam passivas, os porta-vozes virtuais podem ser ativos, envolvendo os usuários em conversas promocionais em nome de patrocinadores pagantes. Embora esses recursos parecessem fora de alcance há apenas alguns anos, avanços recentes nas áreas de Large Language Models (LLMs) tornam esses recursos viáveis no curto prazo. A troca verbal pode ser tão autêntica que os consumidores podem não perceber que estão falando com um Agente de conversação orientado por IA com uma agenda persuasiva pré-definida. Isso abre a porta para uma ampla gama de práticas predatórias que vão além da publicidade tradicional em direção à manipulação direta.
O rastreamento e o perfil de usuários não são um problema novo – as plataformas de mídia social e outros serviços de tecnologia já fazem isso. No metaverso, no entanto, a escala e a intimidade do monitoramento do usuário se expandirão significativamente. Da mesma forma, publicidade e propaganda predatórias não são problemas novos. Mas no metaverso, os usuários podem encontrá-lo difícil distinguir entre experiências autênticas e conteúdo promocional direcionado injetado em nome de patrocinadores pagantes. Isso permitiria que as plataformas metaverse manipulassem facilmente as experiências do usuário em nome de patrocinadores pagantes sem seu conhecimento ou consentimento.
O caso dos direitos imersivos
A mudança da publicidade tradicional para experiências alteradas promocionalmente levanta novas preocupações para os consumidores, tornando importante que os formuladores de políticas considerem regulamentações que garantam direitos básicos de imersão. Embora existam muitas proteções necessárias, proponho algumas categorias críticas.
1. O direito à autenticidade experiencial
A publicidade é difundida no mundo físico e digital, desde o marketing de produtos até as mensagens políticas, mas a maioria dos adultos pode identificar facilmente o conteúdo promocional. Isso permite que os indivíduos visualizem os anúncios no contexto adequado: como mensagens pagas entregues por uma parte que tenta influenciá-los. Ter esse contexto permite que os consumidores tragam ceticismo saudável e pensamento crítico ao considerar produtos, serviços, ideias políticas e outras mensagens às quais são expostos.
No metaverso, os anunciantes podem subverter nossa capacidade de contextualizar o conteúdo promocional borrando os limites entre experiências autênticas que são encontradas por acaso e experiências promocionais direcionadas injetadas em nome de patrocinadores pagantes. Isso poderia facilmente cruzar a linha do marketing para o engano e se tornar uma prática predatória.
Imagine andar na rua em um mundo virtual ou aumentado realista. Você percebe um carro estacionado que nunca viu antes. Ao passar, você ouve o proprietário dizendo a um amigo o quanto eles amam o carro. Você continua andando, subconscientemente influenciado pelo que acreditava ser uma experiência autêntica. O que você não percebe é que o encontro foi promocional, colocado ali para você ver o carro e ouvir a troca. Também foi segmentado — só você viu a troca, que foi escolhida com base no seu perfil e personalizada para o máximo impacto, desde a cor do carro até o gênero, voz e roupas dos porta-vozes virtuais usados.
Embora esse tipo de publicidade encoberta possa parecer benigna, meramente influenciando opiniões sobre um carro novo, as mesmas ferramentas e técnicas podem ser usadas para alterar de forma promocional experiências que impulsionam propaganda política, desinformação e mentiras descaradas. Para proteger os consumidores, táticas imersivas, como Colocação de Produtos Virtuais e Porta-vozes Virtuais, devem ser regulamentadas.
No mínimo, os regulamentos devem proteger o direito básico a experiências autênticas. Isso pode ser alcançado exigindo que os artefatos promocionais e as pessoas promocionais sejam visualmente e audivelmente distinta de forma aberta, permitindo que os usuários os percebam no contexto adequado. Isso protegeria os consumidores de confundir experiências promocionais alteradas como encontros autênticos.
2. O direito à privacidade emocional
Nós, humanos, desenvolvemos a capacidade de expressar emoções em nossos rostos, vozes, posturas e gestos. Também desenvolvemos a capacidade de ler esses traços nos outros. Esta é uma forma básica de comunicação humana que funciona em paralelo com a linguagem verbal. Nos últimos anos, tecnologias de detecção combinadas com aprendizado de máquina permitiram que sistemas de software identificassem emoções humanas em tempo real a partir de rostos, vozes, postura e gestos, bem como de sinais vitais, como frequência respiratória, frequência cardíaca, movimentos oculares, dilatação da pupila. , e pressão arterial. Mesmo facial padrões de fluxo sanguíneo detectados por câmeras podem ser usados para interpretar emoções.
Embora muitos vejam isso como permitindo que os computadores se envolvam em linguagem não verbal com humanos, isso pode facilmente passar para intrusivo e explorador violações de privacidade. Há duas razões para isso: sensibilidade e perfil. Em termos de sensibilidade, os sistemas computacionais já são capazes de detectar emoções a partir de pistas que não são perceptíveis aos humanos. Por exemplo, um observador humano não pode detectar facilmente a frequência cardíaca, a frequência respiratória e a pressão arterial, o que significa que esses sinais podem revelar emoções que o indivíduo observado não pretendia transmitir. Os computadores também podem detectar “ microexpressões ” em rostos que são muito breves ou muito sutis para os observadores humanos perceberem, mas que novamente podem revelar emoções que o indivíduo observado não pretendia transmitir.
No mínimo, os consumidores devem ter o direito de não serem avaliados emocionalmente em velocidades e usando detecção de traços que excedam as habilidades humanas naturais. Isso significa não permitir que sinais vitais e microexpressões sejam usados na detecção de emoções. Além disso, o perigo para os consumidores é amplificado pela capacidade das plataformas de coletar dados emocionais ao longo do tempo e criar perfis que possam permitir que os sistemas de IA prevejam as reações dos consumidores a uma ampla gama de estímulos. O perfil emocional deve ser banido ou exigir consentimento explícito de aplicação a aplicação. Isto é especialmente importante no metaverso aumentado onde os consumidores passarão grande parte de sua vida diária sendo rastreados e analisados por dispositivos vestíveis.
Mesmo com o consentimento informado, os reguladores devem considerar a proibição total da utilização de análises emocionais para fins promocionais. Como mencionado acima, os consumidores provavelmente serão alvo de porta-vozes virtuais orientados por IA que os envolvem em conversa promocional . Esses agentes de conversação orientados por agenda provavelmente terá acesso a expressões faciais em tempo real, inflexões vocais e sinais vitais. Sem regulamentação, esses agentes de conversação poderiam ser projetados para ajustar suas táticas promocionais no meio da conversa com base nas emoções detectadas dos usuários-alvo, incluindo sugestões emocionais sutis que nenhum representante humano poderia detectar.
Por exemplo, um agente de conversação orientado por IA com uma agenda promocional predefinida pode adaptar suas táticas com base na pressão arterial detectada, frequência cardíaca, frequência respiratória e padrões de sangue facial do consumidor-alvo. Isso, combinado com dados de perfil do usuário que refletem o histórico, interesses e inclinações do alvo, pode criar um meio extremamente persuasivo que excede qualquer forma anterior de publicidade. Na verdade, pode ser tão persuasivo que cruza a linha da publicidade passiva para a manipulação ativa.
3. O direito à privacidade comportamental
Os consumidores geralmente estão cientes de que as grandes empresas de tecnologia trilha e perfil seus comportamentos com base nos sites que visitam, nos anúncios em que clicam e nos relacionamentos que mantêm por meio das mídias sociais. Em um metaverso não regulamentado, grandes plataformas poderão rastrear não apenas onde os usuários clicam, mas para onde vão, o que fazem, com quem estão, como se movem e o que olham. Além disso, as reações emocionais podem ser avaliadas e correlacionadas com todas essas ações, rastreando não apenas o que os usuários fazem, mas como eles se sentem ao fazê-lo.
Tanto no mundo virtual quanto no mundo aumentado, dados comportamentais extensivos são necessários para que as plataformas forneçam experiências imersivas em tempo real. Dito isso, os dados só são necessários no momento em que essas experiências são simuladas. Não há necessidade inerente de armazenar esses dados ao longo do tempo. Isso é importante porque o armazenamento de dados comportamentais pode ser usado para criar perfis invasivos que documentam as ações diárias de usuários individuais em extrema granularidade.
Esses dados podem ser facilmente processados por sistemas de aprendizado de máquina para prever como os usuários individuais irão agir, reagir e interagir em uma ampla gama de circunstâncias durante sua vida diária. A perspectiva de que as plataformas do metaverso possam prever com precisão o que os usuários farão antes de decidirem pode se tornar uma prática comum em um metaverso não regulamentado. E como as plataformas terão a capacidade de alterar ambientes para fins persuasivos, os perfis podem ser usados para manipular comportamentos com resultados precisos.
Por essas razões, os reguladores e formuladores de políticas devem considerar a proibição de plataformas metaverso de armazenar dados comportamentais ao longo do tempo, impedindo assim que as plataformas gerem perfis detalhados de seus usuários. Além disso, as plataformas do metaverso não devem ter permissão para correlacionar dados emocionais com dados comportamentais, pois essa correlação permitiria que eles transmitissem experiências promocionais alteradas que não apenas manipulam o que os usuários Faz em mundos imersivos, mas também influenciam de forma preditiva como eles provavelmente sentir ao fazê-lo.
Direitos imersivos são necessários e urgentes
O metaverso terá um grande impacto em nossa sociedade. Enquanto muitos efeitos será positivo , devemos proteger os consumidores contra os perigos potenciais. Os perigos mais insidiosos são provavelmente aqueles que envolvem experiências alteradas promocionalmente, pois essas táticas podem dar às plataformas do metaverso poderes predatórios para influenciar seus usuários.
Três décadas atrás, como jovem pesquisador, estudei o potencial da realidade aumentada pela primeira vez, realizando experimentos para mostrar o valor de “ embelezando a realidade perceptiva do usuário .” Naquela época, eu acreditava firmemente que a RA seria uma força para o bem, aprimorando tudo, desde procedimentos cirúrgicos até experiências educacionais. Ainda acredito no potencial. Mas a capacidade de embelezar a realidade através de AR ou alterar a realidade através da RV é um poder profundo que também pode ser usado para manipular populações .
Para lidar com esses riscos, os formuladores de políticas devem considerar restrições nas plataformas metaverso que garantem direitos básicos em mundos imersivos. No mínimo, todo indivíduo deve ter o direito de seguir sua vida diária sem ser perfilado emocionalmente ou comportamentalmente. Cada indivíduo também deve ter o direito de confiar na autenticidade de suas experiências sem se preocupar que terceiros estejam secretamente injetando conteúdo promocional direcionado em seus arredores. Esses direitos são necessários e urgentes ou o metaverso não será um lugar confiável para ninguém.
Compartilhar:
