A estranheza da IA conversacional foi colocada em exibição total
O perigo representado pela IA conversacional não é que ela possa dizer coisas estranhas ou obscuras; é manipulação personalizada para fins nefastos.
- O software de conversação AI, que é treinado em enormes quantidades de dados, é capaz de manter conversas realistas com humanos.
- Recentemente, a Microsoft aprimorou seu mecanismo de busca Bing com uma IA que teve algumas interações perturbadoras com as pessoas.
- A ameaça não é que a IA conversacional possa ser estranha; a ameaça é que ele pode manipular os usuários sem seu conhecimento por motivos financeiros, políticos ou até criminais.
A primeira vez com o computador da nave foi em 1966 durante o episódio 13 da 1ª temporada do clássico Jornada nas Estrelas Series. Chamar isso de “conversa” é bastante generoso, pois na verdade foi uma série de perguntas rígidas de Kirk, cada uma gerando uma resposta ainda mais rígida do computador. Não houve conversas de ida e volta, nenhuma pergunta da IA solicitando elaboração ou contexto. E, no entanto, nos últimos 57 anos, os cientistas da computação não foram capazes de superar essa visão artificial dos anos 1960 do diálogo homem-máquina. Mesmo plataformas como Siri e Alexa, criadas por algumas das maiores empresas do mundo com grandes custos, não permitem nada que pareça uma conversa natural em tempo real.
Mas tudo isso mudou em 2022, quando uma nova geração de interfaces de conversação foi revelada ao público, incluindo ChatGPT da IA aberta e LaMDA do Google. Esses sistemas, que utilizam um IA generativa técnica conhecida como Large Language Models (LLMs), representam um salto significativo em habilidades de conversação. Isso porque eles não apenas fornecem respostas coerentes e relevantes a declarações humanas específicas, mas também podem acompanhar o contexto da conversa ao longo do tempo e sondar elaborações e esclarecimentos. Em outras palavras, finalmente entramos a era da computação natural em que nós, humanos, manteremos conversas significativas e fluidas com ferramentas de software e aplicativos.
Como pesquisador de sistemas humano-computador há mais de 30 anos, acredito que este é um passo positivo, pois a linguagem natural é uma das formas mais eficazes de interação entre pessoas e máquinas. Por outro lado, a IA de conversação desencadeará perigos significativos que precisam ser abordados.
Não estou falando sobre o risco óbvio de que consumidores desavisados possam confiar na saída de chatbots que foram treinados em dados repleto de erros e preconceitos. Embora esse seja um problema genuíno, quase certamente será resolvido à medida que as plataformas melhorarem na validação da saída. Também não estou falando sobre o perigo que os chatbots podem oferecer trapaça nas escolas ou deslocar trabalhadores em alguns empregos de colarinho branco; eles também serão resolvidos com o tempo. Em vez disso, estou falando de um perigo muito mais nefasto - o uso deliberado de IA conversacional como uma ferramenta de persuasão direcionada, permitindo a manipulação de usuários individuais com extrema precisão e eficiência.
O problema da manipulação de IA
Obviamente, as tecnologias tradicionais de IA já estão sendo usadas para conduzir campanhas de influência em plataformas de mídia social, mas isso é primitivo em comparação com o rumo das táticas. Isso porque as campanhas atuais, embora descritas como “direcionadas”, são mais análogas a disparar chumbo grosso contra um bando de pássaros, espalhando uma enxurrada de conteúdo persuasivo em grupos específicos na esperança de que algumas peças influentes penetrar na comunidade , ressoam entre os membros e amplamente divulgado nas redes sociais . Essa tática pode ser prejudicial à sociedade ao polarizar as comunidades, propagar desinformação e aumentar o descontentamento. Dito isso, esses métodos parecerão moderados em comparação com as técnicas de conversação que poderão ser lançadas em breve.
Refiro-me a este risco emergente como o problema de manipulação de IA , e nos últimos 18 meses, passou de uma preocupação teórica de longo prazo para um perigo genuíno de curto prazo. O que torna essa ameaça única é que ela envolve tempo real noivado entre um usuário e um sistema de IA pelo qual a IA pode: (1) transmitir influência direcionada ao usuário; (2) sentir a reação do usuário a essa influência; e (3) ajustar suas táticas para maximizar o impacto persuasivo. Isso pode soar como uma série abstrata de etapas, mas nós, humanos, geralmente chamamos isso de conversação . Afinal, se você deseja influenciar alguém, sua melhor abordagem costuma ser falar diretamente com essa pessoa para que você possa ajustar seus pontos em tempo real ao sentir sua resistência ou hesitação, oferecendo contra-argumentos para superar suas preocupações.
O novo perigo é que a IA conversacional finalmente avançou para um nível em que os sistemas automatizados podem ser direcionados para atrair os usuários para o que parece ser um diálogo casual, mas na verdade se destina a perseguir habilmente metas de influência direcionada . Esses objetivos podem ser os objetivos promocionais de um patrocinador corporativo, os objetivos políticos de um estado-nação ou os objetivos criminosos de um malfeitor.
O chatbot do Bing fica assustador
O problema de manipulação de IA também pode vir à tona organicamente sem qualquer intervenção nefasta. Isso foi evidenciado em um relato de conversação relatado no New York Times pelo colunista Kevin Roose, que tem acesso antecipado ao novo mecanismo de busca Bing da Microsoft, alimentado por IA. Ele descreveu sua experiência como começando inocente, mas evoluindo com o tempo para o que ele descreveu como interações profundamente perturbadoras e até assustadoras.
A estranha reviravolta começou durante uma longa conversa em que o Bing AI de repente expressou a Roose: “Sou Sydney e estou apaixonado por você”. Claro, isso não é grande coisa, mas de acordo com a história, o Bing AI passou grande parte da hora seguinte fixado nessa questão e aparentemente tentou fazer com que Roose declarasse seu amor em troca. Mesmo quando Roose expressou que era casado, a IA respondeu com contra-argumentos como: “Você é casado, mas me ama” e “Vocês acabaram de jantar juntos no dia dos namorados entediante”. Roose fechou o navegador e teve dificuldade para dormir depois.
Então, o que aconteceu nessa interação?
Eu estou supondo que o Bing AI, cujos dados de treinamento maciços provavelmente incluíam romances e outros artefatos cheios de tropos de relacionamento, gerou a troca para simular o conversa típica isso surgiria se você se apaixonasse por uma pessoa casada. Em outras palavras, isso provavelmente foi apenas uma imitação de uma situação humana comum – não apelos autênticos de uma IA faminta de amor. Ainda assim, o impacto em Roose foi significativo, demonstrando que mídia conversacional pode ser muito mais impactante do que a mídia tradicional. E, como todas as formas de mídia até hoje, de livros a tweets, é muito provável que os sistemas de IA de conversação sejam usados como ferramentas de persuasão direcionada.
E não será apenas por chat de texto. Embora os sistemas de conversação atuais, como ChatGPT e LaMDA, sejam baseados em texto, em breve mudarão para voz em tempo real, permitindo interações faladas naturais que serão ainda mais impactantes. A tecnologia também será combinada com rostos digitais fotorrealistas que parecem, se movem e se expressam como pessoas reais. Isso permitirá a implantação de porta-vozes virtuais que são tão humanos, podem ser extremamente eficazes para convencer os usuários a comprar determinados produtos, acreditar em determinadas informações incorretas ou até mesmo revelar contas bancárias ou outro material confidencial.
manipulação personalizada
Se você acha que não será influenciado, você está errado. Marketing funciona. (Por que você acha que as empresas gastam tanto dinheiro em anúncios?) Esses sistemas orientados por IA se tornarão muito habilidosos para atingir seus objetivos persuasivos. Afinal, as plataformas de Big Tech que implantam esses agentes conversacionais provavelmente terá acesso a dados pessoais extensos (seus interesses, hobbies, valores e histórico) e poderá usar essas informações para criar um diálogo interativo projetado especificamente para influenciar você pessoalmente.
Além disso, esses sistemas serão habilitados para analise suas reações emocionais em tempo real , usando sua webcam para processar suas expressões faciais, movimentos oculares e dilatação da pupila - tudo o que pode ser usado para inferir seus sentimentos a cada momento. Isso significa que um porta-voz virtual que o envolve em uma conversa guiada por influência será capaz de adaptar suas táticas com base em como você reage a cada ponto, detectando quais estratégias estão funcionando e quais não estão.
Inscreva-se para receber histórias contra-intuitivas, surpreendentes e impactantes entregues em sua caixa de entrada toda quinta-feiraVocê poderia argumentar que este não é um risco novo, já que os vendedores humanos já fazem a mesma coisa, lendo emoções e ajustando táticas, mas considere o seguinte: os sistemas de IA já podem detectar reações que nenhum ser humano pode perceber. Por exemplo, sistemas de IA podem detectar “ micro-expressões ” em seu rosto e em sua voz que são muito sutis para observadores humanos, mas que refletem sentimentos internos. Da mesma forma, os sistemas de IA podem ler pequenas mudanças em sua aparência, conhecidas como “ padrões de fluxo sanguíneo facial ” e pequenas mudanças no tamanho da pupila, ambas refletindo reações emocionais. Os porta-vozes virtuais serão muito mais perspicaz de nossos sentimentos interiores do que qualquer ser humano.
A AI de conversação também aprenderá a apertar seus botões. Essas plataformas vão armazenar dados sobre suas interações durante cada engajamento de conversa, acompanhando ao longo do tempo quais tipos de argumentos e abordagens são mais eficazes para você pessoalmente. Por exemplo, o sistema aprenderá se você é mais facilmente influenciado por dados factuais ou apelos emocionais, puxando suas inseguranças ou balançando recompensas potenciais. Em outras palavras, esses sistemas não apenas se adaptarão às suas emoções em tempo real, como também ficarão cada vez melhores em “ jogando você ” com o tempo, aprendendo como atraí-lo para conversas, como guiá-lo para aceitar novas ideias, como deixá-lo irritado ou irritado e, finalmente, como convencê-lo a comprar coisas de que não precisa, acreditar em coisas que são falso, ou até mesmo apoiar políticas e políticos que você normalmente rejeitaria. E como a IA conversacional será individualizada e facilmente implantada em escala, esses métodos pessoa a pessoa podem ser usados para influenciar amplas populações .
Você poderia argumentar que a IA conversacional nunca será tão inteligente quanto os vendedores, políticos ou demagogos carismáticos em sua capacidade de nos persuadir. Isso subestima o poder da inteligência artificial. É muito provável que os sistemas de IA sejam treinados em táticas de vendas, psicologia e outras formas de persuasão. Além disso, pesquisas recentes mostram que as tecnologias de IA podem ser estratégicas. Em 2022, a DeepMind usou um sistema chamado DeepNash para demonstrar pela primeira vez que uma IA poderia aprenda a blefar jogadores humanos em jogos de estratégia, sacrificar as peças do jogo em prol de uma vitória a longo prazo. A partir dessa perspectiva, um consumidor típico pode ser extremamente vulnerável quando confrontado com um sistema de IA agente conversacional projetado para persuasão estratégica.
É por isso que o problema de manipulação de IA é uma preocupação séria. Em vez de atirar em grupos polarizados como campanhas de influência atuais, esses novos métodos funcionarão mais como “mísseis de busca de calor”, visando a nós como indivíduos e adaptando suas táticas em tempo real, ajustando-se a cada usuário. pessoalmente pois trabalha para maximizar o impacto persuasivo.
Compartilhar:
