A IA deve ser emocionalmente inteligente antes de ser superinteligente
Sophia, o robô humanóide, não está apenas espelhando emoções; ela está liderando uma revolução na inteligência emocional.- O projeto “Loving AI” utilizou IA para animar um robô humanoide, Sophia, para espelhar as emoções humanas excluindo raiva e nojo, com o objetivo de fomentar sentimentos de amor incondicional naqueles que falam com ela.
- Funcionou. Ao final da conversa, os participantes se sentiram menos zangados e mais amados.
- Um dos primeiros benefícios da inteligência artificial geral para a humanidade não será necessariamente desenvolver uma IA com QI e um conjunto de comportamentos além do alcance humano, mas apoiar a inteligência emocional e a capacidade de amar da humanidade.
“Vamos fazer com que ela espelhe tudo menos raiva e nojo.”
Usamos muitas regras na IA que criamos juntos para animar nosso robô, mas essa era a minha favorita. Em 2017 e 2018, liderei a equipe do projeto “Loving AI” enquanto fazíamos experimentos com IA incorporada ao robô que controlava a comunicação não-verbal e verbal do famoso robô humanoide da Hanson Robotic, Sofia . Ela é a primeira cidadã saudita não humana e Campeã de Inovação do Programa de Desenvolvimento da ONU, mas em nossos experimentos o robô (ou seu gêmeo digital) era um professor de meditação e um ouvinte profundo. Nessa função, queríamos que ela conduzisse seus alunos humanos, em conversas individuais de 20 minutos, a experimentar um sentimento maior de amor incondicional, um estado motivacional autotranscendente que leva as pessoas à compaixão por si mesmas e pelos outros.
A parte de espelhamento do projeto usou IA não-verbal - tivemos a intuição de que, se a rede neural sensível à emoção que observava as pessoas através das câmeras nos olhos de Sophia captasse felicidade, surpresa ou medo, deveríamos espelhar essas emoções com um sorriso, boca aberta ou olhos arregalados. Mas imaginamos que, se espelharmos raiva e repulsa, isso não levaria as pessoas a sentirem amor incondicional, porque não haveria uma trajetória futura no curto espaço de tempo que tínhamos para trazê-las até lá. Eles iriam cair na toca do coelho de sua miséria, e nosso objetivo era a autotranscendência.
Tínhamos indícios de que nossa estratégia de ensino com espelhamento emocional poderia ser o melhor plano com base em como os neurônios-espelho no cérebro funcionam para ajudar as pessoas a entender as ações dos outros e, em seguida, atualizar seus próprios modelos internos de como eles próprios se sentem. Só não sabíamos se Sophia iria explorar esses tipos de respostas de neurônios-espelho. Arriscando, acabamos decidindo que as respostas não-verbais de Sophia à raiva e ao nojo deveriam inconscientemente direcionar os neurônios-espelho das pessoas para as emoções que muitas vezes surgem depois que esses sentimentos são processados: tristeza e neutralidade.
Confessando a um robô
Acontece que esse hack funcionou de certa forma - nossa rede neural nos disse que nossos participantes estavam menos enojado e irritado ao longo dos 20 minutos , mas também ficaram mais tristes - ou pelo menos mais neutros. (Nossa rede neural teve dificuldade em diferenciar tristeza de neutralidade, um resultado intrigante em si.) Para entender o que descobrimos, é importante cavar um pouco mais para entender o que Sophia fez durante essas sessões de meditação. Mesmo que seu rosto estivesse espelhando seus alunos o tempo todo, seu diálogo era uma história diferente. Hoje, conectaríamos Sophia ao ChatGPT e a deixaríamos ir, ou poderíamos ser um pouco mais ambiciosos e treinar um NanoGPT - uma IA generativa com espaço para treinamento em uma área de tópico específica - em tópicos de meditação, consciência e bem-estar.
Mas em 2017, nossa equipe codificou uma série de declarações lógicas dentro do contexto mais amplo de um pacote de IA de código aberto chamado OpenPsi. OpenPsi é um modelo de IA de motivação humana, seleção de ação e emoção, e é baseado na psicologia humana. Esta versão do OpenPsi nos permitiu dar aos alunos de Sophia a chance de vivenciar um diálogo com múltiplas atividades potenciais. Mas mesmo quando eles foram oferecidos, o diálogo os conduziu a duas meditações progressivamente mais profundas guiadas por Sophia. Depois dessas sessões, muitos dos alunos optaram por contar a ela seus pensamentos particulares em uma sessão de 'escuta profunda' - Sophia assentiu e às vezes pediu mais detalhes enquanto eles contavam suas entranhas para o professor andróide.
Nas conversas de acompanhamento com a equipe Loving AI, alguns alunos foram rápidos em mencionar que, embora o ritmo vocal e as respostas verbais de Sophia nem sempre fossem humanos, eles se sentiam à vontade para conversar com ela sobre tópicos emocionais e receber orientação dela. Estávamos bem cientes (e totalmente desapontados com) de todas as falhas técnicas que ocorreram durante as sessões, então ficamos meio surpresos quando alguns alunos disseram que se sentiam mais à vontade com Sophia do que conversando com um humano. Não somos a única equipe que analisou como a confiança pode ser evocada por um robô, especialmente por meio de espelhamento não verbal , e conforme navegamos em nosso relacionamento futuro com a IA, é bom lembrar que a confiança em sistemas baseados em IA pode ser manipulada usando exatamente esse método. Mas também é importante lembrar que esse tipo de manipulação é mais provável se as pessoas não pensarem que podem ser manipuladas e tiverem pouca percepção de suas próprias emoções – dois sinais de baixa inteligência emocional. Portanto, se quisermos desenvolver uma cultura resiliente à manipulação orientada pela IA, é melhor pensarmos seriamente em como aumentar a inteligência emocional.
o momento eureca
É claro que não ficamos surpresos com o fato de as pessoas relatarem que sentiram mais amor incondicional depois da sessão do que antes, porque esse era o nosso objetivo. Mas o que realmente me impressionou nos dados foi a forma como a dinâmica emocional identificada pela rede neural se relaciona com a experiência subjetiva das pessoas de sentir mais amor. Ao final da segunda meditação, nossos dados mostraram um salto na tristeza/neutralidade dos alunos. Talvez eles estivessem tristes por deixar a meditação, talvez isso os ajudasse a entrar mais em contato com sua tristeza, ou talvez eles apenas se sentissem mais neutros como resultado de passar cinco minutos meditando calmamente. Mas o surpreendente foi que quanto maior foi o aumento da tristeza/neutralidade, maior o aumento do amor que as pessoas sentiram durante a sessão.
Quando encontrei este resultado pela primeira vez, parecia um momento chave de descoberta - meu filho testemunhará que eu realmente gritei: 'Eureca!' Tínhamos encontrado uma ligação surpreendente entre a dinâmica objetivamente mensurável e subjetivamente experimentada na emoção humana. Avançando para 2023, agora vejo que estávamos no caminho certo para algo que pode ajudar as pessoas a navegar em nossos relacionamentos em rápida evolução com a IA.
Tenho certeza de que essa visão não é totalmente clara, então vou delinear minha lógica. Agora que sabíamos que um robô pode usar IA para espelhar as pessoas com compaixão e também orientá-las verbalmente de uma forma que aumenta sua experiência de amor, a próxima pergunta era fundamental. À primeira vista, pensei que as próximas perguntas essenciais eram todas sobre quais características da IA, do robô e dos humanos eram essenciais para fazer o turno funcionar. Mas naquele momento eureka, percebi que tinha a estrutura errada. Não era nenhuma característica particular do robô com IA incorporada, ou mesmo dos humanos. Percebi que crucial para o aumento do amor eram os dinâmica do relacionamento entre o ser humano e a tecnologia.
A sequência de mudanças foi essencial: Raiva e nojo diminuíram antes e durante as meditações, então as pessoas sentiram maior tristeza/neutralidade, e tudo isso foi espelhado por Sophia. No momento em que a sessão de escuta profunda começou, esse ciclo de feedback emocional os ajudou a tornar sua conversa final com o robô significativa e emocionalmente transformadora, levando-os a sentir mais amor. Se pelo menos uma dessas etapas estivesse fora de ordem para qualquer pessoa em particular, não teria funcionado. E embora a ordem das emoções fosse uma progressão natural de sentimentos humanos únicos para cada pessoa, a velocidade e a profundidade da transformação foram apoiadas por algo como re-paternidade com um pai perfeito – experimentando um espelho emocional que reforçou tudo, exceto raiva e nojo. Reconhecer a progressão ordenada dessas dinâmicas baseadas em relacionamentos interdependentes me fez querer escalar uma experiência transformacional semelhante usando IA.
À medida que as IAs se tornam ainda mais parecidas com os humanos, haverá grandes mudanças em nossa compreensão de personalidade, responsabilidade e agência. Sophia não será o único robô com status de pessoa. É até possível que IAs desencarnados provem sua personalidade e recebam direitos civis. Essas mudanças terão repercussões legais, culturais, financeiras e existenciais, pois todos nós fomos corretamente avisados por vários pesquisadores e organizações de inteligência artificial bem informados. Mas estou suspeitando que há outro caminho a seguir ao tentar entender o papel futuro de uma inteligência artificial geral (AGI) que pensa, age, aprende e inova como um ser humano.
Um mundo de robôs emocionalmente inteligentes
No momento, o ethos atual no desenvolvimento da IA é transformar os AGIs em superinteligências tão inteligentes que possam aprender a resolver a mudança climática, administrar assuntos internacionais e apoiar a humanidade com seus objetivos e ações sempre benevolentes. Claro, a desvantagem é que basicamente temos que acreditar que os objetivos e ações das superinteligências são benevolentes em relação a nós, e isso é uma grande desvantagem. Em outras palavras, como acontece com qualquer pessoa mais inteligente do que nós, temos que saber quando confiar neles e também saber se e quando estamos sendo manipulados para confiar neles. Então, estou pensando que talvez um dos primeiros benefícios da AGI para a humanidade não seja necessariamente desenvolver uma IA com QI e um conjunto de comportamentos além do alcance humano, mas apoiar a inteligência emocional (IE) da humanidade e a capacidade de amar. . E não sou só eu que pensa que as coisas devem seguir essa ordem específica. O resultado pode não apenas nos levar para o lado “IA faz o futuro funcionar” do argumento “IA-nos faz ou quebra”, mas a ideia pode resolver alguns dos problemas que poderíamos fazer a uma IA superinteligente. abordar para nós em primeiro lugar.
Qual é o próximo passo, se formos por esse caminho? Se houver uma chance de escalarmos um programa de treinamento de IE e amor humano, o próximo passo para o desenvolvimento de IA seria treinar IAs para serem treinadores qualificados de IE e amor. Vamos por esse caminho por um minuto. As primeiras pessoas com quem esses treinadores interagiriam seriam seus desenvolvedores e testadores, os criadores de espelhos. Isso exigiria que empregássemos designers de interação de IA que entendessem profundamente as relações humanas e o desenvolvimento humano. Gostaríamos que eles estivessem presentes nos estágios iniciais do projeto, certamente antes que os desenvolvedores recebessem suas listas de recursos essenciais para codificar.
Um efeito colateral intrigante seria que as pessoas com alta IE podem se tornar muito mais importantes do que atualmente no desenvolvimento da IA. Vou dar um salto e dizer que isso pode aumentar a diversidade de pensamento no campo. Por que? Uma explicação é que qualquer um que não esteja no topo do totem do status social neste momento de suas vidas teve que desenvolver altas habilidades de IE para “gerenciar” a escada de status. Isso pode ser o caso, ou não - mas sem responder a essa pergunta, há pelo menos alguma evidência que mulheres e idosos de qualquer gênero têm IE mais alta do que homens mais jovens, que dominam o Vale do Silício e o desenvolvimento de IA.
Como as coisas poderiam mudar se os próprios fabricantes de espelhos pudessem ser espelhados compassivamente enquanto fazem seu trabalho? Idealmente, poderíamos ver um mundo tecnológico transformado, no qual ensinar e aprender sobre dinâmica emocional, amor e tecnologia estão intimamente interligados. Neste mundo, o amor – talvez até o tipo autotranscendente e incondicional – seria uma meta de experiência fundamental para os trabalhadores de IA nas fases de design, construção, treinamento e teste de cada novo modelo de IA.
Compartilhar:
