Vídeos

O futuro da mente: Explorando a consciência da máquina

E se a consciência for apenas um pontinho no universo, um florescimento momentâneo de experiência que é exclusivo da vida nas primeiras civilizações tecnológicas - mas eventualmente desaparece?

Capítulo 1: O difícil problema da consciência
SUSAN SCHNEIDER: A consciência é a qualidade sentida da experiência. Então, quando você vê os matizes ricos de um pôr do sol, ou sente o aroma do seu café da manhã, você está tendo uma experiência consciente. Sempre que você está acordado e mesmo quando está sonhando, você está consciente. Portanto, a consciência é o aspecto mais imediato de sua vida mental. É o que às vezes torna a vida maravilhosa, e também o que a torna tão difícil e dolorosa em outras.

Ninguém entende totalmente por que estamos conscientes. Na neurociência, há muita discordância sobre a verdadeira base neural da consciência no cérebro. Em filosofia, existe algo chamado de problema difícil da consciência, que se deve ao filósofo David Chalmers. O difícil problema da consciência pergunta: por que devemos estar conscientes? Dado que o cérebro é um mecanismo de processamento de informações, por que ele precisa se sentir como algo para sermos nós por dentro?

Capítulo 2: estamos prontos para máquinas que se sentem?
SUSAN SCHNEIDER: O difícil problema da consciência é, na verdade, algo que não é exatamente o que queremos abordar quando perguntamos se as máquinas estão conscientes. O problema da consciência da IA simplesmente pergunta, poderiam as IAs que nós, humanos desenvolvermos um dia, ou mesmo IAs que podemos imaginar em nossa mente por meio de experimentos mentais, poderiam ser seres conscientes? Seria algo ser eles?

O problema da consciência da IA é diferente do difícil problema da consciência. No caso do problema difícil, é fato que somos seres conscientes. Estamos presumindo que estamos conscientes e perguntando: por que deve ser o caso? O problema da consciência da IA, em contraste, pergunta se as máquinas poderiam ser conscientes.

Então, por que devemos nos preocupar se a inteligência artificial é consciente? Bem, dados os desenvolvimentos rápidos na inteligência artificial, não seria surpreendente se nos próximos 30 a 80 anos, começarmos a desenvolver inteligências gerais muito sofisticadas. Eles podem não ser exatamente como os humanos. Eles podem não ser tão inteligentes quanto nós. Mas eles podem ser seres sencientes. Se forem seres conscientes, precisamos de meios para determinar se é esse o caso. Seria horrível se, por exemplo, os enviássemos para lutar em nossas guerras, os obrigássemos a limpar nossas casas, os tornássemos essencialmente uma classe de escravos. Não queremos cometer esse erro. Queremos ser sensíveis a essas questões. Portanto, temos que desenvolver maneiras de determinar se a inteligência artificial é consciente ou não.

Também é extremamente importante porque, à medida que tentamos desenvolver inteligências gerais, queremos entender o impacto geral que a consciência tem em um sistema inteligente. A centelha de consciência, por exemplo, tornaria uma máquina mais segura e mais empática? Ou estaria adicionando algo como volatilidade? Estaríamos, de fato, criando adolescentes emocionais que não conseguem lidar com as tarefas que lhes atribuímos? Portanto, para que possamos entender se as máquinas estão conscientes, temos que estar prontos para começar a trabalhar e realmente criar testes para as máquinas conscientes.

Capítulo 3: Brincando de Deus: Todas as máquinas são criadas iguais?
SUSAN SCHNEIDER: Em meu livro, falo sobre a possibilidade de engenharia da consciência. Então, suponha que descobrimos maneiras de criar consciência em máquinas. Pode ser que queiramos deliberadamente nos certificar de que certas máquinas não estão conscientes. Por exemplo, considere uma máquina que enviaríamos para desmontar um reator nuclear. Portanto, provavelmente o estaríamos enviando para a morte. Ou uma máquina que enviaríamos para uma zona de guerra. Será que realmente queremos enviar máquinas conscientes nessas circunstâncias? Seria ético?

Você pode dizer, bem, talvez possamos ajustar suas mentes para que gostem do que estão fazendo ou não se importem com o sacrifício. Mas isso envolve algumas questões de engenharia realmente arraigadas que são realmente éticas por natureza, que remontam ao Admirável Mundo Novo, por exemplo, situações em que os humanos foram geneticamente modificados e tomaram uma droga chamada soma, para que quisessem viver a vida que eles foram dados. Portanto, temos que realmente pensar sobre a abordagem certa. Portanto, pode ser o caso de projetarmos máquinas deliberadamente para certas tarefas que não são conscientes.

Por outro lado, se realmente formos capazes de tornar algumas máquinas conscientes, pode ser que os humanos queiram companheiros de IA conscientes. Então, por exemplo, suponha que os humanos queiram andróides cuidadores de idosos, como está atualmente em desenvolvimento no Japão. E quando você está olhando para a loja de androides, você está pensando no tipo de andróide que quer cuidar de sua avó idosa, você decide que quer um ser senciente que ame sua avó. Você sente que é o que melhor faz justiça a ela. E em outros casos, talvez os humanos realmente queiram relacionamentos com IAs. Portanto, pode haver uma demanda por companheiros de IA conscientes.

Capítulo 4: Superinteligência sobre a consciência
SUSAN SCHNEIDER: Dentro Você artificial , Na verdade eu ofereço uma abordagem de 'esperar para ver' para a consciência da máquina. Eu insisto que simplesmente não sabemos o suficiente agora sobre os substratos que podem ser usados para construir microchips. Nem sabemos o que seriam os microchips que são utilizados em 30 a 50 anos ou mesmo em 10 anos. Portanto, não sabemos o suficiente sobre o substrato. Não sabemos o suficiente sobre a arquitetura dessas inteligências gerais artificiais que poderiam ser construídas. Temos que investigar todos esses caminhos antes de concluir que a consciência é um subproduto inevitável de qualquer inteligência artificial sofisticada que projetamos.

Além disso, uma preocupação que tenho é que a consciência pode ser ultrapassada por uma IA sofisticada. Portanto, considere uma IA superinteligente, uma IA que, por definição, poderia superar os humanos em todos os aspectos: inteligência social, raciocínio científico e muito mais. Uma superinteligência teria vastos recursos à sua disposição. Pode ser um computronium construído a partir dos recursos de um planeta inteiro com um banco de dados que se estende além do alcance da World Wide Web humana. Poderia ser mais extenso do que a web, até.

Então, o que seria novo para uma superinteligência que exigiria um processamento consciente lento? O problema do processamento consciente em humanos é que ele é particularmente útil quando se trata de retardar o pensamento deliberativo. Portanto, a consciência em humanos está associada a um processamento mental lento, associado à memória de trabalho e atenção. Portanto, há limitações importantes no número de variáveis, que podemos até mesmo manter em nossas mentes em um determinado momento. Quer dizer, somos péssimos em memória operacional. Mal podíamos nos lembrar de um número de telefone por cinco minutos antes de escrevê-lo. É assim que nossos sistemas de memória de trabalho são ruins.

Portanto, se estamos usando a consciência para esses elementos lentos e deliberativos de nosso processamento mental, e uma superinteligência, em contraste, é um sistema especialista que possui um vasto domínio intelectual que abrange toda a World Wide Web e é extremamente rápido em seu processamento, por que precisaria de foco lento e deliberativo? Em suma, um sistema superinteligente pode ultrapassar a consciência porque é lento e ineficiente. Portanto, os sistemas mais inteligentes podem não estar conscientes.

Capítulo 5: Entrar: existência pós-biológica
SUSAN SCHNEIDER: Dado que uma superinteligência pode superar a consciência, temos que pensar sobre o papel que a consciência desempenha na evolução da vida inteligente. Agora mesmo, a NASA e muitos astrobiólogos projetam que poderia haver vida em todo o universo, e eles identificaram exoplanetas, planetas que são hospitaleiros, em princípio, para a vida inteligente. Isso é extremamente emocionante. Mas a origem da vida agora é uma questão de intenso debate na astrofísica. E pode ser que todos esses planetas habitáveis que identificamos sejam realmente desabitados.

Mas, partindo do pressuposto de que existe muita vida inteligente por aí, você deve considerar que, caso essas formas de vida sobrevivam à maturidade tecnológica, elas próprias podem estar ativando seus próprios dispositivos de inteligência artificial. E eles eventualmente podem atualizar seus próprios cérebros para que se tornem ciborgues. Eles são seres pós-biológicos. Eventualmente, eles podem ter até suas próprias singularidades.

Se for esse o caso, a inteligência pode passar de biológica a pós-biológica. E, como enfatizo em meu projeto com a NASA, esses seres biológicos altamente sofisticados podem superar a consciência. A consciência pode ser um pontinho, um florescimento momentâneo da experiência no universo em um ponto da história da vida em que ocorreu uma civilização tecnológica inicial. Mas então, como as civilizações têm sua própria singularidade, infelizmente, a consciência pode deixar esses sistemas biológicos.

Capítulo 6: O desafio: Maximizando a experiência consciente
SUSAN SCHNEIDER: Isso pode soar sombrio, mas eu trago isso realmente como um desafio para os humanos. Acredito que compreender como a consciência e a inteligência se relacionam pode nos levar a tomar melhores decisões sobre como aprimoramos nosso próprio cérebro. Portanto, na minha opinião, devemos aprimorar nossos cérebros de uma forma que maximize a senciência, que permita que a experiência consciente floresça. E certamente não queremos nos tornar sistemas especialistas que não tenham qualidade de feltro para experimentar. Portanto, o desafio para uma civilização tecnológica é realmente pensar não apenas tecnologicamente, mas filosoficamente, pensar sobre como essas melhorias impactam nossa experiência consciente.

O difícil problema da consciência, conforme cunhado pelo filósofo David Chalmers, pergunta: por que devemos ser conscientes? Dado que o cérebro é um motor de processamento de informações, por que ele precisa sentir como qualquer coisa para sermos nós?
O problema da consciência da IA é igualmente complicado. Sabemos que os humanos são conscientes, mas quando se trata de IA, a questão é: Será que as IAs que nós, humanos, desenvolvemos podem ser seres conscientes? Poderia sentir gostaria de ser eles? E como poderíamos saber com certeza, a não ser que eles nos contassem?
Como a superinteligência pode extinguir a consciência? Mais de 6 capítulos neste vídeo, a filósofa e cientista cognitiva Susan Schneider explora os problemas filosóficos que fundamentam o desenvolvimento da IA e a natureza das mentes conscientes.