Por que o livre arbítrio é necessário para a verdadeira inteligência artificial
A inteligência artificial geral não surgirá em sistemas que recebem dados apenas passivamente. Eles precisam ser capazes de reagir ao mundo.
Crédito: Spiralstone/Wirestock Creators/Adobe Stock
- Os sistemas de IA generativos mais sofisticados podem ter problemas com novos cenários não representados nos dados de treinamento.
- Embora tenha alcançado um desempenho sobre-humano em muitas áreas, a IA não alcançou o mesmo sucesso em coisas que a maioria dos humanos — e animais — considera fáceis.
- A inteligência artificial geral (AGI) pode ter de ser obtida através do exercício da agência.
O campo da inteligência artificial (IA) sempre se inspirou na neurociência, começando com os documentos fundadores do campo, que sugeriram que os neurônios podem ser considerados como realizando operações lógicas. Seguindo essa perspectiva, a maior parte dos esforços iniciais para desenvolver IA concentraram-se em tarefas que exigiam raciocínio lógico e abstrato, especialmente em campos de testes como jogar xadrez ou Go, por exemplo – o tipo de coisas que são difíceis para a maioria dos humanos. Os sucessos da área nessas áreas são bem conhecidos.
Os últimos anos testemunharam avanços impressionantes em outras áreas, como reconhecimento de imagem, previsão de texto, reconhecimento de fala e tradução de idiomas. Estes foram alcançados principalmente devido ao desenvolvimento e aplicação da aprendizagem profunda, inspirada na arquitetura massivamente paralela e multinível do córtex cerebral. Esta abordagem é feita sob medida para aprender as regularidades estatísticas em massas e massas de dados de treinamento. As redes neurais treinadas podem então abstrair padrões de ordem superior; por exemplo, reconhecendo tipos de objetos em imagens. Ou podem prever quais padrões serão mais prováveis em novas instâncias de dados semelhantes, como no preenchimento automático de mensagens de texto ou na previsão de estruturas tridimensionais de proteínas.
Quando treinadas da maneira correta, as redes neurais também podem gerar exemplos totalmente novos de tipos de dados que já viram antes. Modelos generativos podem ser usados, por exemplo, para criar “uma imagem fotográfica realista de um cavalo no topo do Monte Everest” ou uma “imagem de uma van de sorvete no estilo de Van Gogh”. E “grandes modelos de linguagem” podem produzir passagens de texto ou respostas a perguntas que parecem muito razoáveis e convincentes. Na verdade, eles são capazes de ter conversas que dão uma forte impressão de que realmente entendem o que lhes é perguntado e o que estão dizendo – a ponto de alguns usuários até atribuirem senciência a esses sistemas.
No entanto, mesmo os sistemas mais sofisticados podem rapidamente ficar confusos com o tipo certo de questionamento, o tipo que apresenta cenários novos não representados nos dados de treinamento que os humanos podem lidar facilmente. Assim, se estes sistemas têm algum tipo de “entendimento” — baseado na abstração de padrões estatísticos num conjunto inimaginavelmente vasto de dados de treino — não parece ser o tipo que os humanos têm.
Na verdade, embora tenha alcançado um desempenho sobre-humano em muitas áreas, a IA não alcançou o mesmo sucesso em coisas que a maioria dos humanos considera fáceis: movimentar-se pelo mundo, compreender relações causais ou saber o que fazer quando confrontado com uma situação nova. Notavelmente, estas são coisas nas quais a maioria dos animais também é boa: eles precisam ser bons para sobreviver em ambientes desafiadores e dinâmicos.
Estas limitações refletem o facto de os atuais sistemas de IA serem altamente especializados: são treinados para realizar tarefas específicas com base nos padrões dos dados que encontram. Mas quando solicitados a generalizar, muitas vezes falham, de formas que sugerem que não abstraíram, de facto, qualquer conhecimento dos princípios causais subjacentes em jogo. Podem “saber” que quando vêem X, é muitas vezes seguido por Y, mas podem não saber porquê: se reflecte um padrão causal verdadeiro ou apenas uma regularidade estatística, como a noite após o dia. Eles podem, portanto, fazer previsões para tipos de dados familiares, mas muitas vezes não conseguem traduzir essa capacidade para outros tipos ou para situações novas.
Assim, a busca pela inteligência artificial geral não registou o mesmo tipo de progresso que os sistemas de IA destinados a tarefas específicas. É precisamente essa capacidade de generalizar que reconhecemos como característica da inteligência natural. A marca da inteligência nos animais é a capacidade de agir adequadamente em ambientes novos e incertos, aplicando o conhecimento e a compreensão adquiridos a partir de experiências passadas para prever o futuro, incluindo os resultados das suas próprias ações possíveis. A inteligência natural manifesta-se assim no comportamento inteligente, que é necessariamente definido normativamente como bom ou mau, em relação aos objetivos de um agente. Parafrasear Forrest Gump , inteligente é o mesmo que inteligente.
O outro aspecto fundamental da inteligência natural é que ela é alcançada com recursos limitados. Isso inclui o hardware computacional, a energia envolvida na sua execução, a quantidade de experiência necessária para adquirir conhecimentos úteis e o tempo necessário para avaliar uma situação nova e decidir o que fazer. Maior inteligência é a capacidade não apenas de chegar a uma solução apropriada para um problema, mas de fazê-lo com eficiência e rapidez. Os organismos vivos não podem se dar ao luxo de treinar em milhões de pontos de dados, ou de operar um sistema que consome megawatts de energia, ou de passar longos períodos de tempo computando exaustivamente o que fazer. Na verdade, podem ser precisamente essas pressões do mundo real que impulsionam a necessidade e, portanto, a capacidade de abstrair princípios causais gerais da experiência limitada.
Os atuais sistemas de IA são altamente especializados: são treinados para realizar tarefas específicas com base nos padrões dos dados que encontram.
A compreensão da causalidade não pode advir da observação passiva, porque os contrafactuais relevantes muitas vezes não surgem. Se X for seguido por Y, não importa quão regularmente, a única maneira de realmente saber que se trata de uma relação causal é intervir no sistema: prevenir X e ver se Y ainda acontece. A hipótese tem que ser testada. O conhecimento causal, portanto, vem da intervenção causal no mundo. O que vemos como comportamento inteligente é a recompensa por esse trabalho árduo.
A implicação é que inteligência artificial geral não surgirá em sistemas que recebem dados apenas passivamente. Eles precisam ser capazes de reagir ao mundo e ver como esses dados mudam em resposta. Tais sistemas podem, portanto, ter que ser incorporados de alguma forma: seja em robótica física ou em entidades de software que possam atuar em ambientes simulados.
A inteligência artificial geral pode ter de ser conquistada através do exercício da agência.
Compartilhar:
