AI está evoluindo por conta própria. Isso o torna perigoso?
O filósofo Daniel Dennett acredita que a IA nunca deve se tornar consciente - e não, não é por causa do robopocalipse.
Daniel C. Dennett: Acho que muitas pessoas simplesmente presumem que a maneira de tornar as IAs mais inteligentes é torná-las mais humanas. Mas acho que é uma suposição muito duvidosa.
Estamos muito melhor com ferramentas do que com colegas. Podemos fazer ferramentas que são inteligentes como os idiotas, e usá-las para entender quais são suas limitações, sem dar a elas segundas intenções, propósitos, um impulso para existir e competir e vencer os outros. são características que não desempenham nenhum papel crucial nas competências da inteligência artificial. Então, pelo amor de Deus, não se preocupe em colocá-los.
Deixe tudo isso de fora, e o que temos são “coisinhas” muito inteligentes que podemos tratar como escravos, e está tudo bem tratá-los como escravos porque eles não têm sentimentos, não estão conscientes. Você pode desligá-los; você pode separá-los da mesma forma que faz com um automóvel e é assim que devemos mantê-lo.
Agora que estamos na era do design inteligente - muitos designers inteligentes por aí - muitos deles são inteligentes o suficiente para perceber que a Segunda Regra de Orgel é verdadeira: 'A evolução é mais inteligente do que você.' Essa é a famosa piada de Francis Crick. E então o que eles estão fazendo é aproveitar os processos evolutivos para fazer o trabalho pesado sem ajuda humana. Portanto, temos todos esses sistemas de aprendizado profundo e eles vêm em variedades. Existem redes bayesianas e aprendizagem por reforço de vários tipos, redes neurais de aprendizagem profunda & hellip;E o que esses sistemas de computador têm em comum é que são competentes sem compreensão. O Google tradutor não sabe do que está falando quando traduz um pouco de turco para um pouco de inglês. Não precisa. Não é tão bom quanto a tradução que um bilíngue pode fazer, mas é bom o suficiente para a maioria dos propósitos.
E o que está acontecendo em muitos campos nesta nova onda de IA é a criação de sistemas, caixas pretas, onde você sabe que a probabilidade de obter a resposta certa é muito alta; eles são extremamente bons, eles são melhores do que os seres humanos em misturar os dados e encontrar a resposta certa. Mas eles não entendem como fazem isso. Ninguém entende em detalhes como eles fazem isso e ninguém precisa.
Portanto, criamos entidades, que são tão inescrutáveis para nós quanto um pássaro ou um mamífero considerado como uma coleção de células pode ser incluída; ainda há muito que não entendemos sobre o que os faz funcionar.
Mas essas entidades em vez de serem excelentes voadores ou pescadores ou o que quer que sejam, são excelentes detectores de padrões, excelentes analistas estatísticos, e podemos usar esses produtos, esses produtos intelectuais sem saber exatamente como são gerados, mas sabendo ter boas razões responsáveis para acreditar que eles irão gerar a verdade na maioria das vezes.
Nenhum sistema de computador existente, não importa o quão bom seja para responder a perguntas como Watson on Jeopardy ou categorizar imagens, por exemplo, nenhum sistema desse tipo é consciente hoje, não está próximo. E embora eu ache que seja possível, em princípio, fazer um andróide consciente, um robô consciente, não acho que seja desejável; Não acho que haveria grandes benefícios em fazer isso; e haveria alguns perigos e danos significativos também.
Você poderia custar muito caro, mas teria que ter de fato uma grande revolução no design do computador, o que o levaria até a base do hardware.
Se a consciência é nossa para dar, devemos dá-la à IA? Esta é a pergunta que preocupa o sensível Daniel Dennett. A tendência emergente em IA e AGI é humanizar nossas criações de robôs: eles se parecem cada vez mais conosco, se emocionam e até imitam nossas falhas por meio do aprendizado de máquina. Nada disso torna a IA mais inteligente, apenas mais comercial. Dennett sugere lembrar o que são IAs: ferramentas e sistemas construídos para organizar nossas informações e agilizar nossas sociedades. Ele não hesita em dizer que são escravos construídos para nós, e podemos tratá-los como tais porque não têm sentimentos. Se finalmente entendermos a consciência o suficiente para instalá-la em um robô, não seria sensato. Isso não os deixará mais inteligentes, diz ele, apenas mais ansiosos. O livro mais recente de Daniel Dennett é Das bactérias a Bach e voltar: a evolução das mentes .
https://s3.amazonaws.com/edge-misc-assets/Book+Covers/Daniel+Dennett.jpg 'alt =' '>
Compartilhar:
