AI está evoluindo por conta própria. Isso o torna perigoso?
O filósofo Daniel Dennett acredita que a IA nunca deve se tornar consciente - e não, não é por causa do robopocalipse.
Daniel C. Dennett: Acho que muitas pessoas simplesmente presumem que a maneira de tornar as IAs mais inteligentes é torná-las mais humanas. Mas acho que é uma suposição muito duvidosa.
Estamos muito melhor com ferramentas do que com colegas. Podemos fazer ferramentas que são inteligentes como os idiotas, e usá-las para entender quais são suas limitações, sem dar a elas segundas intenções, propósitos, um impulso para existir e competir e vencer os outros. são características que não desempenham nenhum papel crucial nas competências da inteligência artificial. Então, pelo amor de Deus, não se preocupe em colocá-los.
Deixe tudo isso de fora, e o que temos são “coisinhas” muito inteligentes que podemos tratar como escravos, e está tudo bem tratá-los como escravos porque eles não têm sentimentos, não estão conscientes. Você pode desligá-los; você pode separá-los da mesma forma que faz com um automóvel e é assim que devemos mantê-lo.
Agora que estamos na era do design inteligente - muitos designers inteligentes por aí - muitos deles são inteligentes o suficiente para perceber que a Segunda Regra de Orgel é verdadeira: 'A evolução é mais inteligente do que você.' Essa é a famosa piada de Francis Crick. E então o que eles estão fazendo é aproveitar os processos evolutivos para fazer o trabalho pesado sem ajuda humana. Portanto, temos todos esses sistemas de aprendizado profundo e eles vêm em variedades. Existem redes bayesianas e aprendizagem por reforço de vários tipos, redes neurais de aprendizagem profunda & hellip;E o que esses sistemas de computador têm em comum é que são competentes sem compreensão. O Google tradutor não sabe do que está falando quando traduz um pouco de turco para um pouco de inglês. Não precisa. Não é tão bom quanto a tradução que um bilíngue pode fazer, mas é bom o suficiente para a maioria dos propósitos.
E o que está acontecendo em muitos campos nesta nova onda de IA é a criação de sistemas, caixas pretas, onde você sabe que a probabilidade de obter a resposta certa é muito alta; eles são extremamente bons, eles são melhores do que os seres humanos em misturar os dados e encontrar a resposta certa. Mas eles não entendem como fazem isso. Ninguém entende em detalhes como eles fazem isso e ninguém precisa.
o que seus dedos dizem sobre sua personalidade
Portanto, criamos entidades, que são tão inescrutáveis para nós quanto um pássaro ou um mamífero considerado como uma coleção de células pode ser incluída; ainda há muito que não entendemos sobre o que os faz funcionar.
Mas essas entidades em vez de serem excelentes voadores ou pescadores ou o que quer que sejam, são excelentes detectores de padrões, excelentes analistas estatísticos, e podemos usar esses produtos, esses produtos intelectuais sem saber exatamente como são gerados, mas sabendo ter boas razões responsáveis para acreditar que eles irão gerar a verdade na maioria das vezes.
Nenhum sistema de computador existente, não importa o quão bom seja para responder a perguntas como Watson on Jeopardy ou categorizar imagens, por exemplo, nenhum sistema desse tipo é consciente hoje, não está próximo. E embora eu ache que seja possível, em princípio, fazer um andróide consciente, um robô consciente, não acho que seja desejável; Não acho que haveria grandes benefícios em fazer isso; e haveria alguns perigos e danos significativos também.
gráfico de economia para se tornar um milionário
Você poderia custar muito caro, mas teria que ter de fato uma grande revolução no design do computador, o que o levaria até a base do hardware.
Se a consciência é nossa para dar, devemos dá-la à IA? Esta é a pergunta que preocupa o sensível Daniel Dennett. A tendência emergente em IA e AGI é humanizar nossas criações de robôs: eles se parecem cada vez mais conosco, se emocionam e até imitam nossas falhas por meio do aprendizado de máquina. Nada disso torna a IA mais inteligente, apenas mais comercial. Dennett sugere lembrar o que são IAs: ferramentas e sistemas construídos para organizar nossas informações e agilizar nossas sociedades. Ele não hesita em dizer que são escravos construídos para nós, e podemos tratá-los como tais porque não têm sentimentos. Se finalmente entendermos a consciência o suficiente para instalá-la em um robô, não seria sensato. Isso não os deixará mais inteligentes, diz ele, apenas mais ansiosos. O livro mais recente de Daniel Dennett é Das bactérias a Bach e voltar: a evolução das mentes .
https://s3.amazonaws.com/edge-misc-assets/Book+Covers/Daniel+Dennett.jpg 'alt =' '>
