Por que Elon Musk pensa que o A.I humano. a simbiose pode impedir o 'ditador do mal I.A.'
'Não precisamos nos preocupar com algum ditador malvado I.A. porque somos a I.A. coletivamente. Esse parece ser o melhor resultado que posso imaginar ', diz Elon Musk.
Mesclando mentes e máquinas? Elon Musk acha isso crítico. (Foto: Shutterstock / gov-civ-guarda.pt)No último domingo, um torneio de DotA 2 particularmente incomum aconteceu. DotA, um complicado jogo de estratégia em tempo real, está entre os esportes eletrônicos mais populares do mundo. Os cinco jogadores de um time - Blitz, Cap, Fogged, Merlini e MoonMeander - foram classificados no percentil 99,95, indiscutivelmente entre os melhores jogadores de DotA 2 do mundo. Porém, o adversário ainda os derrotou em dois dos três jogos, vencendo o torneio. Um jogo equilibrado deve levar 45 minutos, mas esses dois terminaram em 14 e 21 minutos, respectivamente.
Seu oponente era uma equipe de cinco redes neurais desenvolvidas pela OpenAI de Elon Musk, coletivamente denominadas OpenAI Five. Antes do torneio de domingo, a rede neural jogou 180 anos de partidas de DotA contra si mesma todos os dias, ficando cada vez mais perto do domínio do jogo. A razão pela qual seus criadores escolheram o DotA como o foco do OpenAI Five foi imitar a natureza incrivelmente variável e complexa do mundo real; DotA é um jogo complicado, e se um I.A. será capaz de processar e interagir com o mundo em vez de, digamos, aprender a traçar um curso de GPS ou jogar xadrez; os videogames abertos são um bom lugar para começar.
Embora esta seja uma conquista técnica impressionante por si só, o tweet da vitória de Musk destacou que isso foi apenas um trampolim em direção ao futuro da A.I.
Ótimo trabalho de @OpenAI . Precisa da interface neural em breve para habilitar a simbiose humano / IA.
- Elon Musk (@elonmusk) 6 de agosto de 2018
A interface neural a que Musk se referia está sendo desenvolvida pela Neuralink, outra de suas startups. O objetivo do Neuralink é desenvolver uma interface cérebro-máquina (IMC) entre a mente humana e um I.A. generalizado - essencialmente, um I.A. capaz de pensar em geral ao invés de pensar na melhor forma de vencer uma partida de DotA. Ao desenvolver esta interface entre o cérebro e um I.A., o Neuralink espera aumentar as capacidades humanas e evitar uma das preocupações frequentemente invocadas por Musk sobre o futuro: um Imortal, mau, ditatorial I.A.
Em um Entrevista com Y Combinator , Musk explicou que seu medo é que apenas uma empresa ou um pequeno grupo de indivíduos tenha controle sobre o futuro I.A. tecnologias.
'Eu acho isso muito perigoso. Também pode ser roubado por alguém mau, como algum ditador ou país malvado poderia enviar sua agência de inteligência para roubá-lo e obter o controle. Simplesmente se torna uma situação muito instável, eu acho, se você tiver algum I.A. incrivelmente poderoso. … A melhor das alternativas disponíveis que posso propor - e talvez outra pessoa possa propor uma abordagem melhor ou um resultado melhor - é que alcançamos a democratização da I.A. tecnologia.'
Para realizar essa democratização, Musk fundou a OpenAI, cuja tecnologia está totalmente à disposição do público e foi usada para construir o OpenAI Five para jogar DotA.
john stuart mill sobre liberdade de expressão
Seu segundo método de democratizar a I.A. é através do Neuralink. Conectando a mente humana com I.A. baseado em nuvem, a teoria é que teremos os recursos necessários para lutar com qualquer I.S. centralizado e malévolo por aí.
69% dos americanos estão mais preocupados do que entusiasmados com os implantes de chips cerebrais para aumentar as habilidades cognitivas. Fonte: Pesquisa com adultos nos EUA realizada de 2 a 28 de março de 2016. Pew Research Center.
Como Tim Urban, escritor de Espere mas porque , disse a Virginia Heffernan em um Heleo conversa :
'[Elon Musk] acredita que a solução para reduzir o risco existencial é ser capaz de fazer interface de alta largura de banda com IA. Ele pensa que se pudermos pensar com IA, isso permitirá que a IA funcione como uma terceira camada em nosso cérebro, onde poderíamos ter IA construída para nós ...
'Isso soa meio assustador, mas faz sentido se todos nós somos IA, não há realmente ninguém que possa obter o controle de toda a IA no mundo, monopolizá-la e talvez fazer coisas ruins com ela, porque eles estão lutando com milhões e bilhões de pessoas que têm acesso à IA. É muito mais seguro de uma forma estranha, embora nos dê muito mais poder. É como se você não quisesse um super-homem na terra, mas se você tem um bilhão de super-homens, está tudo bem, porque eles se controlam e se equilibram.
Essa simbiose homem / máquina pode não ser tão maluca quanto parece. Os IMCs já existem como chips de computador embutidos no cérebro que fornecem impulsos elétricos direcionados para ajudar a tratar distúrbios neurológicos, como Parkinson ou epilepsia. Em um estudo recente, três macacos foram implantados com IMC que compartilhavam suas informações sensoriais e motoras individuais e enviaram sinais para um braço mecânico. Os macacos foram capazes de criar uma espécie de rede neural compartilhada e mova o braço mecânico no espaço 3D.
Uma interface cérebro-máquina detecta a corrente elétrica e o fluxo sanguíneo do cérebro desse homem para que ele possa mover o robô humanóide de Honda, Asimo. (Foto de YOSHIKAZU TSUNO / AFP / Getty Images).
Além disso, o tipo de interface que o Neuralink irá desenvolver já existe em uma forma primitiva. “Temos um self terciário digital na forma de nossos recursos de e-mail, nossos computadores, telefones, aplicativos, ' Musk disse . “Somos praticamente sobre-humanos, [mas] estamos extremamente restritos à largura de banda nessa interface entre o córtex e aquela forma digital terciária de [nós mesmos]. ' Embora nossos dispositivos possam nos dar acesso a muito mais informações e recursos muito maiores, ainda temos que usar as pontas dos dedos para digitar, nossos olhos para captar símbolos alfabéticos, poder de computação extra em nossos cérebros para decodificar esses símbolos, e assim por diante, que nos retarda significativamente.
Como tudo o que Musk faz, este é um trabalho muito ousado e voltado para o futuro, mas pode não levar em consideração todas as ramificações de um IMC que liga a mente humana a um I.A. Alguns pesquisadores argumentam que um simbionte A.I./humano ajudará a prevenir a singularidade —O momento em que um I.A. torna-se tão inteligente quanto um ser humano - essencialmente movendo os postes da meta. Se os humanos podem se aprimorar conectando-se a um I.A., isso evita o momento em que um I.A. é mais inteligente que um humano.
qual é o problema com o depósito de neodímio Japão encontrado
No entanto, há outras preocupações diretamente ligadas à abordagem particular que Musk está adotando aqui. The Morningside Group , uma organização composta por neurocientistas, neurotecnologistas, especialistas em ética e engenheiros de inteligência de máquina, descreve várias preocupações éticas relacionadas à conexão íntima da mente humana com um I.A. O primeiro é a privacidade e o consentimento. Considere todas as alegações em torno da coleta de dados do Facebook. Mesmo se um futuro humano / I.A. O simbionte é open source e descentralizado, cujos dados pessoais serão incluídos na nuvem? Como manter o controle sobre os dados pessoais neste cenário?
Agência e identidade são outra questão problemática. Isso não quer dizer que outras pessoas conectadas à nuvem possam descobrir sua identidade; você pode perder totalmente o senso de identidade. Se todos puderem interagir com uma inteligência baseada em nuvem, a inteligência de um indivíduo pode deixar de significar qualquer coisa.
Há também a questão de como esse aumento será usado na sociedade. Particularmente preocupante é a ideia de que seres humanos aprimorados pela IA poderiam ser usados na guerra e uma nova corrida armamentista de aumento poderia começar.
Além do mais, os preconceitos inerentes à nossa sociedade tendem a ser adotados nas tecnologias que criamos. Programas do Google anúncios de empregos com salários mais baixos para mulheres , e algoritmos usados pela aplicação da lei dos EUA predizem de forma esmagadora que criminosos negros vão reincidir em comparação com criminosos brancos acusados do mesmo crime. É possível que um I.A. seria capaz de contornar objetivamente esses preconceitos, mas não se deve presumir que seja o caso.
O problema com tudo isso é que simplesmente não há uma maneira objetiva de saber como a I.A. impactará nossa sociedade. É uma mudança radical demais para que possamos compreender. Ao mesmo tempo, essas mudanças acontecerão e devemos fazer os preparativos. Por meio do OpenAI e do Neuralink, Musk parece estar fazendo isso determinando o curso da I.A. desenvolvimento desde o início.
