Como os valores humanos devem moldar o futuro da IA?
A IA mudará o futuro, e as decisões que tomamos hoje determinarão se esse futuro representa nossos valores.
(Foto: Adobe Stock)
Há uma fortuna a ser feita em dados e silício, e todos querem sua parte. A inteligência artificial é a corrida do ouro deste século. Suas promessas cintilam nas colinas. Mas enquanto todos estão ocupados montando acampamento no Vale do Silício, parece que poucos de nós contemplaram a natureza da IA e pesaram suas possíveis consequências morais contra seus pagamentos financeiros.
Considere as seguintes perguntas:
- Qual é a diferença entre aprendizado de máquina e aprendizado profundo?
- O que é uma rede neural artificial e como ela funciona?
- Quão perto estamos da inteligência artificial geral? Como poderíamos reconhecê-lo?
- Os robôs se encaixam em nossas projeções do futuro?
- Essas máquinas podem desenvolver a consciência?
- O que é consciência?
Poucos de nós seriam capazes de responder a essas perguntas com alguma confiança. Precisaríamos recrutar os serviços do Google para lidar com os técnicos, e provavelmente não tocamos nos metafísicos desde a Filosofia 101. Isso não é um golpe contra ninguém; é completamente compreensível.
A IA é complexa e complicada. A tecnologia e as técnicas subjacentes podem levar anos para serem dominadas. O campo se ramificou em uma variedade de especializações, como biometria, criação de conteúdo, processos robóticos, reconhecimento de fala e análise de texto. As promessas feitas sobre a utilidade futura da IA são ficção científica de grau A. Não é de admirar que muitos de nós deixemos essas questões para os especialistas.
Aqui está a coisa, porém: a IA não é apenas o domínio de roboticistas e desenvolvedores de software. O futuro de todos mudará como resultado dessas tecnologias.
Nesta videoaula, a filósofa Susan Schneider explica por que os valores, missões e futuros de nossa organização exigem que consideremos a IA profundamente antes de nos precipitamos nisso.
Seja humilde
Inteligência Artificial (IA) : Um campo da ciência que estuda maneiras de construir máquinas que podem executar os tipos de tarefas que os humanos podem fazer
- A IA tem o potencial de alterar fundamentalmente a vida humana. De robôs inteligentes a IA que podem entrar em nossas cabeças, nós, humanos, devemos começar a nos preparar agora para uma série de possibilidades.
- Não é apenas sobre o que nós posso fazer - mas o que nós quer fazer e o que nós devemos Faz. Considere estes filosófico e ético questões:
- Se vamos moldar a mente com tecnologia de IA, o que é a mente? – O que é ser um eu ou uma pessoa? As máquinas são eus?
- Queremos criar ciborgues?
- Queremos criar uma classe de robôs sencientes?
A consciência é a questão central da mente. Por que as pessoas têm experiências, emoções e prazeres enquanto rochas, torradeiras e motores de combustão não? É tudo feito de matéria. O cérebro parece a resposta óbvia, mas isso leva à questão de como neurônios e sinapses não conscientes geram experiências conscientes.
A verdade é que não sabemos o que é consciência. Agora, chegamos a um ponto na história em que podemos desenvolver a consciência não orgânica por meio de uma combinação de código e conectores de cobre. Mas se não entendemos a natureza de nossa consciência, como a reconheceríamos em outro lugar?
Não sabemos e, à medida que as perguntas se acumulam, elas podem deixar sua mente girando – pelo menos, achamos que são nossas mentes.
Poderíamos passar para a ética, mas essa questão não é menos espinhosa.
Os pesquisadores já começaram a desenvolver tecnologias de implantes cerebrais. O caso de uso atual é tratar doenças mentais, como demência e derrames. Mas uma vez que o cérebro é desbloqueado, as possibilidades se multiplicam. Poderíamos criar tecnologias que nos permitissem baixar cálculo, história asteca e kung-fu diretamente em nossos cérebros no estilo neo. Uau.
Embora seja desenvolvida com a melhor das intenções, a tecnologia exige que lutemos com grandes questões éticas. Dada sua provável despesa, podemos criar um novo sistema de classes em que os ricos obtenham vantagens insuperáveis em saúde e educação. As bolsas de estudo e a matrícula na faculdade não seriam baseadas no mérito, mas se você pode pagar o software de pré-requisito. E o conceito de maestria seria barateado a uma mercadoria.
Se esse exemplo é mesmo possível – veremos – é reconhecidamente distante. No entanto, como veremos, problemas como esse já existem nos sistemas de IA que empregamos atualmente.
De volta do futuro: entendendo a IA atual
(Foto: Wikimedia Commons)
Aprendizado de máquina (ML) : um subconjunto de IA que permite que os aplicativos aprendam com os dados e melhorem a precisão das tarefas por conta própria
Aprendizado Profundo (DL) : um subconjunto de ML que permite que os aplicativos aprendam com grandes quantidades de dados usando redes neurais
- Algoritmos podem discriminar porque são projetados por humanos e são orientados por dados. Precisamos entender o alcance e limites das diferentes arquiteturas que usamos.
- Se você quiser saber mais sobre como a IA está evoluindo, explore os livros, livros didáticos, podcasts e vídeos mais recentes sobre comércio.
Não podemos entender o impacto da IA no futuro se não entendermos as técnicas atuais de IA. Considere o aprendizado profundo.
O aprendizado profundo é um subconjunto do aprendizado de máquina. No aprendizado de máquina tradicional, um programador encarrega um algoritmo de identificar padrões em dados - imagens, texto, sons etc. O programador define os recursos relevantes para o algoritmo analisar, o algoritmo procura a ausência ou presença desses recursos e classifica os dados de acordo com o padrão aplicável. À medida que o algoritmo aprende com os dados, ele melhora sua precisão sem ser programado para isso.
Com o aprendizado profundo, o algoritmo é executado em uma rede neural. Os programadores ainda definem os parâmetros, mas não precisam decidir de antemão quais recursos melhor representam os dados que desejam. O algoritmo descobre isso sozinho depois de analisar grandes quantidades de dados. O aprendizado profundo é fantástico para procurar padrões nos dados com rapidez e precisão. Mas há desvantagens.
Imagine, por exemplo, um sistema de aprendizado profundo projetado para determinar a elegibilidade para empréstimos à habitação. O programador define os parâmetros de exploração de dados passados para determinar a elegibilidade futura. O sistema se instrui sobre esses dados e distribui empréstimos de acordo. Mas depois de alguns meses, fica claro que o sistema rejeita candidatos negros em uma taxa maior do que outros.
Não é que o programador tivesse uma agenda racista; em vez disso, o algoritmo tornou-se limitado pelos dados alimentados nele. O sistema lê cegamente que há uma lacuna na propriedade de casas negras e brancas e interpreta isso como uma desvantagem para o candidato negro. Sem o contexto histórico ou socioeconômico em que colocar os dados, não pode considerar o histórico de redlining ou gentrificação nem qualificar sua nota com uma curva socioeconômica que leve em consideração os impactos duradouros da Grande Recessão. Ele apenas se desliga.
Embora nosso exemplo seja hipotético, histórias como essa estão vindo à tona. Um relatório da ProPublica descobriu que um algoritmo de justiça criminal rotulou os criminosos negros como mais propensos a cometer um crime futuro do que os brancos. Uma investigação de acompanhamento descobriu que o algoritmo só previu crimes violentos futuros corretamente em 20% das vezes. E não vamos esquecer Tay, um chatbot de IA da Microsoft que se tornou um nazista literal ao aprender a ser humano através do Twitter.
Embora a IA seja uma ferramenta poderosa, não podemos presumir que ela apoiará os valores, a cultura e os objetivos de nossa empresa. Precisamos ficar no topo da IA para avaliar seu potencial, mas também suas limitações atuais. Em seguida, precisamos elaborar estratégias que utilizem o potencial, ao mesmo tempo em que criamos salvaguardas contra quaisquer limitações que não possamos eliminar.
Esse passo só pode ser dado a partir de um lugar de conhecimento, compreensão e curiosidade para aprender mais.
A IA está aqui. Queremos que essa poderosa tecnologia forme um futuro desejável, mas precisamos entendê-la primeiro. Com as videoaulas ‘For Business’ da Big Think+, você pode preparar melhor sua equipe para esse novo paradigma. Susan Schneider se junta a mais de 150 especialistas para ensinar lições sobre IA, inovação e mudança de liderança. Exemplos incluem:
Solicite uma demonstração hoje!
Tópicos Pensamento Crítico Fluência Digital Diversidade e Inclusão Recursos Humanos Inovação Liderança Aprendizado ao Longo da Vida Mitigação de Risco Automotivação Neste artigo Adaptabilidade inteligência artificial definindo risco Desenvolvimento de Estratégia Disrupção e Aproveitamento de Disrupção Tecnologia disruptiva Raciocínio Ético Ética Pensamento exponencial Previsão Futuro do trabalho Perspectiva global mindset de crescimento Análise de impactos Humildade Intelectual Liderar Questionamento de Mudanças Reconhecer Tendências Reconhecer Tendências da Indústria Reconhecer Riscos Riscos Culturas Inteligentes Estratégia de Talentos de Segunda Qualificação Up-Skilling Visão / Pioneirismo
Compartilhar:
