Por que governar a IA é crucial para a sobrevivência humana
Uma mão robótica ajuda uma mão humana a assinar um documento de lei.
(Foto: Adobe Stock)
A inteligência artificial (IA) já mudou o mundo. Os algoritmos de IA foram incorporados em aplicativos do dia a dia – como mídias sociais, mapeamento da web, reconhecimento facial e assistentes virtuais domésticos – para torná-los mais eficazes e fáceis de usar.Para aqueles que se lembram dos prompts de comando do DOS, essas conquistas por si só são impressionantes. No entanto, eles representam apenas o ato de abertura da IA.
Esta tecnologia tem o potencial de revolucionar todas as facetas da vida humana.AIs podem um dia pilotar aviões e dirigir carros. Eles poderiam ampliar a manufatura e a agricultura, tornando ambos mais seguros e sustentáveis. Eles poderiam nos tornar mais saudáveis, servindo como nossos instrutores de fitness e auxiliando os médicos no diagnóstico de doenças. O céu é o limite então? Não, nem é a linha de partida.
Mas para Allan Dafoe, diretor do Center for the Governance of AI, esse potencial ilimitado vem com um reverso. A mesma tecnologia que poderia entregar esses muitos presentes também pode ser existencialmente perigosa.
A opinião de um especialista sobre governança de IA
Dafoe compara o potencial de alteração do mundo da IA ao da inteligência humana. A mente humana nos abençoou coma imprensa, a lâmpada e a penicilina. Mas também concebeu horrores como a guilhotina, o DDT e as armas nucleares.
Se quisermos maximizar os benefícios da IA e evitar seus perigos, precisaremos instituir a governança desses algoritmos – de preferência antes que os riscos teóricos se transformem em ameaças concretas.
Dafoe admite prontamente que esta é uma tarefa difícil. A governança deve ser potente o suficiente para ser eficaz, mas não tão rigorosa a ponto de estrangular a inovação e a liberdade. Deve ser aberto o suficiente para atrair a adesão das partes interessadas, mas não deixar brechas para os maus atores explorarem. E exige que sejamos suficientemente prescientes para avaliar adequadamente os riscos, mas não sucumbirmos aos nossos medos e fantasias.
Mas se conseguirmos construir leis ponderadas e aplicá-las de forma eficaz, podemos construir o futuro que queremos em vez de tropeçar em um às cegas – uma boa mudança para a humanidade.
É relevante para o meu negócio?
Para qualquer setor, a IA pode introduzir pequenas mudanças nos próximos dois anos ou uma reviravolta completa em uma década. Como o desenvolvimento é difícil e caro, não há como prever adequadamente a chegada ou a adoção. Muitos especialistas, você deve se lembrar, previram que seríamos transportados em veículos autônomos até 2020. Sem sorte.
Mesmo assim, como outras inovações que mudam o mundo, a IA acabará por se juntar a leis, regulamentos e padrões. Isso terá ramificações generalizadas para qualquer indústria que use a tecnologia.
Carros autônomos também são um ponto de referência útil aqui. Os motoristas de IA permanecem a anos de distância e levará ainda mais tempo para que todos os veículos na estrada sejam totalmente autônomos – se esse dia chegar. Mas a introdução de algumas centenas de milhares de carros autônomos mudará a forma como abordamos a governança de licenciamento, transporte, leis de trânsito, segurança de pedestres, infrações de trânsito, seguro de veículos, seguro de responsabilidade civil e uma série de outros fatores sociais.
Como os efeitos podem ser tão profundos, o campo de influência tão expansivo e as mudanças tão difíceis de prever, é relevante que quase qualquer empresa tenha um papel ativo no monitoramento do desenvolvimento da IA e de sua governança.
É acionável?
Se sua organização estiver trabalhando ativamente nas fronteiras da IA, você desejará fazer sua voz ser ouvida e começar a construir as coalizões necessárias para atrair a atenção dos formuladores de políticas. Se sua linha do tempo de IA se estender ainda mais no futuro, hoje seria o momento ideal para começar a educar sua equipe em preparação.
Que governança você deve procurar defender e instituir? Infelizmente, não existe uma abordagem única para todos. As empresas estão gastando bilhões em pesquisa de IA e, como cada setor opera dentro de parâmetros únicos, a IA desenvolvida a partir de tais esforços terá como objetivo atender a esses parâmetros.
Com isso dito, especialistas como Dafoe argumentam que a transparência será essencial. Para garantir que uma IA tome decisões justas e éticas, precisamos saber como ela chega à sua conclusão. Esconder esse processo analítico por trás de muralhas proprietárias corre o risco de institucionalizar práticas que não se alinham com nossos valores.Por exemplo, IAs podem exacerbar preconceitos sociais e práticas injustas se preconceitos forem incorporados ao algoritmo – independentemente de os preconceitos dos programadores serem intencionais ou inconscientes.
Na verdade, isso já está acontecendo hoje.Atualmente, os sistemas de justiça criminal estão usando software para tentar prever a reincidência – ou seja, a probabilidade de uma pessoa repetir o mesmo crime ou cometer outro. Esses softwares geralmente rotulam os criminosos negros como mais propensos a cometer crimes futuros do que os brancos; no entanto, um relatório da ProPublica sobre um desses sistemas descobriu que ele só previu crimes violentos futuros corretamente em 20% das vezes.
E como o poder da IA tem o potencial de afetar a todos, todos temos voz na discussão sobre como melhor governá-la.
Prepare-se para a revolução da IA com lições ' Para negócios ’ do Big Think+. No Big Think+, mais de 350 especialistas, acadêmicos e empreendedores se reúnem para ensinar habilidades essenciais no desenvolvimento de carreira e aprendizado ao longo da vida. Prepare-se para novas mudanças tecnológicas com lições como:
- Quais habilidades o destacarão na era da Automação? , com David Epstein, Autor, Alcance: Por que os generalistas Trump em um mundo especializado
- Fazendo a mudança para o social: preste atenção à revolução móvel , com Mollie Spilman, Chief Revenue Officer, Criteo
- Imagine o futuro: entenda os fundamentos da Mudança , com Beth Comstock, ex-vice-presidente da GE e autora, Imagine-se para a frente
- Enfrente os maiores problemas do mundo: os 6 Ds das organizações exponenciais , com Peter Diamandis, Fundador e CEO, XPRIZE
- A adoção global de tecnologia acelerou de forma enganosa , com James Manyika, Diretor, McKinsey Global Institute
Solicite uma demonstração hoje!
Tópicos Fluência Digital Inovação Mitigação de Riscos Neste artigo Comunicação de Risco Ética Cibernética Disrupção e Aproveitamento de Disrupção Tecnologia disruptiva Futuro do Trabalho Gerenciando Risco Reconhecendo Risco Compreendendo RiscoCompartilhar:
