O medo da IA é equivocado. Em vez disso, tema as pessoas que almejam o poder
O medo da tecnologia não é novo. Mas entendemos mal a sua origem. Na realidade, não temos medo da tecnologia, mas uns dos outros.
- Quando tememos a tecnologia, na verdade estamos temendo uns aos outros – o que somos capazes de fazer uns aos outros. Esse medo é muito antigo.
- O medo da tecnologia esconde nossa própria falha moral, nossa incapacidade de crescer além da necessidade de poder.
- Garantir que estamos a salvo da IA é, na verdade, garantir que estamos a salvo de nós mesmos. Talvez a IA nos ajude a encontrar uma maneira melhor de seguir em frente.
Vivemos tempos estranhos, em que a tecnologia de que mais dependemos é também a que mais tememos. Celebramos conquistas de ponta, mesmo quando recuamos com medo de como elas podem ser usadas para nos prejudicar. Da engenharia genética e IA à tecnologia nuclear e nanorrobôs, a lista de tecnologias inspiradoras e de rápido desenvolvimento é longa.
No entanto, esse medo da máquina não é tão novo quanto parece. A tecnologia tem uma aliança de longa data com o poder e o estado. O lado sombrio da história humana pode ser contado como uma série de guerras cujos vencedores são muitas vezes aqueles com a tecnologia mais avançada. (Existem exceções, é claro.) A ciência e seus descendentes tecnológicos seguem o dinheiro.
Esse medo da máquina parece estar fora de lugar. A máquina não tem intenção: apenas seu criador a tem. O medo da máquina é, em essência, o medo que temos uns dos outros – do que somos capazes de fazer uns aos outros.
Como a IA muda as coisas
Claro, você responderia, mas a IA muda tudo. Com a inteligência artificial, a própria máquina desenvolverá algum tipo de autonomia, porém mal definida. Terá vontade própria. E esta vontade, se refletir algo que pareça humano, não será benevolente. Com a IA, diz-se, a máquina saberá de alguma forma o que deve fazer para se livrar de nós. Isso nos ameaçará como espécie.
Bem, esse medo também não é novo. Mary Shelley escreveu Frankenstein em 1818 para nos alertar sobre o que a ciência poderia fazer se servisse ao chamado errado. No caso de seu romance, o chamado do Dr. Frankenstein era para vencer a batalha contra a morte - para reverter o curso da natureza. É verdade que qualquer cura para uma doença interfere no funcionamento normal da natureza, mas temos orgulho de ter desenvolvido curas para nossas doenças, prolongando a vida e aumentando sua qualidade. A ciência não pode alcançar nada mais nobre. O que atrapalha é quando a busca do bem se confunde com a do poder. Nesta escala distorcida, quanto mais poderoso melhor. O objetivo final é ser tão poderoso quanto os deuses - mestres do tempo, da vida e da morte.
Voltando à IA, não há dúvida de que a tecnologia nos ajudará tremendamente. Teremos melhores diagnósticos médicos, melhor controle de tráfego, melhores projetos de pontes e melhores animações pedagógicas para ensinar presencialmente e virtualmente. Mas também teremos melhores ganhos no mercado de ações, melhores estratégias de guerra e melhores soldados e formas remotas de matar . Isso concede poder real àqueles que controlam as melhores tecnologias. Aumenta a participação dos vencedores das guerras - aquelas travadas com armas e aquelas travadas com dinheiro.
Uma história tão antiga quanto a civilização
A questão é como seguir em frente. É aqui que as coisas ficam interessantes e complicadas. Ouvimos repetidamente que há uma necessidade urgente de salvaguardas, de controles e de legislação para lidar com a revolução da IA. Ótimo. Mas se essas máquinas estão funcionando essencialmente em uma caixa semi-preta de redes neurais autodidatas, como exatamente faremos salvaguardas que certamente permanecerão eficazes? Como podemos garantir que a IA, com sua capacidade ilimitada de coletar dados, não crie novas maneiras de contornar nossas salvaguardas, da mesma forma que as pessoas arrombam cofres?
A segunda questão é a do controle global. como eu escrevi antes , supervisionar novas tecnologias é complexo. Os países devem criar uma World Mind Organization que controle as tecnologias que desenvolvem a IA? Em caso afirmativo, como organizamos este conselho de administração planetário? Quem deve fazer parte de sua estrutura de governo? Que mecanismos garantirão que governos e empresas privadas não quebrem as regras secretamente, especialmente quando isso colocaria as armas mais avançadas nas mãos dos infratores? Afinal, eles precisarão disso se outros atores também quebrarem as regras.
Como antes, os países com os melhores cientistas e engenheiros terão uma grande vantagem. Uma nova détente internacional surgirá nos moldes da détente nuclear da Guerra Fria. Mais uma vez, temeremos que a tecnologia destrutiva caia em mãos erradas. Isso pode acontecer facilmente. As máquinas de IA não precisarão ser construídas em escala industrial, como eram as capacidades nucleares, e o terrorismo baseado em IA será uma força a ser enfrentada.
Então, aqui estamos, com medo de nossa própria tecnologia novamente.
O que está faltando nesta imagem? Continua a ilustrar o mesmo padrão destrutivo de ganância e poder que definiu grande parte de nossa civilização. A falha que ela mostra é moral, e só nós podemos mudá-la. Definimos civilização pelo acúmulo de riqueza, e essa visão de mundo está nos matando. O projeto de civilização que inventamos tornou-se autocanibalizante. Enquanto não virmos isso e continuarmos seguindo o mesmo caminho que trilhamos nos últimos 10.000 anos, será muito difícil legislar a tecnologia que está por vir e garantir que essa legislação seja seguida. A menos, é claro, que a IA nos ajude a nos tornarmos humanos melhores, talvez nos ensinando como fomos estúpidos por tanto tempo. Isso soa exagerado, considerando a quem essa IA servirá. Mas sempre se pode esperar.
Compartilhar:
