Este site polêmico usa IA para criar nus falsos de mulheres
Uma nova startup na web está vendendo nus de mulheres inexistentes produzidos por algoritmos. Ainda existem algumas preocupações éticas.
Fonte: Esses Nus Não Existem - O objetivo do These Nudes Do Not Exist é revolucionar a pornografia online, vendendo imagens de mulheres nuas geradas por IA por um dólar a cada foto.
- O site usa a tecnologia algorítmica Generative Adversarial Networks (GAN) para gerar o conteúdo de IA de nudez usando um banco de dados contendo muitas imagens nuas de mulheres reais.
- É extremamente comum que imagens pornográficas de mulheres encontradas online tenham sido roubadas de profissionais do sexo, por isso é muito difícil para os engenheiros de aprendizado de máquina encontrar conjuntos de dados de origem ética de imagens nuas.
Uma startup bizarra que vende imagens de mulheres nuas geradas por IA por um dólar por foto acha que pode estar na vanguarda de uma revolução da pornografia.
Esses Nus Não Existem (as imagens no site não são seguras para o local de trabalho) está tentando abrir caminho no mundo da nudez online, oferecendo aos visitantes fotos de mulheres geradas por computador dos seios para cima. Semelhante, embora menos lascivo - mas ainda assim perturbador - o conteúdo gerado por IA já foi criado em pés e gatos .
'Acho que esta é provavelmente a primeira chance de alguém no mundo ter de comprar conteúdo pornográfico gerado por IA, então, de certa forma, cada cliente passa a fazer parte da história da pornografia e da IA', disse um co-fundador anônimo Samantha Cole da VICE . (Ele pediu para não ser identificado no artigo porque ele e seu parceiro preferem não ser publicamente associados à sua criação claramente controversa.) 'Em longo prazo, porém, o objetivo é ter modelos completos gerados por IA renderizados em 3D capazes de criar fotos e vídeos personalizados contente.'Como funciona?
Esses Nus Não Existem permite que um visitante compre uma imagem de uma das mulheres virtuais clicando em um botão denominado 'Gerar Nova Garota' e percorrendo uma seleção de corpos femininos. Quase todas são mulheres relativamente magras e sorridentes, quase do mesmo tom de branco. No entanto, há uma grande variedade de cores de cabelo para escolher. Depois de encontrar a garota do computador para você, você simplesmente a adiciona ao seu carrinho e recebe um 'número inicial' como um recibo para provar que o modelo exclusivo é todo seu para olhar.
O site usa a tecnologia algorítmica Generative Adversarial Networks (GAN) para gerar o conteúdo nude. A IA é treinada em uma série de fotografias de mulheres nuas para que possa produzir versões novas e exclusivas do que aprendeu a ver como uma mulher nua. O banco de dados atual no qual a IA é treinada contém imagens de mulheres quase inteiramente brancas, geralmente com idades entre 20 e 40 anos.
'Não foi por escolha nossa, mas apenas porque foi assim que os conjuntos de dados bem classificados acabaram se desintegrando', disse o cofundador a Cole. 'Tivemos o cuidado de usar apenas fontes de dados de domínio público ou adquiridas de fornecedores confiáveis. Embora possamos adicionar homens no futuro, a verdade é que não há muita demanda por fotos de homens nus. '
Preocupações éticas
'Falta de demanda' é uma desculpa que já foi usada antes para justificar a tecnologia que fornece corpos exclusivamente femininos para atender aos desejos sexuais (tipicamente masculinos). Alguns exemplos incluem a altamente polêmica empresa da Califórnia RealDoll que vende robôs sexuais femininos e o aplicativo vil DeepNude que poderia violar algoritmicamente mulheres reais por imagens sem roupa delas sem seu conhecimento.
Por um lado, These Nudes Do Not Exist oferece imagens nuas de mulheres para aqueles que desejam obtê-las sem violar a privacidade das mulheres da vida real. Por outro lado, continua por um caminho profundamente perturbador de empresas chefiadas por homens mercantilizando os corpos das mulheres, mesmo que neste caso sejam corpos gerados por IA.
As mulheres no site podem não existir de verdade, mas seus projetos são baseados em muitas imagens nuas de mulheres que existem. Porque é extremamente comum que imagens pornográficas de mulheres encontradas online tenham sido roubado de profissionais do sexo , mesmo se as imagens forem marcadas como de domínio público, é muito difícil para os engenheiros de aprendizado de máquina encontrar conjuntos de dados de origem ética de imagens nuas. Essas afirmações de Nudes Do Not Exist podem contornar essa preocupação ética.
'O processo de verificação de [imagens] de domínio público gira em torno da execução de dados de domínio público por meio de pesquisas reversas de imagens', disse o cofundador anônimo disse a VICE . 'Se percebermos que os resultados são de sites com paywall / monetizados, sites de pornografia de vingança, fóruns on-line ou atrás de paywalls, optamos por ser cautelosos e excluímos esses dados, pois podem não ter sido coletados de forma ética.
No entanto, apesar dessas precauções, ainda é difícil acreditar que absolutamente todas as imagens usadas para o conjunto de dados de aprendizagem por computador são de uma pessoa que deu consentimento para que uma imagem de seu corpo fosse usada para criar uma mulher-IA para dois homens reais capitalizar. De qualquer maneira que você gire, essa startup são homens lucrando com corpos femininos. Você poderia, sabe, pagar mulheres de verdade por seus nus verdadeiros.
