• Outro

Será que a 'regra lésbica' pode combater a matemática armada?

Reviver a 'Regra Lésbica' (sobre a qual Aristóteles escreveu e era proverbial na época de Shakespeare) pode nos ajudar a lidar com um novo tipo de ameaça da matemática como arma (que Cathy O'Neil chama de 'Armas de Destruição da Matemática').

1. É hora de trazer de volta a 'Regra Lésbica'. Aristóteles escreveu sobre isso, nos dias de Shakespeare eraproverbial, e hoje suas lições se aplicam ao que Cathy O’Neil chama de “Armas da Matemática Destruição . '

2. O’Neil expõe modelos de software como decisores digitais que podem ser 'opacos ... e incontestáveis ​​(sic), mesmo quando são errado ”(Um novo tipo de ameaça de lógica cinética).

3. Aristóteles acreditava que as leis podem ser 'defeituosas por causa de ...generalidade. ” Entãocapital própriosó pode ser medido ... como a regra de chumbo usada por construtoras lésbicas ... essa regra não é rígida, mas pode dobrar para a forma dopedra. ” (Até ~ 1870 lésbica não significava mulher homossexual .)

4. Para Aristótelescapital própriosuperou a justiça generalizada, tão bomjuízes, como as construtoras lésbicas, alteram as regras universais 'para se adequar às circunstâncias'.

5. Shakespeare ponderou as distinções entre justiça, equidade e igualdade . Veja “A Regra Lésbica deMedir paraMedir'S ”regras inflexíveis,King Lear's'Socialaritmética,' ou falsoigualdade”E equações quantitativas erradas em A tempestade .

6. Em nossos tempos de embriaguez pela matemática, muitas vezes estamos à mercê dos julgamentos robóticos rígidos dos algoritmos. O’Neil detalha seus danos causados ​​pela matemática em áreas como finanças, educação, justiça e democracia.

7. Modelos e métricas aparentemente oferecem julgamentos objetivos e justos, mas muitas vezes codificam 'preconceito, mal-entendido etendência. ” E os modelos preditivos podem perpetuar a injustiça (por exemplo, algoritmosdiscriminaçãodentro sentença e reincidência modelos )

8. E as métricas podem distorcer -> o que é medido muitas vezes éjogou. Por exemplo, uma universidade melhorou instantaneamente sua classificação de pesquisa, pagando adjuntos $ 72.000 por 3 semanas deensinose elestransferidopesquisa antiga para sua nova universidade.

9. Além disso, muito resiste à quantificação. Por exemplo, martelar toda a complexidade do bom ensino em um número arrisca-se a ser 'uma estatística farsa ”(Por exemplo, esta avaliação do professor da Escola Pública de Nova York oscilou descontroladamente )

11. Às vezes, o movimento aparentemente inteligente de focar nas métricas e na matemática pode enganar. O que os especialistas hipnotizados pela matemática esquecem é que nem toda lógica funciona como a matemática (aqui está um exemplo de etapas localmente válidas que não se acumulam logicamente como matemática No geral).

12. Evitando baixa qualidadequantificação, ou baseado em dados mudez , requer lógica não numérica e metáfora de ajuste de circunstância (veja como os dados sãopoesia)

13. Pensar na Regra Lésbica agora significa perguntar: Toda a verdade necessária está nodados? As realidades relevantes estão espremidas nas regras do modelo? Vieses contrariados? Exceções tratadas? Reparação habilitada?

14. De acordo com Aristóteles, os códigos jurídicos há muito codificam a necessidade de os juízes adaptarem a justiça (situacionalmente e equitativamente). As normas legais (mitigação, recurso, prevenção de conflito de interesse) fornecem bons modelos para a algo-ética (à parte: os advogados estão entre os poucos ainda treinados em lógica não numérica).

15. A ética é cara. Uma vez que eles ainda precisam de humanos, e nós não escalamos como decididores de silício Mas não podemos contar com os mercados “para corrigir esseserros'(veja Obama sobre a escolha de negóciosmodelos)

16. O'Neil diz colocar 'a justiça à frente delucro”Significa incorporar explicitamente“ melhores valores em nossos algoritmos ”(+ usando auditorias, transparência, juramentos hipocráticos).

17. Os algoritmos oferecem grandes ganhos e eficiências, mas esses juízes-robôs com regras rígidas também são perigos claros e presentes. Julgamos o desastre se a justiça permanecer cega para seus riscos sistêmicos.

-

Ilustração de Julia Ternos , O Nova-iorquino cartunista e autor de O Catálogo Extraordinário de Invenções Peculiares

Compartilhar: