Será que a 'regra lésbica' pode combater a matemática armada?
Reviver a 'Regra Lésbica' (sobre a qual Aristóteles escreveu e era proverbial na época de Shakespeare) pode nos ajudar a lidar com um novo tipo de ameaça da matemática como arma (que Cathy O'Neil chama de 'Armas de Destruição da Matemática').
Ilustração de Julia Suits, cartunista do The New Yorker e autora do Catálogo Extraordinário de Invenções Peculiares1. É hora de trazer de volta a 'Regra Lésbica'. Aristóteles escreveu sobre isso, nos dias de Shakespeare era proverbial , e hoje suas lições se aplicam ao que Cathy O’Neil chama de “Armas da Matemática Destruição . '
2. O’Neil expõe modelos de software como decisores digitais que podem ser 'opacos ... e incontestáveis (sic), mesmo quando são errado ”(Um novo tipo de ameaça de lógica cinética).
3. Aristóteles acreditava que as leis podem ser 'defeituosas por causa de ... generalidade . ” Então capital próprio só pode ser medido ... como a regra de chumbo usada por construtoras lésbicas ... essa regra não é rígida, mas pode dobrar para a forma do pedra . ” (Até ~ 1870 lésbica não significava mulher homossexual .)
como ser mais racional e menos emocional
4. Para Aristóteles capital próprio superou a justiça generalizada, tão bom juízes , como as construtoras lésbicas, alteram as regras universais 'para se adequar às circunstâncias'.
o que realmente acontece quando morremos
5. Shakespeare ponderou as distinções entre justiça, equidade e igualdade . Veja “A Regra Lésbica deMedir para Medir 'S ”regras inflexíveis,King Lear's'Social aritmética ,' ou falso igualdade ”E equações quantitativas erradas em A tempestade .
6. Em nossos tempos de embriaguez pela matemática, muitas vezes estamos à mercê dos julgamentos robóticos rígidos dos algoritmos. O’Neil detalha seus danos causados pela matemática em áreas como finanças, educação, justiça e democracia.
7. Modelos e métricas aparentemente oferecem julgamentos objetivos e justos, mas muitas vezes codificam 'preconceito, mal-entendido e tendência . ” E os modelos preditivos podem perpetuar a injustiça (por exemplo, algoritmos discriminação dentro sentença e reincidência modelos )
8. E as métricas podem distorcer -> o que é medido muitas vezes é jogou . Por exemplo, uma universidade melhorou instantaneamente sua classificação de pesquisa, pagando adjuntos $ 72.000 por 3 semanas de ensino se eles transferido pesquisa antiga para sua nova universidade.
9. Além disso, muito resiste à quantificação. Por exemplo, martelar toda a complexidade do bom ensino em um número arrisca-se a ser 'uma estatística farsa ”(Por exemplo, esta avaliação do professor da Escola Pública de Nova York oscilou descontroladamente )
as plantas removem qual gás de efeito estufa da atmosfera?
11. Às vezes, o movimento aparentemente inteligente de focar nas métricas e na matemática pode enganar. O que os especialistas hipnotizados pela matemática esquecem é que nem toda lógica funciona como a matemática (aqui está um exemplo de etapas localmente válidas que não se acumulam logicamente como matemática No geral).
12. Evitando baixa qualidadequantificação, ou baseado em dados mudez , requer lógica não numérica e metáfora de ajuste de circunstância (veja como os dados sãopoesia)
13. Pensar na Regra Lésbica agora significa perguntar: Toda a verdade necessária está nodados? As realidades relevantes estão espremidas nas regras do modelo? Vieses contrariados? Exceções tratadas? Reparação habilitada?
o tempo acelera no espaço
14. De acordo com Aristóteles, os códigos jurídicos há muito codificam a necessidade de os juízes adaptarem a justiça (situacionalmente e equitativamente). As normas legais (mitigação, recurso, prevenção de conflito de interesse) fornecem bons modelos para a algo-ética (à parte: os advogados estão entre os poucos ainda treinados em lógica não numérica).
15. A ética é cara. Uma vez que eles ainda precisam de humanos, e nós não escalamos como decididores de silício Mas não podemos contar com os mercados “para corrigir esses erros '(veja Obama sobre a escolha de negóciosmodelos)
16. O'Neil diz colocar 'a justiça à frente de lucro ”Significa incorporar explicitamente“ melhores valores em nossos algoritmos ”(+ usando auditorias, transparência, juramentos hipocráticos).
17. Os algoritmos oferecem grandes ganhos e eficiências, mas esses juízes-robôs com regras rígidas também são perigos claros e presentes. Julgamos o desastre se a justiça permanecer cega para seus riscos sistêmicos.
-
Ilustração de Julia Ternos , O Nova-iorquino cartunista e autor de O Catálogo Extraordinário de Invenções Peculiares
