“Boa parte dos erros poderia ser detectada e solucionada facilmente. Como as equipes que desenvolvem os algoritmos não são interdisciplinares (não entendem de direito, sociologia ou ética), criam sistemas que, do seu ponto de vista, estão muito bem feitos. Embora atuem em áreas nas quais não têm formação e tão complexas como as de educação, saúde e outros serviços públicos. “As métricas para avaliar estes sistemas são desenvolvidas pelas mesmas pessoas que os criaram, é um círculo vicioso: estão medindo o que acreditam que têm de medir”, assinala Jaume-Palasí. Ela quer desenvolver padrões de boas práticas e contribuir para que a tecnologia cumpra seu propósito e não atrapalhe. Na Ethical Tech Society, trabalha em novos métodos para avaliar esses sistemas. “Desenvolvi um teste de penetração ético. Os hackers usam testes de penetração para entender qual é a integridade ou vulnerabilidade de um sistema. Para mim, eles servem para ver se há algum tipo de lacuna ou conflito ético.” Manuel G. Pascual (18/03/19).
“Para aqueles que vivem nos EUA, há algoritmos que os classificam como cidadãos solventes ou não em função das probabilidades de que devolvam um empréstimo, calculadas com base em seu histórico de crédito, nível de renda e outros dados. Sua pontuação determinará a taxa de juros que os bancos lhes oferecerão, o que no caso de uma hipoteca pode significar milhares de dólares de diferença ao ano. Isso pode afetar até mesmo suas oportunidades de trabalho, porque há empresas que não confiam em quem tem dívidas”.
https://brasil.elpais.com/brasil/2019/03/720561.html18/tecnologia/1552863873_