Pode ser que não tenhamos
muita consciência sobre o assunto, mas fórmulas matemáticas complexas
desempenham um papel fundamental na nossa vida diária.
Coisas tão simples como
comprar uma passagem aérea ou prever o resultado de uma eleição envolvem cálculos
complicados. Isso é ainda mais exacerbado na nossa era, quando a maioria das
decisões é regida pelo uso da tecnologia.
O problema disso, segundo a
cientista de análise de dados Cathy O’Neil, é o fato de as fórmulas serem
criadas por pessoas, e estas podem ter objetivos que nem sempre são éticos ou
estão de acordo com o bem comum.
O’Neil afirma que “os algoritmos não são
inerentemente justos” e dá como exemplo o ocorrido em 2010, em Washington,
quando 200 professores de escolas públicas foram despedidos com base em um
algoritmo que avaliava o rendimento profissional.
Por esse motivo, a União
Europeia decidiu colocar em prática uma lei de dados que protege os
consumidores que foram afetados por uma decisão algorítmica prejudicial. Com
isso, procura-se alcançar uma transparência maior e impedir que os algoritmos
sejam utilizados de modo discriminatório para prejudicar pessoas.
Por outro lado, alguns
especialistas, como o vice-presidente da Fundação de Tecnologias da Informação
e Inovação, Daniel Castro, afirmam que os algoritmos também não podem ser
culpados por todos esses prejuízos.
“É necessário erradicar a parcialidade e as
decisões pouco éticas. Contudo, é importante levar em consideração que as
mesmas existem independentemente de envolverem algoritmo ou não”, disse Castro.
interessante
ResponderExcluir