Diante de uma era digital, seria inevitável a incorporação da tecnologia no cotidiano da população global como um todo. A Inteligência Aritificial (IA) e os avanços da machine learning são prova disso, cada vez mais presentes na vida das pessoas, seja para facilitar o uso de dispositivos tecnológicos, refinar e filtrar suas buscas, ou mesmo escolher a melhor rota para chegar em determinada localização. Contudo, mesmo em meio a tantas inovações e engenharias de ponta, a tecnologia parece “engatinhar” em uma das pautas mais importantes dos últimos anos: a diversidade.
Muito além do medo de um possível domínio das máquinas sob os humanos — expressado por grandes expoentes da tecnologia como Stephen Hawking, Bill Gates e Elon Musk —, as críticas mais recentes às inovações tecnológicas têm como foco os dilemas éticos e sociais, que contabilizam inúmeros casos.
Um bom exemplo disso foi a discussão sobre o oxímetro em meio ao surto da pandemia de coronavírus no mundo. Diversos estudos apontaram que o dispositivo, capaz de detectar a porcentagem de oxigenação no sangue por meio de luzes infravermelhas, apresenta maior tendência de falhas quando usado em pessoas pretas e indígenas. Isso porque sua tecnologia foi criada baseada em moldes brancos.
Estudo aponta que falhas no uso do oxímetro em pretos e indígenas podem chegar em 8%, impedindo certeza na detecção de casos da Covid-19 nesses indivíduos. Foto: Rawpixel
O reconhecimento facial é outra tecnologia acusada de perpetuar condutas preconceituosas. Ele não só demonstra ser menos eficaz com negros e asiáticos, como também pode apresentar falhas lidando com mulheres e homossexuais.
Não à toa, a cidade de Nova York suspendeu, em julho, o uso da tecnologia em suas escolas para evitar experiências negativas e práticas como o bullying.
Os próprios serviços de assistência de voz, que cresceram exponencialmente durante a quarentena, acabam traçando práticas sexistas.
Siri (Apple), Alexa (Amazon), Cortana (Microsoft), Google Assistente (Google)… Todos esses assistentes adotam por padrão a voz e trejeitos femininos, sinalizando que as mulheres são “submissas, dóceis e sempre dispostas a agradar”, como apontou um relatório da ONU.
O robô nasce bom, mas o ser humano o corrompe
Apesar dos pontos negativos da tecnologia, é importante ter em mente que as inovações são construídas e alimentadas por dados e elementos do homem. Ou seja, seus desenvolvimentos acabam por refletir traços da sociedade.
“A tecnologia funciona como um espelho da nossa sociedade. Isso vai revelar nosso preconceito. Isso revelará nossa discriminação. Isso vai revelar nosso racismo”, disse Rashida Hodge, vice-presidente da IBM, em uma palestra sobre diversidade no campo da indústria.
De acordo com Hodge, diversidade nas empresas é essencial para que produtos sejam desenvolvidos para os mais diferentes públicos. Foto: Tumisu/Pixabay
Construir e implementar inovações tecnológicas é um processo muito colaborativo e envolve não só a coleta dos requisitos e a compreensão da base de usuários, como também o entendimento de como os dados devem ser manifestados.
E é justamente por isso que uma transformação empresarial em prol da diversidade torna-se necessária, para que as pessoas envolvidas no processo considerem diferentes experiências e usuários em seus produtos finais.
Segundo Hodge, o primeiro risco ao ignorar a importância da diversidade, equidade e inclusão, é “comprometer imediatamente a participação de mercado total de uma empresa”.
Outra ameaça reportada pela executiva consiste na impossibilidade de atrair feedbacks e talentos para o desenvolvimento das tecnologias, tendo em vista que o produto não irá interagir com todos os públicos.
“Temos que ter certeza de que os dados são variados e as pessoas que treinam e reforçam as informações são variadas e diversas”, reforça a vice-presidente da IBM.
Diversidade gera inovação
Como as tecnologias são reflexos dos profissionais da área, os debates sobre a diversidade e ações de inclusão no ambiente de trabalho são essenciais.
No intuito de quebrar a predominância masculina no setor de tecnologia, a gerente de Machine Learning da IBM nos Estados Unidos, Gabriela de Queiroz, lançou o AI Inclusive, programa para levar mulheres e grupos minoritários para a área de desenvolvimento de algoritmos de inteligência artificial (IA).
Outro case positivo foi visto recentemente pela Magazine Luiza. Em setembro, rede varejista anunciou a abertura de um programa de trainee especial para candidatos negros.
De acordo com a companhia — famosa pela assistente virtual Magalu —, o objetivo da ação busca proporcionar mais diversidade racial para os cargos de liderança da empresa, entendendo que a equidade racial e de gênero são fundamentais para a criação de ambientes empresariais bem-sucedidos e para um país mais igualitário.
É certo que ações empresariais como essas são pequenos passos para os debates sobre inclusão nas companhias e muito ainda há de ser debatido.
Mas a diversidade tornou-se quase um pré-requisito para que as invocações tecnológicas não fiquem ultrapassadas — por mais irônico que pareça.
Via: VentureBeat e Época Negócios