1. Atitudes em relação à tomada de decisão algorítmica

Hoje, muitas decisões que poderiam ser tomadas por seres humanos - desde a interpretação de imagens médicas até a recomendação de livros ou filmes - agora podem ser feitas por algoritmos de computador com recursos analíticos avançados e acesso a enormes armazenamentos de dados. A crescente prevalência desses algoritmos gerou preocupações generalizadas sobre seu impacto sobre aqueles que são afetados pelas decisões que tomam. Para os proponentes, esses sistemas prometem aumentar a precisão e reduzir o preconceito humano em decisões importantes. Mas outros se preocupam com o fato de que muitos desses sistemas equivalem a 'armas de destruição matemática' que simplesmente reforçam os preconceitos e disparidades existentes sob o disfarce da neutralidade algorítmica.

A maioria dos americanos afirma que os programas de computador sempre refletirão o preconceito humano; jovens adultos são mais divididos

Esta pesquisa mostra que o público está mais inclinado a compartilhar a última visão, mais cética. Aproximadamente seis em cada dez americanos (58%) acham que os programas de computador sempre refletirão os preconceitos das pessoas que os projetaram, enquanto 40% acham que é possível que os programas de computador tomem decisões livres de preconceitos humanos. Notavelmente, os americanos mais jovens apóiam mais a noção de que programas de computador podem ser desenvolvidos sem preconceitos. Metade das pessoas de 18 a 29 anos e 43% das pessoas de 30 a 49 anos têm essa opinião, mas essa proporção cai para 34% entre aqueles com 50 anos ou mais.

Essa preocupação geral com os programas de computador tomando decisões importantes também se reflete nas atitudes do público sobre o uso de algoritmos e big data em vários contextos da vida real.

Para obter uma compreensão mais profunda das opiniões do público sobre os algoritmos, a pesquisa perguntou aos entrevistados sobre suas opiniões sobre quatro exemplos em que os computadores usam vários dados pessoais e públicos para tomar decisões com impacto no mundo real para os humanos. Eles incluem exemplos de decisões tomadas por entidades públicas e privadas. Eles também incluem uma mistura de situações pessoais com relevância direta para uma grande parte dos americanos (como ser avaliado para um emprego) e aquelas que podem estar mais distantes das experiências vividas por muitas pessoas (como ser avaliado para liberdade condicional). E todos os quatro são baseados em exemplos da vida real de tecnologias que estão atualmente em uso em vários campos.

Os cenários específicos da pesquisa incluem o seguinte:

  • Um automatizadopontuação de finanças pessoaisque coleta e analisa dados de muitas fontes diferentes sobre o comportamento das pessoas e características pessoais (não apenas seus comportamentos financeiros) para ajudar as empresas a decidir se lhes oferecem empréstimos, ofertas especiais ou outros serviços.
  • PARAavaliação de risco criminalque coleta dados sobre pessoas que estão em liberdade condicional, compara esses dados com os de outras pessoas que foram condenadas por crimes e atribui uma pontuação que ajuda a decidir se devem ser libertadas da prisão.
  • Um programa queanalisa vídeos de entrevistas de emprego, compara as características, comportamento e respostas dos entrevistados com outros funcionários de sucesso e dá a eles uma pontuação que pode ajudar as empresas a decidir se os candidatos a empregos seriam uma boa contratação ou não.
  • PARAtriagem de currículo computadorizadaprograma que avalia o conteúdo dos currículos enviados e encaminha apenas aqueles que atendem a uma determinada pontuação limite a um gerente de contratação para uma análise mais aprofundada sobre como chegar ao próximo estágio do processo de contratação.

Para cada cenário, os entrevistados foram solicitados a indicar se eles acham que o programa seria justo para as pessoas que estão sendo avaliadas; se seria eficaz para fazer o trabalho para o qual foi projetado; e se eles acham que é geralmente aceitável que empresas ou outras entidades usem essas ferramentas para os fins descritos.



Partes consideráveis ​​de americanos veem cada um desses cenários como injusto para aqueles que estão sendo avaliados

Amplo interesse público sobre a justiça desses exemplos de tomada de decisão algorítmica

Os americanos são amplamente céticos quanto à justiça desses programas: nenhum deles é considerado justo por uma clara maioria do público. Especialmente as pequenas ações acham que os conceitos de 'pontuação de finanças pessoais' e 'análise de entrevista de emprego em vídeo' seriam justos para os consumidores ou candidatos a empregos (32% e 33%, respectivamente). O conceito de pontuação automatizada de risco criminal é visto como justo pela maior parte dos americanos. Mesmo assim, apenas cerca de metade do público considera este conceito justo - e apenas um em cada dez pensa que este tipo de programa seriamuitojusto para as pessoas em audiências de liberdade condicional.

As diferenças demográficas são relativamente modestas na questão de se esses sistemas são justos, embora haja alguma variação de atitude notável relacionada à raça e etnia. Negros e hispânicos têm mais probabilidade do que brancos de considerar o conceito de pontuação de financiamento ao consumidor justo para os consumidores. Apenas 25% dos brancos acham que esse tipo de programa seria justo para os consumidores, mas essa participação sobe para 45% entre os negros e 47% entre os hispânicos. Por outro lado, os negros expressam muito mais preocupação com um algoritmo de pontuação de liberdade condicional do que brancos ou hispânicos. Aproximadamente seis em cada dez negros (61%) acham que esse tipo de programa serianãoseja justo com as pessoas em liberdade condicional, significativamente maior do que a proporção de brancos (49%) ou hispânicos (38%) que dizem o mesmo.

O público está dividido principalmente sobre se esses programas seriam eficazes ou não

54% dos americanos acham que pontuações financeiras automatizadas seriam eficazes - mas apenas 32% acham que seriam justas

O público está relativamente dividido sobre se esses programas seriam eficazes na execução do trabalho para o qual foram projetados. Cerca de 54% acham que o programa de pontuação de finanças pessoais seria eficaz na identificação de bons clientes, enquanto cerca da metade acha que os algoritmos de avaliação condicional (49%) e de triagem de retomada (47%) seriam eficazes. Enquanto isso, 39% acham que o conceito de entrevista de emprego em vídeo seria uma boa maneira de identificar contratações bem-sucedidas.

Na maior parte, as opiniões das pessoas sobre a justiça e a eficácia desses programas andam de mãos dadas. Partes semelhantes do público vêem esses conceitos como justos para aqueles que estão sendo julgados, pois dizem que eles seriam eficazes na produção de boas decisões. Mas o conceito de pontuação de finanças pessoais é uma exceção notável a essa tendência geral. Cerca de 54% dos americanos acham que esse tipo de programa faria um bom trabalho ajudando as empresas a encontrar novos clientes, mas apenas 32% acham que é justo que os consumidores sejam julgados dessa forma. Essa diferença de 22 pontos percentuais é de longe a maior entre os quatro cenários diferentes.

A maioria dos americanos acha que o uso desses programas é inaceitável; preocupações sobre privacidade de dados, justiça e eficácia geral destacam sua lista de preocupações

A maioria do público pensa que énãoaceitável para empresas ou outras entidades usarem os conceitos descritos nesta pesquisa. Mais proeminentemente, 68% dos americanos acham que usar o conceito de pontuação de finanças pessoais é inaceitável, e 67% acham que é inaceitável que as empresas conduzam análises de entrevistas em vídeo auxiliadas por computador ao contratar candidatos.

A pesquisa pediu aos entrevistados que descrevessem com suas próprias palavras por que acham que esses programas são aceitáveis ​​ou não, e certos temas surgiram nessas respostas. Aqueles que pensam que esses programas são aceitáveis ​​geralmente se concentram no fato de que seriam eficazes em fazer o trabalho que pretendem fazer. Além disso, alguns argumentam, no caso de exemplos do setor privado, que os conceitos simplesmente representam a prerrogativa da empresa ou o mercado livre em ação.

Enquanto isso, aqueles que consideram o uso desses programas inaceitável, muitas vezes temem que eles não farão um trabalho tão bom quanto o anunciado. Eles também expressam preocupação sobre a justiça desses programas e, em alguns casos, preocupam-se com as implicações de privacidade dos dados sendo coletados e compartilhados. A reação do público a cada um desses conceitos é discutida com mais detalhes a seguir.

Pontuação de finanças pessoais automatizada

Entre os 31% dos americanos que acham que seria aceitável que as empresas usassem esse tipo de programa, a maior parte dos entrevistados (31%) acha que seria eficaz para ajudar as empresas a encontrar bons clientes. Participações menores dizem que os clientes não têm o direito de reclamar dessa prática, pois estão disponibilizando seus dados publicamente com suas atividades online (12%), ou que as empresas podem fazer o que querem e / ou que este é simplesmente o mercado livre em trabalho (6%).

As preocupações com as pontuações de finanças pessoais automatizadas concentram-se na privacidade, discriminação, falha em representar as pessoas com precisãoAqui estão alguns exemplos dessas respostas:

  • 'Acredito que as empresas devem ser capazes de usar um esforço atualizado e moderno para julgar a responsabilidade fiscal de alguém de outras formas além do pagamento de suas contas em dia'.Homem, 28
  • 'As finanças e a situação financeira são muito complexas agora. Uma pessoa pode ter uma pontuação de crédito ruim devido a uma fase difícil, mas não gasta levianamente, paga contas, etc. Essa pessoa pode se beneficiar de uma visão geral de suas tendências. Como alternativa, uma pessoa que apóia as tendências na direção oposta, mas tem crédito limitado / bom crédito, pode não ser uma ótima escolha para uma empresa, pois suas tendências podem indicar que ela ficará inadimplente mais tarde ”.Mulher, 32
  • '(É) economia simples - se as pessoas quiserem divulgar suas informações ... bem, é chato ser eles '.Homem, 29
  • 'Soa exatamente como uma pontuação de cartão de crédito, que, embora não seja muito justa, é considerada aceitável'.Mulher, 25
  • 'Porque é eficiente e eficaz em trazer informações de negócios que podem usar para conectar seus serviços e produtos (empréstimos) aos clientes. Isto é uma coisa boa. Simplificar o processo e torná-lo mais barato e direcionado significa menos desperdício de recursos na publicidade dessas coisas ”.Homem, 33

Os 68% dos americanos que consideram inaceitável o uso desse tipo de programa por empresas citam três preocupações principais. Cerca de um quarto (26%) argumenta que a coleta desses dados viola a privacidade das pessoas. Um em cada cinco diz que os dados online de alguém não os representam com precisão como pessoa, enquanto 9% afirmam que os hábitos e comportamentos online das pessoas não têm nada a ver com sua credibilidade geral. E 15% acham que é potencialmente injusto ou discriminatório confiar nesse tipo de pontuação.

Aqui estão alguns exemplos dessas respostas:

  • 'Algoritmos opacos podem introduzir vieses, mesmo sem querer. Este é mais um problema com algoritmos de condenação criminal, mas ainda pode levar a redlining e preconceitos contra comunidades minoritárias. Se eles fossem melhorados para eliminar isso, eu estaria mais inclinado a aceitar seu uso '.Homem, 46
  • 'Isso prejudica a capacidade de alguém de se envolver livremente em atividades online. Dá vontade de esconder o que está comprando - seja um presente para um amigo ou um livro para ler. Por que alguém deveria ter esse tipo de acesso para conhecer meus hábitos de compra e tirar proveito disso de alguma forma? Esse tipo de monitoramento parece muito arcaico. Eu posso entender porque isso seria feito, do ponto de vista deles, isso ajuda a mostrar o que eu, como cliente, estaria interessado em comprar. Mas eu sinto que deveria haver algum tipo de limite, e isso ultrapassa essa linha '.Mulher, 27
  • 'Não acho justo que as empresas usem minhas informações sem minha permissão, mesmo que seja uma oferta especial que me interesse. É como espiar, não é aceitável. Isso também excluiria as pessoas de receber ofertas especiais que não podem ou não usam as mídias sociais, incluindo aqueles de níveis socioeconômicos mais baixos.Mulher, 63
  • 'Algoritmos são programas tendenciosos que aderem às visões e crenças de quem está ordenando e controlando o algoritmo ... Alguém tomou uma decisão sobre a relevância de certos dados e uma vez inseridos em um programa de revisão se torna um evangelho irrefutável, seja um bom indicador ou não '.Homem, 80
As preocupações com as pontuações de risco criminal se concentram na falta de foco individual, capacidade de as pessoas mudarem

Pontuação automatizada de risco criminal

Os 42% dos americanos que acham aceitável a utilização desse tipo de programa citam uma série de motivos para se sentir assim, sem nenhum fator se destacar dos demais. Cerca de 16% desses entrevistados consideram este tipo de programa aceitável porque seria eficaz ou porque é útil para o sistema de justiça ter mais informações ao tomar essas decisões. Uma parcela semelhante (13%) acha que esse tipo de programa seria aceitável se fosse apenas uma parte do processo de tomada de decisão, enquanto um em cada dez acha que seria mais justo e menos tendencioso do que o sistema atual.

Em alguns casos, os entrevistados usam argumentos muito diferentes para apoiar o mesmo resultado. Por exemplo, 9% desses entrevistados acham que esse tipo de programa é aceitável porque oferece aos prisioneiros uma segunda chance de serem membros produtivos da sociedade. Mas 6% a apoiam porque acham que ajudaria a proteger o público, mantendo na prisão indivíduos potencialmente perigosos que, de outra forma, poderiam ficar em liberdade.

Alguns exemplos:

  • “Os agentes penitenciários e de aplicação da lei já fazem isso há centenas de anos. É bom senso. Agora que foi identificado e chamado de programa ou processo (que) não muda nada '.Homem, 71
  • “Porque a outra opção é confiar inteiramente nas decisões humanas, que são elas mesmas falhas e tendenciosas. Tanto a inteligência humana quanto os dados devem ser usados ​​'.Homem, 56
  • 'No momento, acho que muitas dessas decisões são tomadas subjetivamente. Se pudermos quantificar o risco por critérios objetivos que mostraram validade no mundo real, devemos usá-lo. Muitos homens negros estão presos, é provável que com critérios mais objetivos eles seriam elegíveis para liberdade condicional. Da mesma forma, outros grupos raciais / étnicos podem estar obtendo uma pausa imerecida por causa de preconceitos subjetivos. Precisamos ser o mais justos possível com todos os indivíduos, e isso pode ajudar '.Homem, 81
  • “Embora tal programa tenha suas falhas, a alternativa atual de deixar as pessoas decidirem é muito mais falha”.Homem, 42
  • 'Contanto que eles tenham OUTRAS informações úteis para tomar suas decisões, então seria aceitável. Eles precisam usar tudo o que têm disponível que seja verdadeiro e informativo para tomar uma decisão tão importante '!Mulher, 63

Os 56% dos americanos que acham que esse tipo de programa não é aceitável tendem a se concentrar na eficácia de julgar as pessoas dessa maneira. Cerca de 26% dessas respostas argumentam que cada indivíduo ou circunstância é diferente e que um programa de computador teria dificuldade em capturar essas nuances. Uma parcela semelhante (25%) argumenta que esse tipo de sistema exclui a possibilidade de crescimento pessoal ou teme que o programa não tenha as melhores informações sobre alguém ao fazer sua avaliação. E cerca de um em cada dez se preocupa com a falta de envolvimento humano no processo (12%) ou expressa preocupação de que esse sistema possa resultar em preconceitos ou perfis injustos (9%).

Alguns exemplos:

  • 'As pessoas devem ser vistas e julgadas como um indivíduo, não com base em alguma compilação de muitas outras. Somos todos muito diferentes uns dos outros, mesmo que tenhamos os mesmos interesses, ideias ou crenças - somos um indivíduo dentro do todo '.Mulher, 71
  • 'Duas razões: as pessoas podem mudar e a análise de dados pode estar errada'.Mulher, 63
  • 'Porque parece que você está determinando o futuro de uma pessoa com base nas escolhas de outra pessoa'.Mulher, 46
  • 'As informações sobre as populações não são transferíveis para os indivíduos. Considere o IMC (índice de massa corporal), por exemplo. Esta medida foi projetada para prever doenças cardíacas em grandes populações, mas foi aplicada incorretamente para indivíduos. Portanto, um fisiculturista de 1,8 m de altura que pesa 240 libras é classificado como obeso mórbido porque a medida é imprecisa. Portanto, as informações sobre a reincidência das populações não podem ser usadas para julgar criminosos individuais.Mulher, 54
  • “A coleta de dados costuma ser falha e difícil de corrigir. Algoritmos não refletem a alma. Como cientista de dados, também sei quantas vezes eles estão simplesmente errados '.Homem, 36

Análise de vídeo de candidatos a empregos

Dois temas se destacam nas respostas de 32% dos americanos que consideram aceitável o uso dessa ferramenta na contratação de candidatos. Cerca de 17% dos entrevistados acham que as empresas devem ter o direito de contratar da maneira que considerarem adequada, enquanto 16% acham que é aceitável porque é apenas um ponto de dados entre muitos no processo de entrevista. Outros 9% acham que esse tipo de análise seria mais objetivo do que uma entrevista tradicional de pessoa para pessoa.

Alguns exemplos:

  • 'Tudo é justo nas práticas de negócios comumente aceitas'.Homem, 76
  • 'Eles estão analisando seus traços. Eu não tenho um problema com isso '.Mulher, 38 anos
  • “Mais uma vez, neste mundo acelerado, com nossa sociedade e mercado de trabalho móveis, uma mala de ferramentas semicientíficas é essencial para se manter competitivo”.Homem, 71
  • 'Contanto que o candidato ao emprego concorde com este formato, acho que é aceitável. Contratar alguém implica um grande investimento financeiro e esta pode ser uma ferramenta útil '.Mulher, 61
  • 'Acho que é aceitável usar o produto durante a entrevista. No entanto, usá-lo como fator decisivo é ridículo. As entrevistas são difíceis e deixam os candidatos nervosos, portanto, acho que usar isso é aceitável, mas ruim se usado para a seleção final '.Homem, 23
As preocupações com a análise automatizada da entrevista de emprego se concentram na justiça, eficácia, falta de envolvimento humano

Os entrevistados que pensam que esse tipo de processo é inaceitável tendem a se concentrar em saber se ele funcionaria conforme o esperado. Um em cada cinco argumenta que este tipo de análise simplesmente não funciona ou é falho de alguma forma geral. Uma parcela um pouco menor (16%) defende que humanos deveriam entrevistar outros humanos, enquanto 14% acham que esse processo simplesmente não é justo para as pessoas que estão sendo avaliadas. E 13% acham que nem todo mundo dá uma boa entrevista e que esse sistema de pontuação pode ignorar candidatos talentosos.

Alguns exemplos:

  • 'Eu não acho que as características obtidas desta forma seriam confiáveis. Ótimos funcionários podem vir em todos os pacotes '.Mulher, 68
  • “Os indivíduos podem ter atributos e pontos fortes que não são evidentes por meio desse tipo de análise e seriam selecionados com base no algoritmo”.Mulher, 57
  • 'Uma pessoa poderia ser ótima pessoalmente, mas congelar durante uma entrevista como essa (na câmera). Contrate uma pessoa, não um robô, se quiser que uma pessoa faça um trabalho. As entrevistas conforme descrito devem ser usadas apenas para pessoas que moram longe e não podem entrar e, então, apenas para restringir os candidatos para o trabalho, então a última entrevista deve exigir que eles tenham uma entrevista pessoal '.Mulher, 61
  • 'Algumas pessoas não entrevistam bem, e um computador não pode avaliar a personalidade de uma pessoa e como ela se relaciona com outras pessoas'.Homem, 75
As preocupações com a triagem de currículo automatizada se concentram na justiça, falta de envolvimento humano

Triagem de currículo automatizada

Os 41% dos americanos que pensam que é aceitável que as empresas usem esse tipo de programa apresentam três razões principais para se sentir assim. Cerca de um em cinco (19%) acha isso aceitável porque a empresa que usa o processo economizaria muito tempo e dinheiro. Uma ação idêntica acha que seria mais preciso do que examinar currículos manualmente, e 16% acham que as empresas podem contratar como quiserem.

Alguns exemplos:

  • 'Você já tentou classificar centenas de aplicativos? Um programa fornece um meio não parcial de avaliação dos candidatos. Pode não ser perfeito, mas é eficiente '.Mulher, 65
  • 'Embora eu não fizesse isso por minha empresa, eu simplesmente acho que é aceitável porque as empresas privadas devem ser capazes de usar quaisquer métodos que quiserem, desde que não discriminem ilegalmente. Acontece que eu acho que alguns candidatos potencialmente bons seriam preteridos usando este método, mas eu não diria que uma organização não deveria ter permissão para fazer isso desta forma '.Homem, 50
  • 'Se eliminar currículos que não atendem aos critérios, permite que o processo de contratação seja mais eficiente'.Mulher, 43

Aqueles que consideram o processo inaceitável, da mesma forma, focalizam três temas principais. Cerca de um terço (36%) teme que esse tipo de processo tire o elemento humano da contratação. Aproximadamente um quarto (23%) acha que esse sistema não é justo ou nem sempre escolheria a melhor pessoa para o trabalho. E 16% temem que currículos simplesmente não sejam uma boa maneira de escolher candidatos a empregos e que as pessoas possam burlar o sistema inserindo palavras-chave que atraiam o algoritmo.

Aqui estão alguns exemplos dessas respostas:

  • 'Novamente, você está tirando o componente humano. E se uma pessoa muito qualificada não pudesse permitir que um redator de currículo profissional fizesse seu currículo? O computador iria expulsá-lo '.Mulher, 72
  • 'As empresas obterão apenas funcionários que usarem certas palavras, frases ou quaisquer que sejam os parâmetros da pesquisa. Eles vão sentir falta de bons candidatos e homogeneizar sua força de trabalho '.Mulher, 48
  • 'A probabilidade de que um programa chute um currículo, e o humano associado a ele, por pequenas peculiaridades na terminologia aumenta. A melhor forma de avaliar humanos é com humanos '.Homem, 54
  • 'É como fazer testes escolares padronizados, como o SAT, ACT, etc. Existem programas de ensino para ajudar os alunos a aprender como fazer os exames e como' praticar 'com vários exemplos. Portanto, os resultados não estão realmente comparando o potencial de todos os participantes do teste, mas fornecem um viés positivo para aqueles que gastam tempo e dinheiro aprendendo como fazer o teste '.Homem, 64
Facebook   twitter