aguarde...

7 de fevereiro de 2019

Estamos todos sendo manipulados por testes A / B o tempo todo

Estamos todos sendo manipulados por testes A / B o tempo todo

A web está sendo reformulada pela prática onipresente – e é um sério problema ético.

Testar soluções é uma parte essencial do processo de design e na Web, que geralmente acontece na forma de teste A / B: Designers mostram um grupo de usuários design A, outro grupo de usuários design B e medida que se aproxima para um resultado desejado. E não são apenas os layouts que testam A / B – esses experimentos determinam tudo, desde as manchetes que lemos até as cores que vemos .

Mas, como um novo artigo discute, pode haver problemas éticos com o teste A / B.

Estamos todos sendo manipulados por testes A / B o tempo todo

“Se você não entende como o conteúdo está mudando ou como o layout está mudando de maneiras que afetam seu comportamento, isso deixa você aberto à manipulação”, diz Christo Wilson, professor associado da Northeastern University que estuda auditoria algorítmica. e o autor do artigo. “Esse é o objetivo do teste A / B. Você está tentando vender mais produtos ou obter mais cliques. ”

No artigo, que foi apresentado na conferência anual ACM Fairness, Accountability, e Transparency , Wilson e seus co-autores analisaram 575 grandes sites que executam testes A / B na plataforma Optimizely , o que torna relativamente fácil para pessoas não-técnicas. para usar o teste A / B de várias maneiras. No artigo, Wilson mergulha em três estudos de caso específicos: publicidade, discriminação de preços e manchetes de notícias. Enquanto ele não culpa nenhuma empresa ou usa casos para aplicar testes A / B de forma antiética, Wilson usa a oportunidade para elucidar como as empresas estão usando essa tecnologia pouco examinada para mudar o que as pessoas veem na internet, seja preços, anúncios, manchetes. ou layout.

O problema é que, quando não é feito de maneira transparente e responsável, o teste A / B pode aproveitar os piores impulsos da psicologia humana para convencê-lo a clicar em algo. Quando se trata de conteúdo político, por exemplo, esse tipo de sensacionalismo contribui para a polarização política.

Estamos todos sendo manipulados por testes A / B o tempo todo

Muitos de nós provavelmente supõem que vemos as mesmas coisas enquanto nos movemos pela web, mas isso não é necessariamente o caso. Para ver os testes A / B em exibição em qualquer website que você visitar, faça o download de uma extensão do navegador Chromechamada Pessimizely que revelará tudo o que o Optimizely está facilitando, fazendo com que os anunciantes exibam o New York Timestestando diferentes manchetes.

A análise de Wilson mostra que atualmente a maioria dos sites que usam testes A / B são alguns dos maiores da internet. E provavelmente se tornará mais onipresente: o uso de ferramentas como o Optimizely poderia ajudar a nivelar o campo de atuação para empresas menores. “Eu gostaria de ver sites menores serem capazes de competir com sites maiores, então se o teste A / B é uma maneira de fazer isso, é bom. Fico feliz que as pessoas menos técnicas tenham capacidades sofisticadas – não devem ser apenas os Googles e os Facebooks ”, diz ele. “Por outro lado, estou preocupado que você tenha mais pessoas não treinadas fazendo experimentos em grandes audiências”.

Quando se trata de publicidade, as possibilidades de usos antiéticos são particularmente angustiantes. Por exemplo, digamos que você publique dois anúncios para um emprego bem remunerado em uma indústria dominada por homens. Um inclui uma imagem de estereótipos de gênero masculino, outro é neutro quanto ao gênero. Um teste A / B pode mostrar que muito mais pessoas clicam nesse anúncio com gênero. Isso convence você a mostrar esse anúncio para mais pessoas. Mas todas as pessoas que clicam nesse anúncio podem ser do sexo masculino, levando a uma população distorcida que se aplica ao trabalho. E as pessoas que veem esses anúncios podem não ter ideia do que está acontecendo em segundo plano.

“Observamos que o Optimizely é usado por muitos sites extremamente populares”, escrevem os pesquisadores. “No entanto, para nosso conhecimento, os visitantes desses sites nunca são solicitados a consentir explicitamente nessas experiências. Até mesmo a existência de experimentos raramente é divulgada ”.

Estamos todos sendo manipulados por testes A / B o tempo todo

A discriminação de preços é outro exemplo de como o que você vê on-line pode ser diferente do que outras pessoas veem: por exemplo, o teste A / B pode ajudar a otimizar o preço de pessoas em CEPs diferentes, mas o local em que as pessoas vivem é frequentemente interligado. levando a preços baseados em corrida .

Wilson acredita que precisa haver diretrizes mais rígidas sobre como esses experimentos são conduzidos. “Eu não quero retratar tudo isso como mal”, diz ele. “Mas temos que reconhecer que são experimentos humanos. Você está tentando mudar o comportamento das pessoas. Se eu estivesse fazendo isso como cientista como universidade, há protocolo. Você não pode simplesmente experimentar pessoas. ”

Existem algumas maneiras simples pelas quais as empresas e as plataformas de testes A / B, como o Optimizely, podem ser mais claras sobre alguns desses protocolos de testes, que são típicos para os cientistas. Wilson prevê um conselho de revisão interno da empresa que garante que os testes não causarão danos inadvertidamente, bem como um serviço externo que uma empresa poderia contratar para revisar os planos de pesquisa. Um grupo comercial do setor com diretrizes publicadas também poderia ajudar, ou até mesmo mais treinamento de plataformas como o Optimizely. Ele imagina que essas diretrizes seriam semelhantes ao que existe na academia, com regras sobre o respeito pelas pessoas, respeito pela autonomia e beneficência – a obrigação de agir em benefício dos outros.

“Isso é realmente importante porque essas ferramentas são muito fáceis de usar”, diz Wilson. “Mas isso tem que vir com um conjunto de advertências. Se você vai fazer algo como discriminação de preços, isso é algo potencialmente sério. Você está tratando as pessoas de uma maneira justa e justa, ou está apenas ignorando isso e dizendo que tudo o que me interessa é gerar cliques? ”

Posted in Blog
Write a comment