“Então, você quer se juntar à liga dos designers do mal? Entre, sente-se. A cadeira é desconfortável ? Boa. Vamos analisar seu aplicativo.
Ah, 2 anos em cassinos online? Não é ruim. Toque agradável com o botão ‘switcharoo’ para usuários que tentam cancelar um serviço de assinatura! E o que mais … Ativação não consensual de microfone para anúncios segmentados? Muito impressionante. Você vai se encaixar!
Quando você pode começar? Precisamos de toda a ajuda possível para coletar dados pessoais em massa. Bem, isso e removendo todas as indicações visuais de que algo é interativo. Não é o melhor quando as pessoas ficam confusas e frustradas? Ah, a propósito, nos reunimos aos sábados para vê-los falhar. ”
Nos últimos anos, ficamos desiludidos com os serviços que uma vez consideramos revolucionários.
Como camponeses franceses assistindo à ascensão de Robespierre ao poder, percebemos que o movimento que nos deu tanta liberdade também gerou terríveis opressores. As plataformas de mídia social tornaram-se campos de batalha para a guerra internacional. Percebemos que estávamos trocando segredos íntimos por GIFs de gatos, memes e questionários sobre o que você é. Anúncios incansáveis nos perseguiram pelas planícies digitais. A internet caiu da inocência em uma realidade suja e complexa.
Para aqueles de nós que trabalham na criação de coisas para este admirável mundo novo, foi um tempo de introspecção. Quem somos e qual foi o nosso papel nessa bagunça? E muitos de nós responderam:
“Devem ser todos aqueles designers maus, não eu.”
É conveniente imaginar que há alguma grande conspiração maligna por aí, orquestrando planos sinistros para dominar o mundo. Mudar a culpa é fácil.
A verdade é difícil. A verdade é que todos somos parte do problema.
Cada um de nós pode facilmente tomar uma decisão que arruina a vida de milhares de pessoas.
A navalha de Hanlon afirma: “Nunca atribua à malícia aquilo que é adequadamente explicado pela estupidez”.
Isso se aplica ao design tanto quanto qualquer outro assunto. O trabalho de um designer é considerar muitos lados do mesmo cenário, mas isso se torna mais difícil à medida que o número de cenários aumenta. Até os melhores de nós tomam decisões terríveis porque esquecemos, não entendemos ou não temos consciência das consequências. Isso é especialmente verdadeiro quando projetamos produtos em grande escala, com um conjunto diversificado de usuários.
Por exemplo, um designer direto pode não considerar como as configurações de privacidade do grupo poderiam involuntariamente excluir a orientação sexual de um usuário . Um designer europeu pode esquecer que o conceito de “nome e sobrenome” é diferente dependendo dos países e culturas. Um designer do iPhone mais recente pode insistir em imagens de alta qualidade, involuntariamente tornando a navegação na Web inacessível e difícil para aqueles com planos de dados caros.
Esses “casos extremos” são onde corremos o risco de causar o maior dano. Embora afetar apenas algumas pessoas já seja ruim o suficiente, como Mike Monteiro disse, quando 1% da sua base de usuários significa 20 milhões de humanos – falta para abordá-los ou fechar os olhos tem consequências significativas e graves para pessoas reais .
Além disso, grandes bases de usuários podem ter realidades contraditórias, o que o força como designer a fazer uma escolha. Por exemplo, não há uma resposta neutra para a pergunta “Como deve ser desenhado o mapa de Israel?”.
O caminho para o inferno é pavimentado com boas intenções.
A maioria de nós acredita nas empresas em que trabalha. Acreditamos que é bom que eles existam e façam coisas boas para as pessoas. Portanto, quando somos solicitados a trabalhar em direção a uma meta como “mais usuários devem estar mais engajados em nosso produto”, fazemos o possível para garantir que isso aconteça. Analisamos os usuários menos engajados e identificamos onde eles estão tendo problemas. Definimos uma métrica que queremos mover resolvendo seus problemas, para que possamos verificar se nossas soluções são eficazes. Até agora, tudo bem, certo?
O problema é que as coisas que realmente importam para os seres humanos – segurança, felicidade, pertencimento e amor – são quase impossíveis de medir. Portanto, você opera com a suposição de que a métrica que você escolher (registro, engajamento, retenção) é uma abreviação para esses sentimentos. Seu objetivo é um número, seu problema se torna um número que deve se mover e suas soluções o movem. Mas às vezes esquecemos de questionar se é o número certo, o que realmente significa e se é certo movê-lo.
Você quer que as pessoas mantenham contato com seus amigos, mas isso significa fazer com que eles passem mais tempo em seus telefones?
Você deseja que seus algoritmos ajudem as pessoas a encontrar o conteúdo com o qual se envolverão, mas e se as pessoas tiverem mais probabilidade de se envolver com o conteúdo que as deixa com raiva?
Quanto maior a empresa, mais específicos esses números. Em algum momento, você obtém uma declaração do problema como “ajude mais usuários do Chrome a fazer login no navegador” e chega a uma solução para fazer logon automaticamente quando as pessoas confirmam seus detalhes para outro serviço do Google. Não há dúvida de que muitas boas intenções foram pensadas sobre esse problema e sua solução. As métricas provavelmente pareciam ótimas, mas os números não podiam mostrar como os usuários viam isso como uma quebra imperdoável de confiança.
É fácil se deixar levar pela narrativa de que essas coisas são orquestradas por algum CEO malvado, gênio e que pega dinheiro. Claro, existem pessoas que trabalham em coisas que têm implicações éticas claras. Mas pensar que elas são a raiz de todas as más decisões de design nos leva a crer que estamos claros. Que, enquanto somos seres humanos éticos, trabalhando para empresas em que acreditamos, somos incapazes de “fazer o mal”. É aí que corremos o maior risco de esquecer um caso extremo, confiando demais em nossas métricas, sem questionar se estamos realmente fazendo a coisa certa. De fazer uma chamada imediata sobre algo que consideramos menor, esquecendo quantas pessoas interagem com ele. Sim, você deveria estar preocupado. Todos nós deveríamos estar.
Acontece que ficar fora da liga dos malfeitores é mais difícil do que entrar. Como podemos ficar de fora de suas fileiras?
- Por estar ciente de seu poder de causar danos aos usuários. Não importa o quão diligente ou cuidadoso você seja, ainda há uma chance de você estragar tudo. Não pare de prestar atenção quando algo for enviado e aja quando perceber que algo saiu errado
- Perguntar “quem está faltando?” Ao analisar suas soluções. Você já pensou em usuários LGBTQ, com deficiência, idosos, de diferentes países, politicamente expostos, pais, economicamente desafiados, em um relacionamento abusivo, profundamente religiosos, sofrendo de distúrbios alimentares, deprimidos, doentes, feridos, etc? Qual é a pior coisa que sua decisão de design pode fazer por eles? Execute suas soluções por um conjunto diversificado de pessoas. Pessoas de RP e equipes jurídicas são algumas das melhores em entender esse tipo de coisa
- Tornando as emoções do usuário igualmente importantes como outras métricas. Defenda sua importância. Encontre uma maneira de garantir que você esteja alcançando seus objetivos relacionados à emoção
- Escolhendo as emoções certas para se concentrar – a hierarquia de necessidades de Maslow é útil aqui. Por exemplo, se você está projetando para motoristas que compartilham carona – não há sentido em se orgulhar e estima se eles não conseguem descansar o suficiente ou não se sentem seguros
- Sempre se perguntando “isso é realmente a coisa certa a fazer?”, Mesmo que você acredite na empresa em que está trabalhando. Nunca pare de se perguntar isso. Uma meta transmitida pode ter perdido o foco inicial do usuário. Fale com os superiores em quem você confia para ter as costas. As chances são de que apontar não é uma chave inglesa nas rodas de máquinas maléficas, mas uma verificação de sanidade bem-vinda
Isso soa como muito trabalho? Bem, talvez eu tenha uma cadeira desconfortável para você.