AI e tomada de decisão na visão de UX

01
WORLD IA DAY 2016 PRESENTATION TITLE HERE
HEADER OPTION
Sub head or short description
Some kind of explanatory text, reference or footnote can go here and wrap to two lines, if needed.
Some kind of illustration or image?

PANORAMA UX 2020 - http://bit.ly/PanoramaUX
AI

Arquitetura de Informação

ou
Artificial Intelligence?

1210
Respostas

Quantas pessoas definiram
sua função como
Arquitetura de informação?

5

Organização

Agradecimentos

53% das respostas
em São Paulo
21 estados + DF

Quem aqui participou do
Panorama UX 2019/20?

http://bit.ly/PanoramaUX

AI / IA

Qual é a percepção de quem trabalha
com UX em relação a decisões
tomadas por algoritmos?

Qual dessas afirmações é a mais
próxima da sua visão, mesmo que
não esteja exatamente correta?

É possível que programas
tomem decisões sem
preconceitos humano
Programas de computador
sempre vão refletir os
preconceitos de quem os
projetou

É possível que programas de
computador tomem decisões
sem preconceitos humano
sempre vão refletir preconceitos
de quem os projetou

É possível que programas de
computador tomem decisões
sem preconceitos humano
sempre vão refletir
preconceitos de quem os
projetou

É possível que programas de computador tomem
decisões sem preconceitos humano
Programas de computador sempre vão refletir
preconceitos de quem os projetou

Consideramos aceitável o uso de
dados pessoais por redes sociais?

Nada aceitável Não muito aceitável Um pouco aceitável Muito aceitável

Investiguei a visão sobre quatro
cenários atuais de uso de decisões
automáticas

3. Escaneamento
automático de currículos
4. Avaliação automática de
entrevistas de emprego em
vídeo
1. Pontuação de finanças
pessoais baseada em
informações de uso da
internet
2. Risco criminal para presos
que podem se qualificar para
liberdade condicional

Sobre cada cenário, fiz três perguntas:
- Quão eficiente é esta tecnologia?
- Quão justa é esta tecnologia?
- O uso desta tecnologia é aceitável?

Em todos os casos, os entrevistados
consideram as decisões mais
eficientes do que justas

Você considera aceitável o uso destas
tecnologias?

Inaceitável Aceitável

PANORAMA UX 2020 - http://bit.ly/PanoramaUXhttps://www.nytimes.com/2019/11/10/business/Apple-credit-card-investigation.html

PANORAMA UX 2020 - http://bit.ly/PanoramaUXhttps://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

PANORAMA UX 2020 - http://bit.ly/PanoramaUXhttps://fortune.com/2018/10/10/amazon-ai-recruitment-bias-women-sexist/

PANORAMA UX 2020 - http://bit.ly/PanoramaUXhttps://fortune.com/2018/10/10/amazon-ai-recruitment-bias-women-sexist/
https://www.washingtonpost.com/technology/2019/10/22/ai-hiring-face-scanning-algorithm-increasingly-decides-
whether-you-deserve-job/

PANORAMA UX 2020 - http://bit.ly/PanoramaUXhttps://thenextweb.com/neural/2020/02/20/google-drops-gender-labels-from-image-recognition-to-reduce-bias/

O que é um algoritmo?

O que é um algoritmo?
É uma receita passo-a-passo para
se chegar a um objetivo.

Para minha filha:
- Escove os dentes

Para minha filha:
- Escove os dentes
- Escove os dentes
- Escove os dentes
- Escove os dentes
- Escove os dentes

Para minha filha:
- Escove os dentes
- Escove os dentes
- Escove os dentes
- Escove os dentes
- Escove os dentes
Para um computador:
- Vá até o banheiro
- Pegue a escova de dente
- Pegue a pasta de dente
- Abra o tubo de pasta de
dente
-Passe 0,5 cm de pasta sobre
as cerdas da escova
- Abra a torneira
- …

O paradigma inicial da computação
exigia que o programador desse
ordens explícitas.

Machine Learning

Quais são as regras?
Não é tão claro assim.

Word embedding
Modelos para processamento de texto
em que as palavras são transformadas
em vetores

Paris : França
Roma: ? .

PANORAMA UX 2020 - http://bit.ly/PanoramaUXhttps://a16z.com/2020/01/16/biases-and-black-boxes-a-call-for-ai-transparency/

Olhando exemplos não estamos
mudando o futuro, apenas replicando
(e amplificando) o passado.
Cathy O’Neil
Weapons of math destruction

1. Nós, humanos, somos
péssimos em tomar decisões

The Cognitive Bias Codex - 180+ biases, designed by John Manoogian III (jm3).png:, CC BY-SA 4.0,
https://commons.wikimedia.org/w/index.php?curid=69756809

2. Acreditamos que máquinas,
por não terem emoções, não
carregam vieses

3. A tecnologia exerce um
fascínio, quase místico, sobre o
imaginário social

https://www.washingtonpost.com/news/the-switch/wp/2018/04/11/ai-will-solve-facebooks-most-vexing-problems-mark-zuckerberg-says-just-dont-ask-
when-or-how/

“O processo de tomada de decisão humana, embora
muitas vezes falho, tem uma virtude principal. Ele
pode evoluir. À medida que os seres humanos
aprendem e se adaptam, mudamos os nossos
processos. Os sistemas automatizados, por outro
lado, permanecem fixos no tempo até que
programadores decidam intervir.”
Cathy O’Neil
Weapons of math destruction

Com o olhar da arquitetura de informação,
podemos auditar e fazer a curadoria dos
dados que alimentam redes neurais.

Também podemos, e devemos, questionar o
que acontece por trás da interface

Tenho que esconder toda a complexidade?
Quando é melhor
fazer seu usuário pensar?

“As pessoas estão usando
mecanismos de busca, em vez de
bibliotecas ou professores, para
entender o mundo em que vivemos.”
Safiya Noble

Obrigada!
Carolina Leslie
carolina.leslie@zoly.com.br
Obrigada!
carolinaleslie@gmail.com
http://bit.ly/PanoramaUX

AI e tomada de decisão na visão de UX

Empfohlen

Empfohlen

Weitere ähnliche Inhalte

Ähnlich wie AI e tomada de decisão na visão de UX

Ähnlich wie AI e tomada de decisão na visão de UX (20)

AI e tomada de decisão na visão de UX