SlideShare ist ein Scribd-Unternehmen logo
1 von 73
Downloaden Sie, um offline zu lesen
A contribuição da
história oral e dos
testes de campo
na pesquisa de arquitetura de informação

Luiz AGNER
Laboratório de Ergonomia e Usabilidade
Pesquisa de doutorado, PUC-Rio
Apresentação
Designer e ilustrador
Tecnologista em informações do IBGE
Professor (UniverCidade-Rio)
Doutorando em Design (PUC-Rio)
Objeto
Introdução
“O IBGE é o órgão oficial
de estatísticas do país, que
transforma dados em
informação e –
principalmente -
informação em
conhecimento.”
Introdução
Problema
Problema
Comunidade do Orkut - “para todos os
pesquisadores, universitários ou não, que:
 – sentem calafrios quando precisam procurar algum
   dado no site;
 – sabem que o lema do site é quot;quem procura NUNCA
   acha!quot;;
 – sabem que é mais fácil descobrir qualquer
   informação lendo borra de café do que acessando o
   site;
 – na hipótese de encontrar a planilha desejada, ela
   provavelmente fará seu computador trancar;
 – reconhecem o mérito dos pesquisadores do instituto
   mas quase nunca acham os dados pesquisados por
   eles.”
Pesquisa de AI

(ROSENFELD e
MORVILLE)
Pesquisa de AI

(ROSENFELD e
                          Objetivos da organização,
                          políticas, cultura,
MORVILLE)
               Contexto
                          tecnologia e recursos
                          humanos
Pesquisa de AI

(ROSENFELD e
                                            Objetivos da organização,
                                            políticas, cultura,
MORVILLE)
                                 Contexto
                                            tecnologia e recursos
                                            humanos




          Documentos,
formatos/tipos, objetos,
  metadados, estrutura
              existente


                      Conteúdo
Pesquisa de AI

(ROSENFELD e
                                                 Objetivos da organização,
                                                 políticas, cultura,
MORVILLE)
                                 Contexto
                                                 tecnologia e recursos
                                                 humanos




                                                  Perfil dos usuários,
          Documentos,                             identificação das audiências,
formatos/tipos, objetos,                          tarefas, necessidades,
  metadados, estrutura                            comportamento de busca de
              existente                           informação, experiência,


                      Conteúdo              Usuários
                                                  vocabulário
Arquitetura de
informação
 Definições de AI
 – AI é a atividade que combina a aplicação de
   esquemas de navegação, de organização e
   de rotulagem dentro de um sistema
   informacional.
 – AI é o Design estrutural de um espaço de
   informação com o objetivo de facilitar as
   tarefas e o acesso intuitivo aos conteúdos.
Arquitetura de
informação
 – AI é a arte e a ciência de estruturar e
   classificar websites e intranets para auxiliar
   as pessoas a encontrar e a gerenciar
   informação.
 – AI é uma disciplina emergente e uma
   comunidade de prática profissional.

  (Morville)
Arquitetura de
informação
 Papéis do arquiteto:
 – Clarificar a missão e a visão do site fazendo
   o balanceamento entre necessidades da
   organização e as necessidades de seus
   usuários.
 – Determinar qual o conteúdo e a
   funcionalidade que o site conterá.
 – Especificar como usuários encontrarão
   informação no site, por meio da definição da
   sua organização, navegação, rotulagem e
   sistemas de busca.
Arquitetura de
informação
 Componentes da AI:
 – Sistemas de Organização – como é apresentada a
   organização e a categorização do conteúdo.
 – Sistemas de Rotulação – signos verbais
   (terminologia) e visuais (icônicos).
 – Sistemas de Navegação – formas de o usuário se
   mover através do espaço.
 – Sistemas de Busca – define as perguntas que o
   usuário pode fazer e o conjunto de respostas do
   banco de dados.
Ciência da informação
O método
Concepções filosóficas e epistemológicas
diferentes sustentam paradigmas
metodológicos diferentes (GRESLER, 2003).

Existem duas grandes abordagens: a
quantitativa e a qualitativa.
O método
Abordagem quantitativa - caracteriza-se pela
formulação de hipóteses, definições operacionais de
variáveis, quantificação na coleta de dados e utilização
de tratamentos estatísticos.

O modelo quantitativo estabelece hipóteses que
exigem uma relação entre causa e efeito e apóia
conclusões em dados estatísticos, comprovações e
testes.

Os critérios são a verificação, a demonstração, os
testes e a lógica matemática.
O método
Abordagem qualitativa - não emprega instrumentos
estatísticos como base para a análise.

É utilizada quando se busca descrever a complexidade
de determinado problema - não envolvendo
manipulação de variáveis ou estudos experimentais.

Ela contrapõe-se à abordagem quantitativa, uma vez
que busca levar em consideração todos os
componentes de uma situação e suas interações e
influências recíprocas, numa visão holística.
O método
Há domínios quantificáveis e outros qualificáveis.
Segundo RICHARDSON (1999), as investigações que se
voltam para uma análise qualitativa têm como
objeto de estudo situações complexas ou bastante
particulares (como é o caso do objeto de estudo deste
trabalho).

Estudos que empregam a metodologia qualitativa
podem descrever a complexidade dos problemas,
analisar a interação de variáveis, compreender e
classificar processos dinâmicos vividos por grupos
sociais, e contribuir no processo de mudança.
O método
História oral
Testes de usabilidade no campo
História oral
 A história oral - como método de pesquisa - se
 revela importante instrumento para
 compreensão das construções das estratégias
 de ação e das representações, de grupos ou de
 indivíduos, em uma dada sociedade.

 FERREIRA, Marieta (coord.)
 “Entrevistas: abordagens e usos da história oral”.
 Ed.FGV, 1994.
História oral
 É utilizada no registro da história de grandes
 empresas e de organizações governamentais.
 O registro oral mostra-se a única possibilidade
 de recuperar um passado que - apesar de
 recente - deixou poucos traços.
 DIAS, José L. Mattos.
 “Entrevistas: abordagens e usos da história oral”.
 Ed.FGV, 1994.
História oral
 Permite abordar o mundo fechado da
 burocracia “de dentro”, rachando a fachada de
 neutralidade e de racionalidade, que busca
 isolá-lo do público “externo”.

 Motta, Marly Silva.
 “Entrevistas: abordagens e usos da história oral”.
 Ed.FGV, 1994.
História oral
 Privilegia a recuperação do vivido conforme
 concebido por quem o viveu.
 É um diálogo entre entrevistado e
 entrevistadores, uma construção e uma
 interpretação do passado, atualizada através
 da linguagem falada.
 Não é fator negativo o fato de o depoente
 poder “distorcer” a realidade, ter “falhas” de
 memória ou “errar” em seu relato.
 (ALBERTI).
História oral
 A escolha de entrevistados não é orientada por
 critérios quantitativos (amostragens), mas pela
 posição do entrevistado no grupo ou por sua
 experiência.
 Entrevistados estão entre os que participaram,
 viveram, presenciaram ou se inteiraram de
 ocorrências e que possam fornecer
 depoimentos significativos.
 O processo de seleção de entrevistados se
 aproxima da antropologia, tomados não como
 unidades estatísticas mas como unidades
 qualitativas.
História oral
 16 entrevistas (2004 – 2007).
  – Técnicos
  – Conteudistas
  – Designers
  – Gerentes
  – Profissionais de atendimento ao usuário
História oral
 “(...) A busca no portal é [realizada pela]
 pessoa que está fazendo uma pesquisa, que
 vai ali ter uma resposta no [site] Cidades@.
 Ou uma criança que vai lá no site Teen e
 consegue fazer o levantamento dele. Agora, na
 Loja Virtual, você já tem um perfil de
 empresas, de consultorias, de pesquisadores
 (...)”


            Alcides Braga – Administrador da Loja Virtual
História oral
 “(...) O que a Internet permitiu (...) é
 justamente colocar, democraticamente, este
 maior banco de dados sobre o Brasil à
 disposição de todo o público. (...) Então, acho,
 é mais um papel de cumprimento da missão do
 IBGE - em levar a informação à sociedade.”



                         Francisco Alchorne - Jornalista
Conteúdo
Conteúdo
Conteúdo
Conteúdo
Conteúdo
Conteúdo
Conteúdo
Conteúdo
Conteúdo
Conteúdo
Conteúdo
Conteúdo
Conteúdo
Testes de usabilidade
 O feedback vivo de usuários operando
 tarefas reais
 Processo empírico de aprender a partir
 dos usuários, sobre a usabilidade de
 um produto, observando-os durante a
 sua utilização.

 (RUBIN, 1994; DUMAS & REDISH, 1994; BARNUM,
 2002).
Testes de usabilidade
 Registrados em vídeo
 ou em áudio, usuários
 interagem com o
 sistema, em condições
 controladas, para
 checar o sucesso das
 interfaces, observando
 dados
 comportamentais.
Testes de usabilidade




 NIELSEN propôs testes com melhor relação custo-
 benefício, utilizando entre quatro e cinco usuários
 dispensa das gravações em laboratórios, para se
 encaixar dentro dos orçamentos das empresas.
Testes de usabilidade
 Participantes:
 – Os objetivos específicos de cada teste
   definem os participantes e as tarefas
   executadas.
 – Os participantes devem representar
   usuários reais: membros do grupo que
   utiliza ou que vai utilizar o produto.
 – Os participantes devem executar tarefas
   reais.
Testes de campo
Laboratório portátil:
 – Notebook
 – Internet Explorer 6.
 – Webcam.
 – Mouse.
 – Headphone com microfone
 – Software de captura de telas
 – Câmera digital
 – Gravador analógico
 – Acesso wireless à Internet
 – Questionários e documentação
Testes de campo
Vantagens:
 – ir ao usuário em vez de convidá-lo a vir até
   ele;
 – observar o ambiente real onde o usuário
   trabalha ou vive;
 – observar o usuário com todas as
   interrupções e distrações do ambiente;
 – verificar os artefatos criados pelos usuários
   para as tarefas;
 – pode acessar documentações específicas.
Testes de campo
Variáveis controladas – Acesso wireless, hardware, software, público-alvo, tarefas.
Variáveis intervenientes – Inúmeras, típicas dos testes de campo.




Locais – Campi universitários do Rio, residências e locais de trabalho
dos pesquisadores.
Testes de campo
Variáveis controladas – Acesso wireless, hardware, software, público-alvo, tarefas.
Variáveis intervenientes – Inúmeras, típicas dos testes de campo.




Locais – Campi universitários do Rio, residências e locais de trabalho
dos pesquisadores.
Testes de campo
Variáveis controladas – Acesso wireless, hardware, software, público-alvo, tarefas.
Variáveis intervenientes – Inúmeras, típicas dos testes de campo.




Locais – Campi universitários do Rio, residências e locais de trabalho
dos pesquisadores.
Tarefa 1
 “A partir da home page do portal IBGE,
 identifique em que estado do Brasil
 reside a maior concentração de pessoas
 idosas (com mais de 60 anos)”.
Tarefa 2
 “A partir da home page do portal IBGE,
 descubra em que bairro da cidade de
 Recife reside a maior concentração de
 cidadãos da terceira idade”.
Testes de campo
Exemplo de
registro

Protocolos
de verba-
lização


-   concorrente
-   retrospectivo
Análise dos dados
 Após o registro e a categorização das
 descobertas, procurou-se determinar a
 causa dos problemas de usabilidade,
 avaliou-se seu impacto individual e
 recomendaram-se soluções.

 O resultado do processo levou ao
 estabelecimento de um conjunto de
 critérios heurísticos específicos para a
 avaliação do portal IBGE.
Análise dos dados
 Estes critérios heurísticos foram
 consubstanciados em uma lista de
 verificação (checklist).

 Checklist foi submetida a validação
 junto à uma equipe com grande
 experiência no desenvolvimento do
 portal IBGE.
Participantes
          Nível de instrução



    29%



                               Mestrado

                               Doutorado

                       71%
Participantes
                                Participantes
                 0
                 1
                 2
                 3
                 4
                 5
                 6
administração


   ciência da
  informação


     ciências
      sociais


comunicação
                     Mestrado


       design


   economia/
    finanças


  engenharia



    geografia


   relações
internacionais
Participantes
                             Doutorado

3


2



1


0
     ciência da   ciências    comunicação   design   geografia
    informação     sociais
Participantes
            Instituição acadêmica



                   USP
                   4%
           UFRJ
           17%                 PUC-Rio
                                34%




                               PUC-SP
                                 4%
      UFF/ IBICT
        33%                 UERJ
                             8%
Participantes
           Experiência com computadores

12
10
 8
 6
 4
 2
 0




                                           ta
       a




                             a
                  a




                                                  ta
                           ad
      um




                 m




                                       al




                                                al
              gu




                         er




                                      te
    nh




                       od




                                    en
            al
 ne




                      m




                                  am
                                ad
                              er
                            od
                           m
Participantes
            Horas diárias na web

12

10

 8

 6

 4

 2

 0
     1-3h             3-8h         mais de 8h
Participantes
   Conhecimento ou utilização de estatística




                                  sim
        não
                                  50%
        50%
Resultados
             Resultados - tarefa 1



                    sucesso
                      13%



                                     sucesso
                                     insucesso



     insucesso
        87%
Resultados
       Resultados - tarefa 2


       sucesso
         0%



                               sucesso
                               insucesso



       insucesso
          100%
Resultados
             Causas de insucesso - tarefa 1

                 desistência
                     5%


                                              dado errado
                                                 47%


  expiração do
     tempo
      48%
Resultados
             Causas de insucesso - tarefa 2




   desistência
      17%




                                       expiração do
                                          tempo
                                           83%
Resultados
                 Encontrar informações estatísticas é

         muito difícil                            7

                difícil                                             13

nem fácil nem difícil                 3

                 fácil        1


          muito fácil     0

                          0       2       4   6       8   10   12    14
Resultados
                                    O que menos gostou


                                                             3
     descrições dos arquivos

                                                             3
excesso de informações/links

                                                             3
         comunicação visual

                                                                     4
                      outros

                                                                             5
classificação de informações

                                                                             5
                  dificuldade

                                                                             5
             falta de clareza

                                                                                 6
                      busca

                                0      1       2         3       4       5       6
Avaliação da técnica
Participante 10 – Achou “ótimo”. Considerou o procedimento de “pensar
   alto” para gravação válido pois às vezes “fazemos coisas sem
   perceber”.

Participante 20 – Considerou o método utilizado “perfeitamente válido” e
   um “modelo aplicável” em outras pesquisas.

Participante 22 – Avaliou como “bastante completo”. Considera que há
   diferenças no ato de navegar, quando as ações estão sendo gravadas
   e que, fora do ambiente de teste, sua navegação seria “mais ágil”.

Participante 26 – Relatou inibição pelo fato de ser observada. Sentiu-se
   “pressionada” e isto “interferiu de forma negativa na sua
   performance”.
Conclusões parciais

 Os problemas relacionam-se
 largamente à ineficiência dos
 mecanismos de busca, à taxonomia
 aparentemente ilógica ou incompleta, à
 falta de clareza dos rótulos e links, e
 aos problemas de redação – todos
 problemas típicos de arquitetura de
 informação.
Obrigado.

        Luiz Agner


      luizagner@gmail.com
        www.agner.com.br
Divulgação de livro
           ERGODESIGN E
           ARQUITETURA DE INFORMAÇÃO:
           Trabalhando Com o Usuário
           Ed. Quartet, 2006

           Luiz Agner



           Saraiva, Submarino e 2AB

Weitere ähnliche Inhalte

Andere mochten auch

O Cenário da Avaliação Educacional
O Cenário da Avaliação EducacionalO Cenário da Avaliação Educacional
O Cenário da Avaliação EducacionalProf. Claudio André
 
História oral para crianças: desafios possíveis
História oral para crianças: desafios possíveisHistória oral para crianças: desafios possíveis
História oral para crianças: desafios possíveisPaulo Capone
 
2013 encontro de história oral ne história de pessoas negras outras identidad...
2013 encontro de história oral ne história de pessoas negras outras identidad...2013 encontro de história oral ne história de pessoas negras outras identidad...
2013 encontro de história oral ne história de pessoas negras outras identidad...Mateus Lopes
 
Papel Da AvaliaçãO
Papel Da AvaliaçãOPapel Da AvaliaçãO
Papel Da AvaliaçãOguest1c37d0
 
A PROVA BRASIL e a Escola - MA
A PROVA BRASIL e a Escola - MAA PROVA BRASIL e a Escola - MA
A PROVA BRASIL e a Escola - MAEditora Moderna
 
Reestruturação Produtiva - Brasil
Reestruturação Produtiva - BrasilReestruturação Produtiva - Brasil
Reestruturação Produtiva - BrasilEducação
 
História e memória marize cunha
História e memória marize cunhaHistória e memória marize cunha
História e memória marize cunhaMarize da Cunha
 
Slides seminário avaliação educacional escolar: para além do autoritarismo
Slides   seminário avaliação educacional escolar: para além do autoritarismoSlides   seminário avaliação educacional escolar: para além do autoritarismo
Slides seminário avaliação educacional escolar: para além do autoritarismoGilson Trajano
 
Comunicação oral na organizações
Comunicação oral na organizaçõesComunicação oral na organizações
Comunicação oral na organizaçõesAnne Clea Lima
 
História Oral - Como fazer uma entrevista
História Oral - Como fazer uma entrevistaHistória Oral - Como fazer uma entrevista
História Oral - Como fazer uma entrevistacathia04h57
 
Slade Estrutura De Funcionamento Da EducaçãO
Slade   Estrutura De Funcionamento Da EducaçãOSlade   Estrutura De Funcionamento Da EducaçãO
Slade Estrutura De Funcionamento Da EducaçãOguestd2e6b04
 
Entre memória e história
Entre memória e históriaEntre memória e história
Entre memória e históriaJúlio Rocha
 
Estrutura e Funcionamento dos Níveis e Modalidades de Ensino
Estrutura e Funcionamento dos Níveis e Modalidades de EnsinoEstrutura e Funcionamento dos Níveis e Modalidades de Ensino
Estrutura e Funcionamento dos Níveis e Modalidades de EnsinoEvaí Oliveira
 
Avaliação educacional
Avaliação educacionalAvaliação educacional
Avaliação educacionaluanjo
 

Andere mochten auch (20)

Oficina de história oral
Oficina de história oralOficina de história oral
Oficina de história oral
 
Ferramentas para metodologias participativas parte 3
Ferramentas para metodologias participativas parte 3Ferramentas para metodologias participativas parte 3
Ferramentas para metodologias participativas parte 3
 
Memoria oral
Memoria oralMemoria oral
Memoria oral
 
O Cenário da Avaliação Educacional
O Cenário da Avaliação EducacionalO Cenário da Avaliação Educacional
O Cenário da Avaliação Educacional
 
História oral para crianças: desafios possíveis
História oral para crianças: desafios possíveisHistória oral para crianças: desafios possíveis
História oral para crianças: desafios possíveis
 
2013 encontro de história oral ne história de pessoas negras outras identidad...
2013 encontro de história oral ne história de pessoas negras outras identidad...2013 encontro de história oral ne história de pessoas negras outras identidad...
2013 encontro de história oral ne história de pessoas negras outras identidad...
 
Papel Da AvaliaçãO
Papel Da AvaliaçãOPapel Da AvaliaçãO
Papel Da AvaliaçãO
 
A PROVA BRASIL e a Escola - MA
A PROVA BRASIL e a Escola - MAA PROVA BRASIL e a Escola - MA
A PROVA BRASIL e a Escola - MA
 
Reestruturação Produtiva - Brasil
Reestruturação Produtiva - BrasilReestruturação Produtiva - Brasil
Reestruturação Produtiva - Brasil
 
História e memória marize cunha
História e memória marize cunhaHistória e memória marize cunha
História e memória marize cunha
 
Slides seminário avaliação educacional escolar: para além do autoritarismo
Slides   seminário avaliação educacional escolar: para além do autoritarismoSlides   seminário avaliação educacional escolar: para além do autoritarismo
Slides seminário avaliação educacional escolar: para além do autoritarismo
 
Teoria da identidade
Teoria da identidadeTeoria da identidade
Teoria da identidade
 
Scriven
Scriven Scriven
Scriven
 
Comunicação oral na organizações
Comunicação oral na organizaçõesComunicação oral na organizações
Comunicação oral na organizações
 
Avaliacao Institucional
Avaliacao InstitucionalAvaliacao Institucional
Avaliacao Institucional
 
História Oral - Como fazer uma entrevista
História Oral - Como fazer uma entrevistaHistória Oral - Como fazer uma entrevista
História Oral - Como fazer uma entrevista
 
Slade Estrutura De Funcionamento Da EducaçãO
Slade   Estrutura De Funcionamento Da EducaçãOSlade   Estrutura De Funcionamento Da EducaçãO
Slade Estrutura De Funcionamento Da EducaçãO
 
Entre memória e história
Entre memória e históriaEntre memória e história
Entre memória e história
 
Estrutura e Funcionamento dos Níveis e Modalidades de Ensino
Estrutura e Funcionamento dos Níveis e Modalidades de EnsinoEstrutura e Funcionamento dos Níveis e Modalidades de Ensino
Estrutura e Funcionamento dos Níveis e Modalidades de Ensino
 
Avaliação educacional
Avaliação educacionalAvaliação educacional
Avaliação educacional
 

Ähnlich wie A contribuição da história oral e testes de campo na pesquisa de arquitetura de informação

Usabilidade aula-03. Processos: Arquitetura de informação
Usabilidade aula-03. Processos: Arquitetura de informaçãoUsabilidade aula-03. Processos: Arquitetura de informação
Usabilidade aula-03. Processos: Arquitetura de informaçãoAlan Vasconcelos
 
Metodos e Processos de Pesquisa em Design de Interação
Metodos e Processos de Pesquisa em Design de InteraçãoMetodos e Processos de Pesquisa em Design de Interação
Metodos e Processos de Pesquisa em Design de InteraçãoGonçalo Ferraz
 
Apresentação - Arquitetura de Informação
Apresentação - Arquitetura de InformaçãoApresentação - Arquitetura de Informação
Apresentação - Arquitetura de InformaçãoLuiz Agner
 
Findability: elementos essenciais para a recuperação da informação em ambient...
Findability: elementos essenciais para a recuperação da informação em ambient...Findability: elementos essenciais para a recuperação da informação em ambient...
Findability: elementos essenciais para a recuperação da informação em ambient...Index3i
 
Arquitetura da informação
Arquitetura da informação Arquitetura da informação
Arquitetura da informação UNESP Marília
 
[UX Cafe] O poder da arquitetura de informação na construção de produtos digi...
[UX Cafe] O poder da arquitetura de informação na construção de produtos digi...[UX Cafe] O poder da arquitetura de informação na construção de produtos digi...
[UX Cafe] O poder da arquitetura de informação na construção de produtos digi...Rafael Burity
 
Arquitetura da Informação
Arquitetura da InformaçãoArquitetura da Informação
Arquitetura da InformaçãoMarcello Cardoso
 
Arquitetura da Informação e Usabilidade
Arquitetura da Informação e UsabilidadeArquitetura da Informação e Usabilidade
Arquitetura da Informação e Usabilidadesaspi2
 
Pesquisas científicas rigorosas com o desenvolvimento de artefatos: Design Sc...
Pesquisas científicas rigorosas com o desenvolvimento de artefatos: Design Sc...Pesquisas científicas rigorosas com o desenvolvimento de artefatos: Design Sc...
Pesquisas científicas rigorosas com o desenvolvimento de artefatos: Design Sc...Mariano Pimentel
 
WIAD - World Information Architecture Day 2019 - MeetUp PUC-Rio
WIAD - World Information Architecture Day 2019 - MeetUp PUC-RioWIAD - World Information Architecture Day 2019 - MeetUp PUC-Rio
WIAD - World Information Architecture Day 2019 - MeetUp PUC-RioLuiz Agner
 
Estratégia, Competição e Usabilidade
Estratégia, Competição e UsabilidadeEstratégia, Competição e Usabilidade
Estratégia, Competição e UsabilidadeFilipe Levi
 
Pesquisar os/com/por-meio-dos artefatos computacionais
Pesquisar os/com/por-meio-dos artefatos computacionaisPesquisar os/com/por-meio-dos artefatos computacionais
Pesquisar os/com/por-meio-dos artefatos computacionaisMariano Pimentel
 
Arquitetura de Informação: história, definição e seus elementos
Arquitetura de Informação: história, definição e seus elementosArquitetura de Informação: história, definição e seus elementos
Arquitetura de Informação: história, definição e seus elementosLuciana Nunes
 
Arquitetura da Informação de Websites de Bibliotecas Universitárias
Arquitetura da Informação de Websites de Bibliotecas UniversitáriasArquitetura da Informação de Websites de Bibliotecas Universitárias
Arquitetura da Informação de Websites de Bibliotecas UniversitáriasZayr Silva
 
Representação, recuperação, uso e reuso da imagem digital
Representação, recuperação, uso e reuso da imagem digitalRepresentação, recuperação, uso e reuso da imagem digital
Representação, recuperação, uso e reuso da imagem digitalAna Carolina Simionato
 
Plano de investigação - Apresentação
Plano de investigação - ApresentaçãoPlano de investigação - Apresentação
Plano de investigação - ApresentaçãoMarduken
 
A herança da arquitetura da informação para a UX Writer
A herança da arquitetura da informação para a UX WriterA herança da arquitetura da informação para a UX Writer
A herança da arquitetura da informação para a UX WriterMergo
 
Cultura informacional - proposta de integração conceitual e de modelo com o f...
Cultura informacional - proposta de integração conceitual e de modelo com o f...Cultura informacional - proposta de integração conceitual e de modelo com o f...
Cultura informacional - proposta de integração conceitual e de modelo com o f...Leonardo Moraes
 
Busca por informacao
Busca por informacaoBusca por informacao
Busca por informacaoNeue Labs
 

Ähnlich wie A contribuição da história oral e testes de campo na pesquisa de arquitetura de informação (20)

Usabilidade aula-03. Processos: Arquitetura de informação
Usabilidade aula-03. Processos: Arquitetura de informaçãoUsabilidade aula-03. Processos: Arquitetura de informação
Usabilidade aula-03. Processos: Arquitetura de informação
 
Metodos e Processos de Pesquisa em Design de Interação
Metodos e Processos de Pesquisa em Design de InteraçãoMetodos e Processos de Pesquisa em Design de Interação
Metodos e Processos de Pesquisa em Design de Interação
 
Apresentação - Arquitetura de Informação
Apresentação - Arquitetura de InformaçãoApresentação - Arquitetura de Informação
Apresentação - Arquitetura de Informação
 
Findability: elementos essenciais para a recuperação da informação em ambient...
Findability: elementos essenciais para a recuperação da informação em ambient...Findability: elementos essenciais para a recuperação da informação em ambient...
Findability: elementos essenciais para a recuperação da informação em ambient...
 
Arquitetura da informação
Arquitetura da informação Arquitetura da informação
Arquitetura da informação
 
[UX Cafe] O poder da arquitetura de informação na construção de produtos digi...
[UX Cafe] O poder da arquitetura de informação na construção de produtos digi...[UX Cafe] O poder da arquitetura de informação na construção de produtos digi...
[UX Cafe] O poder da arquitetura de informação na construção de produtos digi...
 
Arquitetura da Informação
Arquitetura da InformaçãoArquitetura da Informação
Arquitetura da Informação
 
Arquitetura da Informação e Usabilidade
Arquitetura da Informação e UsabilidadeArquitetura da Informação e Usabilidade
Arquitetura da Informação e Usabilidade
 
DSR Model
DSR ModelDSR Model
DSR Model
 
Pesquisas científicas rigorosas com o desenvolvimento de artefatos: Design Sc...
Pesquisas científicas rigorosas com o desenvolvimento de artefatos: Design Sc...Pesquisas científicas rigorosas com o desenvolvimento de artefatos: Design Sc...
Pesquisas científicas rigorosas com o desenvolvimento de artefatos: Design Sc...
 
WIAD - World Information Architecture Day 2019 - MeetUp PUC-Rio
WIAD - World Information Architecture Day 2019 - MeetUp PUC-RioWIAD - World Information Architecture Day 2019 - MeetUp PUC-Rio
WIAD - World Information Architecture Day 2019 - MeetUp PUC-Rio
 
Estratégia, Competição e Usabilidade
Estratégia, Competição e UsabilidadeEstratégia, Competição e Usabilidade
Estratégia, Competição e Usabilidade
 
Pesquisar os/com/por-meio-dos artefatos computacionais
Pesquisar os/com/por-meio-dos artefatos computacionaisPesquisar os/com/por-meio-dos artefatos computacionais
Pesquisar os/com/por-meio-dos artefatos computacionais
 
Arquitetura de Informação: história, definição e seus elementos
Arquitetura de Informação: história, definição e seus elementosArquitetura de Informação: história, definição e seus elementos
Arquitetura de Informação: história, definição e seus elementos
 
Arquitetura da Informação de Websites de Bibliotecas Universitárias
Arquitetura da Informação de Websites de Bibliotecas UniversitáriasArquitetura da Informação de Websites de Bibliotecas Universitárias
Arquitetura da Informação de Websites de Bibliotecas Universitárias
 
Representação, recuperação, uso e reuso da imagem digital
Representação, recuperação, uso e reuso da imagem digitalRepresentação, recuperação, uso e reuso da imagem digital
Representação, recuperação, uso e reuso da imagem digital
 
Plano de investigação - Apresentação
Plano de investigação - ApresentaçãoPlano de investigação - Apresentação
Plano de investigação - Apresentação
 
A herança da arquitetura da informação para a UX Writer
A herança da arquitetura da informação para a UX WriterA herança da arquitetura da informação para a UX Writer
A herança da arquitetura da informação para a UX Writer
 
Cultura informacional - proposta de integração conceitual e de modelo com o f...
Cultura informacional - proposta de integração conceitual e de modelo com o f...Cultura informacional - proposta de integração conceitual e de modelo com o f...
Cultura informacional - proposta de integração conceitual e de modelo com o f...
 
Busca por informacao
Busca por informacaoBusca por informacao
Busca por informacao
 

Mehr von UTFPR

Cascading oppression in design
Cascading oppression in designCascading oppression in design
Cascading oppression in designUTFPR
 
Inteligência artificial e o trabalho de design
Inteligência artificial e o trabalho de designInteligência artificial e o trabalho de design
Inteligência artificial e o trabalho de designUTFPR
 
Expanding the design object
Expanding the design objectExpanding the design object
Expanding the design objectUTFPR
 
Creating possibilities for service design innovation
Creating possibilities for service design innovationCreating possibilities for service design innovation
Creating possibilities for service design innovationUTFPR
 
Contradiction-driven design
Contradiction-driven designContradiction-driven design
Contradiction-driven designUTFPR
 
Design expansivo: pensar o possível para fazer o impossível
Design expansivo: pensar o possível para fazer o impossívelDesign expansivo: pensar o possível para fazer o impossível
Design expansivo: pensar o possível para fazer o impossívelUTFPR
 
Metacriatividade: criatividade sobre criatividade
Metacriatividade: criatividade sobre criatividadeMetacriatividade: criatividade sobre criatividade
Metacriatividade: criatividade sobre criatividadeUTFPR
 
Gestão do conhecimento na pesquisa de experiências
Gestão do conhecimento na pesquisa de experiênciasGestão do conhecimento na pesquisa de experiências
Gestão do conhecimento na pesquisa de experiênciasUTFPR
 
Jogos Surrealistas e Inteligência Artificial
Jogos Surrealistas e Inteligência ArtificialJogos Surrealistas e Inteligência Artificial
Jogos Surrealistas e Inteligência ArtificialUTFPR
 
El hacer como quehacer: notas para un diseño libre
El hacer como quehacer: notas para un diseño libreEl hacer como quehacer: notas para un diseño libre
El hacer como quehacer: notas para un diseño libreUTFPR
 
Expressando a posicionalidade do cria-corpo
Expressando a posicionalidade do cria-corpoExpressando a posicionalidade do cria-corpo
Expressando a posicionalidade do cria-corpoUTFPR
 
Pensamento visual expansivo
Pensamento visual expansivoPensamento visual expansivo
Pensamento visual expansivoUTFPR
 
O segredo da criatividade no design
O segredo da criatividade no designO segredo da criatividade no design
O segredo da criatividade no designUTFPR
 
Por que pesquisar e não somente fazer design?
Por que pesquisar e não somente fazer design?Por que pesquisar e não somente fazer design?
Por que pesquisar e não somente fazer design?UTFPR
 
Making work visible in the theater of service design
Making work visible in the theater of service designMaking work visible in the theater of service design
Making work visible in the theater of service designUTFPR
 
Can designers change systemic oppression?
Can designers change systemic oppression?Can designers change systemic oppression?
Can designers change systemic oppression?UTFPR
 
Design contra opressão
Design contra opressãoDesign contra opressão
Design contra opressãoUTFPR
 
O papel da teoria na pesquisa de experiências
O papel da teoria na pesquisa de experiênciasO papel da teoria na pesquisa de experiências
O papel da teoria na pesquisa de experiênciasUTFPR
 
Diseño y la colonialidad del hacer
Diseño y la colonialidad del hacerDiseño y la colonialidad del hacer
Diseño y la colonialidad del hacerUTFPR
 
Problematizando a experiência do usuário (ExU)
Problematizando a experiência do usuário (ExU)Problematizando a experiência do usuário (ExU)
Problematizando a experiência do usuário (ExU)UTFPR
 

Mehr von UTFPR (20)

Cascading oppression in design
Cascading oppression in designCascading oppression in design
Cascading oppression in design
 
Inteligência artificial e o trabalho de design
Inteligência artificial e o trabalho de designInteligência artificial e o trabalho de design
Inteligência artificial e o trabalho de design
 
Expanding the design object
Expanding the design objectExpanding the design object
Expanding the design object
 
Creating possibilities for service design innovation
Creating possibilities for service design innovationCreating possibilities for service design innovation
Creating possibilities for service design innovation
 
Contradiction-driven design
Contradiction-driven designContradiction-driven design
Contradiction-driven design
 
Design expansivo: pensar o possível para fazer o impossível
Design expansivo: pensar o possível para fazer o impossívelDesign expansivo: pensar o possível para fazer o impossível
Design expansivo: pensar o possível para fazer o impossível
 
Metacriatividade: criatividade sobre criatividade
Metacriatividade: criatividade sobre criatividadeMetacriatividade: criatividade sobre criatividade
Metacriatividade: criatividade sobre criatividade
 
Gestão do conhecimento na pesquisa de experiências
Gestão do conhecimento na pesquisa de experiênciasGestão do conhecimento na pesquisa de experiências
Gestão do conhecimento na pesquisa de experiências
 
Jogos Surrealistas e Inteligência Artificial
Jogos Surrealistas e Inteligência ArtificialJogos Surrealistas e Inteligência Artificial
Jogos Surrealistas e Inteligência Artificial
 
El hacer como quehacer: notas para un diseño libre
El hacer como quehacer: notas para un diseño libreEl hacer como quehacer: notas para un diseño libre
El hacer como quehacer: notas para un diseño libre
 
Expressando a posicionalidade do cria-corpo
Expressando a posicionalidade do cria-corpoExpressando a posicionalidade do cria-corpo
Expressando a posicionalidade do cria-corpo
 
Pensamento visual expansivo
Pensamento visual expansivoPensamento visual expansivo
Pensamento visual expansivo
 
O segredo da criatividade no design
O segredo da criatividade no designO segredo da criatividade no design
O segredo da criatividade no design
 
Por que pesquisar e não somente fazer design?
Por que pesquisar e não somente fazer design?Por que pesquisar e não somente fazer design?
Por que pesquisar e não somente fazer design?
 
Making work visible in the theater of service design
Making work visible in the theater of service designMaking work visible in the theater of service design
Making work visible in the theater of service design
 
Can designers change systemic oppression?
Can designers change systemic oppression?Can designers change systemic oppression?
Can designers change systemic oppression?
 
Design contra opressão
Design contra opressãoDesign contra opressão
Design contra opressão
 
O papel da teoria na pesquisa de experiências
O papel da teoria na pesquisa de experiênciasO papel da teoria na pesquisa de experiências
O papel da teoria na pesquisa de experiências
 
Diseño y la colonialidad del hacer
Diseño y la colonialidad del hacerDiseño y la colonialidad del hacer
Diseño y la colonialidad del hacer
 
Problematizando a experiência do usuário (ExU)
Problematizando a experiência do usuário (ExU)Problematizando a experiência do usuário (ExU)
Problematizando a experiência do usuário (ExU)
 

A contribuição da história oral e testes de campo na pesquisa de arquitetura de informação

  • 1. A contribuição da história oral e dos testes de campo na pesquisa de arquitetura de informação Luiz AGNER Laboratório de Ergonomia e Usabilidade Pesquisa de doutorado, PUC-Rio
  • 2. Apresentação Designer e ilustrador Tecnologista em informações do IBGE Professor (UniverCidade-Rio) Doutorando em Design (PUC-Rio)
  • 4. Introdução “O IBGE é o órgão oficial de estatísticas do país, que transforma dados em informação e – principalmente - informação em conhecimento.”
  • 7. Problema Comunidade do Orkut - “para todos os pesquisadores, universitários ou não, que: – sentem calafrios quando precisam procurar algum dado no site; – sabem que o lema do site é quot;quem procura NUNCA acha!quot;; – sabem que é mais fácil descobrir qualquer informação lendo borra de café do que acessando o site; – na hipótese de encontrar a planilha desejada, ela provavelmente fará seu computador trancar; – reconhecem o mérito dos pesquisadores do instituto mas quase nunca acham os dados pesquisados por eles.”
  • 9. Pesquisa de AI (ROSENFELD e Objetivos da organização, políticas, cultura, MORVILLE) Contexto tecnologia e recursos humanos
  • 10. Pesquisa de AI (ROSENFELD e Objetivos da organização, políticas, cultura, MORVILLE) Contexto tecnologia e recursos humanos Documentos, formatos/tipos, objetos, metadados, estrutura existente Conteúdo
  • 11. Pesquisa de AI (ROSENFELD e Objetivos da organização, políticas, cultura, MORVILLE) Contexto tecnologia e recursos humanos Perfil dos usuários, Documentos, identificação das audiências, formatos/tipos, objetos, tarefas, necessidades, metadados, estrutura comportamento de busca de existente informação, experiência, Conteúdo Usuários vocabulário
  • 12. Arquitetura de informação Definições de AI – AI é a atividade que combina a aplicação de esquemas de navegação, de organização e de rotulagem dentro de um sistema informacional. – AI é o Design estrutural de um espaço de informação com o objetivo de facilitar as tarefas e o acesso intuitivo aos conteúdos.
  • 13. Arquitetura de informação – AI é a arte e a ciência de estruturar e classificar websites e intranets para auxiliar as pessoas a encontrar e a gerenciar informação. – AI é uma disciplina emergente e uma comunidade de prática profissional. (Morville)
  • 14. Arquitetura de informação Papéis do arquiteto: – Clarificar a missão e a visão do site fazendo o balanceamento entre necessidades da organização e as necessidades de seus usuários. – Determinar qual o conteúdo e a funcionalidade que o site conterá. – Especificar como usuários encontrarão informação no site, por meio da definição da sua organização, navegação, rotulagem e sistemas de busca.
  • 15. Arquitetura de informação Componentes da AI: – Sistemas de Organização – como é apresentada a organização e a categorização do conteúdo. – Sistemas de Rotulação – signos verbais (terminologia) e visuais (icônicos). – Sistemas de Navegação – formas de o usuário se mover através do espaço. – Sistemas de Busca – define as perguntas que o usuário pode fazer e o conjunto de respostas do banco de dados.
  • 17. O método Concepções filosóficas e epistemológicas diferentes sustentam paradigmas metodológicos diferentes (GRESLER, 2003). Existem duas grandes abordagens: a quantitativa e a qualitativa.
  • 18. O método Abordagem quantitativa - caracteriza-se pela formulação de hipóteses, definições operacionais de variáveis, quantificação na coleta de dados e utilização de tratamentos estatísticos. O modelo quantitativo estabelece hipóteses que exigem uma relação entre causa e efeito e apóia conclusões em dados estatísticos, comprovações e testes. Os critérios são a verificação, a demonstração, os testes e a lógica matemática.
  • 19. O método Abordagem qualitativa - não emprega instrumentos estatísticos como base para a análise. É utilizada quando se busca descrever a complexidade de determinado problema - não envolvendo manipulação de variáveis ou estudos experimentais. Ela contrapõe-se à abordagem quantitativa, uma vez que busca levar em consideração todos os componentes de uma situação e suas interações e influências recíprocas, numa visão holística.
  • 20. O método Há domínios quantificáveis e outros qualificáveis. Segundo RICHARDSON (1999), as investigações que se voltam para uma análise qualitativa têm como objeto de estudo situações complexas ou bastante particulares (como é o caso do objeto de estudo deste trabalho). Estudos que empregam a metodologia qualitativa podem descrever a complexidade dos problemas, analisar a interação de variáveis, compreender e classificar processos dinâmicos vividos por grupos sociais, e contribuir no processo de mudança.
  • 21. O método História oral Testes de usabilidade no campo
  • 22. História oral A história oral - como método de pesquisa - se revela importante instrumento para compreensão das construções das estratégias de ação e das representações, de grupos ou de indivíduos, em uma dada sociedade. FERREIRA, Marieta (coord.) “Entrevistas: abordagens e usos da história oral”. Ed.FGV, 1994.
  • 23. História oral É utilizada no registro da história de grandes empresas e de organizações governamentais. O registro oral mostra-se a única possibilidade de recuperar um passado que - apesar de recente - deixou poucos traços. DIAS, José L. Mattos. “Entrevistas: abordagens e usos da história oral”. Ed.FGV, 1994.
  • 24. História oral Permite abordar o mundo fechado da burocracia “de dentro”, rachando a fachada de neutralidade e de racionalidade, que busca isolá-lo do público “externo”. Motta, Marly Silva. “Entrevistas: abordagens e usos da história oral”. Ed.FGV, 1994.
  • 25. História oral Privilegia a recuperação do vivido conforme concebido por quem o viveu. É um diálogo entre entrevistado e entrevistadores, uma construção e uma interpretação do passado, atualizada através da linguagem falada. Não é fator negativo o fato de o depoente poder “distorcer” a realidade, ter “falhas” de memória ou “errar” em seu relato. (ALBERTI).
  • 26. História oral A escolha de entrevistados não é orientada por critérios quantitativos (amostragens), mas pela posição do entrevistado no grupo ou por sua experiência. Entrevistados estão entre os que participaram, viveram, presenciaram ou se inteiraram de ocorrências e que possam fornecer depoimentos significativos. O processo de seleção de entrevistados se aproxima da antropologia, tomados não como unidades estatísticas mas como unidades qualitativas.
  • 27. História oral 16 entrevistas (2004 – 2007). – Técnicos – Conteudistas – Designers – Gerentes – Profissionais de atendimento ao usuário
  • 28. História oral “(...) A busca no portal é [realizada pela] pessoa que está fazendo uma pesquisa, que vai ali ter uma resposta no [site] Cidades@. Ou uma criança que vai lá no site Teen e consegue fazer o levantamento dele. Agora, na Loja Virtual, você já tem um perfil de empresas, de consultorias, de pesquisadores (...)” Alcides Braga – Administrador da Loja Virtual
  • 29. História oral “(...) O que a Internet permitiu (...) é justamente colocar, democraticamente, este maior banco de dados sobre o Brasil à disposição de todo o público. (...) Então, acho, é mais um papel de cumprimento da missão do IBGE - em levar a informação à sociedade.” Francisco Alchorne - Jornalista
  • 43. Testes de usabilidade O feedback vivo de usuários operando tarefas reais Processo empírico de aprender a partir dos usuários, sobre a usabilidade de um produto, observando-os durante a sua utilização. (RUBIN, 1994; DUMAS & REDISH, 1994; BARNUM, 2002).
  • 44. Testes de usabilidade Registrados em vídeo ou em áudio, usuários interagem com o sistema, em condições controladas, para checar o sucesso das interfaces, observando dados comportamentais.
  • 45. Testes de usabilidade NIELSEN propôs testes com melhor relação custo- benefício, utilizando entre quatro e cinco usuários dispensa das gravações em laboratórios, para se encaixar dentro dos orçamentos das empresas.
  • 46. Testes de usabilidade Participantes: – Os objetivos específicos de cada teste definem os participantes e as tarefas executadas. – Os participantes devem representar usuários reais: membros do grupo que utiliza ou que vai utilizar o produto. – Os participantes devem executar tarefas reais.
  • 47. Testes de campo Laboratório portátil: – Notebook – Internet Explorer 6. – Webcam. – Mouse. – Headphone com microfone – Software de captura de telas – Câmera digital – Gravador analógico – Acesso wireless à Internet – Questionários e documentação
  • 48. Testes de campo Vantagens: – ir ao usuário em vez de convidá-lo a vir até ele; – observar o ambiente real onde o usuário trabalha ou vive; – observar o usuário com todas as interrupções e distrações do ambiente; – verificar os artefatos criados pelos usuários para as tarefas; – pode acessar documentações específicas.
  • 49. Testes de campo Variáveis controladas – Acesso wireless, hardware, software, público-alvo, tarefas. Variáveis intervenientes – Inúmeras, típicas dos testes de campo. Locais – Campi universitários do Rio, residências e locais de trabalho dos pesquisadores.
  • 50. Testes de campo Variáveis controladas – Acesso wireless, hardware, software, público-alvo, tarefas. Variáveis intervenientes – Inúmeras, típicas dos testes de campo. Locais – Campi universitários do Rio, residências e locais de trabalho dos pesquisadores.
  • 51. Testes de campo Variáveis controladas – Acesso wireless, hardware, software, público-alvo, tarefas. Variáveis intervenientes – Inúmeras, típicas dos testes de campo. Locais – Campi universitários do Rio, residências e locais de trabalho dos pesquisadores.
  • 52. Tarefa 1 “A partir da home page do portal IBGE, identifique em que estado do Brasil reside a maior concentração de pessoas idosas (com mais de 60 anos)”.
  • 53. Tarefa 2 “A partir da home page do portal IBGE, descubra em que bairro da cidade de Recife reside a maior concentração de cidadãos da terceira idade”.
  • 54. Testes de campo Exemplo de registro Protocolos de verba- lização - concorrente - retrospectivo
  • 55. Análise dos dados Após o registro e a categorização das descobertas, procurou-se determinar a causa dos problemas de usabilidade, avaliou-se seu impacto individual e recomendaram-se soluções. O resultado do processo levou ao estabelecimento de um conjunto de critérios heurísticos específicos para a avaliação do portal IBGE.
  • 56. Análise dos dados Estes critérios heurísticos foram consubstanciados em uma lista de verificação (checklist). Checklist foi submetida a validação junto à uma equipe com grande experiência no desenvolvimento do portal IBGE.
  • 57. Participantes Nível de instrução 29% Mestrado Doutorado 71%
  • 58. Participantes Participantes 0 1 2 3 4 5 6 administração ciência da informação ciências sociais comunicação Mestrado design economia/ finanças engenharia geografia relações internacionais
  • 59. Participantes Doutorado 3 2 1 0 ciência da ciências comunicação design geografia informação sociais
  • 60. Participantes Instituição acadêmica USP 4% UFRJ 17% PUC-Rio 34% PUC-SP 4% UFF/ IBICT 33% UERJ 8%
  • 61. Participantes Experiência com computadores 12 10 8 6 4 2 0 ta a a a ta ad um m al al gu er te nh od en al ne m am ad er od m
  • 62. Participantes Horas diárias na web 12 10 8 6 4 2 0 1-3h 3-8h mais de 8h
  • 63. Participantes Conhecimento ou utilização de estatística sim não 50% 50%
  • 64. Resultados Resultados - tarefa 1 sucesso 13% sucesso insucesso insucesso 87%
  • 65. Resultados Resultados - tarefa 2 sucesso 0% sucesso insucesso insucesso 100%
  • 66. Resultados Causas de insucesso - tarefa 1 desistência 5% dado errado 47% expiração do tempo 48%
  • 67. Resultados Causas de insucesso - tarefa 2 desistência 17% expiração do tempo 83%
  • 68. Resultados Encontrar informações estatísticas é muito difícil 7 difícil 13 nem fácil nem difícil 3 fácil 1 muito fácil 0 0 2 4 6 8 10 12 14
  • 69. Resultados O que menos gostou 3 descrições dos arquivos 3 excesso de informações/links 3 comunicação visual 4 outros 5 classificação de informações 5 dificuldade 5 falta de clareza 6 busca 0 1 2 3 4 5 6
  • 70. Avaliação da técnica Participante 10 – Achou “ótimo”. Considerou o procedimento de “pensar alto” para gravação válido pois às vezes “fazemos coisas sem perceber”. Participante 20 – Considerou o método utilizado “perfeitamente válido” e um “modelo aplicável” em outras pesquisas. Participante 22 – Avaliou como “bastante completo”. Considera que há diferenças no ato de navegar, quando as ações estão sendo gravadas e que, fora do ambiente de teste, sua navegação seria “mais ágil”. Participante 26 – Relatou inibição pelo fato de ser observada. Sentiu-se “pressionada” e isto “interferiu de forma negativa na sua performance”.
  • 71. Conclusões parciais Os problemas relacionam-se largamente à ineficiência dos mecanismos de busca, à taxonomia aparentemente ilógica ou incompleta, à falta de clareza dos rótulos e links, e aos problemas de redação – todos problemas típicos de arquitetura de informação.
  • 72. Obrigado. Luiz Agner luizagner@gmail.com www.agner.com.br
  • 73. Divulgação de livro ERGODESIGN E ARQUITETURA DE INFORMAÇÃO: Trabalhando Com o Usuário Ed. Quartet, 2006 Luiz Agner Saraiva, Submarino e 2AB