This study intends to present an evaluation of usability and accessibility, which required the creation of a multimedia prototype named F.R.e.e. – Prisoner’s Training in e-Learning, related specifically to training their “Job Search Techniques”, under the project (e-Pris) e-Learning in Prisons.
We have built a multimedia prototype using a conventional model of instructional design, ADDIA. This model demanded the planning of the multimedia prototype, the elaboration of the materials and of the usability tests, with the experts and with the users whose characteristics are similar to those in the target group, as well as the preparation of the accessibility tests.
While assessing the usability of F.R.e.e., the multimedia prototype, by those replacement users mentioned above, we have verified that learning to use the prototype (Learnability), executing all tasks efficiently (Efficiency) and with satisfaction (Satisfaction) was easy. The prototype has proved to be also somewhat prone to errors (Errors). Nevertheless, we have not properly assessed the memorizing skills’ parameter, related to the ease of remembering the prototype’s functionalities (Memorability).
The evaluation of the accessibility has allowed us to make further improvements to the use of the prototype, not just for the users with special needs, but to all the users.
Keywords: Usability, accessibility, multimedia prototype.
1. Criação
de
um
Protó0po
Educa0vo
Mul0média
integrado
num
Projeto
de
Formação
em
E-‐Learning
num
Estabelecimento
Prisional
Carlos
Guimarães
Celes0no
Magalhães
José
Alberto
Lencastre
3. O
Projeto
O
(
e-‐Pris
)
tem
por
obje0vo
avaliar
a
viabilidade
de
formação
via
e-‐learning
em
contexto
prisional,
contribuindo
para
diminuir
fatores
de
risco
e
exclusão
social
e
uma
melhor
(re)inserção
social
da
população,
fomentando
a
igualdade
de
oportunidades
e
de
género.
I
4. O
Projeto
Operacionalização
do
projeto
implica
3
dimensões
base:
• educação/formação
online
⇒inclusão
digital
• acompanhamento
psicossocial
e
• apoio
à
(re)inserção
no
mercado
de
trabalho
⇒empreendedorismo.
I
5. O
Projeto
O
problema
Inexistência
de
produtos
no
mercado
cer0ficados
e
adaptados
à
formação
conTnua
"a
distância”
via
e-‐learning
adequados
às
caracterís0cas
e
necessidades
das
potenciais
formandas.
I
6. O
Projeto
Os
obje.vos
• iden0ficar
as
caraterís0cas
do
público-‐alvo
• desenhar
e
criar
um
protó0po
mul0média
educa0vo
adequado
à
formação
“a
distância”
via
e-‐learning
de
adultos
em
contexto
prisional
• avaliar
a
usabilidade
e
a
acessibilidade
do
protó0po
I
7. Introdução
Limitações
do
trabalho
• impossibilidade
em
implementar
este
protó0po
junto
do
público-‐alvo
• Impossibilidade
em
realizar
os
testes
de
usabilidade
com
uma
amostra
re0rada
da
população
das
futuras
u0lizadoras,
procedimento
que
seria
o
adequado,
como
referem
Carvalho
(2004),
Preece
(2011),
Nielsen
(1993)
ou
Rubin;
Chisnell
(2008)
I
8. Metodologia
de
Inves0gação
Modelo
ADDIA
• O
modelo
ADDIA
é
um
processo
de
design
intera0vo
forma0vo,
onde
os
resultados
da
avaliação
forma0va
de
cada
fase
podem
levar
o
designer
de
volta
para
qualquer
fase
anterior.
• Obje0vo
centrado
no
u0lizador
e
não
na
abordagem
tradicional
do
formador
(centrada
na
instrução),
para
que
a
aprendizagem
seja
eficaz.
II
12. Análise
P o p u l a ç ã o -‐ A l v o
( r e c l u s a s
d e
u m
estabelecimento
prisional
no
situado
no
distrito
do
Porto)
Pré-‐seleção
de
50
candidatas
(entrevista
individual/brainstorming)
Inquérito
por
ques.onário.
Foram
validados
45
inquéritos.
Seleção
da
amostra
(grupo
de
estudo):
15
indivíduos.
III
13. Análise
Seleção
do
grupo
de
estudo
(15
reclusas)
Critérios
de
seleção:
•
Nível
de
qualificação
na
u0lização
das
ferramentas
de
Tecnologias
de
Informação
e
Comunicação
(TIC);
•
Possuírem
escolaridade
ao
nível
do
3.º
Ciclo;
•
Revelarem
mo0vação
e
interesse
no
projeto
de
formação
online.
III
14. Análise
Ações
forma.vas
a
desenvolver
pelo
projeto:
• Informá0ca
e
Sistemas
de
Informação;
• Formação
Social
e
Humana;
• Educação
para
a
Cidadania;
• Língua
Inglesa
–
Relações
Laborais
(iniciação);
• Ambiente,
Segurança,
Higiene
e
Saúde
no
Trabalho
–
Conceitos
Básicos;
• Técnicas
de
Procura
de
Emprego.
III
15. Análise
• Estas
ações
foram
concebidas
no
âmbito
do
Catálogo
Nacional
de
Qualificações,
no
sen0do
de
poderem
obter
cer0ficação,
de
acordo
com
a
metodologia
u0lizada
para
a
formação
modular
cer0ficada.
• Assim,
no
final
destas
ações
as
formadas
poderão
apresentar
as
mesmas
e
serem
validades
por
um
Centro
de
Novas
Oportunidades
(CNO).
III
16. Análise
O
protó0po
mul0média
educa0vo
criado
incide
sobre
Técnicas
de
Procura
de
Emprego.
Esta
ação
de
formação
terá
uma
duração
de
36
horas
e
possui
os
seguintes
obje0vos:
• apoiar
as
reclusas
na
inserção
do
mercado
de
trabalho,
mediante
a
prospeção
e
apoio
à
procura
de
emprego
• valorização
do
Curriculum
Vitae
• técnicas
de
preparação
para
entrevista
de
emprego
III
17. Análise
1.
Balanço
pessoal
na
procura
a0va
de
emprego:
autoconhecimento
2.
Plano
de
ação
3.
Anúncios
4.
Candidatura
Espontânea
5.
Carta
de
apresentação
6.
Curriculum
Vitae
7.
Entrevista
Conteúdos
baseados
e
validados
pelos
referenciais
do
Catálogo
Nacional
de
Qualificações
(CNQ).
III
18. Desenhar
O
Desenho
é
o
processo
onde
pretendemos
especificar
a
forma
e
sequência
dos
conteúdos
a
serem
apresentados,
definir
o
conteúdo
do
projeto,
determinar
a
estrutura
das
a0vidades
e
planificar
a
avaliação.
IV
19. Desenho
Adaptado
de
Clark
(2000)
IV
Desenho
Objetivos da
Formação
Integração das
TIC
Interface
Avaliação
Fontes de
Informação
Estratégias
de Ensino
e
Motivação
Currículo
20. Desenho
Passos
seguidos
no
desenho
do
protó.po:
1.
Criação
da
pré-‐versão
“Moodle”.
2.
Definição
dos
obje0vos.
3.
Recolha
e
seleção
de
conteúdos.
IV
21. Desenho
Passos
seguidos
no
desenho
do
protó.po:
4.
Definição
das
estratégias
de
ensino
e
mo0vação.
5.
Definição
da
avaliação.
6.
Definição
da
interface
IV
22. Desenho
Passos
seguidos
no
desenho
do
protó.po:
7.
Desenho
da
versão
alpha
do
protó0po.
8.
Avaliação
Heurís0ca.
IV
25. Desenho
Noutros
conteúdos
onde
o
texto
predomina,
existe
a
opção
de
as
formandas
escutarem
a
narração
em
áudio
desse
texto,
possuindo
a
hipótese
de
controlarem
o
volume
do
som.
Narração
áudio
IV
27. Desenho
Algumas
preocupações
na
construção
do
protó.po:
a) Estrutura
b) Navegação
c) Interface
e
layout
d) Rapidez
de
acesso
e) Níveis
de
intera.vidade
f) Informação
IV
28. Usabilidade
• A usabilidade traduz-se no facto de ser (i) fácil de usar
e (ii) fácil de aprender a usar, bem como no grau de
(iii) satisfação sentido pelo utilizador.
• O design centrado nos utilizadores é um dos aspetos
mais importantes dos pacotes formativos de
aprendizagem online. Tendo esta premissa em mente, o
utilizador torna-se o centro no desenvolvimento do
design dos cursos.
V
29. Usabilidade
Utilizamos cinco critérios para medir a usabilidade:
• Fácil de aprender: a capacidade com que os utilizadores conseguem
realizar tarefas básicas quando usam o protótipo pela primeira vez.
• Eficiente para usar: após os utilizadores terem aprendido o
funcionamento do protótipo, conseguem facilmente localizar a
informação de que precisam.
• Fácil de lembrar: depois de algum tempo sem utilizar o protótipo,
conseguem facilmente recordar o seu funcionamento.
• Pouco sujeito a erros: os utilizadores cometem poucos erros
durante a utilização do protótipo e, caso aconteça, estes possuem um
grau de gravidade baixo e são de fácil correção.
• Agradável de usar: os utilizadores sentem-se satisfeitos com a
utilização do protótipo.
V
30. Usabilidade
Para avaliar a usabilidade do protótipo, foram utilizados
dois métodos:
• Avaliação heurística: realizada à versão alpha do
protótipo multimédia educativo no final da fase de
desenho e por peritos da área, segundo as heurísticas
definidas;
• Teste de Usabilidade: realizado por um grupo de
utilizadores com características semelhantes às do
público-alvo, realizado na fase de desenvolvimento.
V
31. Avaliação heurística
• A avaliação heurística envolveu uma revisão do protótipo
multimédia educativo por avaliadores que não tiveram
participação no projeto.
• Cada avaliador especialista apresentou os seus
comentários individualmente, de acordo com as
heurísticas definidas.
• A avaliação heurística do protótipo multimédia foi realizada
por três avaliadores, o que, segundo Nielsen (1994), e
atendendo à relação custo/benefício, encontra-se dentro do
número suficiente de avaliadores que permite identificar a
maior parte dos erros de usabilidade.
V
32. Avaliação heurística
Heurísticas (Nielsen,1994):
1. Tornar o estado do sistema visível
2. Falar a linguagem do utilizador
3. Utilizador controla e exerce livre-arbítrio
4. Consistência e Adesão a Normas
5. Evitar erros
6. Reconhecimento em vez de Memorização
7. Flexibilidade e Eficiência
8. Desenho de ecrã estético e minimalista
9. Ajudar o utilizador a reconhecer, diagnosticar e recuperar dos erros
10. Dar Ajuda e Documentação
V
33. Teste de Usabilidade
• Realizado no ciclo de desenvolvimento, o teste de
usabilidade certifica a usabilidade do protótipo
multimédia educativo antes da sua distribuição.
• O objetivo foi verificar como o protótipo multimédia
educativo se enquadra em relação aos:
– padrões de usabilidade,
– padrões de utilização e
– padrões educacionais.
V
34. Teste de Usabilidade
• Nos testes de usabilidade realizados a recolha dos dados foi
através de um inquérito por questionário.
• O questionário (Guião de Participação) encontra-se subdividido em
3 partes:
Parte 1 – Questionário Pessoal
Parte 2 – Consulta e Navegação pelo protótipo
Parte 3 – Questionário composto por 13 questões de resposta
fechada e uma de resposta aberta.
V
35. Acessibilidade
• Acessibilidade na Web é sinónimo de possibilidade de todos
acederem, de forma igual, ao protótipo multimédia educativo.
• Em conformidade com o World Wide Web Consortium (W3C),
acessibilidade significa que “pessoas com deficiências possam usar a
Web”, isto é, “percebam, naveguem e interajam com a Web”.
• A acessibilidade é definida por três níveis de prioridade:
i. aspetos que os criadores de conteúdos Web têm que cumprir;
ii. aspetos que os criadores de conteúdos Web devem cumprir
iii. aspetos que os criadores de conteúdos Web podem cumprir.
VI
36. Acessibilidade
• Escolher um método ou uma técnica para a realizar dependeu dos objetivos com
que o fizemos para determinar, por exemplo, o seu nível de conformidade.
• Os níveis de conformidade atribuídos dependem da verificação das prioridades
assim:
– nível de conformidade "A” , se foram satisfeitos todos os pontos de
verificação de prioridade 1;
– nível de conformidade "AA", se foram satisfeitos todos os pontos de
verificação das prioridades 1 e 2 e
– nível de conformidade "AAA", se foram satisfeitos todos os pontos de
verificação das prioridades 1, 2 e 3.
• Os testes de acessibilidade realizados foram baseados nas recomendações
WCAG 2.0 da W3C.
VI
37. Apresentação e Análise dos Resultados
• Avaliação heurística: durante a avaliação heurística foram
recolhidos dados quantitativos – número de transgressões
observadas em cada uma das heurísticas – e dados qualitativos,
através dos comentários efetuados pelos avaliadores.
Sim Não Não Avaliado
1. Tornar o estado do sistema visível 100% 0% 0%
2. Falar a linguagem do utilizador 95% 0% 5%
3. Utilizador controla e exerce livre-arbítrio 58% 25% 17%
4. Consistência e Adesão a Normas 100% 0% 0%
5. Evitar erros 83% 0% 17%
6. Reconhecimento em vez de Memorização 97% 0% 3%
7. Flexibilidade e Eficiência 92% 0% 8%
8. Desenho de ecrã estético e minimalista 94% 0% 6%
9. Ajudar o utilizador a reconhecer, diagnosticar e recuperar
dos erros
67% 0% 33%
10. Dar Ajuda e Documentação 80% 13% 7%
% de Respostas
Heurísticas
VII
38. Apresentação e Análise dos Resultados
• Das dez heurísticas avaliadas, duas apresentaram
problemas. As heurísticas estão subdivididas em 62 sub-
heurísticas.
• As heurísticas e respetivas sub-heurísticas com
problemas foram classificadas de acordo com o grau de
severidade do problema encontrado.
• Das 62 sub-heurísticas observadas, três (cerca de 5%)
apresentaram problemas de menor usabilidade e 59
(cerca de 95%) foram referenciadas como não
apresentando qualquer tipo de problema.
VII
39. Apresentação e Análise dos Resultados
• Teste de Usabilidade: para a recolha de dados dos
testes de usabilidade foram utilizadas/os:
– Inquérito por questionário, feito em papel e entregue
às participantes no início da sessão;
– Observação, os dados e informações foram
registados em Grelhas de Observação (tempo gasto
na realização das tarefas, tempo gasto para concluir o
teste e registo das classificações obtidas pelas
participantes).
VII
40. • A
seleção
dos
u0lizadores
que
realizaram
os
testes
de
avaliação
da
usabilidade
foi
feita
tendo
em
conta
dois
critérios:
caracterís.cas
pessoais
(idade,
género,
habilitações)
e
experiência
tecnológica
(u0lização
de
computador,
u0lização
de
documentos
mul0média,
u0lização
da
Internet,
conhecimentos
dos
conteúdos).
• Devido
ao
elevado
grau
de
especificidade
do
nosso
público-‐alvo,
não
nos
foi
possível
sa0sfazer
todas
as
caracterís0cas
apresentadas
mas
tentamos
selecionar
os
u0lizadores
com
o
maior
número
de
caracterís0cas
em
comum
com
este.
Caracterís.ca Público-‐alvo
U.lizadores
“Moodle”
U.lizadores
FRee
“Técnicas
de
Procura
de
Emprego”
Média
de
idades 35,6
anos 14,2
anos 17,8
anos
Género 100%
Feminino 100%
Feminino 100%
Feminino
Habilitações
académicas
3.º
Ciclo:
33%
Secundário:
60%
Ensino
Superior:
7%
8.º
ano
concluído:
100%
10.º
ano
concluído:
100%
VII
Apresentação e Análise dos Resultados
41. Apresentação e Análise dos Resultados
• Relativamente aos testes de usabilidade dos protótipos e
tendo em atenção as respostas apresentadas nos inquéritos
por questionário feitos, consideramos uma escala onde a
resposta “Nunca” corresponde a 0 e a resposta “Sempre”
corresponde a 2.
Parâmetros Questões
Média Protótipo
Multimédia
"Técnicas de
Procura de
Emprego"
Média Pré-
Versão Protótipo
Multimédia
"Moodle"
1. O ambiente gráfico do protótipo é agradável? 1,8 2
2. A informação no protótipo encontra-se bem organizada? 2 2
3. A linguagem utilizada é simples e clara? 1,8 1,6
4. Sentiu-se à-vontade a usar o protótipo? 1,8 1,6
5. O protótipo permite uma fácil navegação? 1,6 1,8
6. Foi fácil encontrar a informação que precisou? 2 1,8
7. O protótipo tem as funcionalidades e capacidades que esperava? 2 2
8. A informação disponibilizada pelo protótipo foi útil para completar as tarefas? 1,8 2
9. Conseguiu utilizar o protótipo sem necessitar de conhecimentos anteriores? 1,2 2
10. A informação fornecida pelo protótipo foi fácil de entender? 2 2
11. Conseguiu completar eficazmente o seu trabalho? 1,8 2
12. Na globalidade ficou satisfeito com o seu trabalho? 1,8 2
Erros 13. Quando fez uma seleção errada no protótipo, este permitiu-lhe voltar atrás e recomeçar? 1,8 1,8
Design
Facilidades de utilização
Funcionalidades
Aprendizagem
Satisfação
VII
42. Apresentação e Análise dos Resultados
Critérios
Protótipo Multimédia FRee "Técnicas
de Procura de Emprego"
Pré-Versão Protótipo Multimédia
"Moodle"
Fácil de aprender
Média de 46 min na realização do teste
(60 min)
80% das utilizadoras mostraram-se à
vontade com a utilização do protótipo
Média de 16 min na realização do teste (60
min)
100% das utilizadoras mostraram-se à
vontade com a utilização do protótipo
Eficiente para usar
80% de sucesso na realização das
tarefas propostas.
100% de sucesso na realização das tarefas
propostas.
Maioria das utilizadoras indicou que a informação disponibilizada pelo protótipo
multimédia foi fácil de entender e útil para a realização das tarefas propostas.
Fácil de lembrar
Para medir convenientemente este critério precisaríamos de realizar o teste mais do
que uma vez, o que não aconteceu.
Pouco sujeito a erros
80% das utilizadoras conseguiram recuperar dos erros cometidos (pela observação
direta pudemos constatar que os erros que existiram deveram-se a distrações (fechar
janela do browser em vez do separador, por exemplo)).
Agradável de usar
80% das utilizadoras ficaram satisfeitas
com o seu trabalho.
100% das utilizadoras ficaram satisfeitas
com o seu trabalho.
VII
43. Apresentação e Análise dos Resultados
• Acessibilidade: Total Validator.
• O principal objetivo foi permitir que o protótipo
multimédia educativo passasse os testes de
acessibilidade para a prioridade 1 (nível de
conformidade A). Submetemos o protótipo multimédia
educativo ao validador automático e obtivemos o
seguinte resultado:
VII
44. Apresentação e Análise dos Resultados
• O único erro apresentado, refere-se a um erro de sintaxe no xhtml,
nomeadamente, atributos que foram utilizados unicamente para criar
uma apresentação visual e está relacionado com a ferramenta
utilizada para a criação do protótipo multimédia educativo.
VII
45. Apresentação e Análise dos Resultados
• Aplicamos também o validador da W3C, para validar o
protótipo multimédia educativo, não tendo obtido qualquer
erro, encontrando-se o protótipo multimédia educativo em
conformidade com as normas de avaliação da acessibilidade.
VII
46. Considerações Finais
• Respondendo aos objetivos do nosso estudo:
• iniciamos com a caraterização do público-alvo, formandas do
estabelecimento prisional, e definimos o contexto em que
estão inseridas. Isto permitiu identificar as necessidades de
aprendizagem, definir os objetivos de ensino e as
restrições envolvidas.
• desenhamos o protótipo no quadro de um referencial teórico
e fizemos a avaliação com os peritos.
• desenvolvemos o protótipo e avaliamos a usabilidade
com utilizadores semelhantes ao público-alvo.
• avaliamos a acessibilidade.
VIII
47. Considerações Finais
• Respondendo aos objetivos do nosso estudo:
• É fácil de aprender
• É eficiente para usar
• É fácil de lembrar
• É pouco sujeito a erros
• É agradável de usar
VIII
48. Considerações Finais
• a avaliação de um protótipo multimédia educativo não
pode ser vista como algo fechado e exato, não existindo
nenhuma fórmula “mágica” que nos permita criar e
desenvolver um protótipo multimédia educativo cem por
cento eficaz. No entanto, a avaliação da sua usabilidade e
da sua acessibilidade permitirá que seja utilizado com
maior probabilidade de sucesso por parte dos utilizadores
finais.
VIII