1) O documento apresenta o programa da disciplina de Redes Neurais ministrada pelo professor Germano Vasconcelos, abordando os fundamentos, modelos, aplicações e projeto prático. 2) As aulas abordam tópicos como redes feedforward, recorrentes, auto-organizáveis e construtivas, além de aplicações como reconhecimento de padrões e previsão. 3) Os alunos deverão desenvolver um projeto aplicando redes neurais a um problema do mundo real.

1. 9/5/2007 1
Redes Neurais
Prof. Germano CrispimVasconcelos
gcv@cin.ufpe.br
ramal 21268430 r-4310
Redes Neurais
Prof. Germano CrispimVasconcelos
gcv@cin.ufpe.br
ramal 21268430 r-4310

2. Objetivos da Disciplina (1)
Apresentar a filosofia da abordagem,
principais fundamentos, modelos de Redes
Neurais, aplicações e desenvolvimento de
soluções
(Conceitos - Teoria)

3. Objetivos da Disciplina (2)
Permitir ao aluno investigar de forma prática a
solução de um problema usando Redes Neurais
em uma aplicação de interesse ...
- Reconhecimento de padrões
- Previsão de séries temporais
- Processamento de imagens
- Mineração de dados e mineração na web
- Otimização
- Controle
(Projeto - Prática)

4. Programa da Disciplina
1a Parte: Fundamentos
Aula 1 : Introdução e fundamentos matemáticos
Aula 2 : Fundamentos e modelos de aprendizagem
2a Parte: Arquiteturas e Modelos
• Redes feedforward
Aula 3 : Adaline e Perceptrons
Aula 4 : Multilayer Perceptrons (MLP)
Aula 5 : Redes de Funções de Base Radial (RBF)
Aula 6 : Máquina de Vetores de Suporte (SVM)
• Redes recorrentes
Aula 7 : Rede de Jordan
Aula 8 : Rede de Elman e outros modelos
• Redes auto-organizáveis
Aula 9 : Modelo de Hopfield
Aula 10 : Modelo de Kohonen
Aula 11 : Modelos ART
• Redes construtivas
Aula 12 : Cascade-correlation (CASCOR)

5. Programa da Disciplina
• Lista de Exercícios - Valendo Nota
3a Parte: Desenvolvimento de Soluções
Aula 13 : Aplicações
Aula 14 : Solução de Problemas
Aula 15 : Pré-processamento de Dados
Aula 16 : Pós-processamento de Dados
Aula 17 : Revisão geral
Aula 18 : 1o Exercício Escolar
4a Parte: Tópicos Especiais (Seminários)
Aula 19 : Sistemas Híbridos (Neuro-fuzzy, RN-AG, etc)
Aula 20 : Reconhecimento de Padrões e Processamento de Imagens
Aula 21 : Otimização e Controle
Aula 22 : Mineração de Dados
Aula 23 : Previsão de Séries Temporais

6. Programa da Disciplina
5a Parte: Projeto
Aula 24 : Definição de Projeto em Aplicação do Mundo Real
(tópicos dirigidos para interesses dos alunos)
Aula 25 : Acompanhamento do Projeto
Aula 26 : Acompanhamento do Projeto
Aula 27 : Acompanhamento do Projeto
Aula 28 : Acompanhamento do Projeto
Aula 29 : Acompanhamento do Projeto
Aula 30 : Acompanhamento do Projeto
Aula 31 : Acompanhamento do Projeto
Aula 32 : Entrega do Relatório (2o Exercício)
Aula 33 : Exame Final

7. Material Didático
• Livro 1
– Neural Computing : An Introduction. R. Beale, T. Jackson. (1990).
• Livro 2
– Redes Neurais Artificiais: Teoria e Aplicações. Braga, A.P, Ludermir,
T.B, Carvalho, A. F. (2000)
• Livro 3
– Neural Computation : A Comprehensive Foundation. Simon Haykin.
(1993).
• Outros Livros de Redes Neurais
• Listas de Exercícios

8. Interesses da
Inteligência Computacional
• Automação de tarefas “inteligentes”
• Modelagem do processamento biológico de
informação
• Modelagem do processo cognitivo

9. Inteligência Computacional
• Objetiva a criação de modelos para a
inteligência e o desenvolvimento de
sistemas baseados nestes modelos
• Investiga formas de habilitar o computador
a realizar tarefas onde o ser humano tem um
melhor desempenho

10. Inteligência Computacional -
Áreas
• Redes Neurais
• IA Simbólica
• Teoria da Aprendizagem Computacional
• Reconhecimento de Padrões
• Lógica Nebulosa/Difusa
• Algoritmos Genéticos
• Sistemas Híbridos

11. Principais Abordagens
• Abordagem Simbólica
• Abordagem Conexionista
• Abordagem Estatística

12. Abordagem Simbólica
• Toma como base a representação do mundo
através de símbolos que representam
conceitos.
• A manipulação destes símbolos permite a
obtenção de conclusões e geração de novos
conhecimentos sobre o mundo.

13. Abordagem Simbólica
Engenheiro do
Conhecimento
Usuário
Usuário
Mecanismo de
Raciocínio
Genérico
Base de
Conhecimento
Heurística
Aquisição do
Conhecimento
Explicação do
Raciocínio Especialista
INTERFACE
ExplicaçõesDados
Dados

14. Pesquisa - IA Simbólica
• Aquisição do conhecimento
• Representação do conhecimento
• Métodos de raciocínio
• Tratamento de Incerteza
• Aprendizagem e Adaptabilidade
• Sistemas Especialistas
• Capacidades sensório-motoras

15. Aplicações
• Resolução de problemas de diagnóstico, previsão,
monitoramento, análise, planejamento e projeto
• Tradução, interpretação e geração de linguagem
natural
• Jogos: xadrez, damas, go, etc.
• Mineração de dados e mineração na web
• Prova de teoremas, resolução de equações

16. Aplicações
• Otimização e busca heurística
• Auxílio à educação, estratégias
pedagógicas, modelagem do aluno
• Manipulação, navegação, monitoramento
em Robótica
• Visão, tato, olfato, audição e paladar

17. Redes Neurais

18. Sobre Redes Neurais...
• É uma abordagem alternativa à forma
algorítmica de resolver problemas
• A partir de exemplos do problema
• Fornecem soluções particularmemte
importantes onde não há como se definir
regras
• Em boa parte dos problemas do mundo real

19. Redes Neurais
• Cérebro como fonte de “inspiração” para o
desenvolvimento de sistemas inteligentes
• Sistemas paralelos distribuídos compostos por
unidades de processamento simples interligadas
entre si e com o ambiente
• Conexões estão associadas a pesos que
armazenam o conhecimento da rede
• Conhecimento Aprendizagem

20. Redes Neurais
• Sistemas distribuidos inspirados no cérebro
humano que “aprendem” a resolver problemas
extraindo informações estatísticas do dados
• Virtudes
– Capacidade de aprender por exemplos e de se
adaptar continuamente ao ambiente
– Habilidade para lidar com problemas
complexos, imprecisos e ruidosos

21. Abordagem Conexionista
Professor,
Crítico,
Não-Supervisionado
Comparador
Conhecimento
representado
nos pesos da rede
Dados
(Treinamento)
Dados Dados
APRENDIZAGEM UTILIZAÇÃO
Usuário
Dados
Pesos
Dados
Usuário

22. Redes Neurais Naturais

23. Neurônio Natural
Corpo
Dendritos
Axônio
Sinal
Sinapse

24. Neurônio McCulloch-Pitts
(MCP)
y

25. Reconhecimento de Padrões
Peso Bailarina
Halterofilista
Altura
Peso

26. 9/5/2007 26
Visualização do Treinamento
1
2 3
4
5
6 78

27. Uma Visão Matemática do MCP
X1
X2 Classe 1
Classe 2
f(x)=Σwi.xi - θ
f(x)=(|W|.|X| cosΦ) - θ
Considere o ponto onde
f(x) = 0:
w1.x1 + w2.x2 - θ = 0
x2 = -w1/w2.x1 + θ/ w2
(y = m.x +c)
f(x)

28. Reconhecimento de Padrões
Peso Bailarina
Halterofilista
Altura
Largura da coxa

29. 9/5/2007 29
Classificadores lineares
X1
X2
Classe 1
Classe 2
Classe 2
Classe 2
d2
d1
CLASSIFICAÇÃO SINAL DA LINHA
DE DECISÃO
d1 d2
Classe 1 + +
Classe 2 + -
Classe 2 - +
Classe 2 - -+
-
+
-

30. Como Funciona uma Rede Neural ?
• Solução baseada
na estatística dos
dados
• Capacidade de
estabelecer
relações entre
grande
quantidade de
variáveisconexões
INADIMPLENTE
ADIMPLENTE
IDADE
SEXO
RENDA
. . . . .

31. Aplicações

32. Animação Facial

33. Animação
Vida Artificial

34. Organismos
Evolutivos:
Controle de
Perseguição
e Fuga

35. • Robótica ...

36. Leitura Labial

37. Conversão de Sons para
Imagens

38. Estimação de Trajetórias para
Reconhecimento de Eventos

39. Monitoramento e
Segurança

40. Realidade Virtual

41. FIFA SoccerThe Sims
Produção de Jogos e Histórias
Interativas

42. Busca de Informação na Web

43. Previsão
• Como prever o valor do dólar amanhã?
• Que dados são relevantes? Há
comportamentos recorrentes?

44. Detecção de Intrusão e Filtragem de
Spam
• Como saber se uma mensagem é lixo ou
de fato interessa?
• Como saber se um dado comportamento
de usuário é suspeito e com lidar com
isto?

45. • Como brecar o carro sem as rodas deslizarem em função
da velocidade, atrito, ...
• Como focar a câmera em função de luminosidade,
distância, ...
• Como ajustar a temperatura em função da quantidade de
roupa, fluxo de água, ...
Sistemas de Controle

46. Recomendação de produtos
• Recomendações personalizadas de produtos...
• Modelagem dos perfis dos compradores...

47. Outras Aplicações
Análise de
mercado
Análise de
crédito
Rec. odores
Previsão séries
Det. fraudes
Data mining
Proc. sinais
Proc. voz
Diagnose
médica
Interfaces

48. O Mercado Mundial
Empresas ...
Sharp
US supermarket chains
Microsoft
Citibank
Barclays
AT&T
Visa
Siemens
Mastercard
Britvic Soft Drinks
Gerber Baby Foods
Fujitsu
M&M/MarsUSAir
Wal-Mart

49. Empresas Especializadas em
Redes Neurais
Caere
Neuristics Corporation
Nestor Inc.
PNNL
RetekAT&T
BehavHeuristics Inc
Siemens
Microsoft
Neural Applications Corp.NeuralWare
HNC Corporation
Visionics
NeuroTech

50. A Realidade no Brasil ...
Grupo Martins
Redes Varejistas
Financeiras
Bancos
CHESF e Celpe
Volkswagen
CDLs
Empresas Atacadistas

51. Em Que o Grupo Desenvolve
Pesquisas ...
Redes Neurais
Teoria FerramentasAplicações

52. Equipe do CIn-UFPE (redes neurais)
• Germano C. Vasconcelos (PhD, Kent - UK)
• Edson C.B. Carvalho Filho (PhD, Kent - UK)
• Paulo J. L. Adeodato (PhD, King’s College - UK)
• Teresa B. Ludermir (PhD, Imperial College - UK)
• Aluizio Araújo (PhD, Sussex - UK)
• George Darmiton (Doutor, CIn-UFPE)
• Tsang Ing Ren