Séminaire de l’Instituto de Territorio y Patrimonio Historico, University of Granada, Spain May, 30th, 2005

1. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Modélisation de la dynamique d’occupation du
sol par réseau de neurones
Nathalie Villa
en collaboration avec Louis Ferré
Université Toulouse Le Mirail, Équipe GRIMM
villa@univ-tlse2.fr
Exposé Grenade, Juin 2005

2. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Sommaire
1 Principe des réseaux de neurones
2 Méthodologie sur la zone de la Sierra Nevada
3 Résultats, conclusion et ouverture

3. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Sommaire
1 Principe des réseaux de neurones
2 Méthodologie sur la zone de la Sierra Nevada
3 Résultats, conclusion et ouverture

4. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Neurones biologiques

5. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Neurones biologiques

6. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Neurones biologiques
P

7. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Neurones biologiques
Si
P
> Seuil d’activation alors

8. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Neurones biologiques
Si
P
< Seuil d’activation alors

9. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Neurones artificiels : le perceptron multi-couche
Variable 1
Variable 2
Entrées
11
1.5
2
Variable N

10. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Neurones artificiels : le perceptron multi-couche
Variable 1
Variable 2
Entrées
11
1.5
2
Variable N
× Poids
0.5
-1
0.2
P
Fonction de lien f
= 4.4

11. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Neurones artificiels : le perceptron multi-couche
Variable 1
Variable 2
Entrées
11
1.5
2
Variable N
× Poids
0.5
-1
0.2
P
Fonction de lien f
= 4.4
P
+f

12. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Neurones artificiels : le perceptron multi-couche
Variable 1
Variable 2
Entrées
11
1.5
2
Variable N
× Poids
0.5
-1
0.2
P
Fonction de lien f
= 4.4
P
+f
× Poids
P
+f
Sorties

13. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Comment choisir les poids ?
Échantillon d’apprentissage
On dispose d’exemples pour lesquels on connaît :
les variables explicatives (les entrées) ;
la sortie souhaitée : la cible.
Exemple : Les pixels du passé dont on connaît l’évolution :
Entrées : végétation à la date t, altitude, exposition,. . . ;
Cible : végétation à la date t + 1.

14. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Comment choisir les poids ?
Échantillon d’apprentissage
On dispose d’exemples pour lesquels on connaît :
les variables explicatives (les entrées) ;
la sortie souhaitée : la cible.
Exemple : Les pixels du passé dont on connaît l’évolution :
Entrées : végétation à la date t, altitude, exposition,. . . ;
Cible : végétation à la date t + 1.
Minisation de l’erreur quadratique
On cherche les poids tels que :
X
exemples
(cible − s|ortie d{uz réseau}
dépend du poids
)2

15. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Intérêts des réseaux de neurones
Jolies propriétés
Approximateur universel : approchent avec la précision
désirée n’importe quelle fonction suffisamment régulière ;
"Boîte noire" : faciles d’utilisation (bibliothèques déjà
programmées).

16. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Désintérêts des réseaux de neurones
Désavantages
La fonction d’erreur n’est pas facile à optimiser :
Erreur
Poids
problèmes de minima locaux ;
le temps de calcul croît très vite avec le nombre d’exemples
et le nombre de poids.

17. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Sommaire
1 Principe des réseaux de neurones
2 Méthodologie sur la zone de la Sierra Nevada
3 Résultats, conclusion et ouverture

18. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Modèle
Variables explicatives :
Pixel Date t
010000000

19. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Modèle
Variables explicatives :
Pixel Date t Voisinage Date t
010000000
0.2
0.6
0.1
0.05
00
0.05
00
Pixel
d
Fréquence
pondérée par
e−d/2

20. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Modèle
Variables explicatives :
Pixel Date t Voisinage Date t Autres (17)
010000000
0.2
0.6
0.1
0.05
00
0.05
00
altitude
pente
exposition
distance aux villages
distance aux irrigations
nature du sol (× 7). . .
Pixel
d
Fréquence
pondérée par
e−d/2

21. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Modèle
Variables explicatives :
Pixel Date t Voisinage Date t Autres (17)
010000000
0.2
0.6
0.1
0.05
00
0.05
00
altitude
pente
exposition
distance aux villages
distance aux irrigations
nature du sol (× 7). . .
Pixel
d
Fréquence
pondérée par
e−d/2
) Cible : Pixel Date t + 1 0 0 0 0 1 0 0 0 0

22. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Échantillon d’apprentissage
Dates utilisées pour l’apprentissage
1957 ! 1974 et 1974 ! 1987

23. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Échantillon d’apprentissage
Dates utilisées pour l’apprentissage
1957 ! 1974 et 1974 ! 1987
Pixels utilisés pour l’apprentissage
Pixels "frontières" :

24. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Procédure d’apprentissage
Pixels d’apprentissage 8>>><
>>>:
NN1a (5 neurones, taille 2)
NN1b (10 neurones, taille 4)
...
NN1z(xx neurones, taille yy)

25. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Procédure d’apprentissage
Pixels d’apprentissage 8>>><
>>>:
NN1a (5 neurones, taille 2)
NN1b (10 neurones, taille 4)
...
NN1z(xx neurones, taille yy)
8>>><
>>>:
NN1a (5 neurones, taille 2)
NN1b (10 neurones, taille 4)
...
NN1z(xx neurones, taille yy)

26. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Procédure d’apprentissage
Pixels d’apprentissage 8>>><
>>>:
NN1a (5 neurones, taille 2)
NN1b (10 neurones, taille 4)
...
NN1z(xx neurones, taille yy)
8>>><
>>>:
NN1a (5 neurones, taille 2)
NN1b (10 neurones, taille 4)
...
NN1z(xx neurones, taille yy)
10 fois. . .

27. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Validation
Comment choisir le nombre de neurones, la taille du
voisinage,. . . ? ? ?
NN1a
NN1b
NN1c
NN1d
...
NN2a
... NN10z

28. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Validation
Comment choisir le nombre de neurones, la taille du
voisinage,. . . ? ? ?
NN1a
NN1b
NN1c
NN1d
...
NN2a
... NN10z
Pixels
1987
−−−−−!
Carte 1a
Carte 1b
Carte 1c
Carte 1d
...
Carte 2a
...
Carte 10z

29. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Validation
Comment choisir le nombre de neurones, la taille du
voisinage,. . . ? ? ?
NN1a
NN1b
NN1c
NN1d
...
NN2a
... NN10z
Pixels
1987
−−−−−!
Carte 1a
Carte 1b
Carte 1c
Carte 1d
...
Carte 2a
...
Carte 10z
Réalité
2001
−−−−−−!
Erreur 1a
Erreur 1b
Erreur 1c
Erreur 1d
...
Erreur 2a
...
Erreur 10z

30. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Validation
Comment choisir le nombre de neurones, la taille du
voisinage,. . . ? ? ?
NN1a
NN1b
NN1c
NN1d
...
NN2a
... NN10z
Pixels
1987
−−−−−!
Carte 1a
Carte 1b
Carte 1c
Carte 1d
...
Carte 2a
...
Carte 10z
Réalité
2001
−−−−−−!
Erreur 1a
Erreur 1b
Erreur 1c
Erreur 1d
...
Erreur 2a
...
Erreur 10z
Sélection optimale
Erreur minimale ) Modèle optimal (Réseau de neurones
optimal, taille de voisinage optimale, . . . )

31. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Sommaire
1 Principe des réseaux de neurones
2 Méthodologie sur la zone de la Sierra Nevada
3 Résultats, conclusion et ouverture

32. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Résultats (Stage J. Mendiboure)
Modèle optimal
20 neurones sur la couche cachée ;
taille de voisinage : 4.

33. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Résultats (Stage J. Mendiboure)
Modèle optimal
20 neurones sur la couche cachée ;
taille de voisinage : 4.
Taux d’erreur
Taux d’erreur global en 2001 : 10,71 % (23,49 % sur les pixels
frontières).
Répartition des occupations du sol réelles / prédites
Occ. du sol Feuillus Brouss. Pâtur. Conif.
Réel 10,86 % 32,96 % 20,75 % 9,23 %
Prédit 10,63 % 33,14 % 20,75 % 6,20 %
Cult. aband. Cult. irri. Cult. non irri. Irri. & non irri. Urbain
19,78 % 5,78 % 1,05 % 0,25 % 0,35 %
17,19 % 10,90 % 0,82 % 0,07 % 0,30 %

34. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Comparaison des cartes réelle / prédite (1)

35. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Comparaison des cartes réelle / prédite (1)

36. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Comparaison des cartes réelle / prédite (2)
Répartition des prédictions (par ligne) par rapport à la végétation
réelle
Feuillus Brouss. Pâtur. Conif. Aband.
Feuil. 0,9741 0,0028 0 0 0,0051
Brous. 0,0000 0,9860 0 0,0034 0,0106
Pât. 0 0 1 0 0
Conif. 0,0010 0,0217 0 0,6420 0,3353
Aband. 0,0002 0,0019 0 0,0013 0,7056
Irri. 0,0050 0,0341 0 0,0044 0,0125
Non Irri. 0 0,1664 0 0,0499 0,1628
Mos. 0.0128 0.0107 0 0 0.6614
Urbain 0.0056 0.0081 0 0.1836 0.1017
Irri. Non irri. Mos. Urbain
Feuil. 0,0179 0 0 0
Brous. 0 0 0 0
Pât. 0 0 0 0
Conif. 0 0 0 0,0001
Aband. 0,2831 0,0047 0,0011 0,0020
Irri. 0,9256 0,0146 0 0,0038
Non Irri. 0,0002 0,6208 0 0
Mos. 0.1276 0 0.1875 0
Urbain 0.0157 0 0 0.6854

37. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Limites et perspectives
Limites
L’utilisation de la carte de 2001 pour la validation (choix de la
taille du voisinage, du nombre de neurones sur la couche
cachée, . . . ) introduit un biais : le taux d’erreur du modèle est
sous-estimé.

38. NN pour
prédiction de
l’occupation
du sol
Grenade,
Juin 2005
Nathalie
Villa
Principe des
réseaux de
neurones
Méthodologie
sur la zone
de la Sierra
Nevada
Résultats,
conclusion et
ouverture
Limites et perspectives
Limites
L’utilisation de la carte de 2001 pour la validation (choix de la
taille du voisinage, du nombre de neurones sur la couche
cachée, . . . ) introduit un biais : le taux d’erreur du modèle est
sous-estimé.
Perspectives
Prévoir une procédure de validation qui ne tienne pas compte
de la carte de 2001.
Problème : Le manque de dates ! ! ! Faire l’apprentissage avec
seulement une transition (1957 ! 1974) et la validation sur la
carte de 1987 est sans doute un peu juste. . .